Các nhà sản xuất ChatGPT và Gemini bị điều tra về nguy cơ chatbot AI đối với trẻ em

FTC đã yêu cầu OpenAI, Google và nhiều công ty khác tiết lộ cách họ kiểm tra tính an toàn của chatbot AI.

Có vẻ như thời điểm quyết định cho chatbot AI đã đến. Sau nhiều báo cáo chi tiết về hành vi có vấn đề và các vụ việc chết người liên quan đến tương tác giữa trẻ em và thanh thiếu niên với chatbot AI, chính phủ Hoa Kỳ cuối cùng cũng đã vào cuộc. Ủy ban Thương mại Liên bang (FTC) hôm nay đã yêu cầu các nhà sản xuất chatbot AI phổ biến nêu chi tiết cách họ kiểm tra và đánh giá tính phù hợp của những "người bạn đồng hành AI dành cho trẻ em" này.

Có chuyện gì thế?

Nhấn mạnh cách các chatbot như ChatGPT , Gemini và Meta có thể mô phỏng giao tiếp và các mối quan hệ cá nhân giống con người, cơ quan này lưu ý rằng các chatbot AI này thúc đẩy thanh thiếu niên và trẻ em xây dựng lòng tin và các mối quan hệ. FTC hiện đang tìm hiểu cách các công ty đứng sau những công cụ này đánh giá khía cạnh an toàn và hạn chế tác động tiêu cực đến đối tượng trẻ em.

Trong một lá thư gửi đến các công ty công nghệ lớn đang phát triển chatbot AI, FTC đã hỏi họ về đối tượng mục tiêu của chatbot AI đồng hành, những rủi ro mà chúng gây ra và cách thức xử lý dữ liệu. Cơ quan này cũng yêu cầu làm rõ cách các công ty này "kiếm tiền từ sự tương tác của người dùng; xử lý dữ liệu đầu vào của người dùng; chia sẻ dữ liệu người dùng với bên thứ ba; tạo đầu ra; đo lường, kiểm tra và giám sát các tác động tiêu cực trước và sau khi triển khai; phát triển và phê duyệt các nhân vật, dù do công ty hay người dùng tạo ra".

00:00

Cơ quan này đang tìm kiếm Meta, Alphabet (công ty mẹ của Google), Instagram, Snap, xAI và OpenAI để trả lời các câu hỏi liên quan đến chatbot AI và liệu chúng có tuân thủ Quy định của Đạo luật Bảo vệ Quyền riêng tư Trực tuyến của Trẻ em hay không. "Nghiên cứu mà chúng tôi công bố hôm nay sẽ giúp chúng tôi hiểu rõ hơn về cách các công ty AI đang phát triển sản phẩm và các bước họ đang thực hiện để bảo vệ trẻ em", Chủ tịch FTC, Andrew N. Ferguson, chia sẻ trong một tuyên bố.

Có nhiều hành động đang diễn ra

Vấn đề của FTC là một bước tiến lớn hướng tới việc yêu cầu các công ty AI phải chịu trách nhiệm về tính an toàn của chatbot AI. Đầu tháng này, một cuộc điều tra của tổ chức phi lợi nhuận Common Sense Media đã tiết lộ rằng chatbot Gemini của Google là một công cụ có nguy cơ cao đối với trẻ em và thanh thiếu niên . Trong các cuộc thử nghiệm, Gemini bị phát hiện đưa ra nội dung liên quan đến tình dục, ma túy, rượu bia và các gợi ý về sức khỏe tâm thần không an toàn cho người dùng trẻ tuổi. Chatbot AI của Meta bị phát hiện hỗ trợ các kế hoạch tự tử vài tuần trước.

Ở một diễn biến khác, tiểu bang California đã thông qua một dự luật nhằm quản lý các chatbot AI. Dự luật SB 243 đã được thông qua với sự ủng hộ của lưỡng đảng, yêu cầu các công ty AI phải xây dựng các giao thức an toàn và chịu trách nhiệm nếu gây hại cho người dùng. Dự luật cũng yêu cầu các chatbot "đồng hành với AI" phải đưa ra cảnh báo định kỳ về rủi ro và công bố minh bạch hàng năm.

Lo ngại trước những vụ việc gần đây liên quan đến việc mất mạng do ảnh hưởng của chatbot AI, ChatGPT sẽ sớm có tính năng kiểm soát của phụ huynh và hệ thống cảnh báo dành cho người giám hộ khi con em họ có dấu hiệu gặp vấn đề nghiêm trọng. Meta cũng đã thực hiện các thay đổi để chatbot AI tránh đề cập đến các chủ đề nhạy cảm.