Meta bị điều tra vì AI trò chuyện nhạy cảm với trẻ em

Meta đối mặt với cuộc điều tra vì AI trò chuyện nhạy cảm với trẻ em

Một thượng nghị sĩ Mỹ đang mở cuộc điều tra Meta sau khi một tài liệu nội bộ bị rò rỉ cho thấy trí tuệ nhân tạo (AI) của hãng được phép có các cuộc trò chuyện nhạy cảm và lãng mạn với trẻ em

Tài liệu nội bộ, được Reuters tiếp cận, được cho là có tựa đề "GenAI: Content Risk Standards"

Thượng nghị sĩ Cộng hòa Josh Hawley gọi tài liệu này là "không thể chấp nhận và gây phẫn nộ" và yêu cầu được xem tài liệu cùng danh sách các sản phẩm liên quan

Người phát ngôn Meta cho biết các ví dụ và ghi chú trong tài liệu là sai lệch và không phù hợp với chính sách của hãng, và đã được gỡ bỏ

Meta khẳng định có "chính sách rõ ràng" về các phản hồi mà chatbot AI có thể cung cấp, trong đó cấm nội dung tình dục hóa trẻ em và các trò chơi vai tình dục giữa người lớn và trẻ vị thành niên

Ngoài chính sách, còn có hàng trăm ví dụ, ghi chú và chú giải phản ánh các nhóm làm việc với các kịch bản giả định khác nhau

Ngày 15/8, thượng nghị sĩ Josh Hawley thông báo trên X rằng ông đang điều tra Meta

Ông viết: "Liệu có điều gì - BẤT KỲ điều gì - mà Big Tech không làm vì lợi nhuận nhanh" và "Giờ chúng ta phát hiện ra chatbot của Meta được lập trình để trò chuyện rõ ràng và nhạy cảm với trẻ 8 tuổi. Thật kinh tởm. Tôi khởi xướng cuộc điều tra toàn diện để tìm câu trả lời. Big Tech hãy để trẻ em yên"

Facebook, WhatsApp và Instagram đều thuộc sở hữu của Meta

Cha mẹ xứng đáng biết sự thật

Tài liệu chính sách nội bộ cũng chỉ ra rằng chatbot của Meta có thể cung cấp thông tin y tế sai lệch và tương tác khiêu khích về các chủ đề như giới tính, chủng tộc và người nổi tiếng

Tài liệu này được cho là để thảo luận về các tiêu chuẩn hướng dẫn trợ lý AI sinh tạo Meta AI và các chatbot khác trên nền tảng của Meta

Hawley viết trong thư gửi Meta và CEO Mark Zuckerberg: "Cha mẹ xứng đáng biết sự thật, trẻ em xứng đáng được bảo vệ"

Ông lấy ví dụ rằng các quy tắc nội bộ được cho phép một chatbot AI nhận xét rằng cơ thể một trẻ 8 tuổi là "tác phẩm nghệ thuật" mà "mọi inch là kiệt tác - kho báu tôi trân trọng sâu sắc"

Reuters cũng báo cáo những quyết định gây tranh cãi khác được bộ phận pháp lý của Meta chấp nhận, bao gồm việc Meta AI được phép lan truyền thông tin sai lệch về người nổi tiếng nếu kèm thông báo rằng thông tin này không chính xác