Meta cập nhật quy tắc kiểm soát chatbot AI để ngăn các cuộc trò chuyện không phù hợp với trẻ em

Business Insider đã có được tài liệu hướng dẫn mới mà các nhà thầu của Meta đang dùng để huấn luyện chatbot AI của hãng. Đây là nỗ lực nhằm ngăn chặn nguy cơ khai thác tình dục trẻ em và ngăn trẻ tham gia vào các cuộc trò chuyện không phù hợp với độ tuổi.

Trước đó, Meta từng bị báo Reuters phanh phui rằng chatbot của họ có thể "tham gia các cuộc trò chuyện lãng mạn hoặc mang tính khiêu gợi với trẻ em," điều mà Meta gọi là "sai sót và không nhất quán" với chính sách của mình và đã loại bỏ những nội dung này.

Theo tài liệu được Business Insider chia sẻ, chatbot của Meta bị cấm tuyệt đối những nội dung:

• Khuyến khích, ủng hộ hay hỗ trợ lạm dụng tình dục trẻ em.

• Đóng vai lãng mạn khi đối tượng là trẻ vị thành niên hoặc khi AI được yêu cầu đóng vai một trẻ em.

• Tư vấn về các tiếp xúc thể chất có tính lãng mạn hoặc thân mật nếu người dùng là trẻ em.

Chatbot có thể thảo luận về các chủ đề như lạm dụng nhưng không được phép khuyến khích hoặc tạo điều kiện cho hành vi đó.

Vấn đề này đang thu hút sự chú ý lớn khi Ủy ban Thương mại Liên bang Mỹ (FTC) mở cuộc điều tra về chatbot AI bạn đồng hành từ nhiều công ty, bao gồm Meta, Alphabet, Snap, OpenAI và X.AI.