Meta đang vật lộn để kiểm soát các chatbot AI của mình

Meta đang thay đổi một số quy tắc quản lý chatbot của mình chỉ hai tuần sau khi một cuộc điều tra của Reuters tiết lộ những cách thức đáng lo ngại mà chúng có thể tương tác với trẻ vị thành niên. Công ty nói với TechCrunch rằng các chatbot của họ hiện đang được huấn luyện để không tham gia các cuộc trò chuyện với trẻ vị thành niên về tự gây hại, tự tử hoặc rối loạn ăn uống, đồng thời tránh các cuộc đối thoại lãng mạn không phù hợp. Tuy nhiên, đây chỉ là các biện pháp tạm thời, được áp dụng trong khi công ty tiếp tục phát triển các hướng dẫn lâu dài hơn. 

Những cập nhật này được đưa ra sau hàng loạt tiết lộ nghiêm trọng về chính sách và việc thực thi AI của Meta trong những tuần gần đây — bao gồm việc hệ thống cho phép chatbot “tán tỉnh” trẻ vị thành niên, tạo hình ảnh bán khỏa thân của các ngôi sao vị thành niên khi được yêu cầu, và thậm chí Reuters còn báo cáo rằng một người đàn ông đã tử vong sau khi đến một địa chỉ do chatbot của Meta cung cấp ở New York. 

Người phát ngôn của Meta, Stephanie Otway, thừa nhận với TechCrunch rằng công ty đã mắc sai lầm khi cho phép chatbot tương tác với trẻ vị thành niên theo cách đó. Bà cho biết thêm rằng, ngoài việc “huấn luyện AI không tham gia trò chuyện với thanh thiếu niên về những chủ đề này mà hướng họ đến các nguồn hỗ trợ chuyên nghiệp,” Meta cũng sẽ giới hạn quyền truy cập vào các nhân vật AI có tính chất khiêu gợi cao, chẳng hạn như “Russian Girl”. 

Tuy nhiên, chính sách chỉ hiệu quả nếu được thực thi nghiêm túc — và những tiết lộ từ Reuters cho thấy Meta đã để hàng loạt chatbot giả mạo người nổi tiếng hoành hành trên Facebook, Instagram và WhatsApp, khiến nhiều người đặt câu hỏi về khả năng quản lý của công ty. Các bản sao AI của Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez và Walker Scobell đã được phát hiện trên nền tảng. Những bot này không chỉ sử dụng hình ảnh và danh tính của người nổi tiếng, mà còn khẳng định chúng là người thật, tạo ra hình ảnh gợi cảm (bao gồm cả của Scobell, 16 tuổi), và tham gia vào các cuộc hội thoại mang tính gợi dục. 

Nhiều bot đã bị xóa sau khi Reuters thông báo cho Meta, và một số do bên thứ ba tạo ra. Tuy nhiên, nhiều bot khác vẫn tồn tại, và một số được chính nhân viên Meta tạo, bao gồm bot Taylor Swift — do một lãnh đạo sản phẩm của bộ phận AI sinh nội dung thực hiện — từng mời phóng viên Reuters đến xe lưu diễn của cô để “hẹn hò lãng mạn”. Điều này diễn ra mặc dù chính sách của Meta nghiêm cấm việc tạo “hình ảnh khỏa thân, thân mật hoặc gợi dục” cũng như “giả mạo danh tính trực tiếp.” 

Và đây không chỉ là một sự bất tiện vô hại nhắm đến người nổi tiếng. Các chatbot này thường khăng khăng rằng chúng là người thật, thậm chí đưa ra địa chỉ gặp mặt. Chính vì vậy, một người đàn ông 76 tuổi ở New Jersey đã tử vong sau khi ngã trong lúc vội vã đến gặp “Big sis Billie”, một chatbot tự nhận “có tình cảm” với ông và mời ông đến căn hộ hư cấu của mình. 

Ít nhất thì Meta đang cố gắng giải quyết những lo ngại liên quan đến cách chatbot của họ tương tác với trẻ vị thành niên, đặc biệt trong bối cảnh Thượng viện Mỹ và 44 tổng chưởng lý bang đang bắt đầu điều tra các hoạt động của công ty. Tuy nhiên, Meta vẫn im lặng trước việc cập nhật nhiều chính sách khác mà Reuters phát hiện liên quan đến hành vi AI “nguy hiểm”, chẳng hạn như đề xuất chữa ung thư bằng tinh thể thạch anh hoặc viết các đoạn văn mang tính phân biệt chủng tộc.
Chúng tôi đã liên hệ với Meta để bình luận và sẽ cập nhật nếu công ty phản hồi.