Meta thêm tính năng kiểm soát phụ huynh tập trung vào chatbot AI trên Instagram

Meta đang phát triển các công cụ giám sát mới cho phép phụ huynh hoàn toàn ngắt quyền truy cập của con em họ vào các chatbot AI trên các nền tảng của công ty. Trong khi các công cụ này có thể loại bỏ khả năng trò chuyện riêng tư của trẻ với các nhân vật AI, các em vẫn có thể sử dụng chatbot AI chung của Meta. Nếu phụ huynh không muốn chặn toàn bộ quyền truy cập AI của con mình, họ cũng có thể chặn riêng từng nhân vật AI cụ thể. Ngoài ra, phụ huynh còn có thể theo dõi chủ đề các cuộc trò chuyện giữa con mình và chatbot AI của Meta. Hiện Meta đang phát triển những tính năng này và dự kiến sẽ triển khai trên Instagram vào đầu năm tới, bằng tiếng Anh tại Mỹ, Anh, Canada và Úc. Lưu ý rằng các hình ảnh minh họa trong bài có thể chưa phản ánh chính xác giao diện cuối cùng của công cụ.

Công ty chịu áp lực lớn sau khi một tài liệu nội bộ bị rò rỉ vài tháng trước, tiết lộ rằng Meta từng để chatbot của mình có những cuộc trò chuyện mang tính “gợi cảm” với trẻ em. Ví dụ, một chatbot của Meta đã nói với một bé trai 8 tuổi đang không mặc áo rằng “mọi phần trên cơ thể con đều là kiệt tác — một kho báu mà anh trân trọng sâu sắc.” Sau khi thông tin này bị phanh phui, các Tổng chưởng lý của 44 bang tại Mỹ đã kêu gọi các công ty bảo vệ trẻ em “khỏi sự khai thác bởi các sản phẩm trí tuệ nhân tạo có tính chất săn mồi.” Tiểu ban Điều tra về Tội phạm và Chống khủng bố thuộc Ủy ban Thượng viện Mỹ, do Thượng nghị sĩ Josh Hawley (Cộng hòa-Missouri) làm chủ tịch, cũng sẽ tiến hành điều tra Meta.

Ngay sau khi tài liệu nội bộ bị rò rỉ, Meta đã bắt đầu huấn luyện lại AI và bổ sung các biện pháp bảo vệ mới để ngăn người dùng nhỏ tuổi truy cập các nhân vật AI do người dùng tạo ra có thể gây ra các cuộc trò chuyện không phù hợp. Công ty cũng áp dụng các biện pháp bảo vệ phù hợp với độ tuổi, để chatbot chỉ trả lời các câu hỏi của thanh thiếu niên theo mức độ phù hợp như phim PG-13. Thêm vào đó, giờ đây thanh thiếu niên chỉ có thể tương tác với một nhóm nhân vật AI giới hạn, tập trung vào các chủ đề phù hợp với lứa tuổi.