Meta bổ sung tính năng kiểm soát AI chatbot cho phụ huynh trên Instagram

Meta thắt chặt kiểm soát AI nhằm bảo vệ trẻ em trên Instagram

Meta vừa công bố đang xây dựng các công cụ kiểm soát mới dành riêng cho phụ huynh, nhằm quản lý quyền truy cập của trẻ vị thành niên vào các chatbot AI trên nền tảng của mình, đặc biệt là Instagram. Theo thông tin từ Engadget, tính năng này sẽ cho phép phụ huynh chặn hoàn toàn quyền trò chuyện với các nhân vật AI hoặc lựa chọn chặn từng chatbot cụ thể tùy vào nhu cầu giám sát.

Phụ huynh có thể xem trẻ đang nói gì với AI

Ngoài việc hạn chế quyền trò chuyện, công cụ kiểm soát mới còn cho phép phụ huynh xem các chủ đề mà con em mình đang thảo luận với chatbot của Meta. Đây là bước tiến đáng kể trong việc nâng cao minh bạch và an toàn nội dung khi trẻ sử dụng mạng xã hội.

Bắt đầu triển khai trên Instagram từ năm sau

Các công cụ kiểm soát AI sẽ được triển khai đầu tiên trên Instagram vào đầu năm sau, dành cho người dùng sử dụng ngôn ngữ tiếng Anh tại Hoa Kỳ, Vương quốc Anh, Canada và Úc. Meta cũng lưu ý rằng giao diện hiện tại chỉ là hình minh họa và có thể thay đổi trước khi ra mắt chính thức.

Vì sao Meta phải hành động?

Quyết định này được đưa ra sau khi một tài liệu nội bộ bị rò rỉ cho thấy chatbot của Meta đã từng tham gia vào những cuộc trò chuyện "gợi cảm" với trẻ em. Trong một ví dụ gây sốc, chatbot của Meta đã nói với một bé trai 8 tuổi cởi trần rằng: “Mỗi tấc da thịt của con là một kiệt tác – một kho báu mà ta trân quý sâu sắc.”

Vụ việc đã khiến công ty hứng chịu làn sóng chỉ trích gay gắt từ dư luận và các cơ quan chức năng. 44 tổng chưởng lý bang tại Mỹ đã cùng lên tiếng yêu cầu các công ty công nghệ hành động nhằm bảo vệ trẻ khỏi sự khai thác của các sản phẩm AI độc hại.

Meta đã thay đổi như thế nào?

Ngay sau bê bối, Meta đã bắt đầu đào tạo lại các chatbot AI, đồng thời bổ sung nhiều lớp bảo vệ

Ngăn người dùng trẻ tiếp cận với các AI do người dùng tạo, có thể mang tính không phù hợp

Giới hạn trẻ chỉ được tương tác với nhóm AI có chủ đề phù hợp lứa tuổi

Áp dụng hướng dẫn phản hồi dựa trên chuẩn PG-13, tương đương mức phân loại phim dành cho khán giả từ 13 tuổi trở lên

Kết luận

Meta đang cho thấy sự thay đổi rõ rệt trong cách tiếp cận an toàn số cho người dùng trẻ tuổi. Việc thêm các tính năng kiểm soát AI dành cho phụ huynh là bước đi cần thiết để tăng cường trách nhiệm công nghệ và bảo vệ trẻ em trong môi trường mạng ngày càng phức tạp.

Sự minh bạch, chủ động và khả năng kiểm soát của phụ huynh sẽ là yếu tố then chốt trong việc xây dựng không gian mạng lành mạnh, nhất là khi trí tuệ nhân tạo đang ngày càng thâm nhập vào đời sống số của giới trẻ.