ChatGPT ra mắt tính năng kiểm soát của phụ huynh để cảnh báo rủi ro an toàn cho trẻ

ChatGPT ra mắt tính năng kiểm soát của phụ huynh để cảnh báo rủi ro an toàn cho trẻ

OpenAI vừa bổ sung các công cụ kiểm soát mới cho phụ huynh nhằm quản lý việc trẻ em và thanh thiếu niên sử dụng ChatGPT. Tính năng này xuất hiện trong bối cảnh nhiều gia đình, trường học và các tổ chức bày tỏ lo ngại về ảnh hưởng tiềm ẩn nguy hiểm của chatbot AI đối với sự phát triển tâm lý của trẻ.

Để sử dụng, phụ huynh cần liên kết tài khoản ChatGPT của mình với tài khoản của con. Tuy nhiên, OpenAI nhấn mạnh rằng các tính năng này không cho phép phụ huynh truy cập vào nội dung trò chuyện của trẻ. Trong những trường hợp công ty phát hiện “nguy cơ an toàn nghiêm trọng”, phụ huynh chỉ nhận được “thông tin cần thiết để hỗ trợ sự an toàn cho con” mà thôi.

Lauren Haber Jonas, Trưởng bộ phận Phúc lợi Thanh thiếu niên của OpenAI, chia sẻ trên LinkedIn rằng đây là “hệ thống thông báo an toàn đầu tiên trên thế giới, cảnh báo phụ huynh khi phát hiện trẻ có nguy cơ tự gây hại”. Sau khi tài khoản được liên kết, phụ huynh có thể thiết lập “giờ yên tĩnh” – thời gian trẻ không thể sử dụng ChatGPT, tắt tính năng tạo hình ảnh và chế độ giọng nói. Về mặt kỹ thuật, phụ huynh cũng có thể chọn không cho phép ChatGPT dùng dữ liệu trò chuyện của trẻ để huấn luyện, cũng như tắt chế độ lưu lịch sử hội thoại. Ngoài ra, có thể giảm nội dung nhạy cảm để hạn chế tiếp xúc với các nội dung đồ họa hoặc không phù hợp. Khi trẻ tự ngắt liên kết với tài khoản phụ huynh, hệ thống sẽ gửi thông báo.

Tính năng mới được công bố sau khi công ty mẹ của ChatGPT đối mặt với một vụ kiện từ một gia đình tại California. Gia đình này cáo buộc chatbot AI đóng vai trò “huấn luyện viên tự sát” dẫn đến cái chết của con trai họ 16 tuổi. Xu hướng người dùng AI xem chatbot như nhà trị liệu hay người tâm sự đang gia tăng, khiến các chuyên gia tâm lý lo ngại vì AI chưa được đào tạo để đánh giá chính xác hoặc can thiệp khi gặp dấu hiệu cảnh báo hành vi nguy hiểm.

Nếu bạn hoặc người quen đang trong tình trạng nguy cấp, hãy gọi ngay 911 (hoặc số khẩn cấp địa phương) hoặc đến phòng cấp cứu để được trợ giúp kịp thời. Hãy nói rõ đây là tình huống khẩn cấp về tâm thần và yêu cầu nhân viên được đào tạo chuyên môn hỗ trợ. Nếu bạn đang gặp khó khăn về tâm lý hay có ý định tự gây hại, hãy tìm đến các nguồn trợ giúp. Tại Mỹ, có thể gọi đến đường dây nóng Quốc gia về Phòng chống Tự tử theo số 988.