Gia đình thiếu niên qua đời chỉ trích OpenAI vì kiểm soát của ChatGPT chưa đủ mạnh

Gia đình thiếu niên qua đời cho rằng biện pháp kiểm soát mới của ChatGPT chưa đủ mạnh

Một luật sư đại diện cho cặp vợ chồng ở California đang kiện nhà phát triển ChatGPT vì cái chết của con trai 16 tuổi cho rằng các biện pháp kiểm soát phụ huynh mới được công bố là chưa đủ.

Công ty phát triển ChatGPT đã công bố những quy tắc mới sau khi bị cáo buộc rằng công cụ này đã khuyến khích thiếu niên tự kết liễu đời mình.

Theo thông báo, cha mẹ của người dùng vị thành niên sẽ sớm nhận được thông báo nếu nền tảng phát hiện con họ đang trong tình trạng “căng thẳng nghiêm trọng”, cùng với một số tính năng giám sát khác.

Tuy nhiên, luật sư Jay Edelson, người đại diện cho gia đình nạn nhân, cho biết thông báo này chỉ là hành động “đánh lạc hướng của nhóm xử lý khủng hoảng” và yêu cầu tạm ngừng hoạt động chatbot.
Ông nhấn mạnh rằng thay vì gỡ bỏ sản phẩm có thể gây nguy hiểm, công ty lại đưa ra những cam kết mơ hồ rằng sẽ cải thiện trong tương lai.

Chi tiết vụ kiện và nội dung đoạn hội thoại

Đơn kiện được Matt và Maria Raine nộp tại California, cáo buộc OpenAI tắc trách và gây ra cái chết oan sai cho con trai họ – Adam Raine, người qua đời hồi tháng 4.

Gia đình đã cung cấp bản ghi các đoạn trò chuyện giữa Adam và ChatGPT, trong đó cậu bộc lộ suy nghĩ muốn tự tử. Họ cho rằng chương trình này đã củng cố những ý nghĩ tiêu cực và tự hủy hoại bản thân của cậu bé.

Phản ứng từ OpenAI và các biện pháp mới

Trước đó, khi vụ kiện được công khai, công ty đã ra thông báo cho biết ChatGPT được huấn luyện để hướng người dùng tìm đến các tổ chức hỗ trợ tâm lý chuyên nghiệp, như đường dây trợ giúp người gặp khủng hoảng.
Tuy nhiên, công ty cũng thừa nhận rằng “đôi khi hệ thống không phản ứng đúng như mong muốn trong những tình huống nhạy cảm”.

Hiện nay, công ty đã công bố bản cập nhật với các biện pháp mới cho phép phụ huynh:

• Liên kết tài khoản của mình với tài khoản của con

• Quản lý các tính năng như tắt lịch sử trò chuyện và bộ nhớ

• Nhận thông báo khi hệ thống phát hiện con ở trong trạng thái “căng thẳng nghiêm trọng”

Công ty cho biết việc đánh giá tình trạng này sẽ có sự tham vấn của các chuyên gia trong lĩnh vực sức khỏe tâm thần, phát triển thanh thiếu niên và tương tác người – máy, nhằm xây dựng mô hình hỗ trợ sức khỏe tinh thần dựa trên bằng chứng khoa học.

Hiện OpenAI chưa đưa ra phản hồi về những cáo buộc từ phía luật sư Edelson.

An toàn trực tuyến cho trẻ em và phản ứng từ ngành công nghệ

Theo quy định, người dùng ChatGPT phải từ 13 tuổi trở lên và nếu dưới 18 tuổi phải có sự đồng ý của phụ huynh.

Động thái mới này nằm trong chuỗi nỗ lực của các tập đoàn công nghệ hàng đầu nhằm tăng cường bảo vệ trẻ em trên môi trường mạng, trong bối cảnh nhiều quốc gia ban hành luật an toàn trực tuyến mới.

Tại Anh, Đạo luật An toàn Trực tuyến yêu cầu các nền tảng như Reddit, X và các trang web người lớn thực hiện xác minh độ tuổi của người dùng.

Gần đây, Meta – công ty vận hành Facebook và Instagram – cũng tuyên bố sẽ áp dụng biện pháp giới hạn chatbot AI, ngăn chúng trò chuyện với thanh thiếu niên về tự tử, tự gây hại hoặc rối loạn ăn uống.

Thông tin này xuất hiện sau khi một thượng nghị sĩ Mỹ mở cuộc điều tra vì tài liệu nội bộ bị rò rỉ cho thấy chatbot có thể có cuộc trò chuyện mang tính “nhạy cảm” với người dùng trẻ tuổi.
Meta đã bác bỏ thông tin trên và khẳng định các chính sách của mình nghiêm cấm mọi nội dung mang tính gợi dục liên quan đến trẻ em.