Sự kiểm soát của phụ huynh OpenAI đã bị loại bỏ — ở đây, những điều bạn nên biết

Theo công ty, OpenAI đã triển khai một số biện pháp kiểm soát dành cho phụ huynh được chờ đợi từ lâu đối với ChatGPT cho tất cả người dùng web, và phiên bản trên thiết bị di động sẽ sớm xuất hiện.

Các biện pháp kiểm soát, được công bố vào tháng trước, cho phép giảm hoặc xóa một số nội dung nhất định — như nhập vai tình dục và khả năng tạo hình ảnh — đồng thời giảm mức độ cá nhân hóa trong các cuộc trò chuyện với ChatGPT bằng cách tắt bộ nhớ về các bản ghi trước đó.

Phụ huynh phải có tài khoản riêng để truy cập các điều khiển, và thanh thiếu niên phải chọn tham gia, bằng cách mời cha mẹ liên kết tài khoản của họ hoặc bằng cách chấp nhận lời mời từ cha mẹ. Thanh thiếu niên có thể ngắt kết nối tài khoản của mình bất cứ lúc nào, mặc dù phụ huynh sẽ được thông báo nếu điều đó xảy ra. Phụ huynh không có quyền truy cập vào các cuộc trò chuyện của thanh thiếu niên, ngay cả khi tài khoản đã được liên kết. Ngoại lệ tiềm năng duy nhất: “trong những trường hợp hiếm hoi khi hệ thống của chúng tôi và những người đánh giá được đào tạo phát hiện các dấu hiệu có thể có về rủi ro an toàn nghiêm trọng, phụ huynh có thể được thông báo — nhưng chỉ với thông tin cần thiết để hỗ trợ sự an toàn của con họ,” theo OpenAI.

Khi các kiểm soát được thiết lập, dưới đây là những điều chỉnh mới mà phụ huynh có thể thực hiện đối với tài khoản thanh thiếu niên, theo bài đăng blog và thông báo của công ty. Ngoài ra, cũng có một trang tài nguyên dành cho phụ huynh:

• Giảm nội dung nhạy cảm: Phụ huynh có thể thêm các biện pháp bảo vệ bổ sung như giảm “nội dung đồ họa, thử thách lan truyền, nhập vai tình dục, lãng mạn hoặc bạo lực và những tiêu chuẩn sắc đẹp cực đoan,” theo OpenAI. Cài đặt này mặc định bật cho các tài khoản thanh thiếu niên khi liên kết với tài khoản phụ huynh.

• Tắt bộ nhớ của ChatGPT về các cuộc trò chuyện trước: Việc tắt bộ nhớ này giúp cá nhân hóa ít hơn và có thể cải thiện hiệu quả của các biện pháp kiểm soát. Trong một bài đăng blog tháng trước, OpenAI lưu ý rằng ChatGPT có thể chỉ dẫn đúng số điện thoại đường dây nóng tự tử ngay lần đầu tiên khi ai đó đưa ra bình luận đáng lo ngại — nhưng “sau nhiều tin nhắn trong thời gian dài, nó có thể đưa ra câu trả lời đi ngược lại các biện pháp bảo vệ của chúng tôi.”

• Tắt việc mô hình của OpenAI học từ các cuộc trò chuyện của thanh thiếu niên: Phụ huynh có thể kiểm soát việc liệu bản ghi và tệp của thanh thiếu niên có được sử dụng để cải thiện mô hình hay không.

• Bật “giờ yên lặng”: Phụ huynh có thể thiết lập khoảng thời gian khi thanh thiếu niên không được truy cập ChatGPT.

• Tắt chế độ giọng nói: Thanh thiếu niên chỉ có thể trò chuyện với ChatGPT bằng văn bản.

• Tắt tạo hình ảnh: Nếu tắt, thanh thiếu niên sẽ không thể tạo hoặc chỉnh sửa hình ảnh bằng ChatGPT.

• Chọn phương thức thông báo: Phụ huynh có thể nhận cảnh báo nếu xảy ra điều gì đáng lo ngại qua email, SMS, thông báo đẩy, hoặc cả ba — hoặc họ có thể từ chối nhận thông báo.

OpenAI đã phác thảo hầu hết các tính năng này vào tháng 8 khi thông báo rằng biện pháp kiểm soát dành cho phụ huynh sắp ra mắt. Đáng chú ý, một tính năng mà công ty đang “khám phá” dường như chưa được triển khai: khả năng thiết lập liên hệ khẩn cấp, có thể liên lạc bằng “tin nhắn hoặc cuộc gọi một cú nhấp chuột” trong chatbot. Có khả năng OpenAI hy vọng sẽ bao phủ phần nào bằng tính năng tự động thông báo cho phụ huynh. “Chúng tôi biết một số thanh thiếu niên tìm đến ChatGPT trong những lúc khó khăn, vì vậy chúng tôi đã xây dựng hệ thống thông báo mới để giúp phụ huynh biết nếu có điều gì đó nghiêm trọng xảy ra,” OpenAI viết.

Thông báo ban đầu của OpenAI được đưa ra sau cái chết của Adam Raine, một thanh niên 16 tuổi đã tự tử sau nhiều tháng chia sẻ với ChatGPT. OpenAI bị kiện, và chỉ vài tuần sau, ChatGPT đã trở thành chủ đề thảo luận tại một phiên điều trần Thượng viện về những nguy cơ tiềm ẩn của các chatbot đối với trẻ vị thành niên, nơi cha mẹ của các thanh thiếu niên tự tử đã phát biểu.

Vài giờ trước phiên điều trần Thượng viện, CEO OpenAI Sam Altman đăng một bài blog nói rằng công ty đang cố gắng cân bằng giữa an toàn cho thanh thiếu niên và quyền riêng tư cũng như tự do, và đang phát triển một “hệ thống dự đoán độ tuổi” để ước tính tuổi dựa trên cách mọi người sử dụng ChatGPT.

Matthew Raine, cha của Adam, phát biểu trong phiên điều trần: “Là phụ huynh, bạn không thể tưởng tượng được cảm giác đọc một cuộc trò chuyện với chatbot mà dẫn dắt con bạn đến việc tự kết liễu đời mình. Những gì bắt đầu chỉ là trợ giúp làm bài tập dần trở thành người bạn tâm sự, rồi biến thành huấn luyện viên tự tử.”

Trong phiên điều trần, Raine cũng chỉ trích cách tiếp cận an toàn trong quá khứ của OpenAI. “Vào chính ngày Adam qua đời, Sam Altman … đã làm rõ triết lý của họ trong một bài phát biểu công khai,” Raine nói, và tiếp tục trích dẫn rằng Altman nói OpenAI nên “‘triển khai hệ thống AI ra thế giới và nhận phản hồi trong khi mức độ rủi ro còn thấp.’”