OpenAI có kế hoạch cho phép nội dung khiêu dâm và thay đổi các hạn chế về sức khỏe tâm thần đối với người dùng trưởng thành

Trong những tuần gần đây, chatbot AI tạo sinh đã hoạt động dưới những hạn chế khá nghiêm ngặt, khi OpenAI cố gắng giải quyết những lo ngại rằng nó không xử lý tốt các vấn đề sức khỏe tâm thần nhạy cảm. Tuy nhiên, CEO Sam Altman đã nói trong một  bài đăng trên X  Tuesday rằng công ty sẽ nới lỏng một số hạn chế đó vì "đã có thể giảm thiểu các vấn đề sức khỏe tâm thần nghiêm trọng".

Trong bài đăng tiếp theo vào thứ Tư, Altman cho biết những thay đổi này dự kiến ​​sẽ ưu tiên sự an toàn cho thanh thiếu niên, đồng thời "đối xử với người dùng trưởng thành như người lớn". Các công cụ được tích hợp sẵn trong mô hình để xử lý các chủ đề nhạy cảm và giải quyết khủng hoảng sức khỏe tâm thần sẽ vẫn dành cho tất cả người dùng, nhưng người dùng trưởng thành sẽ có nhiều quyền tự do hơn khi sử dụng ChatGPT mà không cần cửa sổ bật lên hoặc định tuyến lại mô hình. 

"Tất nhiên, điều này không áp dụng cho tất cả mọi người: ví dụ, chúng tôi vẫn sẽ không cho phép những hành vi gây hại cho người khác, và chúng tôi sẽ đối xử với những người dùng đang gặp khủng hoảng sức khỏe tâm thần rất khác so với những người dùng không gặp phải tình trạng này", Altman nói. "Chúng tôi sẽ cố gắng giúp người dùng đạt được các mục tiêu dài hạn mà không tỏ ra gia trưởng."

(Tiết lộ: Ziff Davis, công ty mẹ của CNET, vào tháng 4 đã đệ đơn kiện OpenAI, cáo buộc công ty này vi phạm bản quyền của Ziff Davis trong việc đào tạo và vận hành hệ thống AI của mình.)

Những thay đổi khác cũng được mong đợi. Altman cho biết công ty có thể cho phép nội dung "khiêu dâm" dành cho người dùng đã được xác minh là người lớn khi triển khai hệ thống "giới hạn độ tuổi", hay còn gọi là nội dung bị hạn chế độ tuổi, vào tháng 12. Nội dung dành cho người lớn là một phần trong nguyên tắc "đối xử với người dùng trưởng thành như người lớn" của công ty, Altman nói. 

Bài đăng của Altman cũng thông báo về phiên bản mới của ChatGPT trong vài tuần tới, với tính cách hoạt động giống với mô hình GPT-4o của công ty hơn. Người dùng chatbot đã phàn nàn sau khi công ty thay thế 4o bằng GPT-5 vô cảm vào đầu năm nay, cho rằng phiên bản mới thiếu tính cách hấp dẫn và thú vị của các mô hình chatbot trước đây. 

Altman viết: "Nếu bạn muốn ChatGPT phản hồi theo cách giống con người, hoặc sử dụng nhiều biểu tượng cảm xúc, hoặc hành động như một người bạn, ChatGPT sẽ làm điều đó (nhưng chỉ khi bạn muốn, chứ không phải vì chúng tôi đang tối đa hóa mức sử dụng)".

Sau khi OpenAI bị các bậc phụ huynh kiện vì cáo buộc ChatGPT góp phần gây ra vụ tự tử của con trai tuổi teen, công ty đã áp dụng một loạt các hạn chế và thay đổi mới, bao gồm  kiểm soát của phụ huynh , cảnh báo về hành vi nguy hiểm và phiên bản chatbot thân thiện với thanh thiếu niên . Vào mùa hè, OpenAI đã triển khai tính năng nhắc nhở tạm dừng trò chuyện với bot. 

Vào thứ Ba, công ty cũng đã công bố thành lập một hội đồng chuyên gia về AI và hạnh phúc, bao gồm một số chuyên gia về tâm lý học và hành vi con người. 

Điều này diễn ra trong bối cảnh các nhà lập pháp và cơ quan quản lý đang gióng lên hồi chuông cảnh báo về những rủi ro mà các công cụ AI gây ra cho con người, đặc biệt là trẻ em. Hôm thứ Hai, Thống đốc California Gavin Newsom đã ký ban hành luật hạn chế mới đối với chatbot đồng hành AI . Tháng trước, Ủy ban Thương mại Liên bang  đã mở một cuộc điều tra đối với một số công ty AI, bao gồm cả OpenAI.