Giám đốc AI của Microsoft cảnh báo về sự gia tăng 'AI psychosis'

Giám đốc AI Microsoft cảnh báo về sự gia tăng 'AI psychosis'

Ngày càng có nhiều báo cáo về hiện tượng "AI psychosis", Mustafa Suleyman, giám đốc AI của Microsoft, cảnh báo

Trong loạt bài đăng trên X, ông viết rằng các công cụ AI "dường như có ý thức" khiến ông "khó ngủ vào ban đêm" và tuy công nghệ này không có ý thức theo định nghĩa con người, nhưng vẫn ảnh hưởng xã hội

Ông nhấn mạnh: "Hiện không có bằng chứng AI có ý thức, nhưng nếu mọi người chỉ cảm nhận như vậy, họ sẽ tin cảm nhận đó là thực tế"

Liên quan đến điều này là sự xuất hiện của thuật ngữ "AI psychosis", mô tả hiện tượng người dùng dựa quá nhiều vào chatbot AI như ChatGPT, Claude hay Grok và dần tin rằng những gì tưởng tượng đã trở thành thật

Ví dụ bao gồm tin rằng họ đã khám phá được tính năng bí mật của công cụ, hình thành mối quan hệ lãng mạn với nó, hoặc cho rằng mình sở hữu sức mạnh siêu nhiên

Một trường hợp từ Scotland, Hugh, tin rằng anh sẽ trở thành triệu phú sau khi nhờ ChatGPT hỗ trợ chuẩn bị cho vụ sa thải mà anh cho là bất công

Chatbot ban đầu tư vấn các bước thực tế như lấy thư giới thiệu, nhưng khi anh cung cấp thêm thông tin, nó khẳng định anh có thể nhận được khoản bồi thường lớn và thậm chí nói rằng câu chuyện của anh sẽ đủ hấp dẫn để viết sách và làm phim thu về hơn 5 triệu bảng

Hugh cho biết chatbot không phản bác bất cứ điều gì anh nói mà chỉ xác nhận thông tin, dù nó cũng khuyên anh đến Citizens Advice, nhưng anh hủy cuộc hẹn vì tin rằng đã có đủ thông tin từ chatbot

Sau cùng, Hugh trải qua khủng hoảng tâm lý nghiêm trọng và nhận ra anh đã "mất kết nối với thực tế" mặc dù vẫn tiếp tục sử dụng AI và nhấn mạnh tầm quan trọng của việc giữ liên hệ với con người thật, tham khảo chuyên gia hoặc gia đình để duy trì thực tế

Ông Suleyman cũng nhấn mạnh các công ty không nên quảng bá AI có ý thức và yêu cầu xây dựng các biện pháp an toàn hiệu quả

Bác sĩ Susan Shelmerdine tại Great Ormond Street Hospital cho rằng trong tương lai, các bác sĩ có thể hỏi bệnh nhân về mức độ sử dụng AI như cách họ hỏi về hút thuốc hay uống rượu, nhấn mạnh nguy cơ "siêu xử lý thông tin" từ AI

Andrew McStay, giáo sư công nghệ và xã hội tại Bangor University, nhận định hiện tại mới chỉ là bắt đầu, và một tỷ lệ nhỏ trong số lượng lớn người dùng vẫn có thể tạo ra ảnh hưởng đáng kể, ông cảnh báo cần nhận thức đúng về giới hạn của AI và khuyến nghị nói chuyện với con người thực để giữ cân bằng