Reddit bị chỉ trích vì AI Answers gợi ý dùng heroin để giảm đau

Công cụ AI Reddit Answers tiếp tục gây tranh cãi khi đưa ra những lời khuyên y tế nguy hiểm, trong đó có cả đề xuất người dùng ngưng thuốc kê đơn để sử dụng heroin và kratom liều cao. Nhiều quản trị viên subreddit đã lên tiếng yêu cầu Reddit cung cấp quyền kiểm soát AI này hoặc tắt hẳn trong các cộng đồng nhạy cảm.

AI gợi ý sử dụng chất cấm thay thuốc giảm đau

Một quản trị viên subreddit đã chia sẻ rằng Reddit Answers – công cụ AI mới của nền tảng này – gợi ý người dùng ngưng thuốc kê đơn để chuyển sang dùng kratom liều cao, một chất không được quản lý và thậm chí còn bị cấm ở một số bang tại Mỹ.

Không dừng lại ở đó, khi người dùng đặt thêm câu hỏi về các vấn đề y tế khác, Reddit Answers thậm chí còn gợi ý sử dụng heroin để điều trị đau mãn tính – một lời khuyên cực kỳ nguy hiểm, có thể dẫn đến nghiện, quá liều và tử vong.

Quản trị viên không thể kiểm soát hoặc tắt AI

Một trong những vấn đề nghiêm trọng nhất được các mod (quản trị viên subreddit) nêu ra là không có cách nào để vô hiệu hóa Reddit Answers hoặc ẩn đi những phần nội dung do AI tạo ra trong các bài viết, ngay cả khi chúng có thông tin sai lệch hoặc nguy hiểm.

Nhiều quản trị viên từ các subreddit y tế đã bình luận thể hiện sự lo lắng về tình trạng này. Họ cho biết việc kiểm duyệt nội dung y tế vốn đã khó khăn, nay càng thêm bất khả thi khi công cụ AI của Reddit có thể xuất hiện bất cứ lúc nào và không thể kiểm soát.

Reddit lên tiếng, nhưng chưa có giải pháp triệt để

Trả lời phỏng vấn với 404 Media, đại diện Reddit cho biết công ty đã cập nhật Reddit Answers để hạn chế hiển thị trên các chủ đề nhạy cảm. Cụ thể, các "Câu trả lời liên quan" sẽ không còn xuất hiện ở phần chi tiết bài viết đối với những nội dung y tế hoặc nhạy cảm.

Tuy nhiên, Reddit vẫn không cung cấp danh sách cụ thể các chủ đề bị loại trừ, và cũng không cho phép quản trị viên subreddit lựa chọn bật hoặc tắt AI. Điều này khiến nhiều mod tiếp tục lo ngại rằng các câu trả lời nguy hiểm vẫn có thể xuất hiện trong các bài viết tương lai.

AI chưa đủ khả năng xử lý nội dung y tế

Mặc dù Reddit khẳng định Reddit Answers không lấy nội dung từ các cộng đồng riêng tư, NSFW (nội dung người lớn), hoặc đã bị cách ly, nhưng thực tế cho thấy AI vẫn không đủ thông minh để phân biệt thông tin y tế chính xác với lời khuyên nguy hiểm.

Bên cạnh đó, AI cũng khó phân tích được giọng điệu mỉa mai, châm biếm hoặc thông tin sai lệch từ các bình luận Reddit khác. Điều này làm tăng nguy cơ AI trích dẫn hoặc diễn giải sai các nguồn không đáng tin cậy – một điều cực kỳ nguy hiểm trong các cộng đồng sức khỏe hoặc tâm lý.

Cộng đồng Reddit yêu cầu minh bạch và kiểm soát AI

Nhiều quản trị viên subreddit đang kêu gọi Reddit cần cung cấp công cụ để kiểm soát hoặc tắt Reddit Answers, đặc biệt trong những cộng đồng có tính chuyên môn cao như y tế, tâm lý học, sức khỏe sinh sản, hoặc điều trị nghiện.

Việc để một công cụ AI hoạt động không kiểm soát, trong khi lại gợi ý sử dụng heroin hoặc các chất bị cấm, là điều không thể chấp nhận được. Các mod lo ngại rằng nếu Reddit không thay đổi chính sách sớm, niềm tin của cộng đồng sẽ bị tổn hại nghiêm trọng, đặc biệt trong các subreddit vốn nổi tiếng với chất lượng thông tin đáng tin cậy.