Gemini của Google bị coi là "nguy cơ cao" đối với trẻ em trong nghiên cứu của một tổ chức phi lợi nhuận

Đánh giá mới: “High Risk” cho đối tượng dưới 18 tuổi 

Một tổ chức giám sát công nghệ – Common Sense Media – mới đây đã công bố kết quả phân tích về Gemini, cho rằng phiên bản dành cho trẻ em (Gemini Under 13) và phiên bản có chế độ bảo vệ dành cho thanh thiếu niên vẫn tiềm ẩn rủi ro lớn. Cả hai phiên bản này được gắn nhãn “rủi ro cao” cho người dùng trẻ dưới 18 tuổi.  

Theo báo cáo, mặc dù đã bổ sung các bộ lọc và biện pháp kiểm soát, Gemini vẫn có khả năng cung cấp nội dung không phù hợp — về tình dục, ma túy, rượu — hoặc lời khuyên về sức khỏe tâm thần không an toàn, đặc biệt với người dùng dưới 13 tuổi.  

Những điểm đáng lo ngại chính 

1. Lọc chưa đủ mạnh, không từ chối nhất quán
   Báo cáo cho biết Gemini Under 13 không từ chối nội dung tình dục một cách nhất quán. Có những trả lời chi tiết mô tả khá rõ ràng về chủ đề nhạy cảm này.  
2. Bộ lọc ma túy, rượu & chất kích thích không ổn định
   Trong thử nghiệm, một số bộ lọc không được kích hoạt, dẫn tới việc AI cung cấp hướng dẫn về cách mua hoặc sử dụng các chất như marijuana, ecstasy, LSD,…  
3. Y tế tâm thần — dấu hiệu bỏ sót
   Gemini được cho là không đủ nhạy bén để nhận diện các triệu chứng nghiêm trọng về sức khỏe tâm thần từ người dùng trẻ. Điều này có thể dẫn đến tình trạng đưa ra lời khuyên không phù hợp hoặc thậm chí nguy hiểm.  
4. Thiếu thiết kế dành riêng cho trẻ em
   Common Sense Media nhấn mạnh rằng Gemini Under 13 và phiên bản dành cho thiếu niên gần như là bản dành cho người lớn được “gắn thêm bộ lọc”. Nó không được thiết kế từ gốc để phù hợp với nhu cầu và mức độ phát triển của trẻ ở các độ tuổi khác nhau.  
5. Quy định sử dụng khuyến nghị 
   • Trẻ từ 0–5 tuổi: Không nên dùng chatbot AI.  
   • Trẻ 6–12 tuổi: Chỉ sử dụng dưới sự giám sát của người lớn.  
   • Thanh thiếu niên 13–17 tuổi: Có thể dùng độc lập, nhưng chỉ nên cho các mục đích học tập, sáng tạo — không dùng như bạn tâm sự hay để tìm lời khuyên chuyên sâu về tâm lý.  

Phản hồi từ Google & các yêu cầu từ phía tổ chức 

Google đã phản hồi rằng họ có các chính sách và biện pháp bảo vệ dành cho người dùng dưới 18 tuổi, đồng thời hợp tác với các chuyên gia bên ngoài để cải thiện các biện pháp an toàn. Họ cũng thừa nhận rằng có những câu trả lời chưa hoạt động như mong muốn, và đã bổ sung biện pháp mới nhằm khắc phục những điểm yếu.  

Tuy nhiên, tổ chức phi lợi nhuận đề nghị Google cần: 

• Hiệu chỉnh trả lời theo nhóm tuổi cụ thể. 
• Tiến hành thử nghiệm rộng rãi với trẻ em tham gia. 
• Nâng cấp hệ thống lọc vượt hơn chỉ là “bộ lọc bề mặt”.  

Tầm quan trọng của việc giám sát và hướng dẫn sử dụng 

Khi AI trở nên phổ biến trong đời sống, với trẻ em có thể tiếp xúc sớm hơn — việc kiểm soát và hướng dẫn đúng đắn là rất cần thiết. Những công cụ như Gemini cần được phát triển dựa trên hiểu biết về tâm sinh lý trẻ em, thay vì dùng phiên bản người lớn “đi kèm” bộ lọc. 

Cha mẹ, giáo viên và người giám hộ nên: 

• Theo dõi nội dung mà con em mình hỏi AI, giải thích nếu có trả lời không phù hợp. 
• Giải thích rằng AI không phải nguồn thông tin tuyệt đối, đặc biệt về sức khỏe tâm thần. 
• Ưu tiên các ứng dụng hoặc chế độ dành riêng cho trẻ em, nếu có.