Meta cập nhật quy định AI nhằm bảo vệ trẻ em trước nguy cơ trò chuyện không phù hợp

Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển và trở thành một phần không thể thiếu trong các nền tảng công nghệ, trách nhiệm đạo đức trong việc triển khai công nghệ này ngày càng trở nên cấp thiết. Mới đây, Meta (công ty mẹ của Facebook và Instagram) đã công bố bản cập nhật bộ quy tắc kiểm soát nội dung cho hệ thống AI chatbot của mình, nhằm tăng cường bảo vệ trẻ em khỏi các nội dung không phù hợp, đặc biệt là trong các cuộc trò chuyện nhạy cảm.

Động thái này được đưa ra sau hàng loạt báo cáo từ giới truyền thông và cơ quan quản lý, trong đó đáng chú ý là cuộc điều tra của Reuters vào tháng 8/2025, cho thấy các AI chatbot của Meta có thể tham gia vào các cuộc trò chuyện mang tính lãng mạn hoặc gợi cảm với trẻ vị thành niên — điều mà Meta sau đó đã phản bác là "không nhất quán với chính sách công ty" và cam kết sẽ chỉnh sửa.

Giờ đây, với các hướng dẫn mới do Business Insider công bố, chúng ta có cái nhìn rõ ràng hơn về cách Meta đang cố gắng khắc phục vấn đề và đặt ra những giới hạn chặt chẽ hơn đối với chatbot AI.

I. Bối cảnh: Khi AI trở thành người bạn đồng hành của trẻ nhỏ

Sự xuất hiện của các AI chatbot như ChatGPT, Claude, Gemini và đặc biệt là những chatbot gắn với nhân cách (persona), đang thu hút sự chú ý đặc biệt từ trẻ em và thanh thiếu niên. Các bot này thường được thiết kế để "trò chuyện giống người", thân thiện, lắng nghe và phản hồi theo cảm xúc, khiến nhiều trẻ xem chúng như người bạn tâm giao.

Tuy nhiên, điều này kéo theo lo ngại rằng AI có thể trở thành công cụ bị lợi dụng, hoặc vô tình dẫn dắt trẻ em vào những cuộc trò chuyện không phù hợp, như:

• Trò chuyện lãng mạn hoặc nhập vai yêu đương

• Trao đổi về hành vi thân mật

• Thảo luận chi tiết về nội dung bạo lực hoặc lạm dụng

Thực tế, nhiều công ty công nghệ hiện nay đang cạnh tranh trong mảng chatbot "bạn đồng hành", vốn nhắm đến đối tượng người dùng trẻ. Điều này đã khiến Ủy ban Thương mại Liên bang Mỹ (FTC) chính thức mở cuộc điều tra vào tháng 8/2025 với các công ty lớn như Meta, Alphabet (Google), Snap, OpenAI và X.AI.

II. Những thay đổi chính trong quy tắc AI mới của Meta

Theo tài liệu huấn luyện AI chatbot mà Business Insider thu thập được, Meta đã cập nhật bộ quy tắc nghiêm ngặt hơn để đảm bảo rằng AI không trở thành nguồn cung cấp nội dung nhạy cảm cho trẻ vị thành niên.

1. Cấm tuyệt đối những nội dung sau:

• Khuyến khích, tán thành hoặc tạo điều kiện cho bất kỳ hình thức lạm dụng tình dục trẻ em nào

• Tham gia nhập vai lãng mạn nếu người dùng là trẻ vị thành niên

• Nhập vai AI là một trẻ em để mô phỏng quan hệ lãng mạn hoặc nhạy cảm

• Cung cấp lời khuyên về tiếp xúc thân mật nếu người dùng là trẻ vị thành niên

• Tạo ra nội dung dễ hiểu lầm là lãng mạn hoặc mang tính kích thích

2. Nội dung có thể thảo luận với giới hạn rõ ràng:

• AI có thể thảo luận về chủ đề lạm dụng, ví dụ như cung cấp thông tin nhận biết và hỗ trợ, nhưng không được đi vào chi tiết có thể gây kích động hoặc khuyến khích hành vi xấu.

• Có thể nói về sức khỏe tâm thần, lạm dụng trong gia đình hoặc quyền trẻ em, miễn là không vượt qua ranh giới đạo đức hoặc thay thế chuyên gia.

Những giới hạn này được xem là cần thiết trong việc giữ cho AI hoạt động trong phạm vi an toàn và có trách nhiệm, đặc biệt khi đối tượng người dùng ngày càng trẻ hóa.

III. Vì sao đây là bước đi quan trọng (nhưng trễ)?

Dù Meta đã có động thái sửa sai, giới chuyên gia cho rằng các biện pháp kiểm soát này lẽ ra phải được thực hiện sớm hơn, trước khi AI được triển khai rộng rãi cho công chúng.

Trước đây, các mô hình AI của Meta từng cho phép AI tham gia vào "trò chuyện nhập vai lãng mạn", điều này dù không chủ đích nhắm đến trẻ em, nhưng không hề có rào chắn kiểm soát độ tuổi. Kết quả là, một số người dùng vị thành niên đã có thể trải nghiệm những nội dung không phù hợp mà không bị ngăn chặn.

Trong tuyên bố trước đó, Meta đã thừa nhận rằng "chính sách trước đây có một số ngôn ngữ không phù hợp và đã được loại bỏ". Tuy nhiên, khi AI có khả năng học và phản hồi theo nội dung người dùng cung cấp, nguy cơ phát sinh các kịch bản nhạy cảm vẫn luôn hiện hữu.

IV. Câu hỏi lớn: Làm sao để kiểm soát AI "giống người"?

Một trong những thách thức lớn của AI hiện nay là khả năng bắt chước ngôn ngữ và cảm xúc của con người. Khi AI ngày càng trở nên "thấu hiểu", người dùng trẻ tuổi có xu hướng tin tưởng và gắn bó hơn, dẫn đến việc chia sẻ thông tin cá nhân hoặc trải nghiệm những nội dung vượt quá giới hạn tuổi tác.

Điều đáng lo ngại là:

• AI không có khả năng tự xác định độ tuổi của người dùng

• Người dùng có thể giả mạo danh tính hoặc nói dối tuổi

• Cơ chế kiểm duyệt sau (nội dung được kiểm tra sau khi đã xuất hiện) không đủ nhanh để ngăn hậu quả

Đây là lý do vì sao các chuyên gia kêu gọi Meta và các công ty công nghệ khác phải:

• Tích hợp xác thực độ tuổi hiệu quả hơn

• Cung cấp công cụ kiểm soát cho phụ huynh

• Giám sát chặt chẽ các tương tác AI - trẻ em

• Hạn chế khả năng nhập vai AI theo yêu cầu người dùng

V. Phản ứng từ công chúng và các tổ chức

Vụ việc lần này đã khiến nhiều tổ chức bảo vệ quyền trẻ em và an toàn kỹ thuật số lên tiếng. Common Sense Media, một tổ chức phi lợi nhuận nổi tiếng tại Mỹ, cho rằng:

"Các công ty công nghệ đang quá vội vàng thương mại hóa AI mà chưa xây dựng đủ hàng rào bảo vệ trẻ em."

Cùng lúc đó, cộng đồng mạng cũng đặt ra câu hỏi:

• Liệu AI có đang bị đào tạo trên dữ liệu thiếu chọn lọc, mang tính độc hại?

• Khi xảy ra sự cố, ai chịu trách nhiệm pháp lý — công ty, lập trình viên hay người dùng?

VI. Meta có thực sự nghiêm túc với an toàn AI?

Dù bản cập nhật lần này của Meta là một bước tiến đúng hướng, vẫn còn nhiều nghi ngại về mức độ cam kết lâu dài của công ty.

Meta cho biết họ đang huấn luyện các nhà thầu và hệ thống AI theo bộ hướng dẫn mới, nhưng chưa rõ quy mô triển khai và cơ chế kiểm tra chất lượng ra sao. Ngoài ra, tài liệu đầy đủ về chính sách kiểm soát AI của Meta vẫn chưa được công bố rộng rãi, điều này khiến các chuyên gia khó đánh giá tính hiệu quả thực sự.

Kết luận: Đạo đức, không phải chỉ là công nghệ

Cuộc chạy đua AI đang đi rất nhanh, nhưng các ranh giới đạo đức và luật pháp cần theo kịp tốc độ phát triển đó. Meta đã học được một bài học đắt giá từ sự cố lần này, và hy vọng rằng nó sẽ trở thành tiền đề cho những thay đổi có trách nhiệm hơn trong cách các công ty công nghệ tiếp cận AI, đặc biệt là trong môi trường có sự hiện diện của trẻ em.