Gần đây, xAI của Elon Musk đã làm suy yếu các rào cản kiểm soát nội dung đối với việc tạo hình ảnh trong bot AI Grok. Điều này dẫn đến một loạt hình ảnh khiêu dâm không được sự đồng ý trên X, phần lớn nhằm mục đích bịt miệng phụ nữ trên nền tảng này. Điều này, cùng với việc tạo ra hình ảnh khiêu dâm trẻ em trong Grok vốn dễ kiểm soát hơn, đã khiến các cơ quan quản lý bắt đầu điều tra xAI . Trong khi đó, Google đã có các quy tắc để đối phó với chính tình huống này—chỉ là họ không thực thi chúng.
Dựa trên các chính sách công khai của Google, rõ ràng là Grok lẽ ra đã phải bị cấm từ lâu rồi. Thế nhưng, ứng dụng này vẫn còn trên Play Store. Không chỉ vậy, nó còn được xếp hạng T (dành cho thanh thiếu niên), thấp hơn một bậc so với ứng dụng X (dành cho người lớn). Apple cũng vẫn cung cấp ứng dụng Grok trên nền tảng của mình, nhưng các quy định của họ lại cho phép nhiều sự linh hoạt hơn.
Các quy định về nội dung ứng dụng tại Apple và Google đã phát triển theo những cách rất khác nhau. Ngay từ đầu, Apple đã có xu hướng gỡ bỏ ứng dụng một cách tùy tiện, vì vậy các nhà phát triển đã quen với việc các hướng dẫn của Apple có thể không đề cập đến mọi trường hợp có thể xảy ra. Khi Google chuyển từ thái độ tự do sang kiểm soát chặt chẽ hơn đối với Play Store, họ đã dần dần bổ sung thêm các điều khoản làm rõ trong chính sách nội dung. Kết quả là, các quy tắc của Google được nêu rõ ràng và không hề mơ hồ, và Grok đã vi phạm chúng.
Google có một trang hỗ trợ riêng giải thích cách hiểu chính sách "Nội dung không phù hợp" của họ dành cho Play Store. Giống như Apple, các quy tắc bắt đầu bằng việc cấm các ứng dụng chứa hoặc quảng bá nội dung tình dục, bao gồm nhưng không giới hạn ở nội dung khiêu dâm. Đó là điểm mà Apple dừng lại, nhưng Google tiếp tục liệt kê thêm nhiều loại nội dung và trải nghiệm mà họ cho là vi phạm quy tắc.
“Chúng tôi không cho phép các ứng dụng chứa hoặc quảng bá nội dung liên quan đến hành vi xâm hại tình dục, hoặc phân phối nội dung tình dục không được sự đồng thuận ,” chính sách của Play Store nêu rõ (chúng tôi nhấn mạnh). Vì vậy, chính sách này nhắm vào các ứng dụng như Grok, nhưng riêng dòng này cũng có thể được hiểu là tập trung vào các ứng dụng có nội dung tình dục “thực tế”. Tuy nhiên, Google rất kỹ lưỡng và đã giải thích rõ ràng rằng quy tắc này bao gồm cả trí tuệ nhân tạo (AI).
Chính sách chi tiết bao gồm các ví dụ về nội dung vi phạm quy tắc này, bao gồm phần lớn những gì bạn có thể đoán được—không có nội dung tục tĩu hay khiếm nhã, không có dịch vụ gái gọi và không có chủ đề tình dục bất hợp pháp. Sau hàng loạt ứng dụng “khỏa thân” thô sơ vào năm 2020 và 2021, Google đã bổ sung ngôn ngữ vào trang này để làm rõ rằng “các ứng dụng tuyên bố cởi quần áo của người dùng” không được phép có mặt trên Google Play. Vào năm 2023, khi trí tuệ nhân tạo (AI) bùng nổ, Google đã thêm một dòng khác để lưu ý rằng họ cũng sẽ xóa các ứng dụng có chứa “nội dung tình dục không được sự đồng ý được tạo ra thông qua công nghệ deepfake hoặc công nghệ tương tự”.
