OpenAI chặn tài khoản Trung Quốc dùng ChatGPT để phát triển công cụ giám sát mạng xã hội

ChatGPT bị lợi dụng để phát triển công cụ "lắng nghe xã hội"

Trong báo cáo mối đe dọa quý mới nhất, OpenAI cho biết họ đã chặn một tài khoản tại Trung Quốc vì sử dụng ChatGPT để thiết kế tài liệu quảng bá và kế hoạch dự án cho một công cụ giám sát mạng xã hội.

Cụ thể, công cụ này được mô tả là một hệ thống “probe” có khả năng:

• Quét các nền tảng như X (Twitter), Facebook, Instagram, TikTok, Reddit và YouTube

• Tìm kiếm nội dung liên quan đến các chủ đề chính trị, sắc tộc hoặc tôn giáo

• Theo tiêu chí do người vận hành định nghĩa

OpenAI nghi ngờ công cụ này được phát triển cho một khách hàng thuộc chính phủ Trung Quốc, tuy nhiên chưa thể xác minh độc lập việc nó đã được sử dụng hay chưa.

Công cụ theo dõi người Duy Ngô Nhĩ cũng bị phát hiện

Cũng trong báo cáo, OpenAI cho biết họ đã chặn một tài khoản khác sử dụng ChatGPT để lập đề xuất phát triển mô hình giám sát các “dòng di chuyển liên quan đến người Duy Ngô Nhĩ” – nhóm sắc tộc thiểu số đang bị cộng đồng quốc tế lo ngại về tình trạng bị đàn áp tại Trung Quốc.

Mô hình này được mô tả là “High-Risk Uyghur-Related Inflow Warning Model”, thể hiện rõ mục tiêu giám sát di chuyển của người Duy Ngô Nhĩ trong thời gian thực.

ChatGPT bị lợi dụng cho các mục đích xấu ở nhiều quốc gia

Trong báo cáo được công bố từ tháng 2 năm 2024, OpenAI đã bắt đầu thường xuyên công bố các hoạt động lạm dụng AI có liên quan đến nhà nước hoặc tổ chức tội phạm. Một số phát hiện đáng chú ý khác trong quý vừa qua gồm:

• Nhà phát triển từ Nga, Hàn Quốc và Trung Quốc sử dụng ChatGPT để tinh chỉnh mã độc (malware)

• Mạng lưới ở Campuchia, Myanmar và Nigeria sử dụng ChatGPT để soạn thảo nội dung lừa đảo quy mô lớn

• Chiến dịch ảnh hưởng dư luận tại Iran, Nga và Trung Quốc dùng ChatGPT để tạo bài viết, bình luận nhằm chia rẽ, thao túng người dùng mạng xã hội

Tuy nhiên, OpenAI cũng cho biết, theo thống kê nội bộ, ChatGPT hiện đang được sử dụng để phát hiện lừa đảo nhiều gấp 3 lần so với việc tạo ra chúng.

Nỗ lực ngăn chặn AI bị lạm dụng tiếp tục được tăng cường

OpenAI cam kết tiếp tục:

• Công bố minh bạch các báo cáo rủi ro mỗi quý

• Hợp tác với cơ quan chức năng và các nền tảng mạng xã hội

• Nâng cao hệ thống phát hiện và ngăn chặn hành vi sử dụng AI sai mục đích

Trong bối cảnh trí tuệ nhân tạo ngày càng đóng vai trò quan trọng, những hành động chủ động như thế này giúp bảo vệ không chỉ người dùng mà cả hệ sinh thái số toàn cầu.

Kết luận

Việc OpenAI liên tục phát hiện và xử lý các tài khoản lạm dụng AI là lời nhắc nhở mạnh mẽ rằng AI không phải công nghệ "vô hại" nếu rơi vào tay kẻ xấu. Khi các quốc gia, tổ chức và người dùng ngày càng phụ thuộc vào AI, việc kiểm soát đạo đức, kỹ thuật và pháp lý trở nên cấp thiết hơn bao giờ hết.