Các nhà nghiên cứu cho biết hôm thứ Tư rằng những kẻ gửi thư rác đã sử dụng OpenAI để tạo ra các tin nhắn dành riêng cho mỗi người nhận, cho phép họ vượt qua các bộ lọc phát hiện thư rác và gửi các tin nhắn không mong muốn tới hơn 80.000 trang web trong bốn tháng.
Phát hiện này, được ghi lại trong a bài đăng được xuất bản bởi công ty bảo mật SentinelOne SentinelLabs, nhấn mạnh con dao hai lưỡi được sử dụng bởi các mô hình ngôn ngữ lớn. Điều tương tự khiến chúng hữu ích cho các tác vụ lành tính— bề rộng dữ liệu có sẵn và khả năng sử dụng dữ liệu đó để tạo nội dung ở quy mô nhỏ của chúng thường có thể được sử dụng trong các hoạt động độc hại một cách dễ dàng. OpenAI đã thu hồi tài khoản spammers’ vào tháng 2.
“Bạn là một trợ lý hữu ích”
Vụ nổ thư rác là công việc của khung AkiraBot—a tự động hóa việc gửi tin nhắn với số lượng lớn để thúc đẩy các dịch vụ tối ưu hóa tìm kiếm mờ ám cho các trang web cỡ vừa và nhỏ. AkiraBot đã sử dụng các tập lệnh dựa trên python để xoay các tên miền được quảng cáo trong tin nhắn. Nó cũng sử dụng API trò chuyện của OpenAI gắn với mô hình gpt-4o-mini để tạo ra các tin nhắn duy nhất được tùy chỉnh cho từng trang web mà nó spam, một kỹ thuật có khả năng giúp nó bỏ qua các bộ lọc tìm kiếm và chặn nội dung giống hệt nhau được gửi đến số lượng lớn các trang web. Các tin nhắn được gửi thông qua các biểu mẫu liên hệ và các tiện ích trò chuyện trực tiếp được nhúng vào các trang web được nhắm mục tiêu.
các nhà nghiên cứu Alex Delamotte và Jim Walter của SentinelLabs đã viết: Việc sử dụng nội dung tin nhắn rác do LLM tạo ra của “AkiraBot thể hiện những thách thức mới nổi mà AI đặt ra trong việc bảo vệ các trang web trước các cuộc tấn công spam. “Các chỉ báo dễ chặn nhất là tập hợp các miền luân phiên được sử dụng để bán các dịch vụ SEO Akira và ServiceWrap, vì không còn cách tiếp cận nhất quán trong nội dung tin nhắn rác như đã có với các chiến dịch trước đó bán dịch vụ của các công ty này.”
