Một hacker đã sử dụng AI để tạo ra ransomware nhằm trốn tránh sự phát hiện của phần mềm chống vi-rút

Mã hóa rung đó có phải là cơn thịnh nộ của những người đam mê đang sử dụng các mô hình ngôn ngữ lớn (hoặc “AI”) để thay thế việc phát triển phần mềm thông thường, vì vậy, không có gì đáng ngạc nhiên khi mã hóa rung cảm cũng được sử dụng để cung cấp năng lượng cho ransomware. Theo một công ty nghiên cứu bảo mật, họ đã phát hiện ra ví dụ đầu tiên về ransomware được cung cấp và kích hoạt bởi LLM—, cụ thể là LLM của nhà sản xuất ChatGPT OpenAI.

Theo như một bài đăng trên blog từ ESET Research phỏng vấn nhà nghiên cứu Anton Cherepanov, họ đã phát hiện một phần mềm độc hại “được tạo bởi mô hình OpenAI gpt-oss:20b.” PromptLock, một gói ransomware khá chuẩn, bao gồm các lời nhắc nhúng được gửi đến LLM được lưu trữ cục b. Do tính chất của đầu ra LLM (tạo ra kết quả duy nhất, không lặp lại với mỗi lời nhắc), nó có thể tránh bị phát hiện từ các thiết lập chống vi-rút được tiêu chuẩn hóa, được thiết kế để tìm kiếm các cờ cụ thể.

ESET xây dựng trong một bài đăng Mastodon, được phát hiện bởi Phần cứng của Tom. PromptLock sử dụng các tập lệnh Lua để kiểm tra các tệp trên hệ thống cục bộ, mã hóa chúng và gửi dữ liệu nhạy cảm đến máy tính từ xa. Nó dường như đang tìm kiếm thông tin Bitcoin một cách cụ thể và nhờ tính chất mở rộng của mô hình OpenAI và API Ollama, nó có thể hoạt động trên Windows, Mac và Linux. Bởi vì gpt-oss:20b là một mô hình AI nguồn mở, nhẹ có thể chạy trên phần cứng PC cục bộ, nên nó không cần phải gọi lại các hệ thống phức tạp hơn như ChatGPT— và kết quả là nó không thể bị chặn hoàn toàn bởi chính OpenAI.

Nó được viết bằng Golang bằng cách sử dụng các kịch bản Lua, các công cụ sẽ quen thuộc với bất kỳ ai mà Lua tạo ra các trò chơi trong, nói rằng Roblox. Vấn đề là nó có thể PromptLock được tạo ra bởi một người có ít hoặc không có kinh nghiệm trong lập trình thông thường. Mặc dù đầu ra có thể thay đổi nhưng bản thân các lời nhắc là tĩnh, vì vậy Cherepanov nói rằng “việc triển khai hiện tại không gây ra mối đe dọa nghiêm trọng” mặc dù tính mới của nó.

“Script kiddies hiện là những đứa trẻ nhanh chóng, ” cho biết một người dùng Mastodon trả lời.