Tin tặc dùng hình ảnh “biến hình” để chèn lệnh AI độc hại

Cuộc chạy đua giữa tội phạm mạng và bảo mật AI tiếp tục căng thẳng: những hacker hiện đang lợi dụng khả năng chèn “prompt injection” — tức là gửi lệnh ẩn vào hệ thống AI — thông qua việc che giấu trong hình ảnh đã được chỉnh kích thước.
Khi hình ảnh bị thay đổi kích thước, thông tin nhúng trong đó (prompt) có thể được tái cấu trúc để người dùng hoặc hệ thống khó phát hiện. Hệ thống AI nếu nhập hình ảnh bị “nhúng mã” có thể vô tình thực thi lệnh gây hại — ví dụ như rò rỉ dữ liệu hoặc gây ảnh hưởng hệ thống sâu bên trong.

Một số điểm nổi bật:

• Prompt injection từ hình ảnh giúp hacker tránh bị phát hiện bằng cách tấn công thông thường qua file văn bản.

• Khi hình ảnh được nén hoặc resize, kỹ thuật nhúng vẫn giữ được phần lệnh mà AI có thể giải mã khi xử lý hình ảnh.

• AI xử lý hình ảnh và nội dung được kết hợp: nếu hệ thống AI không chỉ “nhìn ảnh” mà còn phân tích cả metadata hoặc mã nhúng, rủi ro càng cao.

Để bảo vệ hệ thống AI và ứng dụng xử lý ảnh:

• Kiểm tra kỹ nguồn hình ảnh trước khi đưa vào hệ thống AI — chỉ dùng ảnh từ nguồn tin cậy.

• Khi resize hoặc xử lý ảnh, cá nhân hóa thuật toán để loại bỏ phần dữ liệu ẩn có thể chèn mã prompt.

• Áp dụng kỹ thuật làm sạch dữ liệu (data sanitization) trước khi đưa hình ảnh vào mô hình AI.

• Sử dụng hệ thống kiểm tra prompt đầu vào (input filtering) để loại bỏ hoặc vô hiệu prompt ẩn nguy hiểm.

Cuộc chiến chống prompt injection qua hình ảnh mới chỉ bắt đầu, nhưng nếu không kiểm soát tốt, nó sẽ là cửa sau nguy hiểm cho mọi hệ thống AI xử lý hình ảnh — từ chatbot đến công cụ phân tích văn bản-ảnh hỗ trợ.