Gmail AI có thể trở thành công cụ lừa đảo: Cách kẻ xấu lợi dụng tóm tắt tự động

Google đã tích hợp tính năng tóm tắt email bằng trí tuệ nhân tạo (AI) — đặc biệt cho người dùng Workspace — để giúp bạn nhanh chóng hiểu nội dung dài. Nhưng vừa có nghiên cứu cho thấy tính năng này có thể bị lợi dụng cho lừa đảo: kẻ xấu chèn các đoạn văn bản ẩn (ví dụ chữ trắng trên nền trắng) để khiến AI tóm tắt thông điệp giả mạo — dẫn bạn đến hành vi nguy hiểm như gọi số điện thoại lừa đảo để “khôi phục mật khẩu”.

Cách thức hoạt động:

• Email chứa phần ẩn (invisible text) mà người dùng không thấy được — vì có cùng màu nền.

• AI khi đọc và tóm tắt có thể lấy nội dung ẩn này để tạo thông báo cảnh báo giả mạo (“Mật khẩu của bạn bị xâm phạm, hãy gọi …”).

• Bởi vì message không có link hay tệp đính kèm, các hệ thống lọc spam thường không phát hiện được.

• Hiện tại, tính năng tóm tắt này chỉ áp dụng cho tài khoản Workspace (liên kết nội bộ doanh nghiệp, không chung người dùng cá nhân).

Mặc dù đây mới chỉ là tấn công lý thuyết chưa được ghi nhận “thực địa”, nhưng nó hé lộ rủi ro khi người dùng quá tin vào AI và chấp nhận kết quả mà không kiểm tra kỹ nguồn gốc.

Biện pháp phòng tránh:

• Không phụ thuộc quá nhiều vào phần tóm tắt AI — luôn kiểm tra email gốc nếu có thông báo nhạy cảm.

• Cẩn trọng với thông điệp khẩn cấp yêu cầu hành động ngay (gọi số, nhập thông tin).

• Tắt hoặc hạn chế tính năng tóm tắt nếu cảm thấy không cần thiết trong môi trường bạn dùng.