Nghiên cứu mới từ Microsoft cảnh báo các tổ chức rằng các tác nhân đe dọa đã bắt đầu tích hợp trí tuệ nhân tạo (AI) vào quy trình làm việc của họ để tăng tốc các hoạt động, vượt qua các biện pháp bảo vệ và thực hiện những hành vi độc hại.

Cũng giống như thế giới ngầm trên mạng đã từng áp dụng các mô hình hoạt động từ doanh nghiệp hợp pháp — như cấu trúc tổ chức kiểu công ty, mô hình “dịch vụ theo yêu cầu” và chuyên môn hóa nhiệm vụ — giờ đây họ cũng đang mô phỏng cách các doanh nghiệp tích hợp AI vào hoạt động của mình để tăng tốc độ, quy mô và khả năng phục hồi của các chiến dịch độc hại.

Microsoft cho biết đơn vị tình báo mối đe dọa của họ đã quan sát thấy rằng phần lớn việc sử dụng AI độc hại hiện nay tập trung vào các mô hình ngôn ngữ có khả năng tạo văn bản, mã hoặc phương tiện.

Các tác nhân đe dọa sử dụng AI tạo sinh để:

• soạn thảo nội dung lừa đảo (phishing)

• dịch nội dung

• tóm tắt dữ liệu bị đánh cắp

• tạo hoặc gỡ lỗi phần mềm độc hại

• viết các tập lệnh hoặc xây dựng cơ sở hạ tầng tấn công

“AI đang nhanh chóng được nhúng vào toàn bộ vòng đời của một cuộc tấn công mạng, nhưng không phải lúc nào cũng theo cách mọi người mong đợi,” Ensar Seker, CISO của SOCRadar, cho biết.

Ông giải thích rằng trong nhiều trường hợp, các tác nhân đe dọa không tự xây dựng các mô hình AI tiên tiến. Thay vào đó, họ sử dụng các công cụ AI tạo sinh có sẵn để tăng tốc các phương thức tấn công truyền thống.

“Tác động lớn nhất của AI trong các hoạt động mạng là tăng hiệu quả, chứ không phải tạo ra các kỹ thuật tấn công hoàn toàn mới.”

Tuy nhiên, ông cũng nhấn mạnh rằng AI không thay thế các kỹ thuật tấn công truyền thống hoặc loại bỏ nhu cầu về chuyên môn của con người.

Các chiến dịch tinh vi — đặc biệt là các chiến dịch được thực hiện bởi các nhóm do quốc gia hậu thuẫn — vẫn phụ thuộc nhiều vào:

• trinh sát thủ công

• công cụ tùy chỉnh

• kỷ luật an ninh vận hành

“AI đang hoạt động như một lực lượng bổ sung nhân lực, chứ không phải là sự thay thế,” ông nói.

AI tăng tốc quá trình chuẩn bị tấn công

Trước đây, các tác nhân đe dọa thường dành nhiều thời gian để:

• tìm kiếm và nghiên cứu nạn nhân

• soạn thảo các thông điệp lừa đảo thuyết phục

• xây dựng mối quan hệ với nạn nhân trong nhiều tuần hoặc nhiều tháng

Giờ đây, với các công cụ AI, nhiều nhiệm vụ tốn thời gian trước đây đã được tự động hóa.

AI tạo sinh cho phép kẻ tấn công tạo nội dung được nhắm mục tiêu và có chất lượng cao chỉ trong vài giây, thay vì mất hàng giờ như trước.

Kết quả là khoảng thời gian từ lúc tìm được nạn nhân đến khi phát động cuộc tấn công ngày càng rút ngắn.

Ngoài ra, việc tự động hóa bằng AI cho phép tội phạm nhắm mục tiêu nhiều nạn nhân hơn cùng lúc, với ít nỗ lực thủ công hơn.

Các tác nhân đe dọa cũng sử dụng AI để:

• tự động hóa các giai đoạn thủ công trong chuỗi tấn công mạng

• thực hiện trinh sát nhanh hơn

• viết và gỡ lỗi mã độc

• tạo kế hoạch lừa đảo có tính cá nhân hóa cao

Việc giảm thời gian phát triển và triển khai khai thác cho phép kẻ tấn công tấn công nhanh hơn so với khả năng phản ứng của các hệ thống bảo mật truyền thống hoặc các nhà phân tích con người.

AI như một “hệ số nhân lực”

Microsoft cho biết các tác nhân đe dọa cũng sử dụng AI trong các hoạt động hỗ trợ, không trực tiếp độc hại nhưng giúp chiến dịch tấn công hiệu quả hơn.

Trong những trường hợp này, AI được sử dụng để:

• tăng hiệu quả hoạt động

• mở rộng quy mô chiến dịch

• duy trì hoạt động lâu dài

AI cho phép các tác nhân đe dọa chạy nhiều vòng đời tấn công song song.

Những nhiệm vụ như:

• trinh sát

• phát triển danh tính giả

• tạo nội dung lừa đảo

• thiết lập cơ sở hạ tầng tấn công

• phân loại dữ liệu sau khi xâm nhập

đều có thể được thực hiện nhanh hơn và trên nhiều mục tiêu hơn cùng lúc.

Điều này có nghĩa là một nhóm nhỏ tội phạm mạng cũng có thể vận hành một chiến dịch quy mô lớn.

Việc tự động hóa nội dung bằng AI cho phép kẻ tấn công gửi hàng loạt email, tin nhắn SMS, cuộc gọi và thông điệp trên mạng xã hội cùng lúc, với nội dung cá nhân hóa và thuyết phục hơn so với các hình thức lừa đảo trước đây.

AI hoạt động như một “bộ nhân lực” mạnh mẽ, cho phép một kẻ tấn công điều phối hàng nghìn cuộc xâm nhập cùng lúc.

Những kẻ tấn công cũng sử dụng AI để:

• tự động xác định mục tiêu

• thực hiện các cuộc tấn công đoán mật khẩu

• thiết lập nhanh cơ sở hạ tầng tấn công như các tên miền giả mạo

Điều này cho phép những kẻ tấn công ít kinh nghiệm hơn cũng có thể thực hiện các chiến dịch phức tạp trên quy mô toàn cầu.

AI giúp kẻ tấn công phục hồi nhanh hơn

Microsoft cho biết các tác nhân đe dọa cũng sử dụng AI để phát triển và quản lý cơ sở hạ tầng tấn công.

Các mô hình AI có thể giúp họ:

• thiết kế cơ sở hạ tầng bí mật

• cấu hình hệ thống

• khắc phục sự cố triển khai

Điều này giúp giảm rào cản kỹ thuật đối với những kẻ tấn công ít kinh nghiệm và cho phép triển khai hạ tầng tấn công nhanh hơn và khó bị phát hiện hơn.

AI cũng cho phép phần mềm độc hại thay đổi cấu trúc mã của chính nó để tránh bị phát hiện bởi các hệ thống bảo mật dựa trên chữ ký.

Ngoài ra, AI giúp các tác nhân đe dọa tái tạo chiến dịch nhanh hơn sau khi bị phát hiện, bằng cách:

• viết lại mã độc

• tạo nội dung lừa đảo mới

• thay đổi cơ sở hạ tầng

• triển khai lại các thành phần tấn công bằng ngôn ngữ hoặc thư viện khác

Các máy chủ điều khiển và điều phối (C2) cũng có thể thay đổi thường xuyên hơn, làm giảm khả năng phản ứng của hệ thống phòng thủ.

Sự trỗi dậy của AI tác nhân trong tội phạm mạng

Microsoft cho biết phần lớn hoạt động hiện nay vẫn dựa trên AI tạo sinh, nhưng các nhà nghiên cứu đã bắt đầu nhận thấy những dấu hiệu đầu tiên của việc sử dụng AI tác nhân (agentic AI).

Đối với các tác nhân đe dọa, điều này có thể tạo ra một bước thay đổi lớn trong cách thực hiện tấn công, cho phép:

• tự động tinh chỉnh các chiến dịch lừa đảo

• kiểm tra và điều chỉnh cơ sở hạ tầng tấn công

• duy trì quyền truy cập vào hệ thống

• theo dõi thông tin nguồn mở để tìm mục tiêu mới

Microsoft cho biết họ chưa quan sát thấy việc sử dụng AI tác nhân trên quy mô lớn, chủ yếu do các vấn đề về độ tin cậy và hạn chế vận hành.

Tuy nhiên, các thử nghiệm và bằng chứng ban đầu cho thấy hệ thống này có thể hỗ trợ:

• trinh sát tự động

• quản lý cơ sở hạ tầng

• phát triển phần mềm độc hại

• ra quyết định sau khi xâm nhập

Một ví dụ được ghi nhận là nhóm đe dọa Coral Sleet của Triều Tiên, đã sử dụng các công cụ AI tác nhân trong quy trình phát triển mồi nhử, thiết lập cơ sở hạ tầng và triển khai phần mềm độc hại.

Việc sử dụng AI tác nhân trên quy mô lớn vẫn còn hạn chế, nhưng xu hướng phát triển đang trở nên rõ ràng.

“AI không thay thế các tác nhân đe dọa,” một nhà nghiên cứu nhận định.
“Nó chỉ khiến họ trở nên hiệu quả hơn.”

Tác động trực tiếp nhất của AI hiện nay không phải là các cuộc tấn công hoàn toàn tự động, mà là:

• nghiên cứu nhanh hơn

• thích ứng nhanh hơn

• kỹ thuật xã hội có thể mở rộng

• lạm dụng quyền truy cập hợp pháp một cách bền vững hơn

Việc tăng tốc bằng AI không diễn ra theo đường thẳng và nhiều tổ chức vẫn đang đánh giá thấp mức độ thay đổi đang xảy ra trong các hoạt động tấn công mạng.