Các đánh giá này đưa ra luận điểm phản bác mạnh mẽ đối với những câu chuyện phóng đại đang được các công ty AI, nhiều công ty trong số đó đang tìm kiếm các vòng gọi vốn mạo hiểm mới, rao giảng rằng phần mềm độc hại do AI tạo ra đang lan rộng và là một phần của mô hình mới, gây ra mối đe dọa hiện hữu đối với các biện pháp phòng thủ truyền thống.

Một ví dụ điển hình là Anthropic, công ty này gần đây đã báo cáo về việc phát hiện ra một tác nhân đe dọa sử dụng phần mềm Claude LLM của họ để “phát triển, tiếp thị và phân phối một số biến thể của phần mềm tống tiền, mỗi biến thể đều có khả năng né tránh, mã hóa và cơ chế chống khôi phục tiên tiến”. Công ty này tiếp tục cho biết: “Nếu không có sự hỗ trợ của Claude, họ không thể triển khai hoặc khắc phục sự cố các thành phần cốt lõi của phần mềm độc hại, như thuật toán mã hóa, kỹ thuật chống phân tích hoặc thao tác nội bộ của Windows”.

Công ty khởi nghiệp ConnectWise gần đây cho biết trí tuệ nhân tạo tạo sinh (generative AI) đang "hạ thấp rào cản gia nhập cho các tác nhân đe dọa". Bài đăng trích dẫn một báo cáo riêng từ OpenAI cho thấy 20 tác nhân đe dọa khác nhau đang sử dụng công cụ AI ChatGPT của họ để phát triển phần mềm độc hại cho các nhiệm vụ bao gồm xác định lỗ hổng, phát triển mã khai thác và gỡ lỗi mã đó. Trong khi đó, BugCrowd cho biết trong một cuộc khảo sát những cá nhân tự nguyện tham gia, "74% tin tặc đồng ý rằng AI đã làm cho việc tấn công mạng trở nên dễ tiếp cận hơn, mở ra cánh cửa cho những người mới tham gia".

Trong một số trường hợp, các tác giả của những báo cáo đó cũng lưu ý những hạn chế tương tự như trong bài viết này. Báo cáo hôm thứ Tư của Google cho biết rằng trong phân tích các công cụ AI được sử dụng để phát triển mã quản lý các kênh điều khiển và che giấu hoạt động của chúng, “chúng tôi không thấy bằng chứng về việc tự động hóa thành công hoặc bất kỳ khả năng đột phá nào”. OpenAI cũng nói điều tương tự. Tuy nhiên, những lời phủ nhận này hiếm khi được nêu bật và thường bị xem nhẹ trong cơn sốt nhằm miêu tả phần mềm độc hại được hỗ trợ bởi AI như một mối đe dọa trong tương lai gần.

Báo cáo của Google cung cấp ít nhất một phát hiện hữu ích khác. Một kẻ tấn công đã lợi dụng mô hình AI Gemini của công ty để vượt qua các biện pháp bảo vệ bằng cách giả danh là những hacker mũ trắng đang nghiên cứu để tham gia vào một trò chơi "cướp cờ". Những bài tập mang tính cạnh tranh này được thiết kế để giảng dạy và chứng minh các chiến lược tấn công mạng hiệu quả cho cả người tham gia và người quan sát.

Các biện pháp bảo vệ như vậy được tích hợp vào tất cả các phần mềm quản lý học tập (LLM) phổ biến để ngăn chặn việc chúng bị sử dụng cho mục đích xấu, chẳng hạn như trong các cuộc tấn công mạng và tự gây hại. Google cho biết họ đã tinh chỉnh tốt hơn các biện pháp đối phó để chống lại những thủ đoạn như vậy.

Tóm lại, các phần mềm độc hại do AI tạo ra xuất hiện cho đến nay cho thấy chúng chủ yếu mang tính thử nghiệm và kết quả không mấy ấn tượng. Việc theo dõi các diễn biến này rất đáng quan tâm vì chúng cho thấy các công cụ AI có thể tạo ra những khả năng mới chưa từng được biết đến trước đây. Tuy nhiên, hiện tại, các mối đe dọa lớn nhất vẫn chủ yếu dựa vào các chiến thuật truyền thống.