Trí tuệ nhân tạo (AI) tạo sinh không chỉ hữu ích cho việc ăn cắp tác phẩm của các nghệ sĩ và nhà văn mà còn giúp phần mềm độc hại tăng khả năng tự nhân rộng và lây lan. Theo các hacker tại hội nghị Black Hat sắp tới, một số loại AI mới nhất có thể đánh bại Microsoft Defender (bộ phần mềm bảo mật mặc định cho hàng tỷ máy tính Windows) với tỷ lệ thành công lên đến 8%.
Trang Dark Reading (thông qua Tom's Hardware ) đưa tin rằng một nhà nghiên cứu bảo mật sẽ trình bày hệ thống này tại hội nghị bảo mật Black Hat ở Las Vegas vào tháng tới. (Các buổi thuyết trình của Black Hat về cơ bản là hợp pháp, không phải là tội phạm, mặc dù Wikipedia đưa tin rằng sự hiện diện của các hacker thực thụ đã dẫn đến một số "trò hề". ) Kyle Avery của Outflank được cho là sẽ trình diễn một mô hình ngôn ngữ nhẹ được thiết kế đặc biệt để né tránh Microsoft Defender, phần mềm bảo mật tích hợp miễn phí cho Windows 10 và Windows 11.
Tám phần trăm có vẻ không đáng báo động, và đây cũng không phải là lần đầu tiên Defender bị đánh bại. Nhưng đó sẽ là một bước tiến khổng lồ trong khả năng cốt lõi của phần mềm độc hại được hỗ trợ bởi trí tuệ nhân tạo, nguy hiểm hơn nhiều so với phần mềm độc hại mà bạn có thể "phân tích mã" bằng các mô hình hiện tại. Nhưng hãy mở rộng điều đó lên 1,4 tỷ máy tính Windows đang hoạt động trên thế giới, và tăng cường sức mạnh của nó bằng quy mô mà phần mềm tự động hóa được hỗ trợ bởi trí tuệ nhân tạo có thể cho phép, và vấn đề đột nhiên trở nên nghiêm trọng hơn nhiều. Giả sử hệ thống chưa được mô tả chi tiết này được triển khai ở quy mô đủ lớn để truy cập vào một trong mỗi 10 máy tính đó. Đó là một lượng người dùng lên tới 140 triệu người, dẫn đến hơn 11 triệu máy tính bị xâm phạm.
Theo nhà thiết kế, hệ thống này được xây dựng trên mô hình ngôn ngữ mã nguồn mở và được huấn luyện trên dữ liệu với chi phí 1.500 đô la trong ba tháng. Nếu đúng như vậy, thì đó là một khoản đầu tư thời gian và tiền bạc cực kỳ nhỏ so với kết quả đạt được. Một bộ công cụ "tự xây dựng hacker AI mũ đen" có thể được phân phối dễ dàng, tương tự như cách mà phần mềm độc hại "cắm là chạy" hiện nay được lan truyền
Việc Avery sẽ trình bày những phát hiện của mình tại một hội nghị về bảo mật có nghĩa là Microsoft sẽ có thời gian để tìm cách khắc phục, xác định và giảm thiểu các thành phần gây nguy hiểm nhất. Tôi hy vọng rằng sau đợt sa thải hàng loạt gần đây, Microsoft vẫn còn đủ nhân lực để chú ý đến hội nghị ở Las Vegas.
