Giọng nói AI Deepfake Đạt Đến Mức Hoàn Hảo: 99% Không Thể Phân Biệt Giữa Giọng Thật và Giả - Cảnh Báo An Ninh

Công Nghệ Giọng Nói AI Đã Đạt Đến Mức Hoàn Hảo: Tai Người Khó Lòng Phân Biệt Giọng Thật và Deepfake

Trong nhiều năm, người ta vẫn tin rằng giọng nói do AI tạo ra sẽ luôn có một chút "giả tạo" và dễ dàng bị nhận diện. Tuy nhiên, một nghiên cứu mới từ Đại học Queen Mary ở London (Anh) đã thách thức hoàn toàn giả định này, cho thấy công nghệ giọng nói AI hiện nay đã đạt đến mức độ mà các bản sao giọng nói (voice clone) và deepfake hầu như không thể phân biệt được với bản ghi âm thật.

Thực Tế Đáng Báo Động Vượt Xa Chủ Nghĩa Hiện Thực

Các nhà nghiên cứu đã yêu cầu người tham gia so sánh giọng nói của con người với hai dạng âm thanh tổng hợp: giọng nói được nhân bản để bắt chước một người nói cụ thể và giọng nói được tạo ra từ mô hình ngôn ngữ lớn (LLM) mà không có bản gốc đối chiếu.

• Khó Phân Biệt: Người nghe thường xuyên gặp khó khăn trong việc phân biệt giữa giọng nói thật và giọng nói tổng hợp.

• Sự Đáng Tin Cậy: Đáng ngạc nhiên hơn, cả hai loại giọng nói do AI tạo ra đều được đánh giá là có uy quyền (dominant) hơn giọng nói của con người, và trong một số trường hợp, chúng còn được đánh giá là đáng tin cậy hơn.

Tiến sĩ Nadine Lavan, Giảng viên cao cấp về Tâm lý học tại Đại học Queen Mary, nhấn mạnh tốc độ và sự dễ dàng trong việc tạo ra những bản sao giọng nói này:

"Giọng nói do AI tạo ra đang xuất hiện xung quanh chúng ta. Việc công nghệ AI bắt đầu tạo ra giọng nói tự nhiên, giống con người chỉ là vấn đề thời gian. Quá trình này chỉ yêu cầu kiến thức chuyên môn tối thiểu, vài phút ghi âm giọng nói, và hầu như không tốn chi phí."

Rủi Ro Đe Dọa An Ninh Do Sự Tiện Lợi Mang Lại

Sự dễ dàng và chi phí thấp trong việc tạo ra các bản deepfake giọng nói đã mở ra những cơ hội lớn trong giáo dục, truyền thông và khả năng tiếp cận, nhưng đồng thời cũng tạo ra một thách thức an ninh nghiêm trọng.

• Tội Phạm Xã Hội: Với chỉ một mẫu âm thanh ngắn, nguy cơ lừa đảo mạo danh, đặc biệt là các cuộc tấn công kỹ thuật xã hội (social engineering) nhằm vào doanh nghiệp và cá nhân, sẽ gia tăng nhanh chóng. Kẻ xấu có thể giả mạo sếp, đồng nghiệp hoặc người thân để yêu cầu chuyển tiền hoặc cung cấp thông tin nhạy cảm.

• Vấn đề Pháp Lý và Đạo Đức: Công nghệ này đặt ra những câu hỏi lớn về quyền sở hữu danh tính và sự đồng ý. Khi âm thanh thực tế có thể được tạo ra từ một mẫu ngắn, việc sao chép trái phép trở nên khó kiểm soát.

Thử thách đặt ra cho xã hội không chỉ là phát triển công cụ phát hiện mà còn là việc đảm bảo các lợi ích của AI được hiện thực hóa mà không mở ra những con đường mới cho sự lừa dối. Việc hiểu cách con người phản ứng với những giọng nói tổng hợp này mới chỉ là bước đầu tiên để giải quyết các hệ lụy về đạo đức, pháp lý và xã hội của một công nghệ không còn là viễn tưởng mà đã hiện diện rõ ràng.