CEO Anthropic: AI Có 25% Khả Năng Gây Thảm Họa, Nhưng Vẫn Đáng Để Đầu Tư

Lời cảnh báo của CEO Anthropic: “AI có 25% khả năng gây thảm họa”

Trong bối cảnh cuộc đua phát triển AI ngày càng nóng, lời cảnh báo của Dario Amodei, CEO Anthropic (công ty đứng sau mô hình AI Claude), đã gây chú ý lớn. Ông nhận định có 25% khả năng AI có thể dẫn đến những kết cục "rất, rất tồi tệ" cho nhân loại, nhưng vẫn tin tưởng vào 75% khả năng AI sẽ mang lại một tương lai "cực kỳ tốt đẹp".

25% rủi ro, 75% lạc quan: Tuyên bố gây sốc nhưng có cơ sở

Phát biểu tại một hội nghị, Amodei đã đưa ra con số cụ thể về "tỷ lệ hủy diệt" tiềm năng của AI. Khi được hỏi về khả năng AI hủy diệt loài người, ông cho rằng con số này không nên bị xem nhẹ. Những rủi ro mà Amodei đề cập bao gồm:

• Thất nghiệp hàng loạt: AI có thể tự động hóa và thay thế các công việc văn phòng, gây ra sự xáo trộn lớn trên thị trường lao động.

• Mất quyền kiểm soát: Các hệ thống AI siêu thông minh có thể phát triển theo những cách không lường trước và hành động trái ngược với lợi ích của con người.

• Nguy cơ địa chính trị: AI có thể bị lạm dụng để tạo ra vũ khí sinh học hoặc tấn công mạng trên quy mô lớn, gây ra bất ổn an ninh toàn cầu.

Tuy nhiên, ông Amodei nhấn mạnh rằng ông vẫn lạc quan về tương lai. Ông tin rằng 75% khả năng AI sẽ mang lại những đột phá lớn trong khoa học, y học và các lĩnh vực khác, miễn là chúng ta có các biện pháp quản lý và điều chỉnh phù hợp.

Vì sao một CEO công nghệ lại cảnh báo?

Lời cảnh báo của Amodei đặc biệt quan trọng vì ông không phải là người ngoài cuộc. Anthropic được thành lập bởi những cựu thành viên của OpenAI với sứ mệnh tập trung vào sự an toàn và đạo đức của AI. Công ty này nổi tiếng với cách tiếp cận "AI hiến pháp", nơi họ trang bị cho AI một bộ các nguyên tắc đạo đức để tự đánh giá và điều chỉnh hành vi.

Điều này cho thấy Amodei không chỉ là một nhà phát triển AI mà còn là một nhà tư tưởng về an toàn AI. Ông tin rằng việc công khai các rủi ro là bước đầu tiên để xây dựng những biện pháp bảo vệ hiệu quả, tránh những hậu quả không thể đảo ngược.

Cuộc tranh luận lớn về tương lai của AI

Quan điểm của Amodei là một phần của cuộc tranh luận sôi nổi trong giới công nghệ. Trong khi một số người như CEO Nvidia Jensen Huang tin rằng AI sẽ không gây mất việc làm mà chỉ tạo ra công việc mới, thì các chuyên gia như Amodei lại cho rằng chúng ta cần phải chuẩn bị cho những kịch bản xấu nhất.

Tuyên bố của Amodei nhấn mạnh một sự thật rằng các nhà phát triển AI đang ngày càng ý thức được trách nhiệm của mình. Câu hỏi đặt ra không phải là "liệu AI có nguy hiểm hay không", mà là "chúng ta sẽ làm gì để đảm bảo nó được phát triển một cách an toàn và có trách nhiệm". Việc đầu tư vào nghiên cứu an toàn AI và xây dựng khung pháp lý là điều cấp bách để giữ cho cán cân nghiêng về phía lạc quan.