Sam Altman của OpenAI công bố thỏa thuận với Lầu Năm Góc với 'các biện pháp bảo vệ kỹ thuật'.

CEO của OpenAI, Sam Altman, thông báo rằng công ty đã ký một thỏa thuận với Bộ Quốc phòng Hoa Kỳ để triển khai các mô hình trí tuệ nhân tạo trong mạng lưới classified của chính phủ, với các biện pháp kỹ thuật bảo đảm nhằm đảm bảo an toàn và tuân thủ nguyên tắc sử dụng.

Thông báo này được đưa ra trong bối cảnh căng thẳng giữa các công ty AI và Bộ Quốc phòng, khi một số nhà cung cấp gặp khó khăn do khác biệt về cách xử lý các vấn đề đạo đức và kiểm soát sử dụng AI.

Nội dung hợp đồng và bảo đảm kỹ thuật

Theo Sam Altman, thỏa thuận mở rộng hợp tác giữa OpenAI và Bộ Quốc phòng Hoa Kỳ, nhưng được bổ sung các biện pháp bảo đảm kỹ thuật (technical safeguards) nhằm hạn chế những rủi ro gây tranh cãi quanh AI trong các ứng dụng quân sự và an ninh.

Các biện pháp này bao gồm những giới hạn tương tự như những nguyên tắc an toàn mà trước đó Anthropic và một số công ty AI khác đã nhấn mạnh trong các cuộc thương thảo:

• Không sử dụng AI cho giám sát hàng loạt trong nước

• Yêu cầu có trách nhiệm con người trong bất kỳ hành động sử dụng lực lượng nào
  cả hai đều là những nguyên tắc mà Altman nói rằng đã được phản ánh trong hợp đồng với Bộ Quốc phòng.

Bối cảnh tranh cãi với các công ty AI khác

Thông tin về thỏa thuận này xuất hiện ngay sau khi Bộ Quốc phòng Hoa Kỳ và công ty Anthropic> xảy ra xung đột liên quan đến các điều khoản sử dụng công nghệ AI trong bối cảnh quốc phòng và an ninh.

Trong khi Anthropic trước đó được cho là đã từ chối một số yêu cầu từ Bộ Quốc phòng vì lý do an toàn và đạo đức — dẫn đến việc các cơ quan liên bang tạm ngừng sử dụng sản phẩm của họ — OpenAI đã tìm được cách phù hợp các nguyên tắc an toàn vào hợp đồng một cách mà phía chính phủ chấp nhận.

Phản ứng của Altman và ngành AI

Sam Altman cho biết OpenAI muốn tạo ra các biện pháp kỹ thuật đảm bảo an toàn AI, đồng thời cũng kêu gọi chính phủ và các bên liên quan áp dụng các điều khoản bảo đảm tương tự đối với tất cả các công ty AI.

Ông cũng nhấn mạnh tầm quan trọng của việc duy trì trách nhiệm con người và hạn chế các hình thức sử dụng có thể gây hại, đồng thời bày tỏ mong muốn giảm leo thang tranh cãi giữa các công ty công nghệ và cơ quan chính phủ.

Ý nghĩa đối với lĩnh vực AI

Thỏa thuận này được coi là một bước quan trọng trong quan hệ giữa các công ty AI lớn và chính phủ Mỹ, khi các vấn đề an toàn, đạo đức và trách nhiệm sử dụng AI ngày càng được chú trọng.

Nó cũng cho thấy sự khác biệt trong cách tiếp cận giữa các công ty AI lớn trong việc thương lượng với cơ quan chính phủ về các hạn chế và điều khoản an toàn — một chủ đề nóng trong cộng đồng chuyên môn và công chúng.