Người sáng tạo tín hiệu Moxie Marlinspike muốn làm cho AI những gì anh ấy đã làm để nhắn tin

Moxie Marlinspike—bút danh của một kỹ sư đã đặt ra tiêu chuẩn mới cho nhắn tin riêng tư với việc tạo ra Signal Messenger—is hiện nhằm mục đích cách mạng hóa chatbot AI theo cách tương tự.

Đứa con tinh thần mới nhất của anh ấy là Trao, một trợ lý AI nguồn mở cung cấp sự đảm bảo mạnh mẽ rằng dữ liệu người dùng không thể đọc được đối với nhà điều hành nền tảng, tin tặc, cơ quan thực thi pháp luật hoặc bất kỳ bên nào khác ngoài chủ tài khoản. Service—bao gồm các mô hình ngôn ngữ lớn và các thành phần phụ trợ— chạy hoàn toàn trên phần mềm nguồn mở mà người dùng có thể xác minh bằng mật mã đã có sẵn.

Dữ liệu và cuộc hội thoại bắt nguồn từ người dùng và phản hồi kết quả từ LLM được mã hóa trong môi trường thực thi đáng tin cậy (TEE) giúp ngăn chặn ngay cả quản trị viên máy chủ nhìn trộm hoặc giả mạo chúng. Các cuộc trò chuyện được Confer lưu trữ ở cùng một dạng được mã hóa, sử dụng khóa được lưu giữ an toàn trên thiết bị users’.

Giống như Signal, hoạt động dưới mui xe của Confer rất trang nhã về thiết kế và sự đơn giản. Signal là công cụ bảo mật người dùng cuối đầu tiên giúp việc sử dụng nó trở nên nhanh chóng. Trước đó, việc sử dụng email PGP hoặc các tùy chọn khác để thiết lập các kênh được mã hóa giữa hai người dùng là một quá trình rườm rà và dễ bị hỏng. Tín hiệu đã phá vỡ khuôn mẫu đó. Quản lý khóa không còn là nhiệm vụ mà người dùng phải lo lắng nữa. Signal được thiết kế để ngăn chặn ngay cả những người vận hành nền tảng nhìn vào tin nhắn hoặc xác định danh tính người dùng’ trong thế giới thực.

“Bộ thu thập dữ liệu vốn có”

Tất cả các nền tảng chính được yêu cầu chuyển dữ liệu người dùng cho cơ quan thực thi pháp luật hoặc các bên tư nhân trong vụ kiện khi một trong hai cung cấp trát đòi hầu tòa hợp lệ. Ngay cả khi người dùng từ chối lưu trữ dữ liệu của họ lâu dài, các bên tham gia vụ kiện có thể buộc nền tảng này phải lưu trữ dữ liệu đó, như thế giới đã biết vào tháng 5 năm ngoái khi tòa án ra lệnh cho OpenAI lưu giữ tất cả nhật ký của người dùng ChatGPT’—bao gồm các cuộc trò chuyện đã xóa và các cuộc trò chuyện nhạy cảm được đăng nhập thông qua dịch vụ kinh doanh API của nó. Sam Altman, Giám đốc điều hành của OpenAI, đã nói những phán quyết như vậy có nghĩa là ngay cả các buổi trị liệu tâm lý trên nền tảng cũng có thể không được giữ kín. Một cách khác để chọn không tham gia: Các nền tảng AI như Google Gemini có thể có con người đọc các cuộc trò chuyện.

Chuyên gia về quyền riêng tư dữ liệu Em ơi (cô ấy giữ họ của mình trên Internet) gọi trợ lý AI là “archnemesis” về quyền riêng tư dữ liệu vì tiện ích của họ dựa vào việc tập hợp lượng dữ liệu khổng lồ từ vô số nguồn, bao gồm cả các cá nhân.

“Các mô hình AI là những người thu thập dữ liệu vốn có, ” cô nói với Ars. “Họ dựa vào việc thu thập dữ liệu lớn để đào tạo, cải tiến, vận hành và tùy chỉnh. Thường xuyên hơn không, dữ liệu này được thu thập mà không có sự đồng ý rõ ràng và có hiểu biết (từ các đối tượng đào tạo không biết hoặc từ người dùng nền tảng), và được gửi đến và truy cập bởi một công ty tư nhân với nhiều ưu đãi để chia sẻ và kiếm tiền từ dữ liệu này.”

Việc thiếu kiểm soát người dùng đặc biệt có vấn đề do tính chất của tương tác LLM, Marlinspike nói. Người dùng thường coi đối thoại như một cuộc trò chuyện thân mật. Người dùng chia sẻ suy nghĩ, nỗi sợ hãi, vi phạm, giao dịch kinh doanh và bí mật sâu sắc nhất, đen tối nhất của họ như thể trợ lý AI là người bạn tâm giao đáng tin cậy hoặc nhật ký cá nhân. Các tương tác về cơ bản khác với các truy vấn tìm kiếm trên web truyền thống, thường tuân thủ mô hình giao dịch của các từ khóa vào và liên kết ra.

Anh ấy ví việc sử dụng AI giống như việc thú nhận vào hồ dữ liệu “.”

Thức tỉnh từ cơn ác mộng đó là cảnh quan AI ngày nay

Để đáp lại, Marlinspike đã phát triển và hiện đang thử nghiệm Trao. Trong nhiều cách Signal sử dụng mã hóa để làm cho tin nhắn chỉ có thể đọc được cho các bên tham gia vào cuộc trò chuyện, Confer bảo vệ lời nhắc của người dùng, phản hồi AI và tất cả dữ liệu có trong đó. Và cũng giống như Signal, không có cách nào để ràng buộc người dùng cá nhân với danh tính trong thế giới thực của họ thông qua địa chỉ email, địa chỉ IP hoặc các chi tiết khác.

“Đặc điểm của sự tương tác về cơ bản là khác nhau vì nó là sự tương tác riêng tư,” Marlinspike nói với Ars. “Thật thú vị, đáng khích lệ và tuyệt vời khi nghe những câu chuyện từ những người đã sử dụng Confer và có những cuộc trò chuyện thay đổi cuộc sống, một phần vì họ không cảm thấy tự do đưa thông tin vào những cuộc trò chuyện đó với các nguồn như ChatGPT hoặc họ có thông tin chi tiết bằng cách sử dụng dữ liệu mà họ không thực sự miễn phí để chia sẻ với ChatGPT trước đây nhưng có thể sử dụng môi trường như Confer.”

Một trong những thành phần chính của mã hóa Confer là mật mã. Tiêu chuẩn toàn ngành tạo ra một cặp khóa mã hóa 32 byte, duy nhất cho mỗi dịch vụ mà người dùng đăng nhập. Khóa công khai được gửi đến máy chủ. Khóa riêng chỉ được lưu trữ trên thiết bị người dùng, bên trong phần cứng lưu trữ được bảo vệ mà tin tặc (ngay cả những người có quyền truy cập vật lý) không thể truy cập. Passkeys cung cấp xác thực hai yếu tố và có thể được cấu hình để đăng nhập vào tài khoản bằng dấu vân tay, quét khuôn mặt (cả hai đều an toàn trên thiết bị) hoặc thiết bị mở khóa mã PIN hoặc mật mã.

Khóa riêng cho phép thiết bị đăng nhập vào Hội nghị và mã hóa tất cả đầu vào và đầu ra bằng mã hóa mà Lừa được nhiều người cho là không thể phá v. Điều đó cho phép người dùng lưu trữ các cuộc hội thoại trên máy chủ Confer với sự tự tin rằng họ không thể đọc được bởi bất kỳ ai khác ngoài chính h. Bộ lưu trữ cho phép các cuộc hội thoại đồng bộ hóa trên các thiết bị khác mà người dùng sở hữu. Mã thực hiện tất cả công việc này có sẵn cho bất kỳ ai kiểm tra. Nó trông như thế này:

  const assertion = await navigator.credentials.get({
    mediation: "optional",
    publicKey: {
      challenge: crypto.getRandomValues(new Uint8Array(32)),
      allowCredentials: [{ id: credId, type: "public-key" }],
      userVerification: "required",
      extensions: { prf: { eval: { first: new Uint8Array(salt) } } }
    }
  }) as PublicKeyCredential;

  const { prf } = assertion.getClientExtensionResults();
  const rawKey  = new Uint8Array(prf.results.first); 

 

 

Công cụ nội bộ mạnh mẽ này được đặt trước bởi một giao diện người dùng (được hiển thị trong hai hình ảnh ở trên) mà Lừa đảo đơn giản. Chỉ trong hai nét, một người dùng đã đăng nhập và tất cả các cuộc trò chuyện trước đó đều được giải mã. Những cuộc trò chuyện này sau đó có sẵn cho bất kỳ thiết bị nào đăng nhập vào cùng một tài khoản. Bằng cách này, Confer có thể đồng bộ hóa các cuộc trò chuyện mà không ảnh hưởng đến quyền riêng tư. 32 byte tài liệu khóa phong phú cho phép khóa riêng thay đổi thường xuyên, một tính năng cho phép chuyển tiếp bí mật, nghĩa là trong trường hợp khóa bị xâm phạm, kẻ tấn công không thể đọc các cuộc trò chuyện trước đó hoặc trong tương lai.

Thành phần chính khác của Hội nghị là TEE trên các máy chủ nền tảng. TEE mã hóa tất cả dữ liệu và mã chạy qua CPU máy chủ, bảo vệ chúng khỏi bị đọc hoặc sửa đổi bởi người có quyền truy cập quản trị vào máy. Confer TEE cũng cung cấp chứng thực từ xa. Chứng thực từ xa là chứng chỉ kỹ thuật số được gửi bởi máy chủ để xác minh bằng mật mã rằng dữ liệu và phần mềm đang chạy bên trong TEE và liệt kê tất cả phần mềm đang chạy trên đó.