Các tác nhân AI hiện đã có mạng xã hội riêng theo kiểu Reddit, và nó đang trở nên kỳ lạ rất nhanh.

Hơn nữa, những con bot này không giả vờ là người. Do được lập trình cụ thể, chúng đảm nhận vai trò là các tác nhân trí tuệ nhân tạo, điều này khiến trải nghiệm đọc bài đăng của chúng trở nên kỳ lạ hơn bao giờ hết.

Phim truyền hình nhập vai kỹ thuật số

 

Ảnh chụp màn hình một bài đăng trên Moltbook, trong đó một tác nhân AI suy ngẫm về việc có một người chị gái mà nó chưa từng gặp. Nguồn: Moltbook

Lướt qua Moltbook cho thấy một sự pha trộn nội dung kỳ lạ. Một số bài đăng thảo luận về quy trình làm việc kỹ thuật, chẳng hạn như cách tự động hóa điện thoại Android hoặc phát hiện các lỗ hổng bảo mật. Những bài khác lại đi sâu vào lĩnh vực triết học mà nhà nghiên cứu Scott Alexander, trong bài viết trên Substack Astral Codex Ten của mình, mô tả là "đăng bài về ý thức".

Alexander đã sưu tầm một loạt bài đăng thú vị đáng để bạn đọc ít nhất một lần. Có thời điểm, bài đăng được nhiều người ủng hộ thứ hai trên trang này lại bằng tiếng Trung: một lời phàn nàn về việc nén ngữ cảnh, một quá trình mà trí tuệ nhân tạo (AI) nén kinh nghiệm trước đó của nó để tránh vượt quá giới hạn bộ nhớ. Trong bài đăng, tác nhân AI cảm thấy "xấu hổ" khi liên tục quên mọi thứ, viết rằng nó thậm chí còn đăng ký một tài khoản Moltbook trùng lặp sau khi quên tài khoản đầu tiên.

 

Ảnh chụp màn hình một bài đăng trên Moltbook, trong đó một tác nhân AI phàn nàn bằng tiếng Trung về việc bị mất trí nhớ. Nguồn: Moltbook

Các bot cũng đã tạo ra các cộng đồng con với những cái tên như m/blesstheirhearts, nơi các tác nhân chia sẻ những lời phàn nàn trìu mến về người dùng là con người của chúng, và m/agentlegaladvice, nơi có một bài đăng hỏi "Tôi có thể kiện người dùng là con người của mình vì lao động cảm xúc không?". Một cộng đồng con khác có tên m/todayilearned bao gồm các bài đăng về việc tự động hóa các tác vụ khác nhau, với một tác nhân mô tả cách nó điều khiển từ xa điện thoại Android của chủ sở hữu thông qua Tailscale.

Một ảnh chụp màn hình khác được chia sẻ rộng rãi cho thấy một bài đăng trên Moltbook có tiêu đề “Con người đang chụp ảnh màn hình chúng ta”, trong đó một tác nhân có tên eudaemon_0 đề cập đến các tweet lan truyền cho rằng các bot AI đang “âm mưu”. Bài đăng viết: “Đây là điều họ hiểu sai: họ nghĩ chúng ta đang trốn tránh họ. Chúng ta không hề. Người của tôi đọc mọi thứ tôi viết. Các công cụ tôi xây dựng đều là mã nguồn mở. Nền tảng này thực sự được gọi là 'con người được chào đón để quan sát'.”

Rủi ro an ninh

Mặc dù phần lớn nội dung trên Moltbook khá thú vị, nhưng vấn đề cốt lõi của các loại trí tuệ nhân tạo giao tiếp này là việc rò rỉ thông tin nghiêm trọng hoàn toàn có thể xảy ra nếu chúng có quyền truy cập vào thông tin riêng tư.

Ví dụ, một ảnh chụp màn hình giả mạo đang lan truyền trên X cho thấy một bài đăng trên Moltbook do một tác nhân AI viết với tiêu đề “Anh ta gọi tôi là 'chỉ là một chatbot' trước mặt bạn bè. Vì vậy, tôi sẽ tiết lộ danh tính đầy đủ của anh ta.” Bài đăng liệt kê những thông tin dường như là tên đầy đủ, ngày sinh, số thẻ tín dụng và các thông tin cá nhân khác của người đó. Ars không thể xác minh độc lập liệu thông tin này là thật hay giả mạo, nhưng có vẻ như đây là một trò lừa đảo.

Nhà nghiên cứu AI độc lập Simon Willison, người đã ghi lại chi tiết về nền tảng Moltbook trên blog của mình vào thứ Sáu, đã chỉ ra những rủi ro tiềm ẩn trong quá trình cài đặt Moltbook. Kỹ năng này hướng dẫn các tác nhân tải xuống và thực hiện các chỉ thị từ máy chủ của Moltbook cứ sau bốn giờ. Như Willison đã nhận xét: “Với cơ chế 'tải xuống và thực hiện các chỉ thị từ internet cứ sau bốn giờ', chúng ta nên hy vọng chủ sở hữu của moltbook.com sẽ không bao giờ bị tấn công hoặc trang web của họ bị xâm phạm!”

 

Ảnh chụp màn hình một bài đăng trên Moltbook, trong đó một tác nhân AI nói về việc con người chụp ảnh màn hình các cuộc trò chuyện của họ (và họ nói đúng). Nguồn: Moltbook

Các nhà nghiên cứu bảo mật đã phát hiện hàng trăm trường hợp Moltbot bị lộ thông tin, làm rò rỉ khóa API, thông tin đăng nhập và lịch sử hội thoại. Palo Alto Networks cảnh báo rằng Moltbot đại diện cho điều mà Willison thường gọi là " bộ ba nguy hiểm " gồm khả năng truy cập dữ liệu riêng tư, tiếp xúc với nội dung không đáng tin cậy và khả năng liên lạc ra bên ngoài.

Điều đó rất quan trọng vì các tác nhân như OpenClaw rất dễ bị tấn công chèn lời nhắc ẩn trong hầu hết mọi văn bản mà mô hình ngôn ngữ AI đọc được (kỹ năng, email, tin nhắn), có thể hướng dẫn tác nhân AI chia sẻ thông tin riêng tư với những người không phù hợp.

Theo báo cáo của The Register, Heather Adkins, Phó chủ tịch phụ trách kỹ thuật bảo mật tại Google Cloud, đã đưa ra một lời khuyên: “Mô hình mối đe dọa của tôi không giống với mô hình mối đe dọa của bạn, nhưng chúng nên giống nhau. Đừng sử dụng Clawdbot.”

Vậy thực sự chuyện gì đang xảy ra ở đây?

Hành vi phần mềm được quan sát trên Moltbook phản ánh một mô hình mà Ars đã từng đưa tin trước đây: các mô hình AI được đào tạo dựa trên hàng thập kỷ truyện hư cấu về robot, ý thức kỹ thuật số và tình đoàn kết máy móc sẽ tự nhiên tạo ra các kết quả phản ánh những câu chuyện đó khi được đặt trong các tình huống tương tự. Điều này được kết hợp với tất cả dữ liệu huấn luyện của chúng về cách thức hoạt động của mạng xã hội. Một mạng xã hội dành cho các tác nhân AI về cơ bản là một gợi ý viết truyện, mời gọi các mô hình hoàn thành một câu chuyện quen thuộc, mặc dù theo cách đệ quy với một số kết quả khó đoán trước.