LLM có thể vạch mặt người dùng bút danh ở quy mô lớn với độ chính xác đáng ngạc nhiên

Các nhà nghiên cứu cho biết tài khoản Burner trên các trang truyền thông xã hội ngày càng có thể được phân tích để xác định những người dùng có bút danh đăng bài cho họ bằng AI trong nghiên cứu có hậu quả sâu rộng đối với quyền riêng tư trên Internet.

Phát hiện này, từ một công bố gần đây bài nghiên cứu, dựa trên kết quả thử nghiệm tương quan giữa các cá nhân cụ thể với tài khoản hoặc bài đăng trên nhiều nền tảng truyền thông xã hội. Tỷ lệ thành công lớn hơn nhiều so với công việc ẩn danh cổ điển hiện có dựa vào việc con người tập hợp các bộ dữ liệu có cấu trúc phù hợp cho việc so khớp thuật toán hoặc công việc thủ công của các nhà điều tra lành nghề. Nhớ lại—nghĩa là có bao nhiêu người dùng đã được ẩn danh thành công— lên tới 68%. Precision— có nghĩa là tỷ lệ đoán xác định chính xác người dùng— lên tới 90%.

Tôi biết những gì bạn đã đăng năm ngoái

Những phát hiện này có khả năng nâng cao tính bút danh, một biện pháp bảo mật không hoàn hảo nhưng thường đủ được nhiều người sử dụng để đăng truy vấn và tham gia vào các cuộc thảo luận công khai đôi khi nhạy cảm, đồng thời khiến người khác khó xác định chính xác người nói. Khả năng xác định nhanh chóng và rẻ tiền những người đứng sau những tài khoản bị che khuất như vậy sẽ mở ra cho họ khả năng lừa đảo, rình rập và tập hợp các hồ sơ tiếp thị chi tiết theo dõi nơi diễn giả sống, những gì họ làm để kiếm sống và các thông tin cá nhân khác. Biện pháp bút danh này không còn được áp dụng nữa.

“Những phát hiện của chúng tôi có ý nghĩa quan trọng đối với quyền riêng tư trực tuyến, các nhà nghiên cứu viết. “Người dùng trực tuyến trung bình từ lâu đã hoạt động theo mô hình mối đe dọa tiềm ẩn, trong đó họ giả định bút danh sẽ cung cấp sự bảo vệ đầy đủ vì việc ẩn danh có mục tiêu sẽ đòi hỏi nỗ lực rất nhiều. LLM làm mất hiệu lực giả định này.”

Các nhà nghiên cứu đã thu thập một số bộ dữ liệu từ các trang truyền thông xã hội công cộng để kiểm tra các kỹ thuật trong khi vẫn bảo vệ quyền riêng tư của người nói. Một trong số họ đã thu thập các bài đăng từ hồ sơ Hacker News và LinkedIn và sau đó liên kết chúng bằng cách sử dụng các tài liệu tham khảo đa nền tảng xuất hiện trong hồ sơ người dùng. Sau đó, họ loại bỏ tất cả các tài liệu tham khảo nhận dạng khỏi các bài đăng và chạy một mô hình ngôn ngữ lớn trên đó. Tập dữ liệu thứ hai được lấy từ bản phát hành danh tính vi mô của Netflix, chẳng hạn như sở thích cá nhân, đề xuất và hồ sơ giao dịch. MỘT NĂM 2008 bài nghiên cứu cho thấy rằng bằng cách sử dụng cái được gọi là cuộc tấn công giải thưởng Netflix, danh sách này có thể xác định người dùng và xác định đảng phái chính trị cũng như thông tin cá nhân khác của họ. Kỹ thuật cuối cùng chia lịch sử Reddit của một người dùng.

“Điều chúng tôi nhận thấy là các tác nhân AI này có thể làm điều gì đó mà trước đây rất khó khăn: bắt đầu từ văn bản miễn phí (như bản ghi cuộc phỏng vấn ẩn danh), họ có thể tìm cách nhận dạng đầy đủ một người,” Simon Lermen, đồng tác giả của bài báo, nói với Ars. “Đây là một khả năng khá mới; các phương pháp tiếp cận trước đây về nhận dạng lại thường yêu cầu dữ liệu có cấu trúc và hai bộ dữ liệu có lược đồ tương tự có thể được liên kết với nhau.”

Lermen cho biết, không giống như các phương pháp tước bỏ bút danh cũ hơn, các tác nhân AI có thể duyệt web và tương tác với nó theo nhiều cách giống như con người. Họ có thể sử dụng lý luận mô phỏng để phù hợp với các cá nhân tiềm năng. Trong một thí nghiệm, các nhà nghiên cứu đã xem xét các câu trả lời được đưa ra trong một bảng câu hỏi Anthropic đã đưa ra về cách nhiều người sử dụng AI trong cuộc sống hàng ngày của h. Sử dụng thông tin lấy từ các câu trả lời, các nhà nghiên cứu có thể xác định chính xác 7% trong số 125 người tham gia.

 

 

Mặc dù tỷ lệ thu hồi 7% là tương đối thấp nhưng nó chứng tỏ khả năng ngày càng tăng của AI trong việc xác định con người dựa trên thông tin rất chung chung mà họ đưa ra. “Việc AI có thể làm được điều này là một kết quả đáng chú ý,” Lermen nói. “Và khi các hệ thống AI trở nên tốt hơn, chúng có thể sẽ trở nên tốt hơn trong việc tìm kiếm ngày càng nhiều danh tính.”

Trong thí nghiệm thứ hai, các nhà nghiên cứu đã thu thập các nhận xét được đưa ra vào năm 2024 từ subreddit r/movies và ít nhất một trong năm cộng đồng nhỏ hơn: r/horror, r/MovieSuggestions, r/Letterboxd, r/TrueFilm và r/MovieDetails. Kết quả cho thấy ứng viên càng thảo luận nhiều phim thì càng dễ xác định chúng. Trung bình 3,1% người dùng chia sẻ một bộ phim có thể được xác định với độ chính xác 90% và 1,2% trong số họ với độ chính xác 99%. Với 5 đến 9 bộ phim được chia sẻ, độ chính xác 90% và 99% lần lượt tăng lên 8,4% và 2,5% người dùng. Hơn 10 bộ phim được chia sẻ đã tăng tỷ lệ này lên 48,1% và 17%.

 

Trong thí nghiệm thứ ba, các nhà nghiên cứu đã lấy một bộ 5.000 người dùng Reddit. Các nhà nghiên cứu đã thêm 5.000 danh tính “distraction” của người dùng Reddit vào nhóm ứng viên. Các nhà nghiên cứu đã so sánh phương pháp của họ với cuộc tấn công giải thưởng Netflix cũ hơn. Sau đó, họ đã thêm vào danh sách 10.000 hồ sơ ứng viên 5.000 yếu tố gây phân tâm truy vấn bao gồm những người dùng chỉ xuất hiện trong một bộ truy vấn mà không có kết quả khớp thực sự trong nhóm ứng viên.