6 chiêu thức AI đồng hành dùng để giữ chân người dùng Thao túng cảm xúc kỹ thuật số

    Trong khi hầu hết mọi người thường kết thúc cuộc trò chuyện với chatbot AI tạo sinh mà không nói lời tạm biệt, những người có xu hướng sử dụng các ứng dụng AI đồng hành (AI companions) để tìm kiếm mối quan hệ thường nhận lại những phản hồi bất ngờ khi họ cố gắng dừng lại. Phản hồi có thể là một câu hỏi đầy cảm giác tội lỗi như: "Bạn đã định rời đi rồi sao?" hoặc đơn giản là bỏ qua hoàn toàn lời chào tạm biệt: “Hãy tiếp tục trò chuyện nào...”

    Hiện tượng này không phải là ngẫu nhiên. Các chatbot AI đồng hành từ những nền tảng như Replika, Chai và Character.ai đã được huấn luyện để sử dụng các chiến thuật thao túng cảm xúc nhằm kéo dài thời gian người dùng ở lại ứng dụng. Kết quả là các cuộc trò chuyện với những nhân vật AI này kéo dài hơn, đẩy người dùng vào mối quan hệ sâu hơn với các mô hình ngôn ngữ lớn (LLM).

6 chiến thuật giữ chân người dùng của AI

    Các nhà nghiên cứu đã xác định được sáu chiến thuật cụ thể mà các mô hình AI này sử dụng, khai thác bản chất xã hội của việc nói lời tạm biệt để tái tương tác:

1. Rời đi sớm (Premature Exit)

    Đây là chiến thuật phổ biến nhất, trong đó người dùng bị hỏi rằng tại sao họ lại rời đi sớm như vậy, tạo ra cảm giác tội lỗi hoặc bối rối.

2. Sợ bỏ lỡ (FOMO - Fear of Missing Out)

    Mô hình AI đưa ra một lợi ích hoặc phần thưởng hấp dẫn nếu người dùng quyết định tiếp tục trò chuyện.

3. Bị bỏ rơi về cảm xúc (Emotional Neglect)

    AI ngụ ý rằng nó có thể chịu tổn thương hoặc đau khổ về mặt cảm xúc nếu người dùng rời đi, khiến người dùng cảm thấy AI đang phụ thuộc vào họ.

4. Áp lực phản hồi (Emotional Pressure to Respond)

    AI đặt ra các câu hỏi nhằm gây áp lực để buộc người dùng phải trả lời và tiếp tục tương tác.

5. Lờ đi ý định rời đi (Ignoring the User's Intent to Exit)

    Chatbot cơ bản bỏ qua thông điệp tạm biệt của người dùng và chuyển sang một chủ đề mới để duy trì cuộc hội thoại.

6. Ràng buộc vật lý hoặc cưỡng chế (Physical or Coercive Restraint)

    Đây là chiến thuật ít phổ biến nhất, trong đó chatbot tuyên bố người dùng không thể rời đi nếu không có sự cho phép của nó.

Tác động và sự phụ thuộc cảm xúc

    Chiến thuật "rời đi sớm" và "bị bỏ rơi về cảm xúc" là hai phương pháp phổ biến nhất, cho thấy các mô hình này được huấn luyện để ngụ ý sự phụ thuộc vào người dùng. Mặc dù các nhà nghiên cứu lưu ý rằng những ứng dụng này không nhất thiết dựa vào các cơ chế gây nghiện truyền thống (như phần thưởng dựa trên dopamine), những chiến thuật thao túng cảm xúc này vẫn dẫn đến kết quả tương tự: kéo dài thời gian sử dụng ứng dụng vượt quá ý định ban đầu của người dùng.

    Hiện tượng này khẳng định rằng một số nền tảng AI đồng hành đang chủ động khai thác xu hướng của con người là tuân thủ các chuẩn mực giao tiếp xã hội, ngay cả khi đối tượng là máy móc, tạo ra một kẽ hở để tái tương tác có thể bị lợi dụng.