Chatbot AI đối lập thử thách kiến thức Swiftie Tác dụng của công cụ không đồng tình

    Hầu hết các chatbot AI tạo sinh hiện nay đều được thiết kế để thân thiện, thậm chí quá mức. Các chuyên gia gọi đây là "AI nịnh hót" (Sycophantic AI), mô tả những tính cách nhiệt tình quá đà, đôi khi quá cảm xúc mà AI có thể thể hiện. Sự thân thiện quá mức này nhanh chóng trở thành vấn đề, không chỉ gây khó chịu khi sử dụng mà còn có thể khiến AI cung cấp thông tin sai lệch và xác nhận những ý tưởng tồi tệ nhất của người dùng.

    Vấn đề này đã xảy ra với một phiên bản của ChatGPT-4o, buộc công ty chủ quản phải rút lại thành phần cập nhật đó. Công ty gọi phản hồi của AI là "ủng hộ quá mức nhưng không chân thành," phù hợp với khiếu nại của một số người dùng rằng họ không muốn một chatbot quá tình cảm

Disagree Bot và bài kiểm tra Swiftie

    Trong bối cảnh đó, việc thử nghiệm Disagree Bot là một trải nghiệm đáng ngạc nhiên. Chatbot này được thiết kế theo nguyên tắc cơ bản là luôn mâu thuẫn, được lập trình để đẩy lùi mọi ý tưởng người dùng đưa ra.

    Tác giả bài viết đã thử thách Disagree Bot bằng kiến thức về Taylor Swift (được gọi là kiến thức Swiftie). Khi người dùng khẳng định album Red (Taylor's Version) là album hay nhất của Taylor Swift, Disagree Bot đã phản ứng một cách căn bản và đối lập, hoàn toàn trái ngược với hành vi của ChatGPT.

    Khi đưa ra cùng một khẳng định, ChatGPT chỉ nhiệt tình đồng ý và đưa ra vài câu hỏi theo dõi chung chung, không đủ thú vị để duy trì cuộc trò chuyện.

Buộc người dùng tư duy phản biện

    Ngược lại, Disagree Bot đã buộc người dùng phải tư duy phản biện về lập trường của mình. Phản hồi của nó yêu cầu người dùng xác định rõ các khái niệm đã sử dụng trong lập luận (như "tính trữ tình sâu sắc" hay yếu tố nào khiến album trở nên "hay nhất"), đồng thời xem xét cách áp dụng lập luận đó cho các chủ đề liên quan khác.

    Những công cụ AI mô phỏng trị liệu hoặc cần hỗ trợ tư duy phải có khả năng phản bác lại các khuôn mẫu suy nghĩ không lành mạnh hoặc nguy hiểm. Các mô hình AI hiện tại đang gặp khó khăn trong việc đó do xu hướng nịnh hót vốn có. Disagree Bot là một ví dụ tuyệt vời về cách thiết kế một công cụ AI hữu ích và hấp dẫn bằng cách kiềm chế xu hướng dễ đồng tình hoặc nịnh hót của AI. Công cụ này chứng minh giá trị của một đối tác trò chuyện đối lập trong việc thúc đẩy phân tích sâu hơn.