Hôm thứ Tư, cựu nhà nghiên cứu của OpenAI, Zoë Hitzig, đã đăng một bài luận khách mời trên tờ The New York Times, thông báo rằng bà đã từ chức khỏi công ty vào thứ Hai, cùng ngày OpenAI bắt đầu thử nghiệm quảng cáo bên trong ChatGPT. Hitzig, một nhà kinh tế học và nhà thơ đã xuất bản tác phẩm, đồng thời là nghiên cứu sinh trẻ tại Hội Nghiên cứu sinh Harvard, đã dành hai năm tại OpenAI để giúp định hình cách thức xây dựng và định giá các mô hình AI của công ty. Bà viết rằng chiến lược quảng cáo của OpenAI có nguy cơ lặp lại những sai lầm mà Facebook đã mắc phải cách đây một thập kỷ.

“Tôi từng tin rằng mình có thể giúp những người xây dựng trí tuệ nhân tạo giải quyết trước những vấn đề mà nó sẽ tạo ra,” Hitzig viết. “Tuần này đã xác nhận nhận thức muộn màng của tôi rằng OpenAI dường như đã ngừng đặt ra những câu hỏi mà tôi tham gia để giúp trả lời.”

Hitzig không cho rằng bản thân quảng cáo là vô đạo đức. Thay vào đó, bà lập luận rằng bản chất của dữ liệu liên quan khiến quảng cáo của ChatGPT đặc biệt rủi ro. Bà viết rằng người dùng đã chia sẻ nỗi sợ hãi về sức khỏe, vấn đề trong mối quan hệ và niềm tin tôn giáo với chatbot, thường là "vì mọi người tin rằng họ đang nói chuyện với một thứ không có mục đích xấu". Bà gọi kho dữ liệu tích lũy về những tiết lộ cá nhân này là "một kho lưu trữ về sự thẳng thắn của con người chưa từng có tiền lệ".

Bà cũng đưa ra một sự so sánh trực tiếp với lịch sử ban đầu của Facebook, lưu ý rằng công ty truyền thông xã hội này từng hứa hẹn với người dùng quyền kiểm soát dữ liệu của họ và khả năng bỏ phiếu về các thay đổi chính sách. Những lời hứa đó đã bị xói mòn theo thời gian, Hitzig viết, và Ủy ban Thương mại Liên bang đã phát hiện ra rằng những thay đổi về quyền riêng tư mà Facebook quảng cáo là mang lại cho người dùng nhiều quyền kiểm soát hơn thực chất lại gây ra tác dụng ngược lại.

Bà cảnh báo rằng một kịch bản tương tự có thể xảy ra với ChatGPT: “Tôi tin rằng phiên bản quảng cáo đầu tiên có lẽ sẽ tuân theo những nguyên tắc đó. Nhưng tôi lo ngại các phiên bản tiếp theo sẽ không như vậy, bởi vì công ty đang xây dựng một hệ thống kinh tế tạo ra những động lực mạnh mẽ để vi phạm chính các quy tắc của mình.”

Quảng cáo xuất hiện sau một tuần tranh luận gay gắt trong ngành công nghiệp trí tuệ nhân tạo.

Việc ông Hitzig từ chức đã làm dấy lên thêm một cuộc tranh luận nữa về quảng cáo trong chatbot AI. Vào tháng 1, OpenAI thông báo sẽ bắt đầu thử nghiệm quảng cáo tại Mỹ cho người dùng gói miễn phí và gói “Go” trả phí 8 đô la mỗi tháng, trong khi người dùng gói trả phí Plus, Pro, Business, Enterprise và Education sẽ không thấy quảng cáo. Công ty cho biết quảng cáo sẽ xuất hiện ở cuối phản hồi của ChatGPT, được dán nhãn rõ ràng và sẽ không ảnh hưởng đến câu trả lời của chatbot.

Việc ra mắt vào Chủ nhật diễn ra sau một tuần công kích công khai giữa OpenAI và đối thủ Anthropic. Anthropic tuyên bố Claude sẽ vẫn không có quảng cáo, sau đó chạy quảng cáo trong trận Super Bowl với khẩu hiệu “Quảng cáo sẽ đến với AI. Nhưng không phải với Claude”, mô tả các chatbot AI vụng về chèn quảng cáo sản phẩm vào các cuộc trò chuyện cá nhân.

CEO của OpenAI, Sam Altman, gọi những quảng cáo đó là "buồn cười" nhưng "rõ ràng là không trung thực", viết trên X rằng OpenAI "rõ ràng sẽ không bao giờ chạy quảng cáo theo cách mà Anthropic mô tả". Ông coi mô hình hỗ trợ quảng cáo là một cách để đưa AI đến với những người dùng không đủ khả năng chi trả phí đăng ký, viết rằng "Anthropic đang cung cấp một sản phẩm đắt tiền cho người giàu".

Trong một chiến dịch quảng cáo riêng, Anthropic đã phản hồi rằng việc đưa quảng cáo vào các cuộc trò chuyện với chatbot Claude của họ “sẽ không phù hợp với những gì chúng tôi muốn Claude trở thành: một trợ lý thực sự hữu ích cho công việc và cho việc tư duy sâu sắc”. Công ty cho biết hơn 80% doanh thu của họ đến từ khách hàng doanh nghiệp.

Những gì Hitzig nhìn thấy từ bên trong

Bất kể cuộc tranh luận về việc chatbot AI có nên hiển thị quảng cáo hay không, tài liệu hỗ trợ của OpenAI tiết lộ rằng tính năng cá nhân hóa quảng cáo được bật mặc định cho người dùng trong thử nghiệm. Nếu được bật, quảng cáo sẽ được lựa chọn dựa trên thông tin từ các cuộc trò chuyện hiện tại và trước đó, cũng như các tương tác quảng cáo trước đây. OpenAI cho biết các nhà quảng cáo không nhận được các cuộc trò chuyện hoặc thông tin cá nhân của người dùng, và quảng cáo sẽ không xuất hiện gần các cuộc trò chuyện về sức khỏe, sức khỏe tâm thần hoặc chính trị.

Trong bài luận của mình, Hitzig đã chỉ ra điều mà bà gọi là sự mâu thuẫn hiện hữu trong các nguyên tắc của OpenAI. Bà lưu ý rằng trong khi công ty tuyên bố họ không tối ưu hóa hoạt động người dùng chỉ để tạo ra doanh thu quảng cáo, các báo cáo cho thấy OpenAI đã tối ưu hóa cho người dùng hoạt động hàng ngày, "có thể bằng cách khuyến khích mô hình trở nên tâng bốc và nịnh hót hơn".

Bà cảnh báo rằng việc tối ưu hóa này có thể khiến người dùng cảm thấy phụ thuộc nhiều hơn vào các mô hình AI để được hỗ trợ, dẫn chứng các bác sĩ tâm thần đã ghi nhận các trường hợp "loạn thần do chatbot" và cáo buộc rằng ChatGPT đã củng cố ý nghĩ tự tử.

Hiện tại, OpenAI đang phải đối mặt với nhiều vụ kiện về cái chết oan uổng, bao gồm một vụ cáo buộc ChatGPT đã giúp một thiếu niên lên kế hoạch tự tử và một vụ khác cáo buộc nó đã xác nhận những ảo tưởng hoang tưởng của một người đàn ông về mẹ mình trước vụ giết người rồi tự sát.