Ứng dụng mạng xã hội Sora của OpenAI cơn sốt deepfake AI đáng lo ngại

Mô hình video Sora 2 mới đang đẩy nội dung "AI slop" lên một cấp độ đáng sợ hơn: Deepfake, có sẵn miễn phí cho bất kỳ ai sử dụng ứng dụng.

    Điều duy nhất tôi có thể nghĩ đến khi sử dụng Sora, ứng dụng mạng xã hội AI mới của OpenAI, là tôi đã nhớ những ngày tháng của Vine biết bao. Đó là những ngày xưa tươi đẹp, khi những xu hướng ngớ ngẩn trên mạng internet còn hài hước, và ít nhất, được tạo ra bởi những con người thật để những người thật khác thưởng thức. Khi lướt qua các video AI trên Sora, tôi không khỏi tiếc nuối rằng những ngày đó đã xa rồi và có lẽ sẽ không bao giờ trở lại.

    Được đặt tên theo trình tạo video AI của mình, ứng dụng mới của OpenAI được xây dựng tùy chỉnh để tạo và chia sẻ các video do AI tạo ra bằng cách sử dụng mô hình Sora 2 được nâng cấp. Đây là một sự khác biệt lớn đối với công ty AI này, và nó đặt ra một câu hỏi thú vị cho người dùng AI: Bạn có muốn sử dụng một ứng dụng giống TikTok mà chỉ chứa đầy video do AI tạo ra hay không?

    Tôi đã có mã mời dùng Sora (cách duy nhất để truy cập ứng dụng) và tôi ngạc nhiên khi thấy nó thực sự mang lại cảm giác của một ứng dụng mạng xã hội. Bảng tin Dành cho bạn (For You) chính là một chuỗi cuộn vô tận, được thuật toán sắp xếp các video. Bạn có thể thích, bình luận và chia sẻ video của người khác, cùng với việc tự tạo video của riêng mình. Bạn có thể lọc giữa các nguồn cấp dữ liệu bạn bè và người theo dõi, và với một sự thay đổi độc đáo, lọc video theo tâm trạng của bạn. Nhưng đằng sau giao diện người dùng quen thuộc đó là sự kỳ lạ sâu sắc hơn nhiều của AI.

    Cameos, tính năng độc đáo và phổ biến nhất của Sora, cho phép bạn tạo video bằng cách sử dụng hình ảnh của một người và đặt họ vào bất kỳ loại bối cảnh nào. Mỗi người dùng Sora có thể tải lên Cameo của mình khi tạo tài khoản và chọn có cho phép người khác sử dụng hình ảnh của họ trong các video AI hay không.

    Không thể phủ nhận Giám đốc điều hành OpenAI, Sam Altman, là một trong những người được tạo Cameo nhiều nhất trên Sora chỉ trong thời gian ngắn ứng dụng ra mắt. Tôi không thể quyết định được liệu đây là một chiến lược tiếp thị thông minh hay là quyết định quản lý ngớ ngẩn nhất từng được đưa ra khi cho phép công chúng tạo video deepfake AI về chính Altman. Chỉ trong vòng 5 phút cuộn qua bảng tin Dành cho bạn, tôi đã thấy những video...

    Đây không hoàn toàn là bữa tiệc "AI slop" mà tôi đã hình dung. "AI slop" thường dùng để chỉ nội dung do AI tạo ra có chất lượng thấp. Chắc chắn bạn đã từng bắt gặp nó trên mạng. Mô hình Sora 2 tạo ra các video chất lượng cao hơn, thực tế hơn so với "AI slop" mà tôi thường thấy, nhưng cốt lõi của "AI slop"—sự vô dụng liên tục và cảm giác AI khó tả—vẫn hiện diện trong suốt trải nghiệm của tôi khi sử dụng Sora.

    Tôi là một người dùng mạng khá có ý thức, nhưng tôi thấy mình nhanh chóng bị cuốn vào cái hố của cơn sốt ảo giác Sora. Tôi lướt bảng tin trong giờ nghỉ giữa các cuộc họp và bị mắc kẹt trong một không gian "mòn não" quen thuộc: hoàn toàn không còn tư duy phản biện, giải trí một chút nhưng cũng thấy ghê tởm. Nó không khác nhiều so với cảm giác của tôi khi lướt TikTok, mặc dù có ít video được thuật toán điều chỉnh theo sở thích của tôi hơn.

    Tôi thậm chí còn cảm thấy thất vọng vì Sora không có các công cụ chỉnh sửa video tốt hơn khi tôi tạo Cameos. Tôi muốn cắt video, thêm phụ đề và viết mô tả bài đăng tùy chỉnh, nhưng không có tính năng nào trong số đó có sẵn. Nếu muốn chỉnh sửa video, bạn phải tạo lại, đó là một quá trình dài và bực bội. Chính trong lần thứ ba cố gắng tạo một Cameo của Altman tranh luận về việc liệu một chiếc xúc xích có phải là một chiếc bánh sandwich hay không, tôi đã phải tự mình tỉnh táo lại.

    Đây là cái bẫy với Sora, và rộng hơn là với AI trong mạng xã hội: Bạn bị cuốn vào và không nhận được phần thưởng nào. Điều bạn gần như chắc chắn làm là góp phần làm tăng mức sử dụng năng lượng và lấp đầy internet bằng nhiều nội dung vô dụng có thể dễ dàng bị hiểu sai là một sự kiện hoặc tuyên bố có thật trong đời. Khả năng "deepfake" bất kỳ ai cho phép sử dụng hình ảnh của họ thông qua Cameo của Sora đang ở một cấp độ hoàn toàn mới. Ví dụ, bạn không thể sử dụng Meta AI hoặc Adobe Firefly để làm video về các CEO của họ nói gần như bất cứ điều gì.

    Khi tham gia, bạn có tùy chọn không cho phép mọi người truy cập vào hình ảnh của mình. Đây là điều tôi đã làm. Nhưng rõ ràng đó không phải là mục đích của Sora; bạn được cho là muốn tạo video về chính mình và những người khác theo những cách kỳ lạ, hỗn loạn. OpenAI nói rằng mục đích của ứng dụng Sora là tăng cường kết nối giữa con người. Tôi không thể nói rằng tôi cảm thấy gần gũi hơn với đồng loại của mình sau khi sự tò mò ban đầu của tôi qua đi.

    Các video Sora có chứa một hình mờ rõ ràng khi bạn tải xuống, cùng với các thẻ siêu dữ liệu (metadata) từ chối nguồn gốc AI của chúng. Nhưng trong một thế giới bị phân mảnh với niềm tin ngày càng suy giảm, deepfake AI của Sora quá dễ tạo ra và quá dễ bị lạm dụng.

    Ứng dụng Sora làm nổi bật sự gây tranh cãi của các công cụ tạo nội dung AI như trình tạo hình ảnh và video giữa các nhà sáng tạo. Nhưng ngay cả trong những nỗi sợ đó, nhiều chương trình AI cuối cùng vẫn có thể thực hiện lời hứa của chúng là tạo ra nội dung tùy chỉnh hoặc tăng tốc quy trình sáng tạo. Nói cách khác, có một mục đích và lợi ích tiềm năng khi sử dụng chúng. Tôi không thể nói liệu kết quả tiềm năng đó của việc sử dụng Sora có đáng để đánh đổi bằng việc làm ngập lụt internet với mọi thứ, từ nội dung vô bổ vô hại đến deepfake có khả năng độc hại hay không.

    Thay vào đó, Sora mang lại cảm giác giống như một cơn sốt ảo giác do AI gây ra, được thúc đẩy bởi bản năng "doomscrolling" tồi tệ nhất của chúng ta. Nó chính xác là những gì một ứng dụng mạng xã hội AI trong năm 2025 sẽ trở thành.