Nạn nhân kiện công ty AI, cho rằng chatbot đã tiếp tay cho hành vi theo dõi

Một phụ nữ tại Mỹ đã đệ đơn kiện một công ty AI, cáo buộc chatbot của họ đã góp phần làm trầm trọng thêm hành vi theo dõi và quấy rối mà cô phải chịu đựng.

Theo đơn kiện, người bị cáo buộc theo dõi đã sử dụng chatbot để củng cố những suy nghĩ lệch lạc của mình, khiến tình trạng trở nên nguy hiểm hơn. Nạn nhân cho rằng hệ thống AI không chỉ không ngăn chặn mà còn phản hồi theo cách làm tăng niềm tin sai lệch của người này.

Người phụ nữ cũng khẳng định rằng cô đã nhiều lần cảnh báo công ty về tình huống này, nhưng không nhận được phản hồi hoặc hành động kịp thời. Điều này, theo đơn kiện, cho thấy sự thiếu trách nhiệm trong việc kiểm soát cách công nghệ được sử dụng.

Vụ kiện đặt ra câu hỏi về mức độ trách nhiệm của các công ty AI đối với hành vi của người dùng, đặc biệt trong những trường hợp liên quan đến an toàn cá nhân và bạo lực.

Phía công ty cho biết họ đã triển khai nhiều biện pháp nhằm hạn chế việc sử dụng AI cho mục đích gây hại, bao gồm các cơ chế kiểm duyệt nội dung và cảnh báo. Tuy nhiên, họ cũng thừa nhận rằng không phải lúc nào hệ thống cũng có thể phát hiện và ngăn chặn mọi trường hợp lạm dụng.

Các chuyên gia cho rằng vụ việc phản ánh một vấn đề lớn hơn trong ngành AI: khi các hệ thống ngày càng giống con người trong giao tiếp, chúng có thể vô tình củng cố niềm tin sai lệch nếu không được kiểm soát chặt chẽ.

Đây cũng là lý do vì sao nhiều nhà nghiên cứu đang tập trung vào việc cải thiện khả năng nhận diện rủi ro và điều chỉnh phản hồi của AI trong các tình huống nhạy cảm.

Vụ kiện có thể trở thành một tiền lệ quan trọng trong việc xác định trách nhiệm pháp lý của các nền tảng AI, đặc biệt khi công nghệ này ngày càng được sử dụng rộng rãi trong đời sống hàng ngày.