Các lỗi trong quyết định bị rút của thẩm phán Mỹ có mùi AI

Một thẩm phán tòa quận Mỹ đã rút lại quyết định của mình trong một vụ kiện chứng khoán dược phẩm sau khi các luật sư phát hiện rằng ý kiến của ông trích dẫn các trích dẫn giả mạo và thông tin vụ án sai lệch — những lỗi giống với những gì các công cụ AI thường tạo ra.

Trong một lá thư gửi đến Thẩm phán New Jersey Julien Xavier Neals, luật sư Andrew Lichtman cho biết có một "chuỗi lỗi" trong quyết định của Neals về việc từ chối yêu cầu bác bỏ vụ kiện từ công ty dược phẩm CorMedix. Các lỗi trích dẫn này bao gồm nói sai kết quả của ba vụ án khác và "nhiều trường hợp" trích dẫn giả được gán sai cho các quyết định khác.

Theo Bloomberg Law, một thông báo mới được công bố trên hồ sơ tòa án vào thứ Tư cho biết "ý kiến và lệnh đó được nhập nhầm," và một "ý kiến và lệnh tiếp theo sẽ được ban hành." Mặc dù việc chỉnh sửa nhỏ — như ngữ pháp, chính tả, hay phong cách — là bình thường, nhưng các sửa đổi lớn như loại bỏ đoạn hoặc chỉnh sửa quyết định là hiếm gặp.

Hiện chưa có xác nhận AI đã được sử dụng trong vụ án này. Tuy nhiên, các lỗi trích dẫn mang dấu hiệu đặc trưng của các “ảo giác” AI mà các luật sư ngày càng gặp phải khi dùng các công cụ như ChatGPT cho nghiên cứu pháp lý. Ví dụ, các luật sư bảo vệ nhà sáng lập MyPillow, Mike Lindell, đã bị phạt hồi tháng này vì dùng trích dẫn tạo ra bởi AI, và Anthropic cũng đổ lỗi cho chatbot Claude của mình vì tạo ra một trích dẫn sai gây xấu hổ trong vụ kiện với các nhà xuất bản âm nhạc — chỉ là hai trong số nhiều ví dụ cho thấy LLM sẽ không thay thế hoàn toàn các luật sư thực thụ.