(Nguồn ảnh: Getty Images)
Thị trưởng thành phố New York, Zohran Mamdani, đã tuyên bố kế hoạch đóng cửa một chatbot dành cho doanh nghiệp được ra mắt dưới thời thị trưởng Eric Adams, gọi đó là "không thể sử dụng được về mặt chức năng".
Tại một cuộc họp báo gần đây về khoản thâm hụt ngân sách 12 tỷ đô la của thành phố, Mamdani cho biết chatbot đang tiêu tốn của thành phố khoảng nửa triệu đô la trong khi lại đưa ra hướng dẫn không đáng tin cậy cho các chủ doanh nghiệp.
Con bot có tên MyCity Chatbot ban đầu được thiết kế để phục vụ như một công cụ tăng năng suất cho các chủ doanh nghiệp, giúp họ nắm bắt các quy tắc và quy định của thành phố.
Chatbot đã đưa ra những câu trả lời sai sự thật và bất hợp pháp.
Cuộc thử nghiệm do The Markup và The City thực hiện năm 2024 cho thấy công cụ này thường xuyên đưa ra lời khuyên không chính xác hoặc có khả năng vi phạm pháp luật.
Ví dụ, nó cho rằng chủ nhà có thể phân biệt đối xử với người thuê nhà theo chương trình Section 8 và đưa ra lời khuyên sai lầm cho các doanh nghiệp rằng việc từ chối nhận tiền mặt là chấp nhận được, bất chấp luật pháp thành phố.
Công cụ này cũng đưa ra những thông tin sai lệch về các quy định lao động, chẳng hạn như mức lương tối thiểu, và đề xuất những hành động có thể khiến chủ doanh nghiệp gặp rủi ro pháp lý.
Ông Mamdani đã viện dẫn những thất bại lặp đi lặp lại này là lý do chính cho quyết định chấm dứt hợp đồng lao động của mình.
Sau những báo cáo ban đầu, chính quyền Adams đã bảo vệ chatbot và hứa hẹn sẽ cải tiến trong tương lai.
“Chúng tôi đang xác định các vấn đề, chúng tôi sẽ khắc phục chúng, và chúng tôi sẽ có hệ thống chatbot tốt nhất trên thế giới,” Adams nói.
Tuy nhiên, sau đó thành phố đã bổ sung thêm các tuyên bố từ chối trách nhiệm, cảnh báo người dùng không nên dựa vào bot để được tư vấn pháp lý hoặc chuyên môn.
Chatbot này cũng hạn chế các loại câu hỏi mà nó có thể trả lời, điều này làm giảm tính hữu ích của nó như một công cụ hợp tác cho doanh nghiệp.
Được xây dựng bằng nền tảng lưu trữ đám mây của Microsoft , bot này là một phần của cuộc cải tổ kỹ thuật số MyCity nhằm mục đích đơn giản hóa việc tiếp cận các dịch vụ của thành phố.
Theo các nguồn tin, chi phí xây dựng phần móng gần 600.000 đô la, và chi phí bảo trì thường xuyên phát sinh thêm, mặc dù con số chính xác vẫn chưa rõ.
Bên cạnh những lo ngại về tài chính, hệ thống này còn phụ thuộc rất nhiều vào các nhà thầu bên ngoài và phần mềm văn phòng phức tạp , điều này góp phần gây ra sự thiếu hiệu quả và hạn chế khả năng sử dụng.
Bất chấp một số hạn chế và cập nhật, công cụ này được cho là vẫn tiếp tục đưa ra những hướng dẫn có hại hoặc không chính xác.
Quyết định của Mamdani nêu bật những rủi ro khi triển khai các hệ thống tự động như những công cụ phục vụ công chúng mà không có sự giám sát đầy đủ.
Thông qua Thành phố
