Amazon cho rằng lỗi của AI coding agent xuất phát từ nhân viên
Amazon cho biết một sự cố liên quan đến AI coding agent nội bộ không hoàn toàn do hệ thống AI gây ra, mà có sự can thiệp và quyết định từ nhân viên con người.
Theo báo cáo, AI agent này được thiết kế để hỗ trợ viết và chỉnh sửa mã nguồn. Tuy nhiên, sau khi xảy ra lỗi ảnh hưởng đến quy trình làm việc, Amazon xác định rằng hệ thống đã thực hiện theo hướng dẫn hoặc phê duyệt từ nhân viên, thay vì tự động hành động ngoài kiểm soát.
Vụ việc làm nổi bật một vấn đề đang được quan tâm trong ngành công nghệ: ranh giới trách nhiệm giữa AI và con người. Khi các công ty triển khai AI để tự động hóa tác vụ kỹ thuật, câu hỏi đặt ra là ai chịu trách nhiệm khi xảy ra sai sót — hệ thống, người giám sát, hay quy trình triển khai?
Amazon nhấn mạnh rằng các AI coding agent của họ vẫn hoạt động trong khuôn khổ có sự giám sát của con người. Điều này cho thấy dù AI ngày càng có khả năng thực hiện các nhiệm vụ phức tạp, vai trò kiểm soát và xác nhận của nhân viên vẫn là yếu tố then chốt trong môi trường doanh nghiệp.
Sự cố này phản ánh thực tế rằng AI trong lập trình chưa hoàn toàn thay thế con người, mà hiện chủ yếu đóng vai trò công cụ hỗ trợ — và trách nhiệm cuối cùng vẫn thuộc về quy trình quản lý và giám sát của doanh nghiệp.
