Shadow AI (AI Bóng Tối) Khiến Chuyên Gia IT Cực Kỳ Lo Lắng Về Rò rỉ Dữ liệu Nhạy Cảm
Một báo cáo mới dựa trên khảo sát 200 giám đốc và điều hành công nghệ thông tin (IT) tại các tổ chức doanh nghiệp lớn ở Mỹ cho thấy sự lo lắng ngày càng tăng trong giới chuyên gia IT về hiện tượng Shadow AI (AI bóng tối).
Shadow AI là việc nhân viên sử dụng các công cụ AI tạo sinh (Generative AI) như ChatGPT hoặc GitHub Copilot mà không có sự chấp thuận, giám sát hoặc kiểm soát của bộ phận IT.
1. Mức độ Lo lắng và Hậu quả Tiêu cực
Lo lắng Cực độ: Gần một nửa (46%) các chuyên gia IT được khảo sát cho biết họ "cực kỳ lo lắng" về Shadow AI, và gần như tất cả (90%) đều bày tỏ sự quan tâm về vấn đề này từ góc độ bảo mật và quyền riêng tư.
Hậu quả Thực tế: Gần 80% lãnh đạo IT cho biết tổ chức của họ đã trải qua các sự cố tiêu cực do Shadow AI gây ra, bao gồm:
Rò rỉ Dữ liệu Nhạy cảm vào các công cụ AI (44%).
Kết quả sai hoặc không chính xác từ các truy vấn (46%).
Rủi ro pháp lý khi sử dụng thông tin có bản quyền.
2. Shadow AI Nguy hiểm hơn Shadow IT
Các chuyên gia IT đồng ý rằng Shadow AI đặt ra vấn đề lớn hơn nhiều so với Shadow IT truyền thống (việc sử dụng phần mềm/dịch vụ đám mây không được phê duyệt).
Thiếu Đánh giá Bảo mật: Rủi ro lớn nhất là các ứng dụng AI không trải qua quy trình phân tích bảo mật nghiêm ngặt như các công cụ nội bộ đã được phê duyệt.
Mất Khả năng Kiểm soát: Khác với Shadow IT truyền thống, Shadow AI có thể chạy trên thiết bị di động của nhân viên, nằm ngoài phạm vi kiểm soát của tổ chức, tạo ra các rủi ro bảo mật và tuân thủ khó theo dõi và giảm thiểu hơn. AI tạo sinh có thể phân tích và trích xuất lượng thông tin lớn hơn nhiều từ dữ liệu, làm tăng mức độ nguy hiểm.
Quy mô và Tốc độ: Các công cụ AI đang phát triển và thay đổi theo cấp số nhân, khiến các bộ phận IT gặp khó khăn trong việc theo dõi rủi ro.
3. Giải pháp và Kế hoạch Ứng phó
Phần lớn các lãnh đạo IT (75%) đang có kế hoạch sử dụng các công nghệ quản lý dữ liệu để giải quyết rủi ro từ Shadow AI, và 74% dự định sử dụng các công cụ giám sát và khám phá AI.
Tuy nhiên, thách thức lớn nhất trong việc chuẩn bị dữ liệu phi cấu trúc cho AI là tìm kiếm và di chuyển đúng dữ liệu đến các vị trí phù hợp để AI thu nạp.
Báo cáo nhấn mạnh rằng việc cấm hoàn toàn AI là vô ích. Thay vào đó, các tổ chức cần phát triển một chiến lược quản trị dữ liệu AI phù hợp để cân bằng giữa năng suất tăng lên của nhân viên và nhu cầu bảo mật dữ liệu doanh nghiệp.