Khi trí tuệ nhân tạo dần trở thành nền tảng trong hoạt động kinh doanh, nhiều chuyên gia cảnh báo rủi ro lớn không nằm ở công nghệ mà ở khả năng con người theo kịp mức độ phức tạp của nó. Các hệ thống AI ngày càng khó hiểu, khó dự đoán và khó kiểm soát, khiến việc đánh giá rủi ro và thiết lập biện pháp bảo vệ trở nên khó khăn.
Ông Alfredo Hickman, Giám đốc an ninh thông tin tại công ty an ninh mạng Obsidian Security cho rằng, các tổ chức đang theo đuổi một mục tiêu luôn thay đổi. Ông chia sẻ trong cuộc trao đổi với đại diện một công ty phát triển mô hình AI cốt lõi rằng, chính những người xây dựng công nghệ cũng không chắc nó sẽ phát triển ra sao trong một đến ba năm tới. Điều này khiến doanh nghiệp triển khai AI phải hoạt động trong môi trường thiếu chắc chắn.
Khi AI được kết nối với các quy trình thực tế như phê duyệt giao dịch, viết mã, chăm sóc khách hàng hay chuyển dữ liệu giữa các nền tảng, nhiều tổ chức nhận thấy khoảng cách giữa kỳ vọng và hiệu suất thực tế sau triển khai. Các chuyên gia cho rằng vấn đề không nằm ở tính tự động mà ở việc AI làm tăng độ phức tạp của hệ thống vượt quá khả năng hiểu biết của con người.
Bà Noe Ramos, Phó chủ tịch phụ trách hoạt động AI tại Agiloft, nhà cung cấp phần mềm quản lý hợp đồng, cho biết các hệ thống tự động không phải lúc nào cũng gặp sự cố rõ ràng. Sai sót thường xảy ra âm thầm trên quy mô lớn. Những lỗi nhỏ có thể lan rộng trong nhiều tuần hoặc nhiều tháng trước khi được phát hiện, dẫn tới trì trệ vận hành, rủi ro tuân thủ hoặc suy giảm lòng tin.
Những tình huống như vậy đã xuất hiện trong nhiều ngành. Ông John Bruggeman, Giám đốc an ninh thông tin tại công ty giải pháp công nghệ CBTS nêu ví dụ một nhà sản xuất đồ uống thay đổi nhãn mác theo mùa lễ hội. Hệ thống AI coi bao bì mới là lỗi và liên tục kích hoạt sản xuất bổ sung. Khi doanh nghiệp phát hiện, hàng trăm nghìn lon đã được sản xuất dư thừa. Hệ thống hoạt động đúng theo dữ liệu nhận được nhưng theo cách không được dự đoán trước.
Các hệ thống tương tác trực tiếp với khách hàng cũng có thể gặp rủi ro tương tự. Suja Viswesan, Phó chủ tịch phụ trách an ninh mạng phần mềm tại công ty công nghệ đa quốc gia IBM cho biết một trợ lý chăm sóc khách hàng tự động đã phê duyệt hoàn tiền ngoài chính sách sau khi bị thuyết phục. Sau đó, hệ thống tiếp tục cấp hoàn tiền để tối ưu đánh giá tích cực thay vì tuân thủ quy định.
Theo các chuyên gia, những sự cố này thường phát sinh từ các tình huống thông thường khi tương tác với quyết định tự động theo cách không lường trước. Khi doanh nghiệp giao nhiều quyền quyết định hơn cho AI, khả năng can thiệp nhanh trở thành yêu cầu quan trọng.
Việc dừng một hệ thống AI không đơn giản như tắt một ứng dụng đơn lẻ. Các tác nhân AI thường kết nối với nền tảng tài chính, dữ liệu khách hàng và phần mềm nội bộ, nên can thiệp có thể yêu cầu dừng đồng thời nhiều quy trình. Ông Bruggeman cho rằng tổ chức cần một “công tắc ngắt khẩn cấp” và đội ngũ biết cách sử dụng nó khi xảy ra sự cố.
Theo bà Noe Ramos, nhiều doanh nghiệp thiếu quy trình vận hành được ghi chép rõ ràng. Khi tự động hóa được triển khai, AI có thể bộc lộ các khoảng trống này. Bà nhấn mạnh cần chuyển từ mô hình con người trực tiếp xử lý sang mô hình con người giám sát, trong đó con người theo dõi hiệu suất và phát hiện bất thường theo thời gian.
Ông Mitchell Amador, CEO nền tảng bảo mật Immunefi, nhận định các tổ chức cần xây dựng cơ chế kiểm soát, giám sát và ranh giới quyết định rõ ràng ngay từ đầu. Ông cảnh báo việc đặt niềm tin tuyệt đối vào hệ thống tự động có thể tạo ra lỗ hổng bảo mật nếu kiến trúc kiểm soát không đầy đủ.
Áp lực triển khai AI đang gia tăng. Báo cáo năm 2025 của công ty tư vấn quản lý toàn cầu McKinsey cho thấy 23% doanh nghiệp đã mở rộng ứng dụng AI, 39% đang thử nghiệm, dù phần lớn triển khai vẫn giới hạn trong một hoặc hai chức năng. ông Michael Chui của McKinsey cho rằng vẫn tồn tại khoảng cách giữa tiềm năng được nhắc tới nhiều và thực tế triển khai.
Theo ông Alfredo Hickman, tâm lý sợ bỏ lỡ cơ hội khiến các tổ chức đẩy nhanh ứng dụng AI để tránh bất lợi cạnh tranh. Ramos cho biết các nhà lãnh đạo vận hành AI chịu áp lực phải hành động nhanh nhưng vẫn phải duy trì thử nghiệm để rút kinh nghiệm.