Shadow AI: 6 cách AI ngầm đẩy doanh nghiệp vào nguy cơ bảo mật

Đầu năm 2023, ChatGPT đã cán mốc 100 triệu người dùng, các nhân sự đã chủ động ứng dụng công cụ này vào quy trình làm việc mà không đợi sự phê duyệt từ tổ chức. Chỉ trong giai đoạn từ tháng 3/2023 đến tháng 3/2024, khối lượng dữ liệu doanh nghiệp được nhân viên đưa vào các công cụ AI đã tăng đột biến tới 485%.

Việc sử dụng AI thiếu kiểm soát sẽ dẫn đến những hệ lụy quản trị nghiêm trọng. Vào năm 2023, nhân sự tại một tập đoàn công nghệ lớn đã dùng ChatGPT để tóm tắt các cuộc họp nội bộ bảo mật và xử lý mã nguồn độc quyền, gây ra một vụ rò rỉ dữ liệu (data breach) nghiêm trọng. Doanh nghiệp này ngay lập tức phải ban hành lệnh cấm các công cụ AI tạo sinh trên toàn bộ thiết bị và mạng nội bộ, đồng thời tiến hành điều tra kỷ luật đối với các cá nhân liên quan.

Hiện tại, Shadow AI (AI ngầm) vẫn là mối đe dọa âm thầm bủa vây môi trường vận hành của doanh nghiệp. Nhiều lãnh đạo bảo mật hiện xếp việc lạm dụng AI không được cấp phép vào nhóm rủi ro quản trị cấp bách nhất.

Hãy cùng tìm hiểu những hệ lụy và cách thức Shadow AI gây ra rủi ro cho tổ chức. Dưới đây là phân tích chi tiết về 6 tác động tiêu cực mà Shadow AI có thể đã và đang gây tổn hại cho doanh nghiệp.

1. Các công cụ AI sử dụng lưu lượng web mã hóa, doanh nghiệp khó giám sát

Rủi ro lớn nhất của Shadow AI phát sinh khi nhân viên tải các dữ liệu bảo mật của tổ chức lên các ứng dụng AI không được cấp phép mà không hiểu cơ chế lưu trữ hay xử lý thông tin.

Một khi những thông tin cốt lõi như mô hình tài chính, hồ sơ khách hàng, tài liệu pháp lý hoặc mã nguồn bị tải lên, dòng dữ liệu này sẽ được lưu trữ và xử lý tại nhiều khu vực pháp lý khác nhau trên toàn cầu.

Do các tương tác này diễn ra trên nền tảng lưu lượng web mã hóa, hầu hết hệ thống kiểm soát của tổ chức chỉ ghi nhận được việc nhân viên truy cập các trang web AI, chứ không thể giám sát việc họ đã chia sẻ cụ thể những tài liệu hay thông tin gì.

Thực trạng này tạo ra nhiều tầng rủi ro phức tạp:

Rò rỉ dữ liệu (Data Leakage): Các hồ sơ khách hàng, tài liệu pháp lý, thiết kế sản phẩm và mô hình tài chính hiện có thể đang tồn tại trên các hệ thống nằm ngoài tầm kiểm soát của đội ngũ bảo mật và pháp lý.

Rủi ro hợp đồng: Nếu thông tin bảo mật của khách hàng, đối tác hoặc nhà cung cấp bị chia sẻ với một công cụ AI bên thứ ba, doanh nghiệp có nguy cơ vi phạm nghiêm trọng các thỏa thuận bảo mật (NDA) và các cam kết xử lý dữ liệu đã ký kết.

2. Vi phạm tuân thủ diễn ra ngay cả khi không có mục đích xấu

Phần lớn nhân viên sử dụng Shadow AI đều không có chủ đích xấu. Tuy nhiên, ý định chủ quan không thể thay thế cho trách nhiệm pháp lý.

Các lĩnh vực như y tế, tài chính và dịch vụ pháp lý vận hành trong khuôn khổ quy định nghiêm ngặt về dữ liệu như HIPAA, GDPR, SOX và PCI DSS. Các khung quản lý này kiểm soát chặt chẽ không chỉ cách thức lưu trữ mà cả nơi xử lý dữ liệu và quyền hạn tiếp cận thông tin.

Khi một bác sĩ nhập thông tin bệnh nhân vào một công cụ AI phổ thông, hoặc một cố vấn tài chính chạy mô hình dự báo qua một nền tảng chưa được phê duyệt, họ có thể đang kích hoạt các hành vi vi phạm tuân thủ (compliance) mà không hề hay biết.

Khác với các sự cố an ninh truyền thống, các vi phạm không chủ ý liên quan đến AI không tạo ra cảnh báo, không kích hoạt cờ báo bất thường và không có nhật ký sự cố (incident logs). Một nhân sự sao chép bản tóm tắt thông tin khách hàng bảo mật vào ChatGPT sẽ không làm kích hoạt tường lửa (firewall). Dấu hiệu đầu tiên cảnh báo lỗ hổng quản trị thường chỉ xuất hiện trong kết quả kiểm toán (audit) nhiều tháng sau đó, khi dữ liệu đã vĩnh viễn nằm ngoài tầm kiểm soát của tổ chức.

3. Shadow AI đe dọa trực tiếp đến việc quản trị tài sản trí tuệ

Khi một kỹ sư sao chép mã nguồn độc quyền vào một công cụ AI, nhân sự đó thường không cân nhắc đến nguy cơ làm lộ, rò rỉ tài sản trí tuệ của doanh nghiệp.

Các công cụ AI cá nhân liên tục sử dụng dữ liệu đầu vào (inputs) của người dùng để huấn luyện và cải thiện kết quả đầu ra (outputs). Dữ liệu được chia sẻ chắc chắn sẽ được xử lý và lưu trữ trên một máy chủ bên ngoài, đặt ra một dấu hỏi lớn về quyền sở hữu hợp pháp.

Nếu một kỹ sư dùng AI để tạo mã nguồn, ai sẽ là người sở hữu kết quả đầu ra đó? Điều gì xảy ra nếu nội dung tương tự xuất hiện trong câu trả lời cho những người dùng khác?

Các khung pháp lý xử lý mối quan hệ giữa AI và tài sản trí tuệ vẫn đang trong quá trình hoàn thiện, khiến việc làm lộ, rò rỉ tài sản trí tuệ trở nên khó định lượng và khó phòng vệ hơn.

4. Rủi ro từ bên thứ ba không được kiểm soát

Quy trình quản lý chủ động rủi ro bảo mật bên thứ ba đòi hỏi phải có các đánh giá an ninh nghiêm ngặt, ràng buộc nghĩa vụ hợp đồng và giám sát liên tục. Mỗi công cụ AI mà nhân viên tự ý sử dụng đồng nghĩa với việc phát sinh một mối quan hệ nhà cung cấp mới, nhưng bản chất của Shadow AI là các công cụ này chưa từng được kiểm duyệt.

Mỗi ứng dụng AI doanh nghiệp đều có cơ chế bảo mật, chính sách lưu trữ dữ liệu và lịch sử vi phạm riêng. Nếu một nhân viên đang sử dụng một công cụ AI bị tin tặc xâm nhập, hậu quả tiếp theo sẽ ra sao?

Dữ liệu của tổ chức được tải lên công cụ đó hoàn toàn có thể bị lộ trong vụ vi phạm. Thách thức lớn nhất là công cụ đó chưa từng được đăng ký trong danh mục nhà cung cấp, tổ chức thậm chí sẽ không biết có sự cố để tiến hành điều tra. Sự bùng nổ của các ứng dụng AI mới đang biến kịch bản ác mộng này thành một rủi ro hiện hữu.

5. Uy tín bị ảnh hưởng bởi các kết quả đầu ra không đáng tin cậy từ AI

Ngoài các khía cạnh về an ninh thông tin, Shadow AI còn đặt ra một bài toán thách thức về kiểm soát chất lượng. Nhân sự có thể đang lập các báo cáo chiến lược, soạn thảo phản hồi cho đối tác và sản xuất nội dung bằng AI không được cấp phép - các công cụ này thường đưa ra thông tin sai một cách rất chắc chắn.

Thực tế đã chứng minh các công cụ AI có xu hướng tạo ra những thông tin nghe rất hợp lý nhưng lại sai lệch hoàn toàn về mặt sự thật.

Hệ lụy có thể lan rộng từ việc doanh nghiệp phải đính chính thông tin, tổn hại uy tín thương hiệu cho đến đối mặt với trách nhiệm pháp lý, tùy thuộc vào loại thông tin, đối tượng tiếp nhận và bối cảnh sử dụng.

Rủi ro này đặc biệt nghiêm trọng trong các lĩnh vực có độ nhạy cảm cao: một bản tóm tắt pháp lý chứa các trích dẫn án lệ sai, một báo cáo tài chính với các số liệu bị thêu dệt, hay một hồ sơ tuân thủ diễn giải sai quy định pháp luật. Với Shadow AI, doanh nghiệp không có quy trình kiểm soát chính thức để phát hiện và xử lý kịp thời các lỗi do AI tạo ra.

6. Shadow AI làm suy giảm khả năng quản trị AI ở quy mô lớn

Shadow AI triệt tiêu năng lực kiểm soát việc ứng dụng AI trong doanh nghiệp. Khi nhân viên sử dụng một nền tảng AI không được cấp phép, doanh nghiệp sẽ mất quyền kiểm soát đối với dữ liệu và quy trình làm việc liên quan. Với việc ứng dụng AI một cách tự phát, tổ chức dần hình thành sự phụ thuộc vào các nền tảng nằm ngoài phạm vi quản trị.

Hơn nữa, do thiếu cái nhìn tổng thể về thực trạng sử dụng AI, các lãnh đạo không thể đưa ra quyết định chính xác về việc nên ưu tiên đầu tư vào nền tảng AI nào, quy trình nào đã sẵn sàng để tự động hóa hoặc đâu là những rủi ro cần được xử lý khẩn cấp. Nói cách khác, doanh nghiệp đang phải quản trị trong bóng tối.

Sự ra đời của các quy định pháp lý toàn cầu như Đạo luật AI của Liên minh Châu Âu (EU AI Act) cũng yêu cầu các tổ chức phải chứng minh và giải trình cách thức AI được ứng dụng trong hoạt động vận hành. Tuy nhiên, Shadow AI khiến việc chứng minh đó trở nên gần như bất khả thi.

Tiếp theo: Doanh nghiệp không thể dùng lệnh cấm AI để đảm bảo an toàn

Bài toán đặt ra cho doanh nghiệp không phải là có nên cho phép sử dụng AI hay không, mà là tổ chức sẽ thiết lập cơ chế quản trị AI như thế nào. Doanh nghiệp cần xem quản trị AI là một chức năng vận hành liên tục, thay vì chỉ là một chính sách được ban hành một lần.

Tốc độ ứng dụng AI đang vượt xa các chu kỳ quản trị truyền thống, khiến cách tiếp cận mang tính phản ứng (reactive) liên tục tạo ra các điểm mù bảo mật. Việc đào tạo nhận thức định kỳ cho nhân viên thường mang lại hiệu quả cao hơn các biện pháp cấm đoán đơn thuần.

Nhân sự đang sử dụng AI mỗi ngày ngay trên trình duyệt, hộp thư điện tử, công cụ tóm tắt cuộc họp và trình chỉnh sửa mã nguồn. Những tổ chức càng sớm chấp nhận thực tế này sẽ càng có lợi thế trong việc giảm thiểu rủi ro bảo mật. Xây dựng các lộ trình ứng dụng AI an toàn chính là cách hiệu quả nhất để loại bỏ Shadow AI.

Doanh nghiệp nên cho phép nhân viên sử dụng các công cụ AI quen thuộc trong công việc hằng ngày, đồng thời triển khai các chính sách và biện pháp kiểm soát tự động trên những nền tảng như Microsoft Copilot hoặc Google Gemini để đảm bảo việc tuân thủ diễn ra một cách tự nhiên. Bởi nếu các quy định quá phức tạp, nhân viên sẽ có xu hướng bỏ qua hoặc tìm cách lách quy trình. Khi đó, chính cơ chế quản lý lại trở thành nguồn phát sinh rủi ro cho doanh nghiệp.

Tài liệu gốc: 6 ways shadow AI is putting your organization at risk right now