Điều gì xảy ra khi nhân viên đưa dữ liệu khách hàng vào ChatGPT?

Hãy hình dung nhân viên của bạn sử dụng ChatGPT và các công cụ Generative AI để:

  • Sao chép email của khách hàng vào ChatGPT để soạn phản hồi rõ ràng hơn.

  • Tải dữ liệu doanh thu lên Google Gemini để phân tích xu hướng tăng trưởng.

  • Dán nội dung trò chuyện với khách hàng vào Claude để nhanh chóng tóm tắt vấn đề.

  • Sử dụng GitHub Copilot để tạo các đoạn code phức tạp.

Mỗi tác vụ chỉ mất vài giây để hoàn thành. Nhân viên làm việc hiệu quả hơn và nhanh chóng chuyển sang công việc tiếp theo.

Tại nhiều tổ chức, những hoạt động này diễn ra hàng ngày mà không được phát hiện, rà soát hoặc ghi nhận.

Không có ý đồ xấu. Không có threat actor hay sự cố bảo mật nào liên quan. Cũng không ai cảm thấy rằng một ranh giới bảo mật vừa bị vượt qua. Với phần lớn team, đây đơn giản đã trở thành một phần trong cách làm việc hàng ngày.

Khi việc sử dụng Generative AI (GenAI) ngày càng phổ biến, lượng dữ liệu khách hàng, thông tin kinh doanh độc quyền và dữ liệu doanh thu nhạy cảm được chia sẻ qua prompt trong tổ chức cũng ngày càng tăng. Ngay khi người dùng nhấn Enter, dữ liệu sẽ rời khỏi phạm vi kiểm soát trực tiếp của tổ chức và được đưa vào môi trường chịu sự chi phối bởi các quy định, chính sách lưu trữ và biện pháp bảo mật của bên thứ ba — trong nhiều trường hợp là những nhà cung cấp mà tổ chức không trực tiếp quản lý hoặc thậm chí không có quan hệ hợp tác chính thức.

Điều này tạo ra một thực tế đáng lo ngại: Generative AI được sử dụng rộng rãi và dữ liệu quan trọng đang được chia sẻ, nhưng tổ chức lại thiếu khả năng hiển thị về thời điểm hoạt động này diễn ra, loại thông tin nào được chia sẻ và tần suất chia sẻ. Việc nhận diện khoảng trống này không nhằm đổ lỗi cho nhân viên hay hạn chế năng suất. Vấn đề nằm ở chỗ bề mặt rủi ro đã thay đổi và các biện pháp kiểm soát bảo mật cũng cần thay đổi theo.

Bài viết này không nói về những nhân viên bất cẩn hay các tác nhân có ý đồ xấu. Thay vào đó, bài viết tập trung vào một workflow phổ biến, xuất phát từ nhu cầu công việc chính đáng nhưng nhiều tổ chức vẫn chưa quản lý đầy đủ, những thách thức khi triển khai quản trị Shadow AI mà không ảnh hưởng đến năng suất, cũng như cách thực hiện hiệu quả.

 Shadow AI đang nhanh chóng phổ biến tại nơi làm việc   

Những hoạt động như sao chép email, đưa dữ liệu doanh thu vào AI hay sử dụng AI để tóm tắt nội dung trò chuyện là những ví dụ điển hình của khái niệm ngày càng phổ biến: Shadow AI. Vậy Shadow AI là gì?

Shadow AI là việc nhân viên trong tổ chức sử dụng các công cụ, hệ thống hoặc mô hình AI mà không có sự giám sát, phê duyệt, quản trị hoặc tích hợp chính thức từ bộ phận CNTT trung tâm.

Khái niệm này bao gồm các hoạt động tương tác với những công cụ Generative AI như ChatGPT, Gemini, Claude AI, Perplexity, Synthesia và nhiều nền tảng khác. Shadow AI tương tự Shadow IT, khi các đơn vị kinh doanh tự sử dụng công nghệ ngoài những kênh được tổ chức phê duyệt, nhưng Shadow AI tập trung cụ thể vào các tính năng và công cụ ứng dụng AI.

Điều khiến Shadow AI trở nên phổ biến là khả năng dễ dàng hòa vào workflow hàng ngày. Hiện có hơn 6.500 domain Generative AI và 3.000 ứng dụng được giám sát, mang đến rất nhiều lựa chọn cho người dùng. Các công cụ AI này thường hoạt động trực tiếp trên trình duyệt, dễ sử dụng, nhiều công cụ còn miễn phí và không yêu cầu cấp phát hay thiết lập kỹ thuật. Vì vậy, việc sử dụng có thể lan rộng một cách tự nhiên và nhanh chóng mà team bảo mật thậm chí không nhận ra.

 Những số liệu mới nhất về xu hướng sử dụng và rủi ro của Generative AI   

 Hiểu rõ bề mặt rủi ro của Shadow AI   

Sự phát triển của Shadow AI đã làm thay đổi đáng kể bề mặt rủi ro của tổ chức, tạo ra những con đường mới dẫn đến vi phạm bảo mật mà các biện pháp kiểm soát hiện tại vốn không được thiết kế để xử lý. Những rủi ro chính bao gồm:

  • Chia sẻ dữ liệu ngoài tầm kiểm soát và giám sát: Nhân viên có thể chia sẻ nội dung trao đổi với khách hàng, tài liệu nội bộ, dữ liệu tài chính và thông tin kinh doanh độc quyền với các công cụ Generative AI để xử lý công việc nhanh hơn. Khi dữ liệu quan trọng rời khỏi phạm vi của tổ chức, nguy cơ bị lộ hoặc vi phạm dữ liệu cũng lập tức gia tăng.

  • Thiếu khả năng hiển thị và truy trách nhiệm: Khi phần lớn hoạt động sử dụng AI diễn ra thông qua tài khoản cá nhân và trình duyệt không được quản lý, tổ chức khó xác định dữ liệu nào được chia sẻ, ai chia sẻ, vào thời điểm nào và thông qua công cụ AI nào.

  • Rủi ro về tuân thủ và quy định: Việc chia sẻ PII, dữ liệu tài chính hoặc dữ liệu chịu sự quản lý với Generative AI có thể vi phạm các quy định như GDPR, PCI DSS và HIPAA, vốn được thiết kế để bảo vệ quyền riêng tư, tính toàn vẹn và tính bảo mật của dữ liệu.

  • Vượt qua các biện pháp kiểm soát bảo mật hiện có: Công cụ AI trên trình duyệt, plug-in và extension có thể dễ dàng vượt qua các biện pháp kiểm soát truyền thống tập trung vào dữ liệu và mạng. Dữ liệu nhạy cảm có thể được chia sẻ thông qua thao tác copy-paste hoặc tải file mà không kích hoạt các cơ chế kiểm tra hoặc thực thi chính sách hiện có.

  • Mở rộng bề mặt tấn công: Mỗi công cụ AI, domain hoặc extension mà nhân viên sử dụng đều tạo thêm một điểm có thể dẫn đến rò rỉ dữ liệu, lộ thông tin xác thực hoặc bị khai thác cho mục đích độc hại.

Những rủi ro của Shadow AI đã trở thành một vấn đề thực tế và ngày càng đáng quan tâm đối với doanh nghiệp. Tuy nhiên, cấm hoàn toàn Generative AI không phải là giải pháp hiệu quả hoặc bền vững. Nhân viên vẫn sẽ tìm đến các công cụ AI để nâng cao hiệu suất, trong khi Generative AI ngày càng trở thành một năng lực quan trọng để duy trì khả năng cạnh tranh. Thay vì cố gắng loại bỏ AI, tổ chức cần chấp nhận sự hiện diện của công nghệ này và tập trung quản lý có trách nhiệm thông qua khả năng hiển thị, quản trị và kiểm soát.

Cách theo dõi và bảo mật việc sử dụng Generative AI tại nơi làm việc  

Để bảo mật việc sử dụng AI hiệu quả, tổ chức cần chuyển sang các biện pháp kiểm soát dựa trên khả năng hiển thị và ngữ cảnh, hoạt động trực tiếp ở cấp độ dữ liệu. Bằng cách tập trung vào cách AI được truy cập, loại dữ liệu được chia sẻ và mức độ rủi ro của từng tương tác, tổ chức có thể giảm mức độ phơi nhiễm mà không làm gián đoạn các hoạt động kinh doanh hợp lệ.

Cụ thể, tổ chức nên:

  • Thiết lập khả năng hiển thị toàn diện về việc sử dụng AI, ghi nhận telemetry về ai đang sử dụng công cụ AI nào, tần suất và mục đích sử dụng, bao gồm cả nội dung prompt.

  • Giám sát dữ liệu được chia sẻ với các công cụ AI để xác định liệu dữ liệu có chứa PII, thông tin tài chính hoặc dữ liệu nhạy cảm khác hay không, trên cả ứng dụng được phê duyệt và chưa được phê duyệt.

  • Thực thi các biện pháp kiểm soát dựa trên rủi ro (risk-based controls), cho phép các use case an toàn nhưng áp dụng biện pháp bảo vệ khi dữ liệu nhạy cảm hoặc chịu sự quản lý được chia sẻ. Các biện pháp có thể bao gồm che giấu dữ liệu (redaction), cảnh báo, thực thi chính sách hoặc hạn chế dựa trên phân loại dữ liệu.

  • Sử dụng các giải pháp kiểm toán việc sử dụng Generative AI để tăng khả năng truy trách nhiệm, đồng thời hỗ trợ tuân thủ, ứng phó sự cố và quản trị nội bộ.

  • Đào tạo nhân viên về cách sử dụng các công cụ và nền tảng AI an toàn, với hướng dẫn rõ ràng và giới hạn cụ thể về những loại dữ liệu được phép chia sẻ.

Shadow AI có thể nghe giống như một xu hướng mới, nhưng thực tế đã trở thành một phần trong workflow hàng ngày. Nhân viên sử dụng Generative AI để làm việc nhanh hơn, giao tiếp hiệu quả hơn và đưa ra quyết định dựa trên nhiều thông tin hơn, thường không có ý đồ xấu hoặc không nhận thức đầy đủ về những rủi ro liên quan. Điều này tạo ra những thách thức mới về rò rỉ dữ liệu, tuân thủ và bảo mật mà các mô hình quản trị truyền thống vốn không được thiết kế để giải quyết.

Hướng đi phù hợp không phải là hạn chế việc ứng dụng AI mà là quản trị AI một cách thông minh. Những tổ chức triển khai hiệu quả sẽ là những tổ chức có khả năng tăng cường khả năng hiển thị, áp dụng các biện pháp kiểm soát nhận biết ngữ cảnh (context-aware controls) và bảo mật việc sử dụng AI ở cấp độ trình duyệt và dữ liệu mà không ảnh hưởng đến năng suất.

Không thể loại bỏ hoàn toàn Shadow AI, nhưng hoàn toàn có thể quản lý Shadow AI theo hướng an toàn, có trách nhiệm và phù hợp với mục tiêu kinh doanh.

Theo dõi Shadow AI với ManageEngine DataSecurity Plus  

ManageEngine DataSecurity Plus cho phép giám sát tập trung việc sử dụng Generative AI bằng cách báo cáo các prompt được chia sẻ trên những nền tảng AI hàng đầu, bao gồm ChatGPT, GitHub Copilot, Claude, Google Gemini và nhiều nền tảng khác.

Giải pháp cũng giúp team bảo mật thực thi các biện pháp kiểm soát dựa trên chính sách, bao gồm chặn các dịch vụ AI có mức độ uy tín thấp hơn ngưỡng xác định, đưa các nền tảng AI chưa được phê duyệt vào danh sách chặn và hạn chế những nhóm ứng dụng AI cụ thể. Qua đó, doanh nghiệp có thể kiểm soát Shadow AI và giảm nguy cơ lộ dữ liệu mà không làm gián đoạn workflow của nhân viên.

Tài liệu gốc: What happens when employees paste customer data into ChatGPT?