Kiểm soát tối thiểu
- Phân loại dữ liệu và danh mục công cụ được phép.
- Kiểm tra điều khoản xử lý, lưu trữ và sử dụng dữ liệu.
- Phân quyền theo vai trò và xác thực phù hợp.
- Ẩn hoặc loại bỏ dữ liệu không cần thiết.
- Ghi nhật ký, kiểm tra đầu ra và quy trình xử lý sự cố.
RAG và tác nhân AI cần lưu ý gì?
Kho kiến thức phải tôn trọng quyền của tài liệu gốc. Tác nhân chỉ được gọi công cụ và xem dữ liệu đúng vai trò. Khi có hành động ảnh hưởng khách hàng, tài chính hoặc dữ liệu, nên có phê duyệt của con người.
Vai trò của Data-Centric Security
Bảo mật lấy dữ liệu làm trung tâm bổ sung lớp kiểm soát trực tiếp lên tài liệu, giúp mã hóa, phân quyền, theo dõi và thu hồi quyền trong những môi trường được hỗ trợ.
Câu hỏi thường gặp
Có thể bảo đảm AI không bao giờ làm lộ dữ liệu không?
Không có kiểm soát đơn lẻ nào bảo đảm tuyệt đối. Cần kết hợp chính sách, kỹ thuật, đào tạo, giám sát và ứng phó sự cố.
AI ngầm trong doanh nghiệp là gì?
Đó là việc nhân viên tự dùng công cụ AI chưa được phê duyệt hoặc đưa dữ liệu công ty vào AI ngoài tầm kiểm soát của tổ chức.
Làm sao giảm việc sử dụng AI ngầm?
Không chỉ cấm. Doanh nghiệp nên cung cấp công cụ chính thức, chính sách rõ, đào tạo nhân viên và kiểm soát kỹ thuật phù hợp.
Có nên cấm hoàn toàn ChatGPT và AI công cộng không?
Không nhất thiết. Cách phù hợp hơn là phân loại dữ liệu và quy định rõ dữ liệu nào được phép hoặc không được phép đưa lên AI công cộng.
Nguồn tham khảo
Nguồn được dùng để kiểm tra khái niệm và nguyên tắc. Nhận định áp dụng cho doanh nghiệp Việt Nam do Go AI biên soạn.
