Trong ERP tài chính, một câu trả lời đúng nhưng không giải thích được vì sao đúng thì vẫn chưa thể dùng để ra quyết định. Oracle hiểu rõ điều này, và thiết kế một cơ chế minh bạch cụ thể.
Cơ chế minh bạch Oracle công bố
Trong phần FAQ về niềm tin với AI, Oracle nêu ba điểm thiết kế:
- NetSuite Next được thiết kế cho kiểm soát, khả năng kiểm toán và tuân thủ.
- Kết quả đầu ra có thể truy vết và liên kết ngược về dữ liệu nền để xem lại và kiểm chứng.
- Người dùng có thể dùng nút Show explanation để xem Ask Oracle đã tạo ra câu trả lời đó như thế nào.
Nút Show explanation giải quyết vấn đề gì?
Vấn đề lớn nhất khi AI trả lời số liệu tài chính là hộp đen: người dùng không biết con số đó từ đâu ra.
Show explanation giải quyết đúng điểm đó: nó cho biết cách Ask Oracle hình thành câu trả lời. Với kế toán trưởng hay kiểm toán nội bộ, đây là công cụ để:
- Xác minh nguồn dữ liệu mà câu trả lời dựa trên.
- Phát hiện sai sót khi câu hỏi bị hiểu sai phạm vi.
- Giải trình với ban lãnh đạo hoặc kiểm toán viên về cách một số liệu được tạo ra.
- Học cách hỏi tốt hơn dựa trên cách AI diễn giải câu hỏi.
Gắn với dữ liệu gốc — và giới hạn phân quyền
Hai cơ chế này — truy vết về dữ liệu nền và Show explanation — kết hợp với nguyên tắc phân quyền tạo ra một hệ thống kiểm soát ba lớp:
- Lớp 1 — Quyền: AI chỉ truy cập trong phạm vi role và quyền của người dùng.
- Lớp 2 — Truy vết: kết quả liên kết về dữ liệu nền để xem lại.
- Lớp 3 — Giải thích: Show explanation cho biết cách câu trả lời được tạo ra.
Với doanh nghiệp đang chịu yêu cầu kiểm toán hoặc báo cáo cho công ty mẹ nước ngoài, đây là bộ khung cần thiết để AI không trở thành rủi ro tuân thủ.
Ứng dụng thực tế tại doanh nghiệp Việt Nam
- Đưa Show explanation vào quy trình: quy định rằng số liệu do AI đề xuất phải được kiểm chứng trước khi đưa vào báo cáo chính thức.
- Đào tạo nhân viên biết cách kiểm tra: không chỉ dạy đặt câu hỏi, mà dạy đọc phần giải thích.
- Tận dụng làm công cụ học tập: xem AI diễn giải câu hỏi sai ở đâu để điều chỉnh cách hỏi.
- Ghi nhận vào hồ sơ kiểm soát nội bộ: bổ sung quy trình AI vào tài liệu kiểm soát hiện có.
Kết luận
Tính minh bạch là điều kiện để AI được chấp nhận trong môi trường tài chính. Với Show explanation và khả năng truy vết về dữ liệu nguồn, Oracle đưa ra cơ chế để người dùng kiểm chứng thay vì tin mù. Doanh nghiệp nên biến đây thành một bước bắt buộc trong quy trình, không phải tính năng tùy chọn.
