Ở những bài trước (AI Governance có thật sự cần thiết ?), tôi đã lập luận rằng governance cho AI thường bị làm quá tay (overcontrol), và mức kiểm soát nên co giãn theo mức độ tự hành (autonomy) của hệ thống cùng mức độ pháp lý phù hợp (regulatory exposure) của lĩnh vực. Bài này đi theo một điểm nhìn khác để cụ thể hóa điều đó: thay vì hỏi cần thêm kiểm soát gì cho AI, hãy bắt đầu từ câu ngược lại — tổ chức đã có sẵn những gì, phần AI thật sự bỏ trống nằm ở đâu, và khi nào thì việc xây kiểm soát riêng cho AI trở nên xứng đáng. Cách tiếp cận này chống dư thừa ngay từ điểm xuất phát, thay vì cắt gọt sau khi đã trót đầu tư.
Bắt đầu bằng rà soát lại, nhưng là rà soát trung thực.
Phần lớn rủi ro thường được gắn nhãn “rủi ro AI” thực chất là rủi ro dữ liệu, rủi ro truy cập và rủi ro thay đổi ở dạng mới. Ba nhóm này đã được các bộ kiểm soát an toàn thông tin (information security controls) hiện có bao phủ ở mức khá đầy đủ: phân loại và xử lý dữ liệu (data classification & handling) quy định AI được đưa vào gì và để lộ ra gì; kiểm soát truy cập (access control) quy định AI chạm được vào đâu với quyền tới đâu; quản lý thay đổi (change management) quy định cấu hình và mô hình bị sửa lúc nào, bởi ai; nhật ký và lưu vết (logging & audit trail) ghi lại hành vi; ứng phó sự cố (incident response) xử lý khi có việc; và quản lý bên thứ ba (third-party risk management) áp cho nhà cung cấp mô hình. Do đó, bước đầu tiên không phải lập một danh sách kiểm soát AI mới, mà là ánh xạ (mapping) từng rủi ro AI vào control đang có.
Tuy nhiên, cần thực hiện bước này một cách trung thực, vì đây là chỗ dễ lạc quan quá mức. “Có một control trên nguyên tắc” không đồng nghĩa với “control đó thật sự nhìn thấy và quản được AI”. Nhiều công cụ kiểm soát thế hệ cũ về mặt cấu trúc gần như mù trước luồng hoạt động của AI: chúng không diễn giải được ý định trong hội thoại, không soi được luồng dữ liệu hai chiều giữa người dùng và mô hình, và không thấy hoạt động diễn ra bên trong các ứng dụng hay môi trường phát triển. Trên thực tế, nhiều tổ chức tuy có đủ chính sách trên giấy nhưng vẫn không áp được giới hạn mục đích (purpose limitation) lên một tác nhân AI (AI agent), không dừng nhanh được một tác nhân đang hành xử sai, hoặc không tạo ra được nhật ký đủ chất lượng làm bằng chứng (evidence-quality). Vì vậy, kết quả của bước kiểm kê không nên là “đã có, yên tâm”, mà là một trong ba trạng thái: đã bao phủ thật; có control nhưng chưa vươn tới được AI nên phải mở rộng năng lực; hoặc chưa có gì. Chỉ khi phân loại đúng ba trạng thái này thì mới biết phần đầu tư thật sự cần nằm ở đâu.
Những khoản trống nào đang mở ra?
Sau khi ánh xạ trung thực, phần còn lại mới là nơi đáng đầu tư riêng cho AI. Ranh giới hữu ích để nhận ra nó là: các kiểm soát cũ chủ yếu quản việc lưu trữ và truy cập dữ liệu, trong khi khoảng trống của AI nằm ở việc quản cách sử dụng (use) — suy luận (inference), sinh nội dung, và ra quyết định tự động. Cụ thể, phần trống thật gồm mấy nhóm.
Thứ nhất là hành vi của mô hình (model behavior): khả năng thiên lệch (bias), xu hướng trôi dạt dần theo thời gian (drift), và tính không cố định của đầu ra (non-determinism). Kiểm soát cũ giả định hệ thống vận hành theo quy tắc xác định (deterministic); một hệ thống tự thay đổi hành vi một cách âm thầm là loại rủi ro chưa từng được thiết kế để bắt.
Thứ hai là khả năng giải thích (explainability). Nhật ký (log) hiện có ghi lại “điều gì đã xảy ra” khá tốt, nhưng không ghi được “vì sao mô hình quyết định như vậy”. Với quyết định phải giải trình được (accountable), đây là một khoảng trống thực chất.
Thứ ba là bề mặt tấn công mới (attack surface). Nội dung đưa vào mô hình có thể chứa chỉ thị ẩn để chi phối nó (prompt injection), dữ liệu huấn luyện có thể bị tác động (data poisoning) — những đường tấn công mà mô hình phòng thủ cũ không nhắm tới.
Thứ tư là hành động tự hành (autonomous action). Toàn bộ nền kiểm soát cũ ngầm giả định luôn có một con người đứng sau mỗi hành động và chịu trách nhiệm cho nó. Khi một tác nhân tự hành động, giả định nền tảng đó không còn đúng, và đây là chỗ đòi hỏi cơ chế mới thay vì mở rộng cái cũ.
Quản lý AI nên đặt ở mức nào?
Từ hai phần trên, vị trí hợp lý của quản lý AI trở nên rõ: nó nên là một lớp phủ (overlay) gắn vào bộ máy quản trị hiện có, đứng ở cùng độ cao với chương trình quản lý an toàn thông tin — bởi rủi ro AI là rủi ro cấp doanh nghiệp — nhưng phạm vi chỉ mỏng bằng đúng phần còn trống. Nguyên tắc là mở rộng cấu trúc đang có, không dựng một bộ máy song song để rồi chồng lấn.
Dù vậy, cần nêu rõ điều kiện, vì “lồng ghép vào cấu trúc cũ” (embed) không đúng một cách phổ quát. Với danh mục AI (AI portfolio) nhỏ và ảnh hưởng bởi pháp lý thấp, việc lồng quản lý AI vào ủy ban rủi ro sẵn có là đủ và hợp lý. Nhưng khi danh mục lớn dần, hoặc khi mức độ ràng buộc pháp lý tăng lên, sự chú tâm chuyên biệt trở nên cần thiết, và cấu trúc lồng ghép ban đầu sẽ phải tiến hóa. Quan trọng hơn cả hình thức tổ chức là hai điều kiện đi kèm. Một, phải có một chủ thể sở hữu kết quả end-to-end (end-to-end ownership), chứ không phải tình trạng mỗi bộ phận nắm một mảnh — bảo mật giữ phần kỹ thuật, pháp chế giữ hợp đồng, tuân thủ giữ yêu cầu pháp lý, nhân sự giữ chính sách sử dụng — mà không ai chịu trách nhiệm cho toàn cục; sự phân mảnh đó là nguyên nhân điển hình khiến chính sách được viết ra nhưng không được thực thi. Hai, nhịp vận hành của lớp quản lý này phải nhanh hơn nhịp của ủy ban truyền thống, vì chu trình phê duyệt thiết kế cho công nghệ ổn định không theo kịp những hệ thống thay đổi liên tục. Thiếu hai điều kiện này, việc lồng ghép chỉ tạo ra governance trên giấy (paper governance).
Khi nào bắt đầu xây kiểm soát chi tiết cho AI?
Đây là câu hỏi quyết định phần lớn sự lãng phí, và câu trả lời có hai tầng cần phân biệt rõ.
Tầng thứ nhất là một mức sàn bắt buộc (mandatory baseline), phải có trước khi triển khai, không phụ thuộc vào bất kỳ tín hiệu nào. Bất cứ khi nào AI được phép tự hành động, hoặc đầu ra của nó nuôi một quyết định hệ trọng hay bị luật quản, thì một số kiểm soát phải hiện diện ngay từ đầu như điều kiện tiên quyết (prerequisite), không phải thứ bổ sung sau: khả năng tái dựng lại điều đã xảy ra (traceability) ở mức đủ làm bằng chứng; khả năng dừng hoặc cô lập hệ thống khi nó hành xử sai (kill switch / containment); giới hạn quyền và mục đích áp được trên thực tế; và với quyết định bị luật quản, là đánh giá trước khi triển khai (pre-deployment assessment). Cần nhấn mạnh rằng đây chính là những năng lực mà phần lớn tổ chức hiện đang thiếu, và cũng chính là những năng lực sẽ cần đến nhất vào đúng lúc sự cố xảy ra. Ở tầng này, xu hướng chung đã dịch từ kiểm soát mang tính xử lý-sau (reactive) sang kiểm soát cài sẵn theo thiết kế (governance by design); chờ đến khi có vấn đề mới dựng là quá muộn.
Tầng thứ hai, nằm trên mức sàn đó, mới là nơi áp dụng logic tăng dần theo tín hiệu (trigger-driven). Với những rủi ro không chạm ngưỡng bắt buộc, không cần dựng cả bộ máy một lượt; chỉ cần theo dõi các dấu hiệu và xây đúng phần được kích hoạt. Khi AI chuyển từ vai trò trợ lý có người duyệt (human-in-the-loop) sang tự hành, bổ sung cơ chế cho hành động tự hành. Khi đầu ra bắt đầu nuôi một quyết định cần giải trình, bổ sung khả năng giải thích và kiểm thử thiên lệch (bias testing). Khi mô hình có thể tự đổi hành vi theo thời gian mà quản lý thay đổi thông thường không bắt được, bổ sung giám sát trôi dạt (drift monitoring). Khi nội dung không tin cậy bắt đầu chạm được tới mô hình, bổ sung phòng thủ ở ranh giới đầu vào (input boundary defense). Mỗi dấu hiệu gắn với một hành động cụ thể, nên tổ chức không phải trả lời câu “bao giờ làm governance AI” một cách chung chung rồi hoảng lên làm tất cả.
Sự phân biệt hai tầng này là điểm mấu chốt: mức sàn thì làm trước theo thiết kế, phần chi tiết còn lại thì làm dần theo tín hiệu. Nhầm lẫn hai tầng dẫn tới một trong hai sai lầm — hoặc chờ tín hiệu ở nơi lẽ ra phải làm trước, hoặc dựng sẵn mọi thứ ở nơi lẽ ra chỉ cần chờ.
Tổng kết lại thì
Cách nhìn này dẫn tới một kết luận quen thuộc với người làm kiểm soát: độ trưởng thành (maturity) của quản lý AI là hệ quả của độ trưởng thành trong quản trị an toàn thông tin và dữ liệu, không phải một năng lực mua rời được. Một tổ chức có nền kiểm soát dữ liệu và truy cập vững thì đã đi được phần lớn quãng đường mà đôi khi không nhận ra; việc còn lại là mở rộng năng lực để thật sự vươn tới AI, vá đúng phần còn trống, và làm điều đó đúng thời điểm — với một mức sàn cài sẵn cho phần rủi ro cao, và phần chi tiết bồi đắp dần cho phần còn lại.
Ngược lại, một tổ chức có nền còn lỏng lẻo mà vội dựng một bộ governance AI riêng thì thực chất đang đặt một lớp mới lên trên một nền chưa vững — hình thức thì đầy đủ, nhưng rủi ro vẫn rò ở bên dưới. Nếu buộc phải chọn một việc làm trước, lựa chọn hợp lý không phải là soạn thêm chính sách AI, mà là củng cố nền kiểm soát đã có và bảo đảm nó thật sự nhìn thấy được hoạt động của AI. Quản lý AI đúng nghĩa bắt đầu từ đó.