Dạo này đi đâu cũng nghe “AI governance”. Hội thảo, khóa học, chứng chỉ, framework – cái gì cũng đổ về một chỗ: làm sao quản trị AI cho có trách nhiệm. Mình không phản đối ý tưởng đó chút nào. Nhưng mình khi nào mới thật sự cần triển khai AI governance.
AI governance không phải thứ mới toanh từ trên trời rơi xuống. Nó là phần nối dài của nền quản trị an toàn thông tin đã có từ lâu. ISO 27001 lo hệ thống quản lý an toàn thông tin, NIST CSF cung cấp ngôn ngữ chung về rủi ro, COBIT lo quản trị CNTT ở tầng doanh nghiệp. Ngay cả ISO 42001 – tiêu chuẩn quản lý AI đầu tiên trên thế giới, mới có gần đây – cũng được xây trên đúng cấu trúc của ISO 27001, nên một tổ chức đã có 27001 thì chỉ cần mở rộng thêm chứ không phải làm lại từ đầu. Nói cách khác, theo mình hiểu, bảo mật AI không phải một mảnh đất trống mới khai hoang; nó là một lớp phủ mỏng đặt lên nền móng đã được chứng minh. Và đây là chỗ mình bắt đầu thấy gợn: nếu phần lớn rủi ro AI hiện tại đã được cái nền cũ che phủ, thì lớp mới chồng lên đang giải quyết cái gì?
Nhưng khi nhìn AI đang thật sự chạy ở đâu trong doanh nghiệp. Và theo quan sát của mình, câu trả lời là: chủ yếu vẫn ở chế độ trợ lý, chứ chưa phải agent tự hành thực thụ. Đa số những gì đang được gắn mác “agent” thật ra vẫn là công cụ hỗ trợ con người, hoặc còn nằm ở giai đoạn thử nghiệm và những lời giới thiệu nhiều hơn. Mình không thấy nhiều thứ thật sự tự chạy, tự quyết, tự hành động ở quy mô vận hành – ngoại trừ một lĩnh vực mà mình sẽ nói sau.
Điều này dẫn tới điểm cốt lõi trong cách mình nghĩ. Một trợ lý AI luôn có một con người hành động và chịu trách nhiệm. Cái rủi ro lớn mà bộ máy governance hạng nặng được dựng lên để xử lý – “AI tự hành động mà không ai kiểm soát” – về cơ bản chưa tồn tại ở chế độ này, vì luôn có người đứng giữa kết quả và hành động thật. Những rủi ro còn lại của chế độ trợ lý thì phần lớn là rủi ro cũ: dữ liệu nhạy cảm bị đưa ra ngoài, công cụ dùng mà không qua kiểm duyệt, kết quả sai làm lệch quyết định. Mà mấy thứ đó vốn đã có sẵn công cụ trong một chương trình an toàn thông tin tử tế lo từ lâu rồi.
Vậy nên, với phần lớn doanh nghiệp ngay lúc này, mình cho rằng cái lớp governance mới chồng thêm – ủy ban AI riêng, chứng nhận riêng, khung rủi ro riêng, quy trình duyệt nhiều tầng cho từng trường hợp dùng – phần lớn đang chuẩn bị cho những agent tự hành chưa thật sự chạy. Đó là lúc chi phí kiểm soát vượt xa rủi ro thực tế. Và nó không hề miễn phí: quy trình rườm rà làm chậm sản phẩm, ngốn nhân sự, và dựng lên một bộ máy giấy tờ song song với bộ máy vốn đã có. Cảm giác “hơi quá tay” của mình đến từ đây.
Nói vậy không có nghĩa governance là vô dụng. Có đúng một chỗ mà AI đã thật sự lên đời từ trợ lý thành tác nhân, chạy ở quy mô thật và tạo ra giá trị đo được, đó là phát triển phần mềm. Lý do lĩnh vực này là ngoại lệ, theo mình, khá sâu sắc: code là thứ kiểm chứng được – có test, có công cụ để biết đúng sai gần như ngay lập tức – nên việc giao cho AI tự chạy mới đáng tin. Và trớ trêu thay, đúng cái nơi AI tự hành là thật cũng là nơi governance thật sự cần. Nhưng không phải kiểu ủy ban và chứng chỉ, mà là chốt chặn vận hành nhẹ và cụ thể: giới hạn quyền của công cụ, bắt buộc con người duyệt những hành động không thể đảo ngược, và giám sát ở tầng kỹ thuật. Đó là governance vận hành, không phải governance giấy tờ.
Mình cũng tự buộc phải phản biện, vì làm trong môi trường audit nên quen nhìn cả mặt yếu của lập luận. Có một chỗ mà ý “hơi quá tay” của mình không áp dụng được: ngành bị quản lý. Nếu AI chạm vào những quyết định như cấp tín dụng, chấm điểm rủi ro, hay xử lý dữ liệu khách hàng, thì dù nó chỉ đứng ở vai trò trợ lý gợi ý, nghĩa vụ tuân thủ vẫn áp. Khung pháp lý về AI ở nhiều nơi đã xếp những hoạt động này vào nhóm rủi ro cao với yêu cầu bắt buộc, không phụ thuộc vào việc AI tự hành tới đâu. Với ngân hàng, tài chính, y tế, mức kiểm soát tối thiểu là do luật định.
Gom lại, mình không nghĩ vấn đề nằm ở chỗ governance quá nhiều hay quá ít, mà là đang đặt sai chỗ. Phần lớn công sức đang đổ vào những nơi rủi ro thấp và đã có nền cũ che phủ, trong khi chỗ rủi ro thật lại hay được trao quyền quá rộng mà thiếu chốt chặn. Cách nghĩ mình thấy lành mạnh hơn là để governance co giãn theo hai trục: AI đó thật sự tự hành tới đâu, và lĩnh vực đó phơi nhiễm pháp lý tới đâu. Đặt đúng chỗ, governance là bạn đồng hành. Đặt sai chỗ, nó chỉ là chi phí và sự chậm trễ khoác lên mình chiếc áo trách nhiệm.