Một con người, ba mươi agent. Đó là con số mà mọi bộ slide chiến lược ngân hàng giờ đều dẫn ra, và nó là thật. Nhưng nó phải được giành lấy, không phải mặc nhiên có — tỷ lệ đó là kết quả anh/chị giành được, không phải một thông số anh/chị chọn. Phần lớn ngân hàng làm ngược thứ tự. Họ nhân rộng đội agent trước, rồi chỉ phát hiện ra mô hình vận hành mình cần sau khi đội agent đã chạy ở chỗ không ai nhìn tới.
Bài này trình bày mô hình vận hành làm cho một tỷ lệ người-trên-agent cao trở nên an toàn: bốn trụ cột của The Agent Army Operating Model, năm lực định ra tầm giám sát an toàn, và Bài soát Tầm giám sát mà anh/chị chạy được ngay thứ Hai.
Khoảng cách đáng làm mọi giám đốc rủi ro lo lắng
Hãy bắt đầu bằng phép tính gây khó chịu. Trong ngành tài chính hiện đã có, theo một số ước tính, khoảng 96 danh tính máy cho mỗi nhân viên là người — các agent phần mềm đang giữ thông tin xác thực, gọi vào hệ thống, và di chuyển dữ liệu. Thế nhưng số lượng mà một con người thực sự giám sát được trong một luồng công việc thật thì gần mức một trên mười, hoặc một trên năm mươi là tối đa. Số danh tính đã vượt xa khả năng giám sát.
Khoảng cách đó có tên: agent ngầm — phần tự động hóa đang chạy ở chỗ không con người nào thực sự nhìn tới. Và đây không phải rủi ro của tương lai; đó là trạng thái hiện tại của phần lớn ngân hàng đã lao vào triển khai. Phần lớn ngân hàng thất bại ở đây không phải vì các agent yếu, mà vì họ nhân rộng đội agent trước khi dựng được mô hình vận hành để quản trị nó.
Câu chuyện cảnh báo đã có sẵn trong hồ sơ. Một công ty nổi tiếng tuyên bố một trợ lý AI duy nhất làm được phần việc của bảy trăm nhân viên dịch vụ khách hàng — một tỷ lệ bảy trăm trên một. Dòng tiêu đề thì ngoạn mục; phần theo sau thì không. Việc tối ưu thuần cho tỷ lệ cao nhất có thể, không còn chỗ cho ngoại lệ, đã tạo ra một dịch vụ máy móc và đầy ma sát, rồi con người phải được đưa trở lại để xử lý những ca khó, cần nhiều sự đồng cảm. Bài học rất chính xác: một tỷ lệ cao đặt ra một cách tùy tiện sẽ thất bại ngay khoảnh khắc khối lượng kiểm toán và ngoại lệ vượt quá mức mà con người gánh được. Quyền tự chủ mà không có mức giám sát tương xứng thì nhân rộng rủi ro nhanh hơn nhân rộng hiệu suất.
Vậy câu hỏi cho một lãnh đạo ngân hàng không phải "chúng ta triển khai được bao nhiêu agent". Nó là "tầm giám sát an toàn cho chính luồng công việc này là bao nhiêu, và chúng ta đã dựng được tổ chức đỡ nổi nó chưa".
Bốn trụ cột
The Agent Army Operating Model dựa trên bốn trụ cột.
Tầm giám sát
Tỷ lệ an toàn giữa số agent và mỗi con người — một núm điều chỉnh, không phải một con số cố định, do luồng công việc định ra. Một tác vụ hoàn nguyên được và phần lớn là chỉ-đọc, như soạn một tờ trình tín dụng hay tóm tắt một cuộc gọi, đỡ được một tầm giám sát rộng: một con người trên ba mươi, thậm chí năm mươi. Một tác vụ khó hoàn nguyên như định tuyến một giao dịch thanh toán xuyên biên giới làm tầm giám sát sụp về một trên ba. Tầm giám sát là thuộc tính của công việc, không phải một chỉ tiêu cho ngân sách.
Dịch chuyển vai trò con người
Khi agent làm phần thực thi, con người ngừng là người làm việc và trở thành người điều phối, người xử lý ngoại lệ, và người phán định chịu trách nhiệm. Các vai mới đang hình thành — kiến trúc sư luồng công việc, người kiểm chứng đầu ra, người chuyển dịch theo lĩnh vực nghiệp vụ, các quản lý vận hành giám sát đội agent. Một ngân hàng lớn đã vẽ lại các tuyến báo cáo của mình sao cho một con người có tên quản các agent số như thể chúng là nhân sự cấp dưới — một sơ đồ tổ chức có gắn trách nhiệm, được gán vào một lãnh đạo đã có sẵn theo đúng chế độ quản lý cấp cao đó.
Kiến trúc điều phối
Cách đội agent phối hợp với nhau. Một chuỗi tuần tự nối các agent theo trình tự; một mẫu hình song song tỏa một tác vụ ra nhiều agent rồi lấy kết quả theo đa số; một mẫu hình lưới chuyển việc giữa các agent theo chuyên môn; một mẫu hình có quản lý điều phối đặt một agent phụ trách các agent còn lại. Mỗi kiểu đều cần giới hạn dừng cứng — số vòng tối đa, phát hiện treo — bởi nếu không, agent sẽ lặp vô hạn và lỗi lan theo chuỗi ở tốc độ máy. Lớp điều phối chính là chỗ một đội agent hoặc gắn kết lại, hoặc tan chảy.
Mặt phẳng kiểm soát
Chính phần quản trị anh/chị đã biết — cổng, guardrail, sổ ghi, người chịu trách nhiệm có tên — nhân lên ở quy mô cả một đội agent. Các biện pháp kiểm soát cũ không đỡ được chuyện này: theo một số ước tính, khoảng 80% nhân sự đã dán dữ liệu ngân hàng vào các công cụ không được quản, nằm ngoài mọi lớp bảo vệ. Mặt phẳng kiểm soát trả lời bằng một bản ghi không sửa được, ở mức từng lần tương tác, cho mọi hành động của agent; bằng phê duyệt kép khi vượt các ngưỡng đã định; bằng một bộ ngắt mạch cắt một agent khỏi hệ thống khi nó vượt hạn mức của mình; và bằng việc mọi danh tính máy đều được gắn bằng mật mã với một con người chịu trách nhiệm. Việc giám sát mà không có một quyền dừng đội agent thật sự và có nguồn lực thì chỉ là diễn — đây là trụ cột bị xây thiếu nhất, và cũng là trụ cột mà các cơ quan quản lý quan tâm nhất.
Tầm kiểm soát không phải chỉ số. Tốc độ kiểm soát mới là.
Đây là cách đặt lại vấn đề mà phần lớn hội đồng bỏ qua. Con số trên dòng tiêu đề — tầm giám sát, tức một con người trông bao nhiêu agent — là chỉ số dễ bị hấp dẫn, và là chỉ số sai để đi quản. Thứ thực sự giữ cho một đội agent an toàn là tốc độ kiểm soát: một quyết định sai bị phát hiện, bị leo thang và bị dừng nhanh tới đâu. Một ngân hàng giám sát ở mức một con người trên năm mươi agent kèm một cầu dao tức thời và một sổ ghi tương tác trực tuyến thì an toàn hơn một ngân hàng chạy một trên năm kèm một báo cáo hằng tháng. Hãy quản tốc độ kiểm soát, và tầm giám sát an toàn sẽ tự nâng lên. Còn đuổi theo tầm giám sát mà không có nó, thì mỗi agent anh/chị thêm vào đều là rủi ro không được theo dõi.
Điều gì chặn tầm giám sát an toàn
Tầm giám sát là nơi phần lớn tiền và phần lớn rủi ro trú ngụ, nên rất đáng để biết chính xác điều gì định ra nó. Năm lực làm dịch chuyển cái núm này.
Khả năng hoàn nguyên nâng tầm giám sát lên: nếu đầu ra của một agent dễ hoàn lại — một bản nháp, một bản tóm tắt — thì một con người rà soát được nhiều bản một lượt theo lô. Khả năng khoanh vùng cũng nâng nó lên: một agent chỉ-đọc, chỉ làm việc tóm tắt, thì giám sát được với số lượng lớn, còn một agent có quyền ghi, tức một agent thực sự thực thi, thì phải được theo sát hơn nhiều.
Ba lực đẩy tầm giám sát xuống. Thứ nhất là gánh nặng kiểm toán và giải thích: khi một cơ quan quản lý có thể đòi đúng lý do đằng sau từng lần từ chối cấp tín dụng, một con người không thể giám sát năm mươi agent nếu việc xác minh mỗi quyết định mất một giờ rà soát pháp chứng. Thứ hai là tỷ lệ ngoại lệ: một tác vụ biến động cao và hay thất bại sẽ gây nghẽn ở đúng một con người phải xử lý từng lần thất bại. Và thứ ba là chi phí của lỗi: khi một sai sót kéo theo một khoản tiền phạt từ cơ quan quản lý hoặc một tổn thất vốn, tầm giám sát an toàn tụt về gần một trên một.
Đây là lý do đặt một tỷ lệ duy nhất cho cả ngân hàng là một sai lầm. Cùng một định chế có thể chạy một con người trên bốn mươi agent ở việc soạn nội dung marketing và một con người trên hai ở việc thực thi thanh toán — và cả hai đều có thể đúng. Khi một luồng công việc hoàn nguyên được, người lãnh đạo nên đẩy tầm giám sát rộng ra và thu lấy phần đòn bẩy. Khi các lỗi không hoàn nguyên được, người lãnh đạo nên giữ tầm giám sát thật chặt, bất kể buổi demo đã hứa gì. Cái núm này do công việc định ra — không do tham vọng, và không do nhà cung cấp.
Quy định đã bịt sẵn các đường thoát
Mọi cơ quan quản lý giờ đều nói cùng một điều: trách nhiệm pháp lý không bao giờ rời khỏi bảng cân đối của anh/chị. Ba mươi agent có thể hành động, nhưng chỉ một con người trả lời được cho chúng.
Tại Mỹ, hướng dẫn về rủi ro mô hình được sửa đổi đẩy các hệ tạo sinh và hệ dạng agent về phía ngân hàng để tự quản trị, đòi phải có giám sát liên tục, con người trong vòng lặp ở các quyết định trọng yếu, và một dấu vết kiểm toán không thể sửa. Cục Bảo vệ Tài chính Người tiêu dùng nói rất thẳng: không có miễn trừ đặc biệt nào cho trí tuệ nhân tạo — nếu một agent từ chối một khoản vay, anh/chị phải xuất được đúng lý do từ sổ ghi của nó. Tại Anh, chế độ Quản lý Cấp cao đặt một người có tên vào diện chịu trách nhiệm, và cơ quan quản lý đã chấm dứt việc lấy mẫu: rà soát 2% số lần tương tác là không thể biện hộ khi agent thất bại một cách hệ thống, nên kỳ vọng là dấu vết kiểm toán đầy đủ, truy xuất được, ở mức từng lần tương tác. AI Act của châu Âu biến việc con người giám sát thành một nghĩa vụ pháp lý, với tiền phạt lên tới một phần đáng kể doanh thu toàn cầu. Còn Việt Nam giờ yêu cầu báo cáo sự cố trong hai mươi bốn giờ và quyền của khách hàng được con người xem xét lại bất kỳ quyết định nào của AI.
Đọc bốn chế độ pháp lý này cùng nhau và chúng đang hội tụ về cùng một bộ kiểm soát tối thiểu: một danh tính riêng cho từng agent, các hành động có giới hạn, phê duyệt kép khi vượt ngưỡng, một dấu vết kiểm toán đầy đủ, và một cầu dao. Đó không phải một ràng buộc lên The Agent Army Operating Model — đó chính là bản đặc tả của nó. Sổ ghi riêng cho từng agent, người chịu trách nhiệm có tên, con người trong vòng lặp ở các quyết định trọng yếu: luật đang mô tả chính cái mặt phẳng kiểm soát. Ngân hàng dựng nó sớm không chỉ tránh được tiền phạt; nó giành được quyền triển khai nhanh hơn đối thủ vẫn còn đang tranh luận xem ai chịu trách nhiệm.
Bài soát Tầm giám sát
Vậy đây là kỷ luật để chạy ngay thứ Hai. Thứ nhất, xếp từng luồng công việc vào bậc tự chủ của nó và vào năm lực chặn tầm giám sát. Thứ hai, đặt tầm giám sát an toàn cho luồng công việc đó — một mục tiêu anh/chị giành được, không phải một mặc định anh/chị mặc nhiên coi là có. Thứ ba, chọn mẫu hình điều phối, với các giới hạn dừng cứng được dựng sẵn bên trong. Thứ tư, dựng mặt phẳng kiểm soát — một sổ ghi riêng cho từng agent, phê duyệt kép khi vượt ngưỡng, một bộ ngắt mạch kèm quyền dừng có nguồn lực thật, và mọi danh tính máy đều gắn với một người chủ có tên.
Làm được điều đó, và cái số nhân mà cả chuỗi bài này trỏ tới cuối cùng cũng tới. Đội agent cắt đứt mối liên hệ tuyến tính giữa doanh thu và số nhân sự, và ngân hàng chạy ở một tỷ lệ chi phí trên thu nhập thấp hơn về mặt cấu trúc — không phải vì nó triển khai nhiều agent nhất, mà vì giờ đây một con người giám sát an toàn được đúng số lượng.
Ngân hàng thắng trong ba năm tới sẽ không phải ngân hàng có đội agent lớn nhất. Đó sẽ là ngân hàng mà mô hình vận hành cho phép một con người tiếp tục chịu trách nhiệm về nó.
Ngừng đếm agent. Hãy bắt đầu thiết kế cái ngân hàng có thể giám sát được chúng.
Nguồn & lưu ý. Các ước tính ngành theo báo cáo, được giữ nguyên mức dè dặt như trong bài: ≈96 danh tính máy trên mỗi con người trong ngành tài chính (sự phình lan); một tầm giám sát an toàn ≈1:10–50 (mục tiêu anh/chị phải giành được); ~40% các dự án dạng agent, theo báo cáo, bị hủy trước năm 2027, phần lớn vì quản trị; câu chuyện cảnh báo 700:1 về một trợ lý AI duy nhất được tuyên bố là làm được phần việc của bảy trăm nhân viên dịch vụ khách hàng; và khoảng 80% nhân sự, theo báo cáo, đang dán dữ liệu ngân hàng vào các công cụ không được quản, nằm ngoài các lớp bảo vệ hiện có. Các dẫn chiếu pháp lý được nêu tên trong bài: hướng dẫn rủi ro mô hình sửa đổi SR 26-2 của Mỹ (các hệ tạo sinh/dạng agent được đẩy về phía ngân hàng để tự quản trị); CFPB — không có miễn trừ đặc biệt nào cho AI khỏi nghĩa vụ nêu lý do cho hành vi bất lợi; chế độ Quản lý Cấp cao của Anh / kỳ vọng của FCA về dấu vết kiểm toán đầy đủ ở mức từng lần tương tác (chấm dứt việc lấy mẫu 2%); Điều 14 EU AI Act đặt việc con người giám sát thành một nghĩa vụ pháp lý; Việt Nam — báo cáo sự cố trong hai mươi bốn giờ và quyền của khách hàng được con người xem xét lại bất kỳ quyết định nào của AI. Kỷ luật về dữ kiện: mọi con số đều là ước tính theo báo cáo và thay đổi tùy nguồn.