Một ý tưởng lớn
Trích dẫn chính xác đến từng đoạn. Mức phí nó trỏ tới đã hết hiệu lực từ năm trước. Không có kẻ tấn công nào — một tài liệu đã cũ và một chủ sở hữu không ai đứng tên là đủ, và một phép kiểm tra tính trung thực sẽ không bao giờ bắt được nó, bởi câu trả lời vẫn trung thực với đúng cái tài liệu sai đó.
Tuần trước, bản tin này hỏi một agent AI thực sự bị tấn công ở đâu bên trong một ngân hàng. Tuần này câu hỏi lùi về một lớp sớm hơn, trước khi bất kỳ agent nào hành động: câu trả lời mà trợ lý vừa đưa cho khách hàng của anh/chị có thực sự còn hiệu lực hôm nay, hay chỉ đúng với một tài liệu từng đúng? Một chú thích không nói cho anh/chị biết là cái nào. Số này nói về sự khác biệt đó, và về việc ai chịu trách nhiệm khi chú thích thì đúng mà câu trả lời vẫn sai.
Góc nhìn · Ba thuộc tính, chỉ một thuộc tính nhìn thấy được
Một phép kiểm tra tính trung thực không bắt được nguồn đã cũ, bởi câu trả lời vẫn trung thực với đúng cái tài liệu sai đó. Câu đó là toàn bộ luận điểm của tuần này, nên anh/chị hãy đọc lại hai lần.
Có căn cứ, có truy xuất nguồn, có dẫn chiếu bằng chứng — mọi trợ lý mà các đội của anh/chị được trình diễn đều đặt một số tham chiếu nhỏ bên cạnh câu văn và coi tham chiếu đó là sự bảo đảm. Nó chứng minh đúng một điều: đã có thứ gì đó thật được dẫn ra. Nó không nói gì về việc tài liệu đó có còn hiệu lực vào ngày khách hàng hỏi, và cũng không nói gì về việc câu văn có thực sự suy ra được từ đó. Hiện diện trích dẫn, căn cứ luận điểm và tính còn hiệu lực là ba thuộc tính tách biệt của một câu trả lời. Khi một buổi demo của nhà cung cấp đặt một đường dẫn bấm được bên cạnh mọi luận điểm, người lãnh đạo nên hỏi đường dẫn đó thực sự chứng minh được thuộc tính nào trong ba thuộc tính trên.
Mặc định của cả ngành là coi trích dẫn là toàn bộ bằng chứng. Đó đã là một bước tiến so với một trợ lý bịa ra nguồn của chính nó, nhưng nó chỉ trả lời câu hỏi hẹp nhất: đã có thứ gì đó thật được dẫn ra hay chưa.
Một benchmark năm 2024 của nhóm nghiên cứu do Magesh dẫn đầu tại Stanford đáng để anh/chị dừng lại ở đây, bởi đó là bằng chứng định lượng duy nhất về dạng lỗi mà số này chấp nhận, và nó là một phản ví dụ mang tính lịch sử chứ không phải tỷ lệ của ngành ngân hàng. Họ kiểm thử ba công cụ nghiên cứu pháp lý thương mại có truy xuất nguồn, mỗi công cụ 202 câu hỏi đăng ký trước, trong khoảng tháng 3 đến tháng 5 của năm đó. Câu trả lời hallucinated vẫn xuất hiện 34 lần trên 202 ở hai trong ba công cụ, và 66 lần trên 202 ở công cụ thứ ba. Để so sánh, một mô hình đa dụng được kiểm thử mà không có truy xuất thì hallucinated 87 lần trên 202 — bằng chứng cho thấy truy xuất có ích, đặt cạnh bằng chứng cho thấy chỉ truy xuất thôi không khép được khoảng cách.
Đó là các con số đếm trên tác vụ pháp lý năm 2024, trên những sản phẩm từ đó đến nay đã thay đổi. Hãy mang theo tên nghiên cứu, cỡ mẫu và các mốc thời gian cùng bất kỳ con số nào lấy từ benchmark này, hoặc bỏ con số đó ra ngoài. Nó không bao giờ thay thế được tỷ lệ của chính ngân hàng anh/chị, bởi không tồn tại một con số về mức độ có căn cứ của ngành ngân hàng đã được kiểm toán độc lập để đem ra so sánh — điều đó không đồng nghĩa với việc chưa ngân hàng nào công bố bất cứ thứ gì. Một ngân hàng đã báo cáo hiệu năng cao từ một pilot mà không công bố cỡ mẫu, thang đánh giá hay một cuộc rà soát độc lập; một ngân hàng khác mô tả mức độ sử dụng và việc chuyên gia rà soát. Một kết quả tự báo cáo không phải một cuộc kiểm toán, và mức độ sử dụng không phải độ chính xác.
Khung tư duy của tuần · The Grounded-Knowledge Architecture
Đây là phương án tác giả đề xuất để phân bổ biện pháp kiểm soát và chủ thể cho vấn đề này — không phải một chuẩn mực đã được kiểm chứng, không phải sáu sản phẩm để mua, và không phải bằng chứng rằng sáu lớp là cần thiết hay đủ với mọi ngân hàng. Một câu hỏi — dịch vụ này tồn tại để làm gì — nằm trên tất cả, và trách nhiệm giải trình bao quanh tất cả. Bên trong khung đó:
- G1 · bằng chứng có thẩm quyền — ai chịu trách nhiệm cho phiên bản đã phê duyệt nào, và nó có rời khỏi truy xuất hiện hành khi hết hiệu lực hay không
- G2 · truy xuất và đọc hiểu — đoạn đang có hiệu lực có được tìm ra hay không, với bảng và bản scan còn nguyên vẹn
- G3 · quy chiếu luận điểm — mọi câu trọng yếu có truy được về một đoạn văn cụ thể hay không, trong một bản ghi sẵn sàng cho kiểm toán chứ không phải một đường dẫn cho phải lệ
- G4 · phạm vi và khước từ — hệ thống có hỏi lại, khước từ, hay chuyển tiếp khi bằng chứng thiếu hoặc xung đột, với độ bao phủ được báo cáo bên cạnh tỷ lệ lỗi
- G5 · kiểm chứng — bằng chứng có làm căn cứ cho một câu trả lời đúng và còn hiệu lực hay không: ba phép kiểm tra, không phải một, và hãy đề phòng một bộ đánh giá mắc cùng lỗi với mô hình, bởi nhất quán không phải là đúng
- G6 · trách nhiệm giải trình — lớp bao ngoài, được gọi tên như một năng lực riêng, bởi một người chịu trách nhiệm phát hành có tên, các chủ sở hữu nguồn, một cam kết về độ mới và một người chịu trách nhiệm đính chính cho khách hàng là những thứ anh/chị hoặc có, hoặc không
Hai trong số những sự tách biệt đó đỡ lấy toàn bộ thiết kế. G3 và G5 phải tách riêng bởi truy vết ghi lại tham chiếu trong khi kiểm chứng phán định xem tham chiếu đó có làm căn cứ cho luận điểm hay không — một cái là bản ghi, cái kia là một phán định. Và G6 được xây trước chứ không phải sau cùng, bởi truy xuất tốt hay một dấu vết kiểm toán đầy đủ đều không phân định ai chịu trách nhiệm gọi lại cho khách hàng.
Tình huống ứng dụng · Câu trả lời về phí, và nó là giả định một cách có chủ ý
GIẢ ĐỊNH — không phải một sự cố đã được báo cáo ở một ngân hàng nào. Một khách hàng hỏi trợ lý hôm nay chuyển khoản thì chịu mức phí nào. Trợ lý trả lời, dẫn chính biểu phí đã được ngân hàng phê duyệt, và trỏ tới chính xác đoạn văn. Trích dẫn chính xác. Truy xuất hoạt động đúng. Tài liệu được đúng hội đồng phê duyệt. Và mức phí đó đã hết hiệu lực từ năm trước, bởi một biểu phí mới hơn đã thay thế nó và không ai loại biểu cũ ra khỏi truy xuất cho câu trả lời hiện hành.
Không phép kiểm tra tính trung thực nào bắt được điều này, bởi câu trả lời vẫn trung thực với đúng cái tài liệu sai đó. Cách sửa không phải một mô hình thông minh hơn; đó là một người đứng tên rút các phiên bản đã bị thay thế khỏi truy xuất hiện hành mà vẫn giữ chúng chạm tới được qua một truy vấn lịch sử tường minh, và một trợ lý biết chuyển tiếp thay vì phỏng đoán khi bản thay thế còn nhập nhằng.
Lưu ý rủi ro · Năm dạng lỗi, năm chủ thể — và lớp Việt Nam, nói cho đúng
Hãy cưỡng lại lối chẩn đoán một từ. Các đội công nghệ sẽ gọi đây là "hallucination" và với tay tới một biện pháp sửa duy nhất; từ đó che đi năm dạng lỗi khác biệt với năm chủ thể khác biệt, và không dạng nào trong số đó cần đến một kẻ tấn công. Một lần truy xuất bỏ sót thuộc về trưởng bộ phận kỹ thuật truy xuất. Sinh nội dung không căn cứ — đoạn văn đã ở đó nhưng luận điểm không suy ra được từ nó — thuộc về chủ sở hữu sản phẩm của trợ lý. Đúng nhưng đã cũ, chính ví dụ về phí của chúng ta, thuộc về chủ sở hữu nội dung chính sách hoặc sản phẩm. Đúng nhưng ngoài phạm vi thuộc về người chịu trách nhiệm về kết quả cho khách hàng. Một lần đọc sai bảng — sai dòng hoặc sai đơn vị trong một biểu phí dạng scan — thuộc về người chịu trách nhiệm khâu nạp tài liệu. Phần lớn ngân hàng không vượt được phép thử này, không phải vì một mô hình đã nói dối, mà vì một biểu phí đã cũ và một chủ sở hữu không ai đứng tên, tự chúng, đã là đủ.
Và hãy nói đúng về luật Việt Nam thay vì nói cho kịch tính. Luật AI 134/2025/QH15 có hiệu lực từ ngày 01/3/2026: minh bạch khi tương tác, trách nhiệm của nhà cung cấp về độ tin cậy và sự cố, và giám sát của con người với hệ thống rủi ro cao. Thời gian chuyển tiếp 18 tháng của luật chỉ áp dụng cho các hệ thống tài chính đã vận hành trước ngày đó — không có mốc chặn tháng 9/2027 áp cho mọi triển khai mới, và nói ngược lại là diễn giải sai một luật thật để một luận điểm yếu nghe có vẻ mạnh hơn. Một nghĩa vụ riêng với người tiêu dùng, có hiệu lực từ ngày 01/7/2024 theo Điều 21 Luật 19/2023/QH15, yêu cầu thông tin sản phẩm chính xác và đầy đủ, theo chính phần diễn giải do Ủy ban Cạnh tranh Quốc gia công bố — đó là một căn cứ liên quan, không phải một bảo đảm về độ chính xác bằng số, và chưa tồn tại tiền lệ xử lý nào với chatbot ngân hàng theo cả hai văn bản.
Còn về chuyện "không ai kiểm tra" khiến một người hành nghề phải trả giá thay vì khách hàng: tháng 6/2023, trong vụ Mata v. Avianca, một thẩm phán liên bang đã áp chế tài với hai luật sư và công ty của họ 5.000 USD, liên đới, vì đệ trình các dẫn chiếu bịa đặt — không phải vì dùng AI, mà vì không kiểm chứng nó.
Trước khi tin câu trả lời, hãy xác định nguồn nào đang có hiệu lực.
Một câu cho buổi rà soát kiến trúc sắp tới của anh/chị, và đừng để một đường dẫn bấm được kết thúc cuộc trao đổi: trong ba thứ — hiện diện trích dẫn, căn cứ luận điểm và tính còn hiệu lực — trợ lý của anh/chị thực sự đo được thứ nào?
Video mới nhất
Bản briefing của tuần này — Video 15: Five Failures Hide Behind One Word Hallucination — trình bày trọn vẹn kiến trúc trên màn hình trong 8 phút 20 giây, bao gồm ví dụ giả định về phí được chiếu trước và sau khi nguồn được sửa.
Xem: youtu.be/HUARQj_VWVU
Bản phân tích chuyên sâu đầy đủ — cách đặt lại vấn đề theo ba thuộc tính, cả năm dạng lỗi cùng chủ thể của chúng, sáu năng lực cùng rủi ro còn lại của từng năng lực, hai cách để xây, bảng thế triển khai, cùng toàn bộ nguồn và các giới hạn — nằm trong bài The Grounded-Knowledge Architecture: Vì sao một câu trả lời có trích dẫn vẫn có thể sai.
Playbook năm trang miễn phí trong thư viện Frameworks biến nó thành một phiếu làm việc cho chính hệ thống của anh/chị — bản đồ năng lực–chủ thể, bài chẩn đoán năm dạng lỗi và phép thử trước khi phát hành.
Hãy trả lời và cho tôi biết ai chịu trách nhiệm rút một tài liệu đã bị thay thế ở ngân hàng của anh/chị — không phải ai phê duyệt bản mới, mà ai loại bản cũ ra khỏi những gì trợ lý vẫn còn truy xuất được. Ở phần lớn ngân hàng, đó là hai người khác nhau và chỉ một trong hai đã được nêu tên. Tôi đọc mọi phản hồi. Hãy chuyển tiếp thư này cho một lãnh đạo ngân hàng đang chuẩn bị phê duyệt một trợ lý có căn cứ dựa trên một buổi demo.
Thư này được chuyển tiếp đến anh/chị? Đăng ký The AI Architect Letter — miễn phí, vào mỗi thứ Bảy.
Minh Tran · AI Business Architect · LinkedIn · Workshop & tư vấn: aibusinessarchitect.ai