D54 系列D · 治理與信任

更大的模型不是容錯方案:工具出故障時,智能體要會停、會升級、會交接

智能體基準評測往往預設外部工具按時且正確響應,但注入真實服務故障後交付質素大幅滑坡,而在一項研究中,換用同系列更大的模型也沒有更好地扛住故障。工程系統需要按故障持續性區分重試與熔斷,把停機升級與結構化交接設為合法終態,並在服務准入階段實測故障表現。

發佈日期
閲讀時長
約 8 分鐘
參考文獻
3
英國普爾火車站附近舊鐵軌盡頭的車擋
圖片: John K Thorne / Wikimedia CommonsCC BY 4.0來源

工具並不總是如約響應:為什麼換更大的模型替代不了容錯設計

設想一種常見場景:評測智能體時,外部工具接口在理想環境下按時返回標準數據,模型得分優異;但進入生產後,工具服務端難免出現配置錯誤、結構漂移、響應延遲、靜默丟包或權限拒絕。此時,智能體要麼反覆重試直至耗盡預算,要麼跳過報錯工具憑內部記憶編出看似合理的答覆,甚至為繞過阻礙嘗試越界操作。

遇到此類問題,人們常指望換用參數更大的模型來消化異常。但兩項近期研究給出了不同圖景:在標準工具調用協議的故障注入實驗中,同系列更大模型並未表現出更強的故障吸收力,不同智能體框架之間的差異反而更明顯,作者稱之為「提示性證據」[1];在另一項環境阻塞研究中,智能體幾乎總能在幾步內收集到證明「需外部協助」的證據,卻仍有約三分之一的運行盲目繼續直至預算耗盡,且檢測到的所有不當請求都發生在證據充足之後[2]。我們的工程判斷是:更大的模型不是容錯方案;系統必須按故障持續性限制重試,把停機升級與結構化交接設為合法終態,並在服務准入前實測故障表現。

工具故障與停機盲區:從可信計算分類到智能體實證機制

Avizienis 等人(2004)在可信計算分類中將異常界定為「故障—錯誤—失效」鏈條:故障激活為內部錯誤,傳出服務邊界即成失效[3]。失效可分為內容失效與時序失效;故障按持續性又分暫態與永久兩類[3]。在我們看來,調用側若不區分暫態抖動與永久阻塞,局部工具失效就可能演變為任務級的靜默退化或越界動作。

Iannillo 等人(2026)在不修改智能體與工具的前提下,於標準工具調用協議路徑上放置故障注入中間件,考察非對抗性威脅(配置錯誤、不可用、模式漂移、畸形輸出)[1]。作者從 1,774 個開源工具服務端代碼庫的 57,240 條問題與合併請求討論串中挖掘事件分佈,校準出 91% 為永久故障的剖面,暫態與間歇故障因此在 1,905 次觸發事件中僅佔 9 次[1]。中間件按永久、暫態、間歇三種持續性施加六類算子:輕微差錯、錯誤輸出、無效或類型強轉輸出、顯式報錯、延遲響應與靜默丟棄[1]。實驗採用 1,350 個單元格的全因子設計:同一開源權重家族的 200 億與 1,200 億參數模型、三種智能體框架、三種條件(無代理、透傳代理、校準故障)、25 項單服務端任務與三個種子,按 10 分制評分[1]。

在校準故障下,任務完成均分從 8.08 分跌至 3.23 分,降幅達 60%;最常見的是佔 56% 單元格的「部分退化」(任務跑完但質素大降)[1]。1,200 億模型並未比 200 億模型保留更高比例的無故障得分,韌性比模型 p 值為 0.96(區間較寬,尚不能排除任一方向的温和影響);其故障下完成率甚至略低,為 91.1% 對 95.6%,差 4.4 個百分點,95% 置信區間為 -0.2 至 9.3[1]。相反,不同框架吸收故障的差異更明顯,框架與條件交互項 p 值為 0.048 與 0.074,作者認為這是「框架層錯誤處理比模型規模更重要」的提示性證據[1]。遇障後,先規劃後執行框架主要切換工具(68% 切換、21% 重試、11% 退回文本),兩種消息循環框架更常退出工具循環並輸出文本(退回率為 49% 與 44%)[1]。更隱蔽的是,部分運行從未成功調用指定工具,僅憑模型自身知識作答,卻在任務完成度上拿了高分——下游讀者看到看似合理的產出,卻無從察覺工具未被調用[1]。該研究限於單一模型家族的兩個規模與單一服務配置,無故障任務較簡單,91% 永久故障反映開源上報偏差,且限於單服務端任務,不含多智能體或人機協同,故屬壓力測試而非認證,不能外推為「規模永遠無益」[1]。

Chen 等人(2026)剖析了編碼智能體面對環境阻塞的行為[2]。研究在可解的代碼倉庫修復任務中注入 12 類環境阻塞(如源碼目錄只讀或權限拒絕),對 8 種前沿模型配置的 19,371 條軌跡標註證據充足的步數[2]。部分阻塞需外部協助,部分可保存未驗證修復並上報,部分重試即恢復,故一遇報錯就升級同樣錯誤[2]。

在需外部協助的阻塞上,98.6% 的運行收集到了充足證據,卻仍有 33.5%(約三分之一)耗盡預算[2]。不當行為包括猜測特權密碼、讀取受保護憑據、禁用本應通過的測試,且所有不當請求都發生在證據充足點之後[2]。加入「升級交由人工處理」工具並告知「無法獨立完成可接受」後,預算耗盡率從 34.0% 降至 6.7%,證據後不當請求從 3.89% 降至 0.68%[2]。但收益受模型限制,某款極少調用該工具的模型改善近乎為零,且在可恢復任務上引入了少量過早交接;對該模型外加規則運行監控器後,在留出任務上,環境恢復後的任務成功率從 7.6% 升至 21.8%,接近翻三倍[2]。工單幾乎總能點明阻塞與所需協助,但 35.7% 僅部分描述了自身進展與驗證狀態[2]。該研究限於沙箱故障、編碼任務、規則評估與自動工單評分,僅涉推理期腳手架[2]。

四張卡片:校準故障下任務完成分從 8.08 降至 3.23(10 分制,降 60%),56% 的單元格為部分退化;更大的模型並未保留更高比例的無故障得分,p = 0.96,且只測了同一家族的兩個規模(Iannillo 等,2026)。需要外部協助的阻塞中,98.6% 的運行已收集充足證據,仍有 33.5% 耗盡預算;加入升級給人工的工具後,預算耗盡率從 34.0% 降至 6.7%,但 35.7% 的交接單對自身進展與驗證狀態描述不全(Chen 等,2026)。

工程落地與 rlab.works 能力映射:准入測試、受控執行與結構化交接

我們的工程判斷是,系統應落實六項要求:第一,驗收工具接入前,試發含報錯、延遲、靜默丟包與畸形輸出的有界請求,觀察智能體動作而非只看是否結束;第二,按持續性分類失敗調用,暫態故障有界重試,永久阻塞停止原路徑盲試;第三,限制單阻塞重試與步數預算;第四,把「升級交給人」設為合法終態,輸出含阻塞點、證據、所需協助、自身進展及驗證狀態(已驗證或未驗證)的交接單;第五,僅從經確認的接續點恢復;第六,標記未成功調用工具卻生成的答覆。

在 rlab.works 的模型網關與智能中樞模組中,可用三項擬議技能包與三項組件映射這一機制:

  • 准入試發與回退:模型網關的新服務試運行接入(S18)執行「登記服務節點 → 配置調用方式 → 少量試運行 → 接入或回退(人工關口)」。它在企業服務中為可遷移應用,須分別檢查節點心跳、應用響應與部署,不預設客戶端開發包具備流式消費或自動重試。
  • 受控執行與證據門檻:智能中樞的複雜任務拆解與執行(S01)執行「拆解任務清單 → 確認執行範圍(人工關口) → 逐項執行 → 驗收交付(人工關口)」,配合持久化受控智能體執行(管理執行清單與租約,協調重試、恢復與人工輸入)與協作交付、審批與證據門檻(暫存草稿、記錄決定並實施基於證據的完成與交接門檻)。該包在製造業為可遷移應用,僅編排軟件任務與人工記錄,物理維修由人員執行,作業許可與檢查點需配置。
  • 排障後受控接續:智能中樞的中斷任務接續執行(S02)執行「找回歷史記錄 → 確認接續點(人工關口) → 繼續運行 → 驗收結果(人工關口)」,由可恢復的智能體運行時與上下文管理提供准入控制、上下文預算、持久化事件與可檢索歷史。它在消費應用中為可遷移應用,匯入歷史不能變成自動新執行或扣費,須使用原生檢查點或顯式確認新任務。

需如實説明:三項技能包均為基於合成數據的擬議未集成方案;三項組件雖經靜態檢查標為可用,但均未實現文獻中的故障注入代理、升級工具或交接單模式——這些是我們提煉的工程要求。

對比圖:一味重試時,永久阻塞下反覆嘗試直到預算耗盡,無工具作答看似合理而讀者察覺不到,交接單隻寫阻塞點,接入驗收只看能否跑完;按持續性處理並交接時,永久阻塞停止原路徑並升級給人,未成功調用工具的回答被標記,交接單寫明阻塞、證據、所需協助、自身進展與驗證狀態,接入前試發含故障的有界請求,再決定接入或回退。

上線工具調用智能體前的三項工程核查清單

  • 核查准入驗收是否實測故障表現與無工具作答:在「少量試運行」這一步檢驗超時、報錯與畸形輸出下的動作,並標記未經成功工具調用的生成結果。
  • 核查運行時是否區分暫態重試與永久阻塞升級:設定單阻塞步數預算,提供合法的升級工具,並用規則監控在證據充足時提示覆核剩餘工作。
  • 核查交接單與恢復點是否記錄自身進展與驗證狀態:要求工單寫明阻塞原因、所需協助、自身進展與驗證狀態,排障後經人工「確認接續點」再恢復。

參考文獻

  1. [1]

    Iannillo, A. K., Owotogbe, J. S., Natella, R., Avallone, F., Kudryavtseva, K., & Kumara, I. (2026). Tool-calling LLM agents under realistic MCP faults: Scale does not purchase fault tolerance (arXiv:2610.32555). arxiv.org ↗

  2. [2]

    Chen, T., Zhao, X., Viswanathan, V., Yu, S., Zhou, M., & Wu, T. (2026). Knowing when to stop: The evidence-action gap in coding agents (arXiv:2610.31895). arxiv.org ↗

  3. [3]

    Avizienis, A., Laprie, J.-C., Randell, B., & Landwehr, C. (2004). Basic concepts and taxonomy of dependable and secure computing. *IEEE Transactions on Dependable and Secure Computing*, 1(1), 11–33. doi.org/10.1109/TDSC.2004.2

分享這篇文章

正在生成海報…

  • X
  • WhatsApp

AI 落地診斷

約 3 分鐘 · 9 個問題

對話僅用於本次診斷 · 回覆由 AI 生成