代理在演示中看起來很神奇,但在生產中卻崩潰。 原因很簡單:他們無法記住,無法定位,也無法在工作流程漂移時適應。 人們正在用各種方法解決這個問題:草稿紙、樹日誌、附加的知識圖譜。大多數都是臨時拼湊的。但現在很明顯:記憶和上下文是護城河。 知識圖譜並不新鮮。它們始於九十年代末,2012年谷歌推出自己的品牌後進入主流,此後一直在搜索、廣告、電子商務和欺詐檢測中默默發揮作用。在大型科技公司之外,由於構建成本過高、保持更新困難、過於依賴專家,它們從未突破。 現在,情況發生了變化。語言模型可以提取實體、映射關係,並實時更新圖譜。突然之間,圖譜不再是學術負擔,而是更實用的基礎。 但圖譜並不能取代嵌入式搜索。它們是互補的。在生產中有效的是混合檢索: - 通過向量進行廣泛回憶:“給我展示類似的東西” - 通過圖譜進行精確推理:“給我展示這些事物是如何連接的” - 由代理融合,以提供廣度和深度 我們看到的實時情況: - 沒有持久記憶的代理在六週後就會崩潰。用戶不會每天早上重新訓練。 - 買家不關心聰明的提示。他們關心的是信任:在代理採取行動之前,評估、回滾、審計和執行權限的能力。 有效的做法:垂直混合。一個基於賬戶、政策和權限的金融代理。一個基於醫療編碼、藥物和合規規則的醫療代理。 記憶、上下文和信任不是功能。它們是基礎設施。
33.71K