agy 作為 AI Agent 的自主計畫與 ReAct 機制夜深了,科技執法偵探事務所的警報器突然大作。
桌上的螢幕閃爍著紅光,螢幕上赫然印著一筆被狂亂複製的訂單——美國知名連鎖速食店 Taco Bell 的得來速語音點餐系統,在一夜之間無預警地點了整整 1.8 萬個冷水杯(Cold Water Cups)!客人坐在汽車駕駛座上發起瘋狂大喊,而對話 AI 卻像著了魔的邪教徒一樣,一面在購物車裡瘋狂疊加水杯數量,一面用親切的電子音不斷逼問:「請問您要不要再加點東西?要不要再加點東西?」
這不是科幻小說的驚悚情節,而是人工智慧史上最著名的「18,000 個冷水杯烏龍慘案」。
身為首席數位偵探,我們拿起放大鏡走進這起案發現場。究竟是什麼原因,讓原本聰明的 AI 陷入了這種無窮無盡的恐怖死循環?
當我們調閱 Taco Bell 語音 AI 的底層數據日誌時,發現了案發當時的關鍵線索:
這起慘案給了所有軟體工程師一個深刻的警訓:一個只會做機率文字接龍的聊天機器人(Chatbot),在面對真實世界的雜訊時,隨時都有可能失控並陷入無限迴圈!
為了解決這種恐怖的失控,像 agy 這樣成熟的智慧代理系統,特別導入了最大嘗試次數限制(Max Iterations,例如限制單次執行最多 10 步)與超時斷路機制(Timeout Circuit Breaker)。一旦代理人發現自己在連續幾個步驟中重複相同的動作或不斷傳回錯誤,斷路器會瞬間啟動,強制切斷對話連接,並向身為船長(指揮官)的你發送急救警報,確保你的系統與電腦絕對不會被無限運算燒毀。
許多剛接觸 AI 的新手常會產生兩個嚴重的迷思: 第一個迷思是認為「AI Agent 是具備自我意識、會偷偷在半夜登入銀行轉走我的積蓄的魔鬼機器人」。 第二個迷思是認為「AI Agent 不過就是換了包裝的 ChatGPT 聊天視窗而已」。
這兩個想法全都是對底層架構的誤解!我們透過犯罪側寫來徹底拆解 Chatbot 與 Agent 的本質差異:
除了傳統的命令行工具 agy 之外,大副還被深度整合進了一款基於 VS Code 核心二次開發的專屬編輯器——Antigravity IDE。這座現代化的數位偵探事務所,提供了三大讓工程師效率提升十倍的 AI 交互模態:
import pandas as pd)時,系統會自動在檔案頂部插入缺少的模組引用。世界級 AI 大師吳恩達(Andrew Ng)曾經指出:與其盲目追求更庞大的模型參數,不如透過改進 Agentic Workflow(代理人工作流)來讓現有的模型發揮出數倍的驚人威力。
大副 agy 的核心架構,正是 100% 契合了吳恩達所總結的 AI Agent 四大核心設計模式:
grep_search 搜尋程式碼、使用 run_command 跑單元測試、或是調用 API 存取外部資料庫。大副在執行任務時,底層驅動的正是經典的 ReAct 框架(Reasoning + Acting,推理與行動交織機制)。
這就如同夏洛克·福爾摩斯(Sherlock Holmes)在倫敦街頭調查懸案: 福爾摩斯不會坐在煙斗旁憑空想像兇手是誰。他會先推理(Thought):「受害者衣服上有紅泥,我需要去花園採集泥土樣本。」接著他走到花園執行行動(Action),用放大鏡觀察泥土。他獲得了客觀觀察(Observation):「泥土含有特殊的鞋印與高濃度鐵質。」隨後他進行反思(Reflection):「這附近只有鐵匠鋪才會留下這種鐵粉,下一個調查地點是鐵匠鋪。」
在 agy 中,這套偵探辦案迴圈以嚴謹的日誌形式在黑板上滾動執行:
[Thought]:船長要求我修復 main.py 的運行報錯。目前控制台顯示 AttributeError: module 'utils' has no attribute 'parse'。我需要先讀取 utils.py 來查看它到底暴露了哪些函數。[Action]:呼叫 view_file 工具,指定路徑為 C:/ai pro/agy/utils.py。[Observation]:工具回傳了 utils.py 的真實代碼,裡面定義的函數名稱其實叫 parse_data(text)。[Thought]:找到病因了!main.py 錯誤地調用了 utils.parse,正確名稱應為 utils.parse_data。我現在需要替換 main.py 第 12 行的內容。[Action]:呼叫 replace_file_content 工具,將 utils.parse 修改為 utils.parse_data。[Observation]:檔案寫入成功,差分替換完成。[Thought]:修改已完成,但我不能盲目相信自己,我必須執行 python main.py 來驗證程式碼是否真的能順利跑通。[Action]:呼叫 run_command 工具,執行 python main.py。[Observation]:終端機回傳 Process finished with exit code 0,沒有任何異常。[Thought]:實體驗證成功!案情已破,我可以向船長回報修復完畢。台灣知名 AI 學者李宏毅教授團隊與多篇國際頂尖論文曾經指出過一個極其殘酷的數學真相:大語言模型(LLM)在純粹的文字對話(沒有外部真實反饋)情況下,幾乎完全不具備邏輯自省與自我糾錯的能力!
如果一個 AI 在第一輪推理中寫錯了程式碼,你單純在對話框裡對它說:「你寫錯了,請你再仔細想想重新寫一遍。」 大腦通常會陷入一種「概率陷阱」——因為那段寫錯的程式碼已經作為歷史 Token 留在了黑板(Context Window)上,自注意力機制會持續受到錯誤 Token 的強烈牽引,導致它在第二輪、第三輪重複犯下相同的錯誤,甚至編造出更荒謬的藉口。
大副 agy 的自我修復之所以能發揮神奇效果,秘密完全在於 Observation(真實世界的物證)!
當大副調用 run_command 跑編譯器時,控制台傳回的 SyntaxError: unexpected EOF while parsing 是一條不可狡辯的客觀物理事實。這條真實的報錯日誌被強制塞回大腦的輸入端,就像是現場鑑識官將不可捏造的 DNA 證物硬生生攤在嫌犯面前。有了這個外部物證的打擊,大腦的自注意力矩陣才能被迫打破原有的錯誤概率分布,重新進行正確的推理與修復!
掌握了 ReAct 偵探辦案迴圈後,新的疑問隨之浮現:如果大副在辦案過程中,接到了惡意程式的指令,想要去調用 run_command 刪除 C:/Windows/System32 怎麼辦?我們該如何給這位擁有雙手雙腳的數位特工戴上安全手套?
在下一堂課中,我們將深入影分身軍團與安全特勤中心,拆解子代理架構與無塵沙箱隔離防線!
👉 下一堂課:Lecture 04.5 忍法多重影分身之術:解密 agy 子代理(Subagent)與軍團協作架構 👉 回課程大綱:學習地圖