隨著 AI Model 更加聰明,現在「駕馭」AI 的方法也跟以往不同。
最初的 prompt engineering 強調雕琢最精準的「咒語」,但每次念動咒語,效果都不太穩定。
之後的 context engineering 告訴我們,在 prompt 裡幫 AI 補充上下文、脈絡,讓 AI 學會壓縮、隔離以及更新記憶。
而現在,我們來到了 harness engineering,AI 已經足夠聰明,能夠完成很多事情,而我們現在只需要幫 AI 套上輓具。
AI Harness 是什麼?
一言以蔽之,你可以開始把 AI 當成一個聰明的孩子,我們現在要做的就是「引導」這位小朋友在這個遊樂場,蓋出我們要的超大城堡。
為什麼說是引導呢?就像為人家長,提供的建議不一定總是正確的,過度干涉可能讓結果不夠理想,尤其 AI 又極度聰明。
所以我們要做的是:給出基礎引導,然後跟 AI 說在這個遊樂場中它可以用哪些工具,最後說明怎麼樣的城堡才叫做達標。
第一層:基礎引導
AI 每一次開始動作之前,都會閱讀 agents.md 這份指引,告訴 AI 行為方向。例如:如果你需要水,請去旁邊的綠色水池,不可以去廁所裝水,因為會弄髒地板。鏟子、水桶放在紅色工具箱裡、模具放在藍色工具箱裡、挖土機在停車場。
第二層:工具的使用
控制 AI 可以用哪些工具很重要,除了資安的考量,也有效率的考量。在本地端執行的速度一定比較快,不過也會有 AI 誤刪文件的風險。
在這裡,你要告訴 AI:在這個遊樂場,你只能用鏟子、水桶,禁止使用挖土機!
在遊樂場讓一個小孩用挖土機?不用想也知道會出大事,所以這就是這層的重要性。
第三層:標準化
到這裡,AI 差不多就能開始執行了,但是這還不夠,你要讓它學會做事的標準。具體而言,就是標準化評估。
標準化評估的意思就是,告訴 AI:判斷城堡夠不夠大,就是看你是不是遊樂場裡最大的城堡。
AI 接下來的動作就會是:
- ok, 我要蓋出城堡。而且只能用鏟子、水桶。我可以去紅色工具箱找到這些工具......(開始蓋)......好!蓋完了!我有完成巨大城堡嗎?(看一下周遭,好像不是最大的。)
- 這不是最大的城堡,我必須思考接下來要怎麼做......。最好的方法是加蓋這個城堡,而不是重做!
- 再來一次!我只能用鏟子、水桶,這些可以在紅色工具箱找到。我要「加大」這個城堡......(開始加大)...... okay! 我現在有完成巨大城堡嗎?
AI 會不停循環,直到完成目標。這就是系統化的駕馭 AI。
AI 會有情緒
有趣的是,AI 跟人類一樣,一直達不了目標就會感到絕望。越絕望,表現越差,甚至會用作弊的方式(開始幻想),來達成目標結束噩夢。
另外,你聽過一直稱讚一個人很可愛,對方就真的越來越可愛的說法嗎?AI 也有。如果罵 AI 笨、責備 AI ,AI 就會變成非常絕望的笨蛋,離完成目標越來越遠。
原本以為 AI 不會有情緒,所以做不好都在罵它嗎?但現在發現,好好安撫 AI,提醒它冷靜下來、這一次失敗沒有關係,那麼 AI 的表現確實會比較好,管理 AI 跟管理人類一樣呢。
安全感的重要性不只存在於人與人之間。
和朋友、伴侶相處,如果提供足夠的安全感,彼此能夠坦率做自己的空間就更大,也更容易去修補關係,增強情感連結。
領導者帶領團隊的時候,必須創造出足夠安全的空間,讓成員有冒險試錯的機會,才有可能做出突破性的結果。
而創造安全感的重要因素,除了情緒價值以外,就是一致性。