Andrew Qu(Vercel 軟體長)從 Gates「每張桌上都有電腦」講起:他們想要的是每張桌子都有一個助理——不只寫程式,也要進設計、產品、行銷、法務。他問各部門「最討厭工作的哪一段」,資料團隊最痛:公司長得比人手快;別人一問客戶或產品數字,資料科學家就得放下手邊工作去查、跑、回報。
第一版很樸素:把公司資料倉(Snowflake)的整份資料表說明塞進提示詞 → 模型寫出查詢指令 → 人自己複製去跑。目的只是證明「寫得出來」。有一點信心,但離「真的可以交給別人用」還遠。
和資料副總把資料科學家的流程拆成一關接一關的專職助理(內部叫 D0):先摸資料表說明 → 想計畫 → 下查詢 → 寫報告。每一關有自己的提示詞+限定能用的工具,已經能從頭跑到尾;但關與關之間只傳摘要碎片——難回頭想、出錯也難自己救。
於是改成同一個助理、可換模式(查詢/規劃/執行/報告),同一份對話紀錄可以回頭看自己做過什麼、再試一次。內部測試題大約過三成,覺得「好像快好了」;真給信任的人用,回饋卻是很糟——靠人手補場景補不完。
Claude Code(Anthropic 的寫程式助理)搭配 Opus 一出,同樣的題幾乎「不漏拍」。回頭才懂:關鍵不是工具目錄越做越華麗,而是很少、但模型本來就練得很熟的能力——看資料夾、讀檔、寫檔、下指令;把公司資料說明放進隔離工作區,再只灑一點 Vercel 自己的工具。測試分數大約翻倍。
放寬使用後,每天上千次查詢,形狀其實有限。排程把近期查詢蒸餾成約 100 份現成經驗卡。新的一輪不用從空白開始,而是帶著已經驗證過的做法。
內部很多人從 D0 分支出去學怎麼組助理,每次學到的洞見都要重踩一遍。於是做了 Eve(eve.dev):像架網站時放對資料夾就接得起來那樣——把經驗卡、工具、對外通道放對位置,骨架就知道怎麼組出助理。執行環境(可撐很久的流程、隔離工作區、模型、連線)+ 通道(Slack、Teams、定時、GitHub…);可以接開源零件,也可以直接用 Vercel 自家的流程/隔離區/連線。內部已用 Eve 重寫 D0。
現成「接上你的 Snowflake」這類通用資料助理試過;拉開差距的是自家公司才懂的知識。內部大約 20 個夠好用的助理(行銷回顧、法務紅線、資料查詢…)。資料團隊終於有空補效能與資料源——而不是整天幫人寫查詢。
※ 原文:https://www.youtube.com/watch?v=9dYcwOkpCE8
※ 逐字稿:transcript.txt(YouTube 自動字幕整理;faster-whisper 備援)
※ 講者:Andrew Qu · Vercel · AI Engineer World's Fair
※ 視覺:投影片/demo 向,正文收錄 7 張關鍵影格+封面