Vercel Workflows (18 minute read)

View Original ↗
AI 導讀 technology infrastructure 重要性 4/5

創下 5 億次步驟執行的 Vercel Workflows 正式上線,徹底消除獨立編排器。

  • 消除獨立編排器,透過 TypeScript 語法直接調用佇列與事件日誌。
  • 整合 AI SDK 且具備單次 2GB 承載上限,專為多模態代理打造。
  • 推出 Python 測試版與 Worlds 系統,確保架構部署彈性。

自測試版上線以來已處理逾 1 億次執行5 億個步驟,Vercel Workflows 宣佈正式全面可用(GA)。這項技術徹底消除獨立的編排器(orchestrator)基礎設施,讓開發者僅需在程式碼加入簡單指令,就能打造具備持久性的長效後端與 AI 代理(Agents)。

消除編排器的 Vercel Workflows 底層架構

原型與正式環境之間存在巨大鴻溝,本機端運行完美的程式碼,面對真實流量、系統重啟與故障時往往不堪一擊。傳統上,要在正式環境部署可靠的長效執行程序,開發團隊必須自行將程式碼拆分到多個佇列、工作節點、狀態表與重試邏輯中。

專用的編排服務更增加了一層負擔,不僅需要維護長效的背景進程、擴展 Kubernetes 叢集,還必須支付核心運算之外的額外費用。這套框架定義的基礎設施,將工作流編排直接整合進應用程式碼本身,省去了維護獨立服務的麻煩。

系統建立在三大核心元件上:負責記錄每個步驟輸入與錯誤的 Event log(事件日誌)、將步驟作為獨立函數呼叫的 Fluid compute(流動運算資源),以及自動處理排隊機制的 Vercel Queues。由於消除了獨立的編排服務,企業只需為函數實際執行時所耗用的運算資源付費。

無限遞迴西洋棋與 TypeScript 狀態管理

其中一個最具代表性的測試版案例,是 Guillermo 設計的無限西洋棋遊戲。這套系統讓多個模型無休止地進行對弈,不斷餵入當前的棋盤狀態、驗證走法並渲染遊戲畫面。

每一場西洋棋比賽都被視為一次獨立的工作流執行,當一場對局結束時,系統的最後一個步驟會自動啟動全新的執行回合,透過跨回合的遞迴完美模擬無限循環的運作模式。

這套機制也帶來了極為乾淨的版本升級邊界。由於每個工作流回合都緊密綁定於特定的部署版本,當前的對局可以安全地在初始版本上完成,而下一場新遊戲則無縫套用最新部署的程式碼。一旦驅動對局的後端發生當機或暫時性錯誤,工作流便會自動重試,完全不會導致整個應用程式崩潰。

支援 2GB 負載與 AI SDK 整合的代理環境

AI 代理時代需要的不僅僅是拉長超時限制(timeouts),更需要持久的執行能力與能搬運大型資料的架構。Vercel Workflows 與 AI SDK 實現了深度整合,最新推出的 AI SDK v7 更提供了原生實作的 WorkflowAgent 模組。

開發者能將工具調用(Tool calling)設計為具備自動重試功能的工作流步驟,並透過 sleep(休眠)與 hooks(掛鉤)等基元,優雅地處理外部事件與中斷。為了應對多模態代理的需求,系統單一步驟支援高達 50 MB 的有效載荷(payload),單次執行全程的上限更達到 2 GB,讓 AI 模型能順暢傳遞圖片與影片。

持久性資料流也是其核心優勢之一。透過 getWritable() 指令,開發者能建立持久化的串流輸出,即使用戶在搜尋過程中關閉瀏覽器,工作流仍會在背景持續運作。待用戶重新連線時,串流會精準從中斷處無縫接軌,免去了配置 Redis 或自訂發布/訂閱(pub/sub)系統的麻煩。

Python 開發支援與 Worlds 開源生態系

預設情況下,Vercel Workflows 採用點對點加密機制。所有資料(包含步驟的輸入、輸出與串流區塊)在離開部署環境前均會被強制加密,解密動作只會在其專屬的環境內進行。這項內建防護將編排與執行權限收攏在單一環境中,免去額外配置資安元件的困擾。

除了 TypeScript 生態系,官方也正式將 Workflow Python SDK 推進至測試階段。廣泛的 AI 與後端工程師現在能使用熟悉的 Python 語法,透過 @wf.workflow@wf.step 裝飾器,快速建立複雜的長效執行邏輯。

在平台可攜性方面,開源的 Worlds 適配器系統確保了專案不會被單一雲端綁死。除了 Vercel 全自動託管的正式環境外,開發者也能選用 Postgres 進行自託管,社群更積極開發針對 MongoDB、Redis、Turso 與 Cloudflare 的嵌入式適配器。

Mux 與 Durable 企業端 AI 工作流實戰

許多企業客戶已在高度複雜的生產環境中驗證了這套系統。媒體科技公司 Mux 在其媒體情報層採用了該架構,處理複雜影片管道中 AI 推理的重試邏輯。他們更將工作流指令內建於自家的 @mux/ai SDK 中,讓開發者透過簡單引入即可獲得具備持久化的多步驟管道。

網站生成平台 Durable 則藉此為三百萬家小型企業提供核心服務。他們的小型開發團隊徹底捨棄自託管基礎設施,轉而透過 Vercel 協調數十個平行的 AI 處理步驟,成功在 30 秒內交付一個完整的網站。

影像創作團隊 Flora 同樣在免除佇列與狀態機的情況下,成功編排了超過 50 個圖像生成模型。他們利用回滾機制(rollbacks)處理點數退款,並透過遞迴機制打造用戶自定義的處理管道,讓消費者在啟動任務後即使闔上筆電,隨後仍能檢視完整的跨模型生成結果。

Workflows 5 效能預覽與終端機協作體驗

展望即將推出的 Workflows 5 版本,開發團隊預告將導入原生併發控制(包含跨執行緒的鎖定基元)、全球部署基礎設施,以及基於快照(snapshot-based)的運行時環境,藉此大幅降低事件歷史增長時的重播開銷。

系統的簡潔架構也對自動化 AI 代理極度友善。由於編排邏輯直接存在於應用程式碼中,AI 只需要理解單一系統的運作方式。

透過官方專屬的 Workflows skill 套件與內建命令列工具,自動化程式能直接在終端機輸入 npx workflow inspect runs 等語法。這代表系統不只能用來打造 AI 代理,AI 代理本身也能反過來利用這些工具自主建立架構、排解錯誤並管理複雜的工作流程。

持久性、重試機制與安全串流不應是後期追加的基礎設施技術債,而是深植於現代應用程式碼中的原生能力。

Abstract

Vercel announced general availability of Workflows, extending its framework-defined infrastructure model to long-running, durable systems with built-in reliability and observability.