OpenAI 收購 AI 安全新創公司 Promptfoo 以強化代理人安全

OpenAI 收購 Promptfoo 預示 AI 代理安全新時代的到來

這是一次果斷的行動，強調了人工智慧（AI）從對話式聊天機器人到自主 AI 代理（AI Agent）的快速演進，OpenAI 已正式收購了總部位於舊金山的網路安全新創公司 Promptfoo。這項於 2026 年 3 月 9 日宣布的戰略收購凸顯了行業內日益增長的共識：隨著 AI 代理獲得執行現實世界任務和訪問敏感企業數據的能力，企業級安全再也不能是事後才考慮的問題。對於 Creati.ai 的我們來說，這項發展代表了 AI 生態系統的顯著成熟，將行業焦點從單純的模型能力轉向強大的治理、安全性和運作可靠性。

收購的機制

Promptfoo 由技術資深人士 Ian Webster（前 Discord 高級主任軟體工程師）和 Michael D'Angelo（前 Smile Identity 工程副總裁）於 2024 年創立，並迅速將 Promptfoo 確立為 AI 安全領域的基石。儘管成立時間相對較短，但該新創公司的開源安全工具已被超過 12.5 萬名開發者下載，並被超過 25% 的財富 500 強企業主動用於保護其機器學習基礎設施。

在收購之前，Promptfoo 的 11 人團隊已籌集了約 2200 萬美元的資金，其中包括由 Insight Partners 領投、Andreessen Horowitz 參投的 1840 萬美元 A 輪融資。雖然收購的具體財務條款尚未披露，但財務數據提供商先前對該新創公司的估值約為 1.19 億美元。整個 Promptfoo 團隊現在將加入 Sam Altman 的營運部門，標誌著一次旨在鞏固 OpenAI 企業產品的戰略人才收購。

強化 OpenAI Frontier

此次收購的核心是計劃將 Promptfoo 的技術整合到 OpenAI Frontier 中，這是該公司專門為構建、部署和管理自主 AI 同事而設計的企業平台。隨著企業越來越多地將 AI 整合到複雜的工作流程中——從金融交易處理到自動化供應鏈管理——惡意行為者的攻擊面正在呈指數級擴大。

OpenAI B2B 應用首席技術官 Srinivas Narayanan 強調了兩家公司之間的戰略契合。他指出，Promptfoo 在企業規模下評估、保護和測試 AI 系統方面帶來了無與倫比的工程專業知識。通過將這些功能直接整合到 Frontier 中，OpenAI 旨在為企業部署可靠的 AI 應用程序提供安全的基礎。

Promptfoo 聯合創始人 Ian Webster 對此表示贊同，他表示該公司最初的成立是為了給開發者提供一個保護 AI 系統的實用框架。隨著 AI 代理（AI agents）與實時數據庫和關鍵基礎設施的連接日益緊密，驗證其行為變得至關重要。與 OpenAI 聯手讓團隊能夠加速為構建現實世界 AI 應用程序的團隊部署先進的安全、防護和治理功能。

解決自主 AI 代理的漏洞

自主 AI 代理（autonomous AI agents）的基本架構引入了傳統軟體安全範式難以解決的獨特安全挑戰。與靜態應用程序不同，大型語言模型（LLM）及其代理對手是動態的推理引擎，能夠進行自主決策。

要了解此次收購的關鍵性質，必須檢查 Promptfoo 的紅隊演練（red-teaming）工具旨在緩解的特定漏洞：

提示詞注入（Prompt Injection）： 一種複雜的攻擊向量，惡意行為者操縱代理的輸入以覆蓋其原始指令，迫使 AI 執行非預期的命令。
越獄（Jailbreaking）： 用於繞過 AI 模型內置的安全約束和倫理護欄的技術，可能導致生成有害、受限或未經授權的內容。
資料外洩（Data Exfiltration）： 允許未經授權訪問 AI 代理在操作工作流程中處理的敏感企業或用戶數據的漏洞，導致嚴重的數據隱私洩露。
工具誤用（Tool Misuse）： 利用 AI 代理對外部 API 或內部企業工具的訪問權限，允許攻擊者操縱自動化序列以達到破壞性目的。
偏離策略行為（Out-of-Policy Behavior）： 自主代理偏離其預期操作參數的情況，執行違反企業治理或嚴格合規標準的操作。

通過將自動化安全測試和漏洞修復直接嵌入到開發管道中，OpenAI 正在定位自己，以便在這些威脅進入實時生產環境之前主動將其消除。

企業 AI 安全能力概覽

為了清晰地展示這種整合將如何重塑企業 AI 景觀，我們概述了 Promptfoo 為 OpenAI 生態系統帶來的核心能力。

關鍵能力	當前企業挑戰	Promptfoo 整合優勢
自動化紅隊演練	LLM 的手動測試速度慢、資源密集，且極易發生人為錯誤。	針對數千個對抗性輸入為 AI 代理提供自動化、持續的壓力測試。
漏洞檢測	在部署前識別提示詞注入（prompt injection）和越獄風險是非常困難的。	掃描代理架構中的結構性弱點，及早標記潛在的利用路徑。
合規與治理	自主代理決策缺乏可靠的審計追蹤，阻礙了監管合規。	生成全面的評估日誌和追蹤報告，確保對 AI 工作流程的透明監督。
模型基準測試	比較不同基礎模型的安全性和可靠性是一個高度碎片化的過程。	提供標準化指標來評估模型在各項任務中的表現、安全性和運作一致性。

對開源社群的承諾

在企業收購開源項目期間，一個常見的擔憂是社群驅動工具可能被棄用。然而，OpenAI 已明確承諾將繼續維護和支持 Promptfoo 的開源命令列介面（CLI）和全面的評估庫。

這種雙軌並行的方法確保了獨立開發者和較小的組織可以繼續利用 Promptfoo 強大的測試基礎設施，而不會被強行納入專有的企業生態系統。通過繼續接受社群貢獻並支持多個模型供應商——包括像 Anthropic 的 Claude 和 Google 的 Gemini 這樣的競爭對手——OpenAI 正在營造一個推動全球 AI 安全（AI security）標準的協作環境。開源社群將作為一個至關重要的反饋迴路，識別新興的威脅向量，隨後為構建在 OpenAI Frontier 中的企業級防禦提供資訊。

對 AI 行業的更廣泛影響

OpenAI 收購 Promptfoo 並非孤立事件；這是一個更廣泛行業轉向的明確訊號。隨著 AI 領域從由原始模型能力基準定義的時代（各公司競相生產最聰明的對話式聊天機器人）過渡到由企業可靠性定義的時代，安全性已成為最終的差異化因素。

此次收購遵循了 OpenAI 深思熟慮的擴張戰略，其中包括近年來收購的協作新創公司 Multi、分析平台 Statsig 和治理工具 Neptune。這些戰略舉措中的每一項都系統地拼湊出支持高度受監管企業部門中可擴展、自主 AI 部署所需的關鍵基礎設施。

生成式 AI 領域的競爭對手可能會注意到這一點。隨著企業客戶對數據隱私和運作安全提出嚴格保證，原生、先進的紅隊演練能力的整合將成為基本要求，而非可選的高級附加功能。對於 IT 決策者、安全分析師和首席資訊安全官（CISO）來說，這項發展標誌著將 AI 同事安全整合到敏感企業網絡中所需的工具終於達到了所需的成熟水平。

安全人工智慧的未來之路

收購 Promptfoo 標誌著通往安全、自主人工智慧旅程中的一個關鍵里程碑。通過將頂級紅隊演練專業知識納入內部，OpenAI 正在積極解決企業 AI 採用（enterprise AI adoption）的最大障礙：機構信任。隨著我們在 Creati.ai 繼續監測自主 AI 代理的快速演進，顯而易見的是，未來屬於那些能夠在史無前例的認知能力與不妥協的企業級安全之間取得平衡的平台。