OpenAI 的 AGI 追逐是一個棘手的概念和契約

紐約，3月16日（路透社Breakingviews）— 想像一個極為成功的合作夥伴關係，一旦某件事發生就會解散。只是目前尚不清楚這個事件是什麼，是否已經發生，甚至是否有可能發生。這是OpenAI與微軟（MSFT.O）面臨的挑戰，當他們思考人工通用智能（AGI）可能到來時。由於他們協議的不透明，以及巨額資金的牽涉，使得理論上的辯論幾乎不可避免地會演變成合同糾紛。

所謂的AGI概念，是指自主系統能夠匹敵或超越人類在智力任務上的能力。在矽谷，這既是一個抱負目標，也是一個生存威脅。理論上，創造一個自我學習系統可能導致從人類的黃金時代到滅絕的各種結果。

路透社伊朗簡報通訊為您提供有關伊朗戰爭的最新發展與分析。點此訂閱。

OpenAI成立於2015年，明確的目標是此。山姆·奧特曼（Sam Altman）、伊利亞·薩茨克維爾（Ilya Sutskever）、埃隆·馬斯克（Elon Musk）等人著手打造AGI，他們將其定義為“在大多數經濟價值工作中超越人類的高度自主系統，造福全人類”。與“愛錢是邪惡之源”的理念一致，OpenAI成立為非營利組織。

然而，僅靠自我和善意是不夠的：AI競賽還需要巨大的財務資源。因此，該公司於2019年成立了營利部門，並與微軟建立合作夥伴關係。這家軟體巨頭投資了10億美元，並提供計算基礎設施，以換取對OpenAI技術的訪問權。該初創公司堅持，一旦實現AGI，該技術的獨家權利將歸屬於初創公司。

當時這可能是個容易讓步的條件。然而，隨著AI系統能力的迅速提升，定義AGI已不再是抽象問題。根據史丹佛人類中心AI研究所（Stanford Institute for Human-Centered AI）的數據，在視覺推理、英語理解或比賽級數學等方面，先進系統已超越普通人標準。

這裡，概念上的辯論轉變為合同上的問題。就像最高法院法官波特·斯圖爾特（Potter Stewart）對猥褻的主觀描述——“我知道它是什麼時，我就知道它”——AGI的定義也模糊不清。谷歌的研究人員指出，OpenAI的條款既不具體，也不易觀察，並在2023年發表的一篇論文中試圖建立此類聲明的框架。

例如，條款中提到，當系統能在經濟價值較高的工作中超越大多數人時，即視為達到里程碑。“大多數人”意味著什麼？如果沒有在現實世界中部署，或因法律或倫理原因放慢使用速度，是否能衡量？此外，許多工作的經濟價值難以界定。

同時，訓練和部署AI模型需要大量資金。微軟、谷歌（GOOGL.O）、Meta平台（META.O）和甲骨文（ORCL.N）等公司已大幅增加資本支出，計劃今年投入超過7000億美元。作為一家沒有現有收入來源的初創公司，OpenAI需要支持。

微軟最終投入了總計130億美元。然而，這對OpenAI來說仍不夠，兩家公司之間日益複雜的協議（其中多個部分依賴於AGI條款）令雙方都感到不滿。

其他行業已經了解到模糊的協議和巨額資金並不相容。例如，災難債券幫助公司轉嫁颶風、洪水或疫情的金融風險。這些事件雖然罕見，但一場風暴襲擊像邁阿密這樣的大城市，可能造成1.4萬億美元的損失，足以讓整個保險行業動搖。因此，公司會引入外部投資者，願意承擔巨大但低概率的風險，並以支付換取保障。最初模糊的協議導致激烈的糾紛，例如2008年颶風後，保險公司與債券持有人之間就究竟涵蓋了哪些內容，進行了長達五年的法律鬥爭。

災難債券後來逐漸轉向更具體且易於觀察的觸發條件，降低不確定性，避免糾紛。例如，測量特定地點的風速，而非整個保險行業的損失或政府是否宣布進入緊急狀態。

在生物科技合併中，企業使用或有支付來彌合買賣雙方在評估試驗藥物時的差距。這些通常包含不可爭議的觸發條件，比如美國食品藥品監督管理局（FDA）是否在某個日期前批准了該療法。

OpenAI與微軟之間已經達成某種緩和，可能是因為長時間的談判最終會讓雙方都吃虧。一份於去年底簽署的新協議指出，任何OpenAI聲稱已達到AGI的說法都必須由獨立委員會驗證。

微軟持有該公司27%的股份，最近估值為8400億美元，並有權在2032年前使用部分技術，即使已實現AGI。山姆·奧特曼的公司現在可以追求合作夥伴關係或首次公開募股（IPO）。但仍存在緊張的理由。OpenAI將約20%的收入轉給微軟，若實現AGI，這部分收入將基本消失。如此巨大的財務變動，對OpenAI在準備向公眾出售股票時的財務狀況將產生重大影響。

關於如何定義AGI的爭論尚未真正解決。山姆·奧特曼去年在一個播客中表示，雖然沒有人真正注意到，也沒改變太多，但“我們建立了AGI”。微軟CEO薩蒂亞·納德拉（Satya Nadella）則更關注其巨大影響，去年聲稱AGI將是“毫無意義的基準破解”，而真正的成功標誌將是世界經濟以令人難以置信的10%增長。

辯論也已經轉移。即使是像奧特曼這樣的AI傳播者也承認，AI在某些方面仍表現不佳，比如複雜推理和學習能力。他現在推崇超智能和AI系統能做人類做不到的事情，或比人類更擅長的工作，比如擔任美國總統。但這仍是一個模糊的定義。

奧特曼仍在追逐。OpenAI最近的1100億美元募資中，亞馬遜（AMZN.O）也作出了重大貢獻，該公司是否能成功上市或實現AGI，將成為關鍵，據《資訊》報導。

在與CNBC的訪談中，奧特曼表示，AI的進展仍然迅速，因為AGI是“短期內的事情”，公司不會停止在達成後的任何新交易。這個時間表可能過於樂觀，但如果是這樣，糾紛仍有時間和動力再次爆發。

在Bluesky上關注Robert Cyran。

欲了解更多此類見解，點此免費試用Breakingviews。

由彼得·塔爾·拉森（Peter Thal Larsen）編輯；由瑪雅·南迪尼（Maya Nandhini）製作

• 建議主題：
• Breakingviews

Breakingviews
路透社Breakingviews是全球領先的財經洞察來源。作為路透社的財經評論品牌，我們每天分析全球重大商業和經濟新聞。由約30名記者組成的國際團隊，分布於紐約、倫敦、香港等主要城市，提供即時專家分析。

立即註冊我們的完整服務免費試用https://www.breakingviews.com/trial，並在X（前Twitter）上關注我們@Breakingviews，以及訪問www.breakingviews.com。所有觀點均為作者個人意見。

分享

• X
• Facebook
• Linkedin
• 電子郵件
• 連結

購買授權權利

羅伯特·西蘭（Robert Cyran）

湯森路透

羅伯特·西蘭，美國科技專欄作家，於2003年加入倫敦Breakingviews，四年後轉至紐約，持續報導全球科技、製藥及特殊情況。羅伯特的職業生涯始於《福布斯》雜誌，協助創立該雜誌的國際版。在加入Breakingviews之前，他曾擔任市場研究員和報導者，專注於製藥行業。羅伯特擁有伯明翰大學的經濟碩士學位和喬治華盛頓大學的本科学位。

• 電子郵件