OpenAI的AGI竞赛是棘手的概念和契约

纽约，2024年3月16日（路透社Breakingviews）——想象一下，一个极其成功的合作伙伴关系在某件事情发生后解散。只是目前还不清楚这件事是什么，是否已经发生，甚至是否可能发生。这是OpenAI和微软（MSFT.O）面临的挑战，他们在考虑人工通用智能（AGI）可能到来的同时。由于他们协议的不透明性以及巨额资金的牵涉，几乎可以预见，理论上的辩论很可能会演变成合同纠纷。

所谓的AGI，是指自主系统能够匹配或超越人类在智力任务上的水平。在硅谷，这既是一个雄心勃勃的目标，也是一个生存威胁。创建一个自我学习系统，理论上可能带来从人类的黄金时代到灭绝的各种结果。

路透社伊朗简报通讯会为您提供关于伊朗战争的最新发展和分析。请在此注册。

OpenAI成立于2015年，明确的目标就是此。Sam Altman、Ilya Sutskever、Elon Musk等人着手创建AGI，他们将其定义为“在大多数经济价值工作中表现优于人类的高度自主系统，为全人类谋福利”。遵循“爱钱是邪恶之源”的理念，OpenAI最初是作为非营利组织成立的。

然而，单靠自我和善意是不够的：AI竞赛还需要巨大的财务资源。因此，该公司在2019年成立了营利部门，并与微软建立了合作关系。这家软件巨头投资了10亿美元，并提供计算基础设施，以换取对OpenAI技术的访问。该创业公司坚持认为，一旦实现AGI，技术的排他权将归属于创业公司。

当时，这可能是一个容易让步的条件。然而，随着AI系统能力的迅速提升，定义AGI已变得不再抽象。根据斯坦福人机中心AI研究所的测量，在视觉推理、英语理解或竞赛级数学等方面，先进系统已超越普通人类的基准。

这也是概念辩论转变为合同争议的关键点。就像最高法院法官波特·斯图尔特对猥亵的主观定义——“我知道它是什么样的”——AGI的定义也模糊不清。谷歌的研究人员在2023年发表的一篇论文中指出，OpenAI的条款既不具体，也不易观察，试图为此类声明制定框架。

比如，规定当系统能在经济价值工作中超越大多数人时，即视为达成里程碑。“大多数人”意味着什么？没有在实际环境中部署，或者因法律或伦理原因放缓使用，能否衡量？此外，许多工作的经济价值难以界定。

与此同时，训练和部署AI模型需要大量资金。微软、字母表（GOOGL.O）、Meta平台（META.O）和甲骨文（ORCL.N）等公司，为应对这些需求大幅增加资本支出，计划今年投入超过7000亿美元。作为没有现有收入来源的创业公司，OpenAI需要支持。

微软最终投入了总计130亿美元。然而，这对OpenAI来说还不够，两家公司之间日益复杂的协议（其中多部分依赖于AGI条款）让双方都感到不满。

其他行业也认识到模糊的协议和巨额资金并不相容。以灾难债券为例，这类债券帮助公司转移飓风、洪水或疫情带来的财务风险。这些事件虽少见，但一场袭击迈阿密等大城市的风暴可能导致1.4万亿美元的赔付，足以让整个保险行业摇摇欲坠。因此，公司会引入愿意承担巨大但低概率风险的外部投资者，以换取支付。最初的不透明协议导致了激烈的争议，比如2008年飓风后再保险公司与债券持有人之间关于具体赔付范围的五年法律战。

灾难债券后来趋向于更具体、易观察的触发条件，降低不确定性，避免争议。比如，测量某一特定地点的风速，而不是整体保险行业的损失或政府是否宣布进入紧急状态。

在生物技术合并中，公司使用或有支付来弥合买卖双方在评估试验药物时的差距。这些通常包含不可争辩的触发条件，比如美国食品药品监督管理局（FDA）是否在某个日期前批准了治疗方案。

OpenAI和微软后来达成了一种缓和关系，可能是因为长时间的谈判可能会让双方都吃亏。去年底签署的一份新协议规定，任何关于AGI实现的声明都必须由一个独立委员会验证。

微软持有该公司27%的股份，最近估值为8400亿美元，并有权在2032年前使用部分技术，即使实现了AGI。Sam Altman的公司现在可以寻求合作或首次公开募股。不过，仍存在紧张因素。OpenAI将大约20%的收入上交给微软，如果实现了AGI，这部分收入基本会消失。这种巨大的财务变动将对OpenAI的财务状况产生重大影响，尤其是在其准备向公众出售股票时。

关于如何定义AGI的争论尚未真正解决。去年底，Altman在一档播客中表示，虽然“人们并未真正注意到，也没有改变世界太多，但我们确实建立了AGI”。微软CEO萨蒂亚·纳德拉似乎更关注其深远影响，去年声称AGI将是“毫无意义的基准破解”，而真正的成功标志将是世界经济以令人难以置信的10%的速度增长。

辩论也在继续。即使是像Altman这样的AI倡导者也承认，AI在复杂推理和学习能力方面仍然表现不佳。他现在推崇超级智能和AI系统能做人类做不到的事情，或者比人类更好地担任美国总统等职位。但这仍是一个模糊的定义。

Altman仍在追逐。OpenAI最近的1100亿美元融资中，亚马逊（AMZN.O）也作出了巨大贡献，据《信息》报道，这可能取决于公司是否上市或实现AGI。

在与CNBC的采访中，Altman表示，AI的进展仍然迅速，由于AGI是“短期内的事情”，公司不会在达到目标后停止新交易。这个时间表可能过于乐观，但如果如此，争议仍有时间和动力再次爆发。

关注Robert Cyran的Bluesky账号。

欲了解更多类似内容，请点击此处，免费试用Breakingviews。

编辑：Peter Thal Larsen；制作：Maya Nandhini