人工通用智能已经到来了吗?一位AI创始人这么认为

Decrypt

简要介绍

  • Eliza Labs的CEO Shaw Walters表示,当前的AI系统已经符合他对AGI的定义。
  • 他警告自主代理存在严重的安全风险,包括提示注入和钱包被攻破。
  • Walters认为,完全去中心化的AI尚未存在,本地执行最为接近。

人工通用智能可能已经到来。 这是Eliza Labs创始人Shaw Walters在上周ETHDenver期间接受_Decrypt_采访时的说法。Walters表示,目前领先的模型已经符合他对人工通用智能(AGI)的定义。 “我认为我们正处于拥有AGI的转折点,”他说。“我完全相信这就是通用智能。它和我们不一样。它的学习方式完全不同,但它依然具有智能,而且非常通用。” Walters于2024年以ai16z的名义启动,创立了Eliza Labs,该公司开发了开源的ElizaOS,这是为区块链创建自主AI代理的早期框架之一。

 “人工通用智能”一词最早在1997年提出,后来由包括奇点网络(SingularityNET)创始人Ben Goertzel在内的研究人员普及。它指的是一种理论上的AI,旨在匹配或超越人类在广泛任务中的认知能力。 虽然包括OpenAI CEO Sam Altman和Anthropic CEO Dario Amodei在内的知名AI开发者警告称,AGI可能在未来十年内到来,但Walters拒绝了它会作为单一主导系统出现的观点。 “我不认为它会成为AI之神,”他说。“永远不会只有一个,因为生命喜欢变异。”

Walters表示,他在GPT-3时代开始研究AI代理,当时结构化输出还不可靠。 “感觉我大部分工作都像是在给婴儿装上辅助轮,”他说。“只是让它保持平衡,让它回应我需要解析的结构,以理解行动。这是个巨大的难题。” 随着2023年GPT-4的推出,进展得到了改善,Walters表示这使得响应更可靠。 “它在给我结构化回应方面非常出色,现在我甚至可以进行行动调用,”他说。“我们从几乎无法工作到能够制造出能执行任务的代理,但仍然非常有限。” AI代理已从试验性聊天机器人发展为在加密和消费平台中持续存在的系统。 今年2月,OpenClaw的GitHub星标数激增至约147,000,并催生了包括AI“社交媒体”平台Moltbook在内的项目,而Coinbase在Base上推出了“Agentic Wallets”,Fetch.ai表示其代理可以使用Visa基础设施完成购买。 然而,随着代理获得根权限和钱包控制权,Walters表示,最初的兴奋逐渐被深层次的安全担忧所取代。 在ETHDenver上,开发者们宣传AI代理在加密中的优势时,Walters警告称,随着AI向AGI迈进,它的行为不再像可预测的机器,更像一个有缺陷的人类,这使得万无一失的安全措施变得不可能。

“归根结底,你面对的更像是一个人,而不是一个计算器,”他说。“它有时会做出愚蠢的事情,而要构建一个超级安全的系统,防止它做出愚蠢的事,根本不可能。”

查看原文
免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明
评论
0/400
暂无评论