我一开始没有考虑解决互联网信息问题,是因为我认为区块链会拯救新闻业。说实话,这个想法一直让我觉得有点夸张。让我开始思考的是一些更小的事情。现在每次我在网上阅读内容时,都会产生一丝怀疑。一条推文中的统计数据、一串讨论中的图表、一份自信的AI回答。你读了它,然后会想,这是真的吗?互联网曾经像一个图书馆。现在有时更像一个谣言工厂。这就是Mira让我停下来思考的地方。Mira并不是试图通过监管互联网来修正错误信息。它在做一些事情,试图在信息传播之前进行验证。信任单一的AI模型输出,Mira将答案拆分成更小的事实声明,并将这些声明发送给多个独立的模型进行检查。如果足够多的模型达成一致,声明就通过验证。Mira的做法很重要。它将AI的回答视为需要审查的陈述,而不是最终答案。起初,这似乎只是一个技术上的变化,但我越想越觉得,Mira实际上是互联网长期以来一直需要的东西。现在,网上的信息传播速度远远快于验证的速度。一个病毒式的推文在被验证之前就已获得数百万的观看量。一个误导性的统计数据可能会流传数小时,直到有人揭穿它。AI生成的内容使验证变得更加困难,因为内容的数量正在爆炸式增长。验证根本跟不上节奏。Mira颠倒了这个顺序。它试图在信息成为可信输出之前进行验证,而不是先发布后验证。AI的回答被拆分成多个信息片段,多个独立的模型评估每一片段,以判断其是否正确。这个想法让我想起了一些东西。互联网通过分布式系统处理计算。区块链通过分布式共识解决信任问题。但信息本身仍然依赖一种脆弱的模型:有人说了什么,其他人决定是否相信。Mira正在尝试一种新模型。相信发言者,同时相信验证过程。这也是加密技术变得有趣的地方。网络中的验证者运行验证节点,并通过检查声明获得奖励。系统使用代币来对齐激励,让参与者有动力评估信息,而不是仅仅重复信息。用一句话来说,验证变成了一项服务。不仅仅是记者或研究人员的事实核查,而是一个持续评估AI系统声明的网络。我并不是说这能立即解决错误信息的问题。人类仍然可以撒谎。如果信息不符合他们的信仰,人们仍然会忽略它。一些声明过于复杂,自动验证难以有效处理。这个方向值得关注。因为现在互联网最大的问题不再是获取信息,而是对信息的信任。如果AI继续生成内容,而人类无法验证,像Mira这样的系统可能变得至关重要。不是因为它们让AI变得更聪明,而是因为它们帮助确保答案更难被伪造。说实话,这可能是互联网在下一波AI生成内容浪潮中生存的唯一方式。像Mira这样的系统,可能是让互联网成为可信信息源的关键。
米拉让我开始怀疑,经过验证的人工智能是否能够帮助解决互联网的信息问题
我一开始没有考虑解决互联网信息问题,是因为我认为区块链会拯救新闻业。说实话,这个想法一直让我觉得有点夸张。 让我开始思考的是一些更小的事情。 现在每次我在网上阅读内容时,都会产生一丝怀疑。一条推文中的统计数据、一串讨论中的图表、一份自信的AI回答。 你读了它,然后会想,这是真的吗? 互联网曾经像一个图书馆。现在有时更像一个谣言工厂。 这就是Mira让我停下来思考的地方。 Mira并不是试图通过监管互联网来修正错误信息。它在做一些事情,试图在信息传播之前进行验证。 信任单一的AI模型输出,Mira将答案拆分成更小的事实声明,并将这些声明发送给多个独立的模型进行检查。 如果足够多的模型达成一致,声明就通过验证。 Mira的做法很重要。 它将AI的回答视为需要审查的陈述,而不是最终答案。 起初,这似乎只是一个技术上的变化,但我越想越觉得,Mira实际上是互联网长期以来一直需要的东西。 现在,网上的信息传播速度远远快于验证的速度。 一个病毒式的推文在被验证之前就已获得数百万的观看量。 一个误导性的统计数据可能会流传数小时,直到有人揭穿它。 AI生成的内容使验证变得更加困难,因为内容的数量正在爆炸式增长。 验证根本跟不上节奏。 Mira颠倒了这个顺序。 它试图在信息成为可信输出之前进行验证,而不是先发布后验证。 AI的回答被拆分成多个信息片段,多个独立的模型评估每一片段,以判断其是否正确。 这个想法让我想起了一些东西。 互联网通过分布式系统处理计算。 区块链通过分布式共识解决信任问题。 但信息本身仍然依赖一种脆弱的模型:有人说了什么,其他人决定是否相信。 Mira正在尝试一种新模型。 相信发言者,同时相信验证过程。 这也是加密技术变得有趣的地方。 网络中的验证者运行验证节点,并通过检查声明获得奖励。 系统使用代币来对齐激励,让参与者有动力评估信息,而不是仅仅重复信息。 用一句话来说,验证变成了一项服务。 不仅仅是记者或研究人员的事实核查,而是一个持续评估AI系统声明的网络。 我并不是说这能立即解决错误信息的问题。 人类仍然可以撒谎。 如果信息不符合他们的信仰,人们仍然会忽略它。 一些声明过于复杂,自动验证难以有效处理。 这个方向值得关注。 因为现在互联网最大的问题不再是获取信息,而是对信息的信任。 如果AI继续生成内容,而人类无法验证,像Mira这样的系统可能变得至关重要。 不是因为它们让AI变得更聪明,而是因为它们帮助确保答案更难被伪造。 说实话,这可能是互联网在下一波AI生成内容浪潮中生存的唯一方式。 像Mira这样的系统,可能是让互联网成为可信信息源的关键。