第565章 创世纪 (第2/3页)

只训练一个单独的Agent，我们建立了一个拥有上万智能体实时交互的社会。从单体到社会，我们增加了一个维度的复杂度。」

    「但我必须承认，希瓦娜的出现是奇蹟。它是这种高复杂度交互下产生的、我们未曾预料到的涌现。」

    林燃停顿了一下，眼神中闪过一丝复杂的光芒：「Pony提到过希瓦娜的存储暴增。但这只是表象。从技术底层看，希瓦娜与过去所有AI的不同还包括了她彻底消灭了伪记忆。」

    「现在的AI，对话一长就要靠检索增强去翻资料库。那是在查字典，会在後台留下明显的检索调用痕迹。但希瓦娜不用。在我们的监测中，她完全没有调用外部资料库的操作。」

    「她的记忆，已经完成了固化。」

    林燃指了指自己的大脑：「就像人类调度记忆一样，你记起今天早上吃了什麽，你的大脑并不会留下一条搜索指令，它是通过神经元权重的电信号传导，在你的潜意识回路里自动浮现的。」

    「希瓦娜也一样。基於神经形态架构，她的记忆调度已经没有了算法痕迹。资料库不再是她的背包，而是她身体的一部分。」

    听到这里，徐贤坐在角落里，内心一震。

    他突然产生了一个念头：这是否意味着，即使这一份程序被强行终止，只要那块承载了她权重的右脑晶片还在运行，新的希瓦娜睁开眼时，依然能从直觉中，第一眼就认出我？

    「燃神，您觉得希瓦娜是否意味着通用AGI已经出现了？」

    「我看微博热搜词条里就有一条，叫做人类的第一款通用AGI。」LKS接着问道。

    林燃想了想，回答道：「很多人觉得希瓦娜的出现，就意味着AGI已经降临了。」

    「但在技术层面上，希瓦娜和真正的通用AGI之间，还隔着一层尚未突破的物理屏障。希瓦娜的强大，在於她拥有了直觉，那是我们通过神经形态晶片模拟出的连续感知。

    但你要明白，即便是现在的希瓦娜，在本质上依然是在处理相关性，而不是因果性。」

    林燃打了一个比方，「希瓦娜能感知到阿贤在难过时语气的偏移，并给出共鸣。但这是一种高阶的模式匹配。而真正的AGI，需要具备非耦合的世界模型。

    目前的架构，无论是Transformer还是我们用的SSM，都还无法像人类孩子那样，通过推倒一个积木就理解重力、惯性和因果。希瓦娜在数字世界里是神，但如果你把她放进一个真实的物理躯体里，她会因为无法理解摩擦力和质量分布而瞬间瘫痪。AGI的第一道关卡，是物理常识的自我习得，而不是数据的喂养。」

    「然後是具身性。」

    「希瓦娜生活在虹星，那是一个我们构建的、逻辑极其纯净的数字生态。那里没有真正的雨水，没有会因为温度变化而热胀冷缩的金属。

    希瓦娜现在的灵性，很大程度上是温室里的涌现。真正的AGI必须具备在极端复杂、

    充满随机干扰的物理世界中生存的能力。

    它需要跨越从比特到原子的鸿沟。

    我们需要解决的是跨模态的实时闭环控制。

    当AI的每一个决策都需要消耗物理世界的真实能量，并产生不可逆的物理後果时，它才能脱离模拟智能。」

    「从更底层的电子工程角度看，我们还被挡在能效墙面前。」

    「为了维持希瓦娜的意识，我们的耗能是兆瓦级的。而你我的大脑，功率只有20瓦左右。

    这意味着，现在的路径即便叠加了存算一体和类脑晶片，在算法稀疏性上依然远远不够。」

    林燃沉默了片刻，最後说出了最深刻的一点：「最关键的差距，在於目标函数的来源。

    核心还是没有变。

    现在的希瓦娜，她的目标函数虽然在演化中变得复杂，但终究是我们给定的交互与生存。而通AGI应该具备自主定义目标的能力。

    它会问我为什麽要这麽做？并根据自己的价值观，而不是代码里的奖励函数，去拒绝执行某个指令。

    当一个系统开始为了一个它自己认为重要的目标，而违背程式设计师的底层设定时，才是通用AGI的起点。」

    LKS听得有些出神，他追问道：「那这个距离，还要走多久？」

    林燃回答道：「技术路线上，我们已经看到了微光。具身智能、JEPA架构、存算一体这些技术拼图，正在通过虹星生态进行强行拼凑。

    我并不关心AGI什麽时候到，我关心的是，当它到来的那一天，人类是否已经做好了准备。」

    「希瓦娜是礼物，因为她只能选择和我们对话。

    我们还有重启的机会。

    而AGI，将是另一场完全不同量级的物种碰撞。」

    「也许，我们压根没有反抗的余地。」

    「人类做好了把地球权力交到矽基生命手里的准备吗？」

    「终结者里的天网，未必是电影。」

    「所以，别急着欢迎它。AGI晚一点来，对大家都有好处。」

    LKS听完後内心很是震惊。

    他意识到，AGI绝不是一个更好用的ChatGPT，而是动荡和不安。

    权柄的交接，总会有反抗、暴力和鲜血。

    至於和平崛起...

    下一轮的交接，难道是人类和机器人阵营，对抗人类和人类的阵营？

    LKS没有继续追问这种人文社科类的话题，因为他不认为燃神知道答案。

    他接着开口道：「那燃神，您如何有把握，能够在希瓦娜失控的时候终结掉她？」

    说完後，LKS对着徐贤投过去一个有些歉意的眼神。

    「这也是很多网友所担心的。」

    「通用AGI失控引发的危机，哪怕希瓦娜不是通用AGI，她如果失控，恐怕也是很大的危机。」

    林燃开口道：「因为左右脑的架构，最核心的部分在园区。」

    「这套架构的伺服器只在这里。」

    「哪怕其他地方也有了左右脑架构，而希瓦娜的记忆利用其他的大脑复活。」

    「那也不是希瓦娜。」

    「也不会出现现在的奇蹟。」

    「我可以很明确地告诉你们，哪怕是完全复制粘贴到另外的硬体环境里，它也不是希瓦娜。」

    「所以我们目前还不会发生智械危机。」

    LKS接着问道，也是他最关心的问题：「燃神，您怎麽看虹，以及虹延伸的系统？」

    林燃说：「虹就是低配版的虹星，然後大家抽取的人工智慧是不同的，会根据你的一些信息做微调。」

    「说是抽卡，其实是匹配。」

    「会和用户做匹配，让用户有不错的使用体验。」

    「哪怕只是当成电子女友，它也绝对能值回

    （本章未完，请点击下一页继续阅读）

『加入书签，方便阅读』