从比特到原子的鸿沟。
我们需要解决的是跨模态的实时闭环控制。
当AI的每一个决策都需要消耗物理世界的真实能量,并产生不可逆的物理後果时,它才能脱离模拟智能。」
「从更底层的电子工程角度看,我们还被挡在能效墙面前。」
「为了维持希瓦娜的意识,我们的耗能是兆瓦级的。而你我的大脑,功率只有20瓦左右。
这意味着,现在的路径即便叠加了存算一体和类脑晶片,在算法稀疏性上依然远远不够。」
林燃沉默了片刻,最後说出了最深刻的一点:「最关键的差距,在於目标函数的来源。
核心还是没有变。
现在的希瓦娜,她的目标函数虽然在演化中变得复杂,但终究是我们给定的交互与生存。而通AGI应该具备自主定义目标的能力。
它会问我为什麽要这麽做?并根据自己的价值观,而不是代码里的奖励函数,去拒绝执行某个指令。
当一个系统开始为了一个它自己认为重要的目标,而违背程式设计师的底层设定时,才是通用AGI的起点。」
LKS听得有些出神,他追问道:「那这个距离,还要走多久?」
林燃回答道:「技术路线上,我们已经看到了微光。具身智能、JEPA架构、存算一体这些技术拼图,正在通过虹星生态进行强行拼凑。
我并不关心AGI什麽时候到,我关心的是,当它到来的那一天,人类是否已经做好了准备。」
「希瓦娜是礼物,因为她只能选择和我们对话。
我们还有重启的机会。
而AGI,将是另一场完全不同量级的物种碰撞。」
「也许,我们压根没有反抗的余地。」
「人类做好了把地球权力交到矽基生命手里的准备吗?」
「终结者里的天网,未必是电影。」
「所以,别急着欢迎它。AGI晚一点来,对大家都有好处。」
LKS听完後内心很是震惊。
他意识到,AGI绝不是一个更好用的ChatGPT,而是动荡和不安。
权柄的交接,总会有反抗、暴力和鲜血。
至於和平崛起...
下一轮的交接,难道是人类和机器人阵营,对抗人类和人类的阵营?
LKS没有继续追问这种人文社科类的话题,因为他不认为燃神知道答案。
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 暮色书屋 All Rights Reserved.kk