件事——只要模型架构选对,当神经网络的参数规模与训练数据量堆砌到一定临界点时,人工智能是真的会产生质变,也就是学术界常说的‘涌现现象’。”
周院士指着报告上的技术参数对比表,表情严肃地继续分析道:
“从客观差距来看,我们国内目前在人工智能领域的研发重心,绝大多数还停留在图像识别、人脸比对、安防监控以及特定垂直领域的语音转写上,也就是所谓的判别式AI。”
“在基于TranSfOrmer架构的超大参数量生成式预训练大模型这条赛道上,国内学术界和企业界的积累薄弱。”
另一位来自顶尖高校的计算机学院院长也紧跟着补充道,语气中透着深深的忧虑:
“不仅是算法架构上的代差,更致命的是算力与数据的双重壁垒。”
“GPT-3高达1750亿的参数量,背后需要成千上万张顶级GPU计算卡进行长达数月的分布式并行训练,单次训练的电费和算力成本就高达数百万甚至上千万美元。”
“当然电费和算力成本我们还是烧得起的,就是这个GPU......”
“如今欧美在高端显卡和先进制程芯片上对我们卡得越来越死,国内绝大多数实验室和企业,根本凑不齐这么庞大的算力集群!”
听完两位顶级专家丝毫不留情面的客观剖析,会议室内陷入了长达半分钟的死寂。
……
本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 暮色书屋 All Rights Reserved.kk