免费阅读
返回
菜单
上一章查看最新章节下一章

第113章 意外的邀请

作品:重生之AI教父作者:CloseAI
如果本章错误,请点击报错10秒纠正

相比效果显著,非常出色的老虎算法,移动端优化排序算法的效果要稍差一些。

因而孟繁岐并没有急着推动上线测试,而是等待结合AI语言解释模型的那一个更新准备一起推动。

目前针对语言问题所采用的通常是循环神经网络(RNN)和长短期记忆办法(LSTM),这两个工作都是上个世纪末的老办法了。

这两种方法简明好用,因而一直兴盛到2017年左右。

直到Transformer,也就是ChatGPT的T方法出现。

通常来说,大家都认为Transformer方法之所以能够迅速取代RNN和LSTM,主要是因为它更方便并行进行。

在多个设备上容易做到并行,这件事最核心的意义便是让规模庞大的版本成为可能,这也为后来ChatGPT这样的究极巨无霸模型奠定了基础。

“其实老版的RNN也有办法可以把并行做得很好,领域内对这件事有很大的误解。”孟繁岐皱着眉头思索道。

原本时间线,Transformer出来之后,所有人都放下了手头老方法的研究,拥抱了T方法。

可18年实际上有人专门做了RNN的高度并行,只可惜已经太迟了。

如果这个发现可以早一年的时间,可能RNN会长期作为T办法的竞争对手,我们也有可能看到ChatRNN的出现。

“早期的T方法需要很多数据,各种参数比较难调整,需要的计算能力也很庞大。”孟繁岐即便根据后来成熟的许多方法做了一个改进的版本,T方法在早期仍旧比较麻烦。

“好在谷歌的数据和算力都不缺,而我也比较熟悉各种经典的参数设置。”孟繁岐先写了一个雏形版本的T方法,进行了一下测试。

“不过,受限于现在显卡的显存,模型没有办法做得很大,除非我专门再去开发DeepSpeed这样的高级并行方式。”

在多张卡上训练模型,可能是为了追求速度,也可能是因为一张卡上放不下了。

其中,数据并行是最简单的,也就是不同的卡都在做同样的事情,每张卡上都会存放一个模型。

只不过输入的数据不一样,不同的卡做完运算之后,再一起整合更新。

就像是所有人都拿了同样的刀切不同的菜,最后把切好的食材堆在一起。

可有的时候,一张卡上根本就放不下模型,这样的情况就比较麻烦了。

…。。
   本章没完,请点击下—页继续阅读!如果被转码了请退出转码或者更换浏揽器即可。
  温馨提示:亲爱的读者,如果你觉得本站还好,为了避免丢失和转马,请勿依赖搜索访问,建议你使用[华为刘揽器]或[Firefox火狐刘揽器]访问并收蔵【暮色书屋】 m.msunonline.com。我们将会持续为你更新,还建议你注册会员使用书架功能追书阅读更方便。
上一页 123下一页
上一章查看最新章节下一章
临时书架加入书签回顶部↑

看了《重生之AI教父》的书友还喜欢看

顶级驯服
作者:南巷茶茶
简介: 【阴暗偏执野心家VS高岭之花下神坛】……陈迦是被人抱错的真千金。

...
更新时间:2026-03-03 23:23:47
最新章节:第72章 豪赌
公路求生,开玩具车也能当榜一?
作者:老酒抽到上上签
简介: 【公路求生?无CP?微群像】一睁眼,花浅穿着睡衣抱着猫,被丢进了公路求生游戏。
更新时间:2026-03-03 23:16:00
最新章节:第九十四章预知
家父刘备,望父成龙
作者:周府
简介: 汉室衰弱,群雄逐鹿。徐州陶谦、兖州曹操、扬州袁术,窥探中原。刘公初居小沛,深陷纷争,...
更新时间:2026-03-03 22:54:19
最新章节:第24章我胜则曹忧,我败则曹喜
我本凡卒铸青锋,背剑斩尽天上人
作者:秉灯人
简介: 【序列高武】【高武高考】【杀伐果断】【另类单女主】【不压实力】\n欢迎来到无限天元世...
更新时间:2026-03-03 23:37:16
最新章节:第284章 四面楚歌,绝路尽头
死亡回档,48小时拯救世界
作者:稻香锅巴
简介: 一场车祸,让王聪获得了

“死亡回档”的能力!?\n正当他准...
更新时间:2026-03-03 23:37:32
最新章节:第241章 方牌线索!
连麦犯罪现场,全警局蹲我直播间
作者:灯下锦鲤
简介: 姜炽,冥界最嚣张的小殿下,被三生石碰瓷欠下百亿巨债,惨遭冥王老爹踹去人间。
...
更新时间:2026-03-03 23:38:11
最新章节:第八十八章 张家再次伟大~
书名:

本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。

Copyright © 2020 暮色书屋 All Rights Reserved.kk

SiteMap