> 自媒体 > (AI)人工智能 > 全球最大的AI巨量模型发布,浪潮研发中国自己的GPT-3
全球最大的AI巨量模型发布,浪潮研发中国自己的GPT-3
来源:科技DoDo
2023-07-08 12:00:08
402
管理

近年来人工智能的发展,已经从“大炼模型”逐步迈向了“炼大模型”的阶段。利用先进的算法,整合大规模的数据,汇聚大量算力,训练出巨量人工智能模型,是人工智能一直在探索的方向。9月28日,浪潮人工智能研究院发布全球最大规模人工智能巨量模型“源1.0”。作为中国自已的GPT-3,“源1.0”的单体模型参数量达2457亿,已超越美国OpenAI组织研发的GPT-3,成为全球最大规模的AI巨量模型。

(ZeroCLUE零样本学习榜-第一行为人类得分)

据了解,“源1.0”在算法、数据、算力上,都做到了超大规模和巨量化。算法方面,相比于1750亿参数的英文语言模型GTP-3,“源1.0”共包含了2457亿个参数,是前者参数量的1.404倍。特别值得一提的是,“源1.0”和GPT-3一样都是单体模型,而不是由很多小模型堆砌起来的。

在谈及浪潮人工智能研究院为何会选择单体模型而不是混合模型时,浪潮人工智能研究院首席研究员吴韶华表示:“巨量模型领域,我们从模型能力的角度非常关注模型的零样本学习能力和小样本学习能力,这也是巨量模型最核心的能力,也是最吸引人的地方。我们选择单体模型跟这个特点是强相关,单体模型证明了它在这方面有特别出色的效果。”

(FewCLUE小样本学习榜-第一行为人类得分)

事实上,巨量模型的发展备受关注。斯坦福大学李飞飞教授等人工智能领域知名学者近期在论文中表示,这类巨量模型的意义在于突现和均质。突现意味着通过巨大模型隐含的知识和推纳可带来让人振奋的科学创新灵感出现;均质表示巨量模型可以为诸多应用任务泛化支持提供统一强大的算法支撑。

“源1.0”模型参数规模为2457亿,相比GPT-3模型1750亿参数量和570GB训练数据集,源1.0参数规模领先40%,训练数据集规模领先近10倍;训练采用的中文数据集达5000GB,是迄今业界最大的高质量中文数据集。它总共阅读了大约 2000 亿词,是全球最大的中文数据集。源1.0中文巨量模型的发布,使得中国学术界和产业界可以使用一种通用巨量语言模型的方式,大幅降低针对不同应用场景的语言模型适配难度;同时提升在小样本学习和零样本学习场景的模型泛化应用能力。

浪潮表示,“源1.0”将面向学术研究单位和产业实践用户进行开源、开放、共享,降低巨量模型研究和应用的门槛,有效推进AI产业化和产业AI化的进步,让各个行业具备可感知、自学习、可进化的能力,最终帮助用户完成业务智能转型升级,以具备通用性的智能大模型成就行业AI大脑。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
中汽协:1月销量排名前十轿车生产企业共销售52.5万辆..
2月24日,据中国汽车工业协会统计分析,2026年1月,销量排名前十位的轿车..
颜值即正义!5款网红轿车:最高续航破千+仅20万起,谁最值得等?..
#丰田品质B级纯电家轿9.38万##长文创作激励计划#​兄弟们,最近比亚迪的..
安全性高的轿车推荐:速腾L与四款主流家轿安全配置实测对比..
近年来,A 级家用轿车市场愈发“内卷”:合资品牌持续下探,自主品牌向上..
预算不到10万家用轿车别乱选:这4款车,各自适合什么人一次说清..
很多人到了年底想换车,第一反应就是一句话:“预算不多,但想买个靠谱的..
家用轿车常青树再升级!2026款丰田卡罗拉实测:省油、可靠、好开..
作为全球销量超5000万辆的家用轿车,丰田卡罗拉凭借稳定可靠、经济省油、..
手握 20 万预算买台新车回家过年,到底该怎么选?轿车篇..
临近春节,20 万预算的新能源轿车市场早已是神仙打架。既要撑得起返乡排..
经济实惠、价格门槛低 四款“平民轿车”来袭 吉利银河星耀7领衔..
对于普通家庭来说,一款给力的“出行搭子”至关重要。马年马上要到了,很..
厌倦了BBA,这四款冷门豪华中大型轿车值得考虑,有你喜欢的吗?..
在豪华C级车市场,聚光灯几乎从未离开过奔驰E级、宝马5系与奥迪A6L这“老..
四款“华系”中大型新能源轿车集中亮相,智能化与颜值成竞争关键..
【网通社快报】2026年国内车市竞争加剧,“含华量”与设计颜值成为关键因..
关于作者
国务院环卫工..(普通会员)
文章
1992
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体107167

0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索