> 自媒体 > (AI)人工智能 > 火山引擎:国产大模型追赶 GPT3.5一共分三步
火山引擎:国产大模型追赶 GPT3.5一共分三步
来源:飞象网
2023-08-01 12:15:52
661
管理

“中国企业追赶GPT大模型的速度到底有多快?”这个问题很多人都很关心。7月21日,在火山引擎出品的访谈节目V-Moment中,火山引擎总裁谭待、智谱AI CEO 张鹏、华泰证券技术部联席负责人王玲和润米咨询创始人刘润就这个问题展开了讨论,得出的结论是,国产大模型有望年底追上GPT3.5。

谭待认为,应该把追赶过程分成三个阶段。

第一个阶段,是“从无到有”,也就是“从0到1”。

第二个阶段,经过不断的迭代,加入更多有意义的数据,调大更多参数,还有更大的算力,让整个模型达到或者超过GPT3.5。

第三个阶段,是要更进一步。参数从千亿要到万亿,覆盖更多领域,达到和超越GPT4甚至更高。

谭待表示,GPT3.5的水平,基本上能拿到SAT考试前30%的名次,相当于可以考上美国重点大学。同时,OpenAI也在不断演进,如果是GPT4参考,就不只是前30%了,而是可以拿到前10%,达到长青藤水平。现在,国内创业公司走的比较快,基本上已经度过第一阶段,正在第二阶段攻坚的过程中。我预计在今年下半年,Q3晚些或Q4的时候,很可能会有做的比较好的企业出来,其实也标志着国内的基座大模型已经到了比较好的水准,过了第二阶段,慢慢大家就可以启动到第三阶段。

张鹏则表示,我们评价大模型一般看“相对水平”。从评测数据集的角度,大家都能刷到百分之百,这个评测数据集基本上就没有意义。但我们会看leader board排行榜,不同评测集上,大家的表现会有一些参差。

他举例到,比如去年一个权威的评测报告里边,智谱AI的基座模型、迁移的几种模型和GPT3相比,在100多项评测的水平线上来比较有胜有负,基本上持平,表现非常不错。如果用一个百分比来说明和GPT3.5的差距,那些评测的结果综合起来,大约相当于GPT3.5的百分之八十左右。这么看,到年底中国的大模型还是很有机会能够到100%的GPT3.5水平。

事实上,作为GPT-3的升级版本,GPT-3.5在自然语言处理领域取得了令人瞩目的成就,采用了海量的数据训练,具有超过1750亿个参数。相比于GPT-3,GPT-3.5在语言理解、生成和推理等方面表现更为出色,其能够进行更加复杂的自然语言处理任务。

但从技术基座的角度来看,GPT3.5相较于GPT3,最大的变化也只是通过真实的调用数据以及人类反馈的强化学习进行训练。而在这方面,国内大模型与之相比,从技术角度并不存在代差,追赶起来其实也并不像很多人想象的那么难。从谭待、张鹏的发言来看,年底追上GPT3.5,还是可以期待的。

#国产大模型有望年底追上GPT3.5#​

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
《飞驰人生》片尾为何谢王思聪?不止借车库,千万跑车全是真家伙..
提起《飞驰人生》,不少人都记得片尾字幕里王思聪的名字,却鲜少有人知道..
中国古代的顶级“超跑”,如今全球仅剩六千匹!汗血宝马是啥样?..
在历史的长河中,骏马总是与英雄、战争和传奇紧密相连,而对于我们中国人..
法拉利296 Challenge Stradale路试曝光:赛道版公路跑车即将到来..
【网通社快报】法拉利被拍到正在测试一款重度伪装的原型车,外观酷似赛道..
10款你应该现在就入手的跑车,趁它们还没成为经典款!..
整备质量马力扭矩布局2195磅138马力126磅英尺中置引擎,后轮驱动MR-S 是..
消息称保时捷下月推911 GT3 Cabriolet敞篷跑车:折叠软顶..
IT之家 2 月 24 日消息,汽车媒体 thesupercarblog 于 2 月 22 日发布博..
新能源汽车出海2.0:从“卖车”到“建生态”
文 | 惊蛰研究所,作者|芒种2007年,华语女子团体S.H.E的一首《中国话》..
汽车能“乘火车”返乡了!订单火爆→
今年春运,“12306托运汽车订单火爆”的话题冲上热搜。汽车“坐”着火车..
湖北造飞行汽车来了!单价或50万元以内,市民可以像开汽车一样开“飞车”..
极目新闻记者 黄忠 陈倩 杨绍杭 王俐燃 刘中灿像车,又像飞机,能垂直起..
紧急召回!近30万辆汽车,吉林车主快自查!
国家市场监督管理总局网站2月9日发布上海蔚来汽车有限公司的汽车召回信息..
关于作者
素素鴉(普通会员)
文章
1903
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体103523

2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索