> 自媒体 > (AI)人工智能 > Generative AI——GPT-3(三)
Generative AI——GPT-3(三)
来源:千株松生物
2023-05-03 19:23:43
541
管理

AI 训练成本继续暴跌

MosaicML最近发布了AI训练工具,可以将语言模型训练到GPT-3级别,只需45万美元,大约是两年前460万美元的十分之一。人工智能培训成本每年下降约70%,甚至快于方舟2022年大想法研究提出的60%的估计。

训练GPT-3级别性能的成本

Sources:ARK Investment Management LLC, 2023. Venigalla, A. et al. 2022; Li, C. 2020.Forecasts are inherently limited and cannot be relied upon. For informational purposes only and should not be considered investment advice or a recommendation to buy, sell, or hold any particular security. Past performance is not indicative of future results.

资料来源:ARK投资管理有限责任公司,2023年。Venigalla, A.等,2022;李,C. 2020。预测作用本身是有限的,不能依赖。仅供参考,不应被视为投资建议或购买、出售或持有任何特定证券的建议。过去的表现并不代表将来的结果。

人工智能硬件和软件成本将继续以每年70%的速度下降

根据Wright定律,人工智能相关计算单元(RCU)的生产成本和软件成本将分别以每年57%和47%的速度下降。换句话说,到2030年,硬件和软件的融合可以使人工智能培训成本以每年70%的速度下降。

AI 训练硬件成本

累计产生的RCUS

基于神经网络的AI软件训练成本

训练成本

*TFS-Days is a measureofcompute required to train a model.Sources: ARKInvestment Management LLC, 2023. Forecasts are inherently limited andcannotbereliedupon. Forinformationalpurposes only and shouldnot be considered investment advice or a recommendation to buy, sell, or hold any particular security. Past performance is not indicative of future results.

*TFS-Days是训练模型所需的计算量。资料来源:ARK投资管理有限责任公司,2023年。预测本身作用是有限的,不能依赖。仅供参考,不应被视为购买、出售或持有任何特定证券的投资建议或建议。过去的表现并不代表未来的结果。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
关于作者
细雨入梦(普通会员)
文章
1821
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体106227

0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索