> 自媒体 > (AI)人工智能 > 研究人员可以免费使用支持GPT-3的全球最大芯片
研究人员可以免费使用支持GPT-3的全球最大芯片
来源:AI时代前沿
2023-05-23 17:25:48
751
管理

自从ChatGPT席卷全球以来,各家公司纷纷打开钱包来探索这项技术,人工智能领域掀起了新一轮热潮。它还引起了大家对OpenAI的GPT-3的关注,这是现象级ChatGPT背后的大型语言模型(LLM),它对查询提供类似人类响应。

PSC欢迎主要与人工智能和机器学习工作量有关高性能计算项目,而对传统高性能计算应用程序则不太受欢迎。项目鼓励应用程序采用AI算法方法来运行传统HPC工作负载。这些提案必须是非专利的,且只能来自美国研究机构或非盈利性机构。

除了GPT-3,CS-2系统还支持流行的BERT Transformers模型。

Cerebras Systems的首席执行官Andrew Feldman表示:“关于大型语言模型和超大型语言模型,有大量的讨论。然而在给定的规模(例如130亿参数)之后,实际上从零开始训练一个语言模型的组织数量少之又少。因为你首先需要解决大量的硬件问题。”

通常,运行Transformers模型需要大量数据、数据科学知识和深度机器学习专业知识。训练数据需要数周的时间,硬件选项包括GPU和TPU(GPU被微软用于Bing和AI,而TPU被谷歌用于Bard聊天机器人)。

PSC的Neocortex已经被用于研究生物技术、宇宙视觉地图和健康科学等领域的人工智能。该系统还用于研究在CS-2中部署的新内存模型上部署AI的方法。

Cerebras在CS-2中的WSE-2芯片包含2.6万亿个晶体管,所有相关的AI硬件都集中在晶片大小的芯片中。该系统具有40GB SRAM片上存储器、每秒20 PB的带宽和12个100千兆以太网端口。CS-2连接到HPE的Superdome Flex系统,该系统有32个Intel Xeon Platinum 8280L芯片,每个芯片有28个内核,运行频率高达4GHz。

相比之下,英伟达GPU通常分布在许多系统上。英伟达的GPU依赖于CUDA并行编程工具包,该工具包广泛用于研究人工智能。Feldman:“我认为,我们有很大的机会取代GPU和TPU,并以更有效的方式做到这一点——用更少的失误实现更好的目标。”

对ChatGPT的需求已经压倒了OpenAI的系统,因此未来针对AI计算的需求将势不可挡。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
AI进化速递丨OpenAI “Sora之父”宣布离职
①OpenAI “Sora之父”宣布离职;②智元酷拓D2系列四足机器人亮相智元合..
深度解读:Open AI“造芯”背后的AI时代洪流与未来格局重塑..
当 OpenAI 不再满足于“用芯”,而是开始“造芯”,这不仅是技术路线的延..
历史性时刻!Anthropic估值暴涨破万亿美元,首次超越OpenAI..
https://app.ventuals.com/trade/anthropic收入增长决定估值的底部。模型..
核弹级爆料:OpenAI 自研 AI 手机,双芯片巨头加持即将落地..
摘要:AI 巨头正式跨界硬件,供应链顶配集结,一场颠覆手机行业的革命要..
马斯克告 OpenAI 的真正原因:AI 垄断正在悄悄收割你的钱包..
你以为 AI 是来解放你的?错了。它正在成为资本收割普通人的新镰刀。这场..
马斯克和Sam Altman开庭,OpenAI 还是CloseAI ?
今天马斯克和Sam Altman(OpenAI CEO)正式对簿公堂,这不仅是两个人恩怨..
拒绝平庸!OpenAI 联手顶尖供应商,自研 AI 手机或于 2028 年改写规则..
AI Agent 时代:手机将不再只是 App 的容器在智能手机市场趋于饱和、交互..
CoreWeave 紧急“撇清”:OpenAI 并非唯一,Meta、微软、谷歌皆为座上宾..
在OpenAI销售目标未达预期的消息传出后,相关概念股集体承压。CoreWeave..
OpenAI 与微软七年合作终结:分手后,谁更痛
2026 年 4 月底,OpenAI 和微软同时发布声明:双方长达七年的独家合作关..
关于作者
月深沉(普通会员)
文章
1960
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体106017

0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索