英伟达斥巨资锁定HBM3内存供应,确保AI与HPC GPU稳定推出

【HowToTech科技】12月31日消息,据韩国Chosun
Biz最新报道,英伟达在积极预定台积电产能的同时,还斥资巨大与美光和SK海力士签下了HBM3内存的供应大单。

知情人士透露,英伟达此次预购的HBM3内存规模在700亿至1万亿韩元之间。尽管具体细节尚未公布,但市场普遍分析认为,英伟达此举旨在确保其在2024年新一代AI和HPC
GPU推出时,HBM内存的供应能够保持稳定。

据HowToTech科技了解,当前三星电子、SK海力士、美光这三大存储巨头的HBM产能已经被预订一空。业内人士预计,在AI领域半导体公司的激烈竞争推动下,HBM市场有望在未来两年内迎来爆发式增长。

此前有消息显示,英伟达正在筹备两款搭载HBM3E内存的新品:分别是配备高达141GB HBM3E内存的H200
GPU和GH200超级芯片。这两款产品的推出无疑将进一步提升英伟达对HBM内存的需求。

作为当前全球最强大的AI芯片,H200不仅采用了创新的HBM3e技术,还基于NVIDIA
Hopper架构打造,与H100完美兼容,并提供了惊人的4.8TB/s传输速度。在人工智能应用方面,英伟达宣称HGX H200在Llama
2上的推理速度相较于H100提升了一倍。此外,HGX
H200将支持4路和8路的配置,适用于各类数据中心环境,并由多家主流云服务提供商部署。该产品预计将于2024年第二季度正式上市。

大鱼的头像

这个人很懒,什么都没有留下~

延伸阅读:

OpenAI 测试长输出版 GPT-4o:单次输出达64K tokens

【HowToTech科技】8月1日消息,OpenAI在7月29日透露,他们正在对一款名为GPT-4o Long Outp...

大鱼的头像
大鱼
2024 年 8 月 1 日
ISC.AI2024数字安全峰会:360、华为、微软等共话安全+AI新挑战

7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题...

大鱼的头像
大鱼
2024 年 7 月 31 日
ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型

“把大模型拉下神坛就要把免费贯彻到底,今天我在行业里第一个宣布安全大模型免费。”7月31日,ISC.AI2024第十二届...

大鱼的头像
大鱼
2024 年 7 月 31 日
阿里通义免费开放奥运AI大模型

7月31日,阿里通义宣布免费开放奥运AI大模型,具备最强奥运专业知识,并集合同声传译级别的中法互译功能。即日起,用户可以...

大鱼的头像
大鱼
2024 年 7 月 31 日
实时对话更自然,OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式

【HowToTech科技】7月31日消息,OpenAI于当地时间30日宣布,即日起GPT-4o的语音模式(注:Alpha...

大鱼的头像
大鱼
2024 年 7 月 31 日