ChatGPT呼唤高性能内存芯片 HBM报价飞涨 三星、海力士接单量大增
CHATGPT等新兴AI产品对高性能存储芯片的呼唤高海力需求与日俱增。据韩国经济日报报道,性能芯片受惠于ChatGPT,内存三星、价飞SK海力士高带宽内存(high bandwidth memory,涨星HBM)接单量大增。士接
HBM是单量大增一种基于3D堆叠工艺的DRAM内存芯片,它就像摩天大厦中的呼唤高海力楼层一样可以垂直堆叠。基于这种设计,性能芯片信息交换的内存时间将会缩短。这些堆叠的价飞数颗DRAM芯片通过称为“中介层(Interposer)”的超快速互联方式连接至CPU或GPU,最后可将组装好的涨星模块连接至电路板。
HBM的单量大增架构 图源:AMD
HBM重新调整了内存的功耗效率,能大幅提高数据处理速度,呼唤高海力是当下速度最快的DRAM产品,其每瓦带宽比GDDR5高出3倍还多,且HBM比GDDR5节省了94%的表面积。
目前,HBM主要被安装在GPU、网络交换及转发设备(如路由器、交换器)、AI加速器、超级计算机及高效能服务器上。
首尔业界消息称,SK海力士为英伟达供应第三代HBM,搭配英伟达的A100 GPU供ChatGPT使用。另外,英伟达已经将SK海力士的第四代HBM安装至H100,而H100已开始供应ChatGPT服务器所需。
另一方面,三星已开发出具运算能力的HBM,不但能储存数据、还能运算数据。三星已在2022年10月向AMD供应该产品,用于AI加速器。
首尔业界透露,如今第三代HBM报价飞涨,已是效能最高的DRAM产品的五倍之多,其市场成长率是三星、SK海力士原本预测的两倍以上。
▌高算力AI应用呼唤高性能内存芯片
ChatGPT等高算力AI应用的火爆将基础设施端逐渐推向前台。
三星内存副总裁Kim Jae-joon曾说,ChatGPT等基于自然语言技术的交互式AI应用的发展有利于提升内存需求。高效且大量的运算能力、高容量的内存,是AI学习与推论模型的根基。
目前,搭载于新兴AI应用的内存芯片亟待升级。
首先,ChatGPT这类生成式AI应用需要在海量的训练数据中进行学习,才能实现高质量的生成输出。为了实现关键词识别、图像识别等功能,AI模型需要存储大量的图片和音频信息。
其次,面向C端用户的AI应用必须具备快速处理数据的能力,才能向用户实时输出AI计算结果,因此也对内存芯片的数据传输速度提出了更高要求。
与此同时,随着人工智能技术的进一步普及,越来越多的AI应用发生在移动设备和物联网终端设备上,而这些设备大多采用电池供电或充电,对功耗十分敏感。
如此一来,以HBM为代表的超高带宽内存技术有望成为相关加速芯片的必然选择,同时生成类模型也会加速HBM内存进一步增大容量和增大带宽。
除了HBM之外,CXL(计算快速链接)等新的存储技术加上软件的优化也有将在这类应用中增加本地存储的容量和性能,估计会从生成类模型的崛起中获得更多的工业界采用。
据《科创板日报》不完全统计,A股已有澜起科技(行情688008,诊股)、国芯科技(行情688262,诊股)、通富微电(行情002156,诊股)等厂商有相关技术布局。
(责任编辑:百科)
-
荣耀80系列和Magic Vs系列由维信诺、京东方供货柔性AMOLED屏幕
e公司讯,记者从产业链人士处获悉,荣耀80系列手机和荣耀折叠手机Magic Vs由国内OLED厂商和京东方供货柔性AMOLED屏幕,国产AMOLED屏在品牌终端产品的渗透率持续提升。CINNO Res ...[详细]
-
本报上海10月3日电 记者刘士安、李泓冰、田泓、曹玲娟)日前,胡荣干和老伴坐着装满锅碗瓢盆的三轮车,迎着朝阳奔向刚拿到钥匙的新居。在上海市黄浦区建国东路68街坊生活了50多年,老两口终于告别仅有14. ...[详细]
-
炒股就看,权威,专业,及时,全面,助您挖掘潜力主题机会!编者按:国庆长假同样也是消费的“黄金周”。在当前稳经济大盘的背景下,消费是促进经济增长的重要动力。长假期间,证券时报记者走进一线,亲身感知黄金周 ...[详细]
-
国产客机领证起飞,年底将正式交付,订单预购超5000亿!万亿产业链待起飞,这些高精尖公司打入核心供应领域
炒股就看,权威,专业,及时,全面,助您挖掘潜力主题机会!飞机制造产业作为现在工业的皇冠,随着C919飞机型号合格证获批,国产客机千亿市场徐徐打开。C919拿到民航局合格证书国庆长假前夕,中国自行研制的 ...[详细]
-
铭匠光学发布新款富士口27mm F2.8自动镜头固件V1.0.2
铭匠光学于今年 10 月底发布了 AF 27mm F2.8 XF 固件更新 V1.0.2 ,本次更新优化了光圈控制环的稳定性,优化了开关机速度。下面是更新内容:1。 优化光圈控制环的稳定性2。 优化了 ...[详细]
-
来源:华尔街见闻 刘茜OPEC+联合部长级监督委员会JMMC)提议减产200万桶/日。油价继续上涨,美油、布油涨幅超1%。产油国部长们在周三晚些时候的会议上讨论该提议,届时做出最终政策决定。这是OP ...[详细]
-
亿都国际控股)00259)发布公告,于2022年10月5日斥资62.7万港元回购21万股,回购价格每股为2.98-2.99港元。 ...[详细]
-
宣布收购推特后马斯克提到一款“万能应用”,美媒:听起来很像微信
【环球网报道 记者 索炎琦】“马斯克的万能应用程序‘X’听起来很像中国的微信。”美国彭博社当地时间4日以此为题对马斯克收购推特事件进行了报道,并提到了中国手机应用程序——微信。美国彭博社报道截图当地时 ...[详细]
-
“‘双11’,我的购物‘战场’在健康领域。”正在读大三的何青买了U形枕、筋膜枪、滴眼液、暖宫贴、足浴包、……为何“囤”大量养生产品?何青说:“平时学习压力大,颈椎和眼睛都明显发酸。有一次去看医生,他建 ...[详细]
-
IT之家 10 月 6 日消息,谷歌在今年 4 月指出,Pixel 6 系列是该公司有史以来卖得最快的 Pixel 系列机型,而该公司似乎对即将推出的 Pixel 7 系列有更高的期待。消息人士向《日 ...[详细]