AI带来存储器产业巨变

2024-09-09
阅读量 1309

三星电子总裁暨存储器业务主管Jung-Bae Lee博士以四个数字探讨AI对于全球的巨大影响力,接着探讨因为AI的未来与存储器技术的创新。

图片

第一个数字1966年,是指1966年麻省理工学院的维森鲍姆(Joseph Weizenbaum)博士开发出第一个聊天机器人ELIZA。

2022年,基于GPT-3.5的ChatGPT被开发出来,参数数量达到惊人的 1.75 亿个。

那时起,生成式人工智能开始迅速改变世界。

200,2023年AI加速器进行AI模型训练时,一天内在GPU和存储器之间产生的数据量高达200ZB(Zettabyte),这个数字是2019年的六倍,未来这个差距还会持续扩大。

1600,是2024年预估HBM(高频宽存储器)的出货量,将高达1600 million GB,也就是16亿GB的容量规模,这是2016年至2023年八年总和的两倍之多。

800,则是预估至2027年市场规模将高达800 billion美元,也就是将从2023年的5300亿美元急剧攀升至8000亿美元的市场产值;但是在2021年前市场产值要达到5000亿美元花了四年的时间。

AI也为存储器产业带来新的挑战,三大挑战包括AI模型训练导致耗电量激增、HBM,以及储存容量已捉襟见肘。

三星电子也针对AI推出众多产品,包括DDR、SSD等相关产品线,当中最引人关注的是今年六月三星发布的技术文献,也就是一种前瞻性的3D HBM封装技术。

Jung-Bae Lee也首度对外透露3D HBM封装技术的架构,以及将为AI时代解决存储器产业面临的诸多难题。

这个创新的存储器架构,类似于V-NAND(三星采用双次堆叠技术开发的存储器),但是需要单独的电容器,这使得堆叠技术具有挑战性,正在开发超越目前2D架构的结构。

随着人工智能模型的不断增长,对存储器频宽和容量的需求不断增加,功耗问题也随之增加,目前的架构很难有效地解决这些需求和问题。

后来,三星通过对HBM的功耗进行分析,发现主要的功耗发生在HBM和GPU之间的数据传输期间。

点击此处关注获取最新资讯!

f328f6db93164f84bb23c090c28e7db.png88c1a0acd98aa6023fcbfa1f2ebf421.png


1.本文整理自网络,如有侵权,请联系删除。

2.所刊内容仅代表作者观点,非闪德资讯立场。

我的评论

登录后评论

最新评论

渠道报价
查看更多

PC 2666

  • 一年
  • 半年
  • 三个月
  • 一个月

微信订阅

APP下载

存储未来,赢得先机

18126200184

Copyright©2008-2024 闪德资讯 版权所有 粤ICP备18080549号-1

粤公网安备 44030402002744号