三星电子总裁暨存储器业务主管Jung-Bae Lee博士以四个数字探讨AI对于全球的巨大影响力,接着探讨因为AI的未来与存储器技术的创新。
第一个数字1966年,是指1966年麻省理工学院的维森鲍姆(Joseph Weizenbaum)博士开发出第一个聊天机器人ELIZA。
2022年,基于GPT-3.5的ChatGPT被开发出来,参数数量达到惊人的 1.75 亿个。
那时起,生成式人工智能开始迅速改变世界。
200,2023年AI加速器进行AI模型训练时,一天内在GPU和存储器之间产生的数据量高达200ZB(Zettabyte),这个数字是2019年的六倍,未来这个差距还会持续扩大。
1600,是2024年预估HBM(高频宽存储器)的出货量,将高达1600 million GB,也就是16亿GB的容量规模,这是2016年至2023年八年总和的两倍之多。
800,则是预估至2027年市场规模将高达800 billion美元,也就是将从2023年的5300亿美元急剧攀升至8000亿美元的市场产值;但是在2021年前市场产值要达到5000亿美元花了四年的时间。
AI也为存储器产业带来新的挑战,三大挑战包括AI模型训练导致耗电量激增、HBM,以及储存容量已捉襟见肘。
三星电子也针对AI推出众多产品,包括DDR、SSD等相关产品线,当中最引人关注的是今年六月三星发布的技术文献,也就是一种前瞻性的3D HBM封装技术。
Jung-Bae Lee也首度对外透露3D HBM封装技术的架构,以及将为AI时代解决存储器产业面临的诸多难题。
这个创新的存储器架构,类似于V-NAND(三星采用双次堆叠技术开发的存储器),但是需要单独的电容器,这使得堆叠技术具有挑战性,正在开发超越目前2D架构的结构。
随着人工智能模型的不断增长,对存储器频宽和容量的需求不断增加,功耗问题也随之增加,目前的架构很难有效地解决这些需求和问题。
后来,三星通过对HBM的功耗进行分析,发现主要的功耗发生在HBM和GPU之间的数据传输期间。
点击此处关注,获取最新资讯!
我的评论
最新评论