舍弃HBM!这家公司要造低价AI芯片

2024-07-16
阅读量 2478

今日外媒消息,曾为英特尔、AMD和特斯拉工作的芯片设计师吉姆·凯勒(Jim Keller)正试图通过设计比英伟达更高效的芯片来降低人工智能应用的价格,以期获得这家美国巨头所占据的部分市场。

图片

凯勒现在是美国人工智能芯片设计初创公司Tenstorrent的首席执行官,他表示,英伟达没有很好地服务于更多市场。

随着人工智能的使用扩展到智能手机、电动汽车和云服务,越来越多的公司正在寻找更便宜的解决方案,凯勒说,“很多小公司不想为英伟达的高端GPU支付2万美元”。

成立于2016年的Tenstorrent正准备在今年年底销售其第二代多用途AI芯片,该公司表示,在某些领域,它拥有比英伟达的AI GPU更好的能源和处理效率。据 Tenstorrent称,其Galaxy系统的效率是英伟达DGX的三倍,却要便宜33%。

凯勒称,之所以能做到价格更低,其中一个原因是该公司没有使用高带宽内存(HBM)。HBM是生成式AI芯片的重要组成部分,在英伟达产品的成功中发挥了重要作用

然而,HBM也是AI芯片大量能耗和高价格的罪魁祸首之一。

在典型的AI芯片组中,每次执行进程时,GPU都会将数据发送到内存。这就需要HBM的高速数据传输能力。然而,Tenstorrent专门设计了其芯片来大幅减少此类传输。

凯勒表示,通过这种新方法,他的公司的芯片设计可以在AI开发的某些领域取代GPU和HBM。

此外,Tenstorrent 还在设计产品以尽可能实现成本效益,目前许多公司也在寻求更好的存储解决方案,但凯勒也坦承,要颠覆庞大的现有HBM 产业,还需要数年时间。他也预期,与其只由一间公司取代英伟达,不如涌现更多新公司,填补美国公司未涉足的各种人工智能市场。

通常,单个芯片内核只有一个小型电脑和内存,并且只负责解决单个给定的任务。然而,Tenstorrent的核心将能够自己“思考”,决定首先处理哪些数据,或者如果认为不必要,是否放弃某些任务,从而提高整体效率。

该公司表示,由于每个内核都是相对独立的,因此该芯片可以通过或多或少地堆叠在一起来适应更广泛的应用。例如,对于智能手机或可穿戴设备来说,少量的数量就足够了,而100个可以组合起来用于人工智能数据中心。

点击此处关注获取最新资讯!

f328f6db93164f84bb23c090c28e7db.png88c1a0acd98aa6023fcbfa1f2ebf421.png

1.本文整理自网络,如有侵权,请联系删除。

2.所刊内容仅代表作者观点,非闪德资讯立场。

我的评论

登录后评论

最新评论

渠道报价
查看更多

D4/32G-DDR 4

  • 一年
  • 半年
  • 三个月
  • 一个月

微信订阅

APP下载

存储未来,赢得先机

18126200184

Copyright©2008-2024 闪德资讯 版权所有 粤ICP备18080549号-1

粤公网安备 44030402002744号