ChatGPT对GPU算力的需求测算与相关分析
pdf
上传用户:闪德君
类别:技术解析
上传时间:2023-04-08
软件大小:7.67 MB
阅读量:558
收藏
资料简介短期内GPU增量与市场规模:参考OpenAI算法,假设每日1亿用户,每人进行10条交互,每 个问题的回答长度为50词,算力利用率30%,则单个大语言模型(LLM)的日常需求有望带 来2.13万片A100的增量,对应市场规模2.13亿美元。假设有5家大企业推出此类LLM,则总 增量为10.7片A100,对应市场规模10.7亿美元。