机构:ChatGPT未来迈向商用,GPU需求上看三万颗-天天热点

同花顺7x24快讯   2023-03-01 15:08:16


【资料图】

TrendForce集邦咨询表示,由于生成式AI必须投入巨量数据进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,TrendForce集邦咨询估GPU需求量预估约2万颗,未来迈向商用将上看3万颗(本文计算基础以NVIDIA A100为主)。

猜你喜欢

[ 最近更新 ]