本文作者:访客

研究机构预估:部署Sora需要72万片英伟达加速卡 价值216亿美元

访客 2024-03-27 18:05:05 60288 抢沙发

3月27日消息,据媒体报道,市场研究机构Factorial Funds发布了一份报告,其中详细分析了OpenAI部署的文本转视频模型Sora所需的硬件资源。

报告指出,在峰值时期,Sora模型预计需要高达72万片英伟达H100 AI加速卡来支持其强大的运算需求。

考虑到每片英伟达H100 AI加速卡的成本约为3万美元,这一数字意味着仅仅是加速卡的成本就高达惊人的216亿美元(约合人民币1561亿元)。

而这仅仅是冰山一角,因为除了加速卡,训练Sora还需要投入大量的其他硬件成本,包括高性能服务器、稳定的电力供应等。

Factorial Funds还预估,训练Sora一个月需要使用的英伟达H100 AI加速卡数量在4200到10500片之间。生成1分钟的视频也需要进行长达12分钟的渲染,这进一步凸显了Sora模型在运算和数据处理方面的巨大需求。

与此同时,我们也不能忽视AI技术对于能源的巨大消耗。此前有报道指出,ChatGPT为了响应用户请求,每天消耗的电力可能超过50万千瓦时,这几乎是美国普通家庭平均用电量的1.7万多倍。考虑到电力成本,这相当于每天需要支付高达53万元的电费,一年下来光是电费就要花费近2亿元。

英伟达CEO黄仁勋在公开演讲中指出,AI未来发展与光伏和储能紧密相连。特斯拉CEO马斯克也提出类似看法,AI在两年内年将由缺硅变为缺电,而这可能阻碍AI的发展。

阅读
分享

发表评论

快捷回复:

评论列表 (暂无评论,60288人围观)参与讨论

还没有评论,来说两句吧...