这次让英伟达老黄装到又赚到的的 “罪魁祸首”,不是挖矿,不是奸商囤货,不是疫情,而是爆火的 ChatGPT。
想要训练出一个能用的类 ChatGPT 模型,实在是太花钱了。
目前,想要跑通一次,注意,是一次 100 亿以上参数量级的模型,至少需要 1000 张专业级 GPU,训练一个月的时间。就算不使用 A100,而是按照 V100 这种每张 GPU 5 万的均价计算,光是买这些卡成本就能到 5000 万人民币。iOS 链接
这次让英伟达老黄装到又赚到的的 “罪魁祸首”,不是挖矿,不是奸商囤货,不是疫情,而是爆火的 ChatGPT。
想要训练出一个能用的类 ChatGPT 模型,实在是太花钱了。
目前,想要跑通一次,注意,是一次 100 亿以上参数量级的模型,至少需要 1000 张专业级 GPU,训练一个月的时间。就算不使用 A100,而是按照 V100 这种每张 GPU 5 万的均价计算,光是买这些卡成本就能到 5000 万人民币。iOS 链接