这次让英伟达老黄装到又赚到的的“罪魁祸首”,不是挖矿,不是奸商囤货,不是疫情,而是爆火的ChatGPT。
想要训练出一个能用的类ChatGPT模型,实在是太花钱了。
目前,想要跑通一次,注意,是一次100亿以上参数量级的模型,至少需要1000张专业级GPU,训练一个月的时间。就算不使用A100,而是按照V100 这种每张GPU 5万的均价计算,光是买这些卡成本就能到5000万人民币。iOS链接
这次让英伟达老黄装到又赚到的的“罪魁祸首”,不是挖矿,不是奸商囤货,不是疫情,而是爆火的ChatGPT。
想要训练出一个能用的类ChatGPT模型,实在是太花钱了。
目前,想要跑通一次,注意,是一次100亿以上参数量级的模型,至少需要1000张专业级GPU,训练一个月的时间。就算不使用A100,而是按照V100 这种每张GPU 5万的均价计算,光是买这些卡成本就能到5000万人民币。iOS链接