分布式训练方法:大模型训练技术有更复杂的分布式训练方法,可能一张卡才能塞下一层;
数据:数据量,数值质量,数据清洗;
学习方法:多模态结构、强化学习、自主进化学习等;
计算资源:训练集群环境搭建;
后期的部署测试。
发布于 2023-07-18 10:53・IP 属地上海
分布式训练方法:大模型训练技术有更复杂的分布式训练方法,可能一张卡才能塞下一层;
数据:数据量,数值质量,数据清洗;
学习方法:多模态结构、强化学习、自主进化学习等;
计算资源:训练集群环境搭建;
后期的部署测试。