华为开源盘古7B稠密和72B混合专家模型

华为开源盘古7B稠密和72B混合专家模型

⭐0 👥0
6月30日，华为于正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE720亿参数的混合专家模型，以及基于升腾的模型推理技术。此次开源举措，是华为践行升腾生态战略的关键一步，旨在推动大模型技术的研究与创新发展，加速人工智能在各行业的应用并创造价值。目前，盘古Pro MoE72B模型权重、基础推理代码，以及基于升腾的超大规模MoE模型推理代码，均已正式上线开源平台。盘古7B相关模型权重与推理代码