最新 腾讯开源轻量级混元-A13B模型 1张中低端GPU卡即可部署

腾讯开源轻量级混元-A13B模型 1张中低端GPU卡即可部署

⭐0 👥0
腾讯正式发布并开源混元大模型家族的新成员——混元-A13B模型。该模型采用基于专家混合（MoE）架构，总参数规模达800亿，激活参数为130亿，在保持顶尖开源模型效果的同时，大幅降低了推理延迟与计算开销，为个人开发者和中小企业提供了更具性价比的AI解决方案。据腾讯方面介绍，混元-A13B模型在极端条件下仅需1张中低端GPU卡即可部署，用户可通过Github、HuggingFace等技术社区下载使用