北京理工大学

小模型如何比肩大模型,北理工发布明德大模型MindLLM,小模型潜力巨大

北京理工大学发布双语轻量级语言模型,明德大模型—MindLLM。大型语言模型 (LLMs) 在各种自然语言任务中展现出了卓越的性能,但是由于训练和推理大参数量模型需要大量的计算资源,导致高昂的成本,将大语言模型应用在专业领域中仍存在诸多现实问题。因此,北理团队先从轻量级别模型入手,最大程度发挥数据和模型的优势,立足更好地服务特定领域,减少下游任务的训练与推理成本。10 月 24 日,北京理工大学自然语言处理团队发布系列双语轻量级大语言模型明德  (Ming De LLM)——MindLLM,全面介绍了大型模型开发过
  • 1