大言语模型

大言语模型（Large Language Models, LLMs）在过去两年内迅速发展，涌现出一些现象级的模型和产品，如 GPT-4、Gemini、Claude 等，但大多数是闭源的。研究界目前能接触到的大部分开源 LLMs 与闭源 LLMs 存在较大差距，因此晋升开源 LLMs 及其他小模型的才能以减小其与闭源大模型的差距成为了该规模的研究热点。LLM 的强大才能，特别是闭源 LLM，使得科研…

本文介绍了将多模态大言语模型（MLLMs）调整到下一代主动驾驭体系中的模式。随着大言语模型 (LLM) 和视觉基础模型 (VFM) 的出现，受益于大模型的多模态人工智能体系有潜力像人类一样全面感知现实世界、做出决策。在最近几个月里，LLM 已经在主动驾驭钻研中引起了广泛关注。尽管 LLM 具有巨大潜力，但其在驾驭体系中的关键应战、机遇和未来钻研方向仍然缺乏文章对其详细阐明。在本文中，腾讯舆图、普渡…

即便大言语模型的参数规模日渐增长，其模型中的参数到底是如何发挥作用的还是让人难以琢磨，直接对大模型进行分析又费钱费力。针对这种情况，微软的两位研讨员想到了一个绝佳的切入点，用生成简练但是又涵盖各种常见逻辑和语法的童话小说来作为模型的生成任务，这样做能在减少模型的进修负担的同时，保留模型对逻辑和语法的进修能力，进而用小模型来分析参数发挥的作用。这种法子可能会开创一条新的研讨道路。人们都知道，学英语不…