随着人工智能的迅猛发展，尤其是在自然语言处理（NLP）畛域，大型语言模型（LLM）展现了硕大的变革后劲。这些模型正在改变我们的工作和交流方式，并在各种计算装备上展现出广泛的运用前景。然而，LLM硕大的模型给它在智能手机、物联网装备和车载系统等边沿装备上的运用带来了不小的寻衅。我们的比赛旨在鞭策LLM在资源受限的边沿装备上的机能、效率和多任务处理能力的极限。
比赛背景：虽然LLM具有硕大的运用后劲，但其庞大的参数对边沿装备的资源提出了严峻要求。例如，一个10B参数的LLM模型，即使经过量化处理，也需要高达20GB的内存，而大多数智能手机的内存容量远远达不到这一需求。此外，LLM的高能耗也是一大困难，通常一部满电的智能手机在使用LLM进行对话时，仅能维持不到两小时。
主要挑战：
内存需求：LLM推理需要大量内存，即使是高端智能手机也难以承载。能耗问题：LLM推理过程中的高能耗对智能手机的电池寿命构成寻衅。机能损失：在实现高紧缩比的同时保持模型机能，是现有技术的一大困难。离线功能缺乏：大多数LLM需要互联网连接，这限制了其在网络不稳定环境中的运用。
比赛目标：此次比赛旨在解决上述寻衅，并鞭策LLM在边沿装备上的实际运用。我们邀请来自各个畛域的研究人员、工程师和行业专业人士介入，共同设计系统、硬件和算法，以实现高机能LLM在边沿装备上的部署。
介入我们的NeurIPS边沿装备LLM寻衅赛！ 我们诚邀各畛域的专家介入NeurIPS寻衅赛，展现LLM在边沿装备上的能力，比赛前三名将分享30万的总奖池。
比赛赛道：
紧缩寻衅：展现如何在不显著损失机能的情况下紧缩预训练LLM。从零训练寻衅：从零开始训练专为边沿装备设计的LLM，优化训练过程以创建高效模型。
介入理由：
赢得大奖：总奖金30万的奖金池。鞭策创新：为LLM的前沿研究做出贡献。拓展人脉：与畛域内的领先专家和同行建立联系。展现才华：在顶级AI会议上获得认可。
重要日期：
报名开始：2024年6月25日报名截至：2024年7月25日提交截至：2024年10月25日结果公布：2024年11月20日线下Workshop：2024年12月11日
如何参与：
备案：在比赛官网通过Google Forms备案， 比赛官网。选择赛道：选择紧缩寻衅、从零训练寻衅或两者都选。提交解决方案：在截至日期前提交你的模型。
准备好接受寻衅了吗？ 立即备案并开始准备你的比赛！更多信息和备案请访问：
Discord: 链接报名链接: 链接
让我们一起鞭策LLM在边沿装备上的发展。祝你好运，期待在NeurIPS 2024与你相见！🌟
NeurIPS边沿装备LLM寻衅赛组织者：
