推理

感谢baidu创始人、董事长兼 CEO 李彦宏今日在 Create 2024 baidu AI 开发者大会上默示，开源模型会越来越发展。李彦宏介绍，因为基础模型文心 4.0 可以根据需要，兼顾效验、响应速度、推理利润等各种考虑，剪裁出适合各种场景的更小尺寸模型，并且支持精调和 post pretrain。这样通过降维剪裁出来的模型，比直接用开源模型调出来的模型，一致尺寸下，效验明显更好；一致效验下…

分解数据持续解锁大模型的数学推理后劲！数学课题办理威力一直被视为衡量言语模型智能水平的重要指标。通常只有规模极大的模型或经过大量数学相关预训练的模型才能有机会在数学课题上表现出色。近日，一项由 Swin-Transformer 团队打造，来自西安交通大学、中国科学技术大学、清华大学和微软亚洲钻研院的学者共同完成的钻研工作 Xwin 颠覆了这一认知，揭示了通用预训练下 7B（即 70 亿参数）规模的…

近日，蚂蚁集团开源了一套新算法，可帮助大模型在推理时，提速2至6倍，引起业内关注。图：新算法在不同开源大模型上的提速表现。这套新算法名为Lookahead推理减速框架，能做到效果无损，即插即用，该算法已在蚂蚁大量场景举行了落地，大幅降低了推理耗时。以Llama2-7B-chat模型与Dolly数据集为例，实测token生成速度可由48.2个/秒，升至112.9个/秒，提速2.34倍。而在蚂蚁内部的…

12月28日，由信通院主办的“虹桥之源”大模型驱动数字经济新生态峰会在上海召开。会上，蚂蚁团体商业机器智能部总经理顾进杰先容蚂蚁正式开源国内首个调理专业推理数据集，这将提升大模型在调理畛域的专业性。图说：蚂蚁团体商业机器智能部总经理顾进杰先容国内首个调理专业推理数据集在调理行业，通用型语言模型在应对调理问诊时，会直接给出答案，而大夫则会根据专业学问进行反复的症状探讨，才能给出答案。另外，大模型的幻…

腾讯披露最新大模型训练方法，可节省50%算力本钱。

使人工智能领域的真正进步和创新 ！

多图综述理清当前钻研现状，这篇 29 页的论文值得一读。

2023.10.20 平台革新优化了搜索感受，提拔了搜索准确性调整了项目主页信息结构，提高了项目主页获取信息效率项目主页从事了移动端适配，可在手机上轻松浏览项目主页、获取项目信息上线了「综合热榜」、「Agent热榜」允许了片面用户浏览小土终端实测频道下线了旧版「发现」、「找SOTA」模块建设了已知的课题，并从事了系统稳定性的提拔2023.09.01 平台革新SOTA！模型平台登录流程增加了实名认证…