405B大模型也能线性化!斯坦福MIT最新研究,0.2%训练量让线性注意力提分20+
生产级大模型应用线性注意力的方法,来了。 线性Attention(包括RNN系列),再也不用困在几B参数的范围内娱乐了。 一套方法,即可线性化现有各种量级的Transformer模型,上至Llama 3.1 405B,也只需要十来张显卡在两天内搞定!- 972
- 0
MIT 热门研究:AI 工具“带飞”科研,但也严重加速内卷
最近,MIT的一名博士生Aidan Toner-Rodgers历经四年,在AI 科研领域挖掘出一个惊人的结论——AI的参与让科学发现和创新迈上了新台阶,却也意外拉大了科研人员之间的“能力鸿沟”。 在这项实验里,AI的加持让专利申请量像火箭一样蹿升了39%,产品创新数量也提升了17%。 但这项技术的助力却并非人人受益,反倒在科研圈引发了不小的焦虑。- 972
- 0
教授何恺明在MIT的第二门课——《深度生成模型》,讲座PPT陆续已出
又有机会跟着大神学习了! 今年 2 月起,何恺明已经开始了自己在 MIT 的副教授职业生涯,并在 3 月 7 日走上讲台完成了「人生中教的第一堂课」。 近日,我们发现了何恺明的第二门课程《深度生成模型》(6.S978: Deep Generative Models),已经于 9 月初开始了授课。- 13
- 0
每年能省200万美元,没有爱思唯尔,MIT过得还不错
继 2020 年与爱思唯尔谈判破裂后,MIT 蹚出了一条不受大型期刊订阅裹挟的全新路线,每年能节省 200 万美元。对于高校而言,期刊的订阅费用向来是一笔庞大的开支。特别是订阅像爱思唯尔这种全球顶级出版集团的期刊的费用。众所周知,爱思唯尔是世界上最大的医学和其他科学文献出版社之一,我们所熟知的知名学术期刊《柳叶刀》和《细胞》都由爱思唯尔出版。但是,在为作者和读者提供便利的同时,爱思唯尔的订阅费用却…- 4
- 0
MIT
❯
个人中心
今日签到
搜索
扫码打开当前页
返回顶部
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
- ¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!