学习
可信联邦学习冬令营·成都开营,产学研共促AI人才培养
近年来,国家对于人工智能和数据安全的重视程度不断加强。国务院《新一代人工智能发展规划》中明确提出了加强人工智能领域的基础研究、培养高素质人才、促进产业融合等方面的要求。联邦学习是人工智能和隐私计算核心技术之一,以“数据不动模型动,数据可用不可见”的核心特征,在保护数据隐私,促进数据要素安全流通等方面发挥关键性作用。
MIT 开发深度化学模型的神经尺度策略,发现「神经尺度」定律
编辑 | 绿萝在数据可用性和计算方面,大规模使得自然语言处理和计算机视觉等深度学习关键应用领域取得了重要突破。越来越多的证据表明,规模可能是科学深度学习的关键因素,但物理先验在科学领域的重要性使得规模化的策略和收益变得不确定。近日,来自 MIT 的研究团队通过将模型和数据集大小改变多个数量级来研究大型化学模型中的神经尺度(neural-scaling)行为,研究具有超过 10 亿个参数的模型,并在多达 1000 万个数据点的数据集上进行预训练。研究考虑用于生成化学的大型语言模型和用于机器学习原子间势的图神经网络。研
更低计算成本,基于单电子约化密度矩阵的机器学习电子结构方法
编辑 | 萝卜皮密度泛函理论(DFT)的定理建立了多体系统的局部外部势与其电子密度、波函数以及单粒子约化密度矩阵之间的双射映射。在此基础上,罗格斯大学(Rutgers University)和纽约大学(New York University)的研究人员证明基于单电子约化密度矩阵(reduced density matrices)的机器学习模型可用于生成替代电子结构方法。该团队为从小分子(如水)到更复杂的化合物(如苯和丙醇)的系统生成局部和混合 DFT、Hartree-Fock 和完整构型相互作用理论的替代品。代理模
机器学习可以更好地进行量子纠错
编辑 | 白菜叶自主量子纠错(AQEC)通过设计耗散来保护逻辑量子位,从而避免频繁、容易出错的测量反馈循环的必要性。玻色码空间(其中单光子丢失代表了主要的错误来源)由于其灵活性和可控性而成为 AQEC 的重要候选者。虽然现有的文献已经证明了具有玻色码空间的 AQEC 原则上的可行性,但这些方案通常基于 Knill-Laflamme 条件的精确实现,因此需要实现哈密顿距离 d≥2。实现这种哈密顿距离需要多个非线性相互作用和控制场,这使得这些方案在实验上具有挑战性。在这里,RIKEN 量子计算中心(RIKEN Cent
ICML2023杰出论文大幅减少至6篇,北大、武理工校友获奖,大模型水印受青睐
相比去年评出的 15 篇杰出论文,ICML 2023 的获奖论文数量大大减少,只有 6 篇。
2023摩根大通博士奖学金名单公布,华人超3/5,西电、川大校友在列
与去年入选 4 位华人博士生(共 11 位)相比,今年华人学生的占比有了显著增加。
深入学习生成式AI,吴恩达推荐了一门新课程
跟上步伐,别掉队,速来学习LLM。
基于Transformer的大模型是如何运行的?Meta从全局和上下文学习揭秘
本文旨在更好地理解基于 Transformer 的大型语言模型(LLM)的内部机制,以提高它们的可靠性和可解释性。
5 个章节、25 条规范,全方位 Get 数据集选择与创建的「百科全书」
内容一览:如果你正在学习如何创建或选择一个合适的数据集,那么这篇文章会给你一些实用的建议,帮助你在选择和创建数据集时做出明智的决策。
关键词:机器学习 数据集
ICLR 2023 Spotlight | Yoshua Bengio团队新作,生成拓展流网络
本工作已入选 ICLR 2023 Spotlight,也是 GFlowNets 领域第一篇 Spotlight 文章。
GPT-4的研究路径没有前途?Yann LeCun给自回归判了死刑
Yann LeCun 这个观点的确有些大胆。
在模型中植入不可检测后门,「外包」AI更易中招
机器学习(ML)正在迎来一个新的时代。
终于,乔姆斯基出手了:追捧ChatGPT是浪费资源
Colorless green ideas sleep furiously. 人类语言语法的基础不可能是基于统计意义的。
2023苹果学者名单公布,AI领域11位华人:清华游凯超等人入选
在今年评选出的 22 位苹果学者之中,华人占据了一半。
从零开始学好深度学习,短视频免费课程上线
PyTorch Lightning 背后的初创公司推出了一套熟练掌握 PyTorch 的免费系列课程。
一张AI学习桌,看懂中国孩子的家庭学习
记得看到过一篇报道,文中写道“成年人的崩溃,不一定是在办公桌前,也有可能是在辅导家庭作业的书桌前。”尤其是当寒暑假进度条即将满格,上演的将是一场大型史诗级“灾难片”。每当这个时段,热搜内容总能看到#清华爸爸辅导作业崩溃锤墙#、#辅导作业发生冲突,上海妈妈深夜跳河#、#父亲辅导作业气到心梗#、#8旬退休教师辅导孙子气到敲桌#等类似话题的身影。不辅导作业母慈子孝,一辅导作业鸡飞狗跳,恐怕是对父母与孩子之间这场“甜蜜负担”的最好诠释。近日,ChatGPT爆火出圈,微软数十亿美金的追投,谷歌、Meta、苹果等顶级科技公司的
谷歌大脑深度学习调参(炼丹)指南出炉,Hinton点赞,一天收获1500星
「大量的实践经验已被提炼成这份强大的深度学习模型调参指南。」——Geoffrey Hinton。
技术、生态和产业齐头并进,AI发展进入「深度学习+」阶段
自人类进入工业社会以来,每次工业革命的背后都离不开核心技术的驱动,正如机械技术、电气技术和信息技术之于前三次工业革命。如今在第四次工业革命进程中,AI 正成为核心驱动力,而深度学习是关键核心技术。