神经搜集可能不再需要激活函数?Layer Normalization也具有非线性表达!
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级试验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:[email protected];[email protected]本文作家均来自北京航空航天大学人工智能学院和复杂关键软件环境全国重点…- 20
- 0
ICML 2024 | 特性净化:神经搜集会进修不相关特性而泛化失败
论文标题:Feature Contamination: Neural Networks Learn Uncorrelated Features and Fail to Generalize论文链接::,深度神经搜集 SGD scaling的机器进修范式再次证明了其在AI领域的主导地位。为什么鉴于深度神经搜集的范式能够取得成功?比较普遍的观点是:神经搜集具有从海量的高维输入数据中自动进修抽象而可泛化…- 6
- 0
应用深度神经搜集调整药物与疾病联系关系数据进行药物再哄骗
编辑 | 萝卜皮药物再哄骗是指识别 FDA 批准的用于医治特定疾病的新药物靶点。由于新药发现失败的高风险,药物再哄骗被视为药物研发重要途径。伊朗大不里士大学(University of Tabriz)的钻研人员提出了一个模型,应用深度神经搜集调整药物与疾病联系关系数据进行药物再哄骗。该模型被称为 IDDI-DNN,主要建立药物相关属性(三个矩阵)、疾病相关属性(两个矩阵)和药物与疾病联系关系(一个…- 8
- 0
搜集规模、训练进修速度提升,清华团队在大规模光电智能估计方向取得进展
编辑 | 紫罗随着大模型等人为智能技术的突破与发展,算法复杂度剧增,对传统估计芯片带来了算力和功耗的双重挑战。近年来,以光估计为基础、通过光电融合的方式构建光电神经搜集的估计处理方法已经成为国际热点钻研问题,有望完成估计性能的颠覆性提升。然而,光电神经搜集的前向数学模型由对光场的精准物理建模得到,估计复杂度高、参数冗余度大;其进修机制沿用人为神经搜集常用的梯度下降算法,面向大规模光电神经搜集时优化…- 7
- 0
ICLR 2023 Oral | 漂浮感知动静神经搜集加持,光阴域泛化新框架远超范围泛化&适应方式
在范围泛化 (Domain Generalization, DG) 任务中,当范围的散布随环境连续变革时,如何准确地捕捉该变革以及其对模型的影响是非常重要但也极富挑战的课题。为此,来自 Emory 大学的赵亮教授团队,提出了一种鉴于贝叶斯实际的光阴域泛化框架 DRAIN,利用递归搜集进修光阴维度范围散布的漂浮,同时通过动静神经搜集以及图生成技术的结合最大化模型的表达能力,实现对现在未知范围上的模型…- 8
- 0
Creator 面对面 | 若干深度进修的算法设计和数学实践
2016年,Yann LeCun 等人在 《Geometric deep learning: going beyond Euclidean data》一文中提出若干深度进修这一概念。现今若干机器进修和基于图的机器进修已经是当前最热门的研究课题之一。- 13
- 0
神经搜集
❯
个人中心
今日签到
搜索
扫码打开当前页
返回顶部
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
- ¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!