几年前呆板之心发布了一个旨在构建 AI 范围术语库的开源项目「Artificial-Intelligence-Terminology-Database」（简称「AITD」）。最近，该项目迎来了第三版。除了常规的更新之外，呆板之心还在周志华教授、李航博士、邱锡鹏教授、李沐博士、Aston Zhang 博士等范围专家的指导及帮助下形成了「呆板进修」专题篇。未来，呆板之心还将会持续完善术语的收录和扩展阅读的构建，另外我们也希望更多 AI 技术社区成员参与到术语库的构建之中，具体的参与方式可以查看文章详情。
2017 年，呆板之心发布了第一版人工智能术语库「Artificial-Intelligence-Terminology-Database」（以下简称「AITD」），一个旨在构建 AI 范围专业术语库的开源项目。术语库的前两版主要是将呆板之心在编译技术文章和论文过程中所遇到的专业术语记录下来，希望为大家写论文、中文博客、阅读文章提供帮助。此外，读者可以积极指出我们编译的不当之处，以提高我们的专业性。同时，这也是一份开放的表单，希望越来越多的人能够提供增添、修改建议，为人工智能的传播助力，共同推进知识高效、广泛地传播。
2021 年 6 月，《动手学深度进修》的作者李沐博士在与呆板之心「AITD」项目团队的交流中提到自己当年在校进修时也曾经因不同的教科书中术语使用标准不一致、中英术语夹杂等问题感到困扰。与此同时，李沐博士提到李航博士正在联合周志华教授、邱锡鹏教授等多位呆板进修范围经典教科书作者，希望一起统一下范围术语的翻译，为社区统一专业术语的中文使用提供一个参考。基于这样的一个契机，呆板之心「AITD」项目组在周志华教授、李航博士的主持下，邱锡鹏教授、李沐博士、Aston Zhang 博士的指导和帮助下，完成了对多本呆板进修范围经典教科书术语中文翻译统一，并发布「AITD」Version 3.0，在 AI 术语库中加入「专项范围」系列。
在与专家讨论的过程中，不同的专家对同一个词的翻译也会有分歧。在这种情况下，专家们会从自身经验、理解出发，帮助其余专家理解自己这样翻译的一个背景知识。经过专家们不断的讨论，对于一个词的翻译最终会接近或达到一个共识。
在此过程中，我们也记录了一些有意思的结果。例如 “Robust” 经常会被翻译为“鲁棒性”，专家们认为这个翻译缺少了中文的美感。此外，在控制论中有将 “Robust” 翻译成“强健性的，在经过专家讨论之后，我们将“稳健性”作为“Robust”的推荐翻译；“Dropout”一直没有较好的翻译，几位专家根据 Dropout 原文中的定义，一致认为“暂退法”是比较较为合适的翻译；“Zero/Few/One-shot Learning”一般翻译为“零/少/单样本进修”，但专家们认为“样本”不严谨，因为它并不是真的“零/少/单”样本，而是在建立一个映射之后，再利用少量样本进行迁移。翻译成样本的话，很容易跟进修理论中真正的“小样本进修”混淆了。尤其是“shot”本身并没有“样本”的含义，而是“快照”的含义更接近，于是专家们倾向翻译为“零/少/单试进修”。以下是李航博士微博关于一些推荐翻译介绍的截图。
李航博士微博截图，注：其中「掩玛」一词书写错误，应为「掩码」，已纠正。
项目地址：https://github.com/jiqizhixin/Artificial-Intelligence-Terminology-Database
GitBook 地址：https://jiqizhixin.gitbook.io/artificial-intelligence-terminology-database/
划重点：「AITD」Version 3.0「专项范围」呆板进修篇完整内容在本文文末收录。
「AITD」Version 3.0 更新了什么？
1、第三版术语库发布，包含了 2094 个术语
「AITD」Version 3.0 相较于第一版的 500 词、第二版的 755 词，在规模上扩大了不少。术语库第三版包含了 2094 个专业术语。
2、增加了范围专题 Section，第一个 Section 为呆板进修（Machine Learning）篇，包含了 726 个术语
在周志华教授、李航博士、邱锡鹏教授、李沐博士、Aston Zhang 博士指导和帮助下「AITD」项目团队完成了第一个「专项范围」篇 ——「呆板进修」篇，并收录在 Version 3.0 的更新中。在后续的版本更新中，呆板之心将搜集自权威教科书、论文等具有公信力的资料源中的术语表进行校验汇总，并从中筛选出一些具有争议、没有翻译等情况的术语给到范围专家进行集中讨论以确认翻译、统一翻译。
3、优化了术语的组织形式，每一个术语都会有如下的字段帮助大家更全面地理解
索引编号：考虑到讨论交流、数据库维护的效率，我们将使用「Artificial-Intelligence-Terminology-Database」的缩写 AITD 并加上数字作为术语的编号，根据当前术语库的首字母顺序进行标注，索引编号将从 AITD-00000 开始；
英文术语：英文术语；
中文翻译：该英文术语目前推荐的中文翻译；
常用缩写：该英文术语常用的缩写形式；
来源 & 扩展：来源 & 扩展是对该术语的注解，在前两版中的内容为呆板之心往期的相关文章。我们希望不仅能提供相对应的术语，同时还希望能为读者提供每一个术语的来源和概念上的扩展。从第三版起，我们将关联更多的资源内容，包括但不限于教科书、论文等来源。但由于这一部分工作量较大，我们将与读者共同推进这一部分扩展的进程，进一步提升术语信度。
备注：关于该术语的一些注解。
4、增加了知识共享许可证
本作品将采用知识共享署名 – 非商业性使用 – 相同方式共享 4.0 国际许可协议（CC BY-NC-SA 4.0）进行许可。同时，我们响应了 GitHub 仓库中网友的建议，增加了 GitBook 的链接，方便大家查阅。
「AITD」后续有什么计划？
本项目中所有英文专业术语对照的中文都来自呆板之心编译的文章和系列呆板进修教科书（如周志华教授的《呆板进修》、李航博士的《统计进修方法》、邱锡鹏教授的《神经搜集与深度进修》、李沐博士的《动手学深度进修》、李宏毅教授的《呆板进修方法》和 Ian Goodfellow 的《深度进修》中译版等），我们力求在提供准确翻译的同时保留最常用的形式。同时，为了保证术语翻译的准确性，我们将此项目向读者开源，并希望能与读者共同迭代术语的准确度。
除了日常编译工作积累之外，我们将逐专项范围基于权威教科书及文献，联合范围专家进一步扩展并完善本仓库，为社区提供具有统一性的 AI 及相关范围的中英术语翻译对照参考。在接下来的一段时间里，呆板之心将从三个方面持续完善术语的收录和扩展阅读的构建：
① 继续完善基础术语的构建，即通过权威教科书或其它有公信力的资料抽取常见术语；
② 续性地把编译论文或其他资料中所出现的非常见术语更新到术语库中；
③ 联合更多专项范围专家，构建专项范围术语库。
自「AITD」Version 3.0 起，呆板之心「AITD」项目团队将基于以下标准开展「专项范围」术语库工作：
1）基于权威教科书、论文等具有公信力的资料源提取词汇。
2）邀请对应范围专家进行专业指导
目前 「AITD」Version 3.0 已包含呆板进修（Machine Learning）篇，本项目还将逐步更新更多专项范围篇，在此「AITD」项目组邀请各位专项范围专家学者共同参与指导专项范围篇的形成工作，对「AITD」项目感兴趣并希望贡献一部分您的时间支持这个项目的范围专家学者可通过 [email protected] 联系我们。
致谢！
衷心感谢以下专家参与了包含但不限于术语提供、校对、翻译研讨等工作，为该项目扩展了专项范围术语收录的覆盖度、提升了术语中文翻译用法的准确性、专业性及公信力，感谢老师们的辛勤贡献（排名以 A~Z 进行排序）：
1. Aston Zhang 博士，《动手学深度进修》作者
2. 李航博士，《统计进修方法》作者
3. 李沐博士，《动手学深度进修》作者
4. 邱锡鹏教授，《神经搜集与深度进修》作者
5. 周志华教授，《呆板进修》作者
读者及用户的反馈意见和更新建议将贯穿整个阶段，我们也将在项目致谢页中展示对该项目起积极作用的读者及用户。如果您在使用术语库的过程中若发现了存在的错误、或是想要扩展术语库的内容、讨论特定术语的翻译等等非常欢迎大家提 Issue 与我们以及各位读者进行讨论（请附带来源，以便我们能更客观地更新词汇）。同时也非常欢迎读者们进行 Fork、提 Pull Request，共同加强术语的编译质量以及扩充术语库的规模。
参与「AITD」！
我们邀请更多感兴趣一起参与「AITD」项目的小伙伴通过加入「呆板之心分析师搜集」加入到「AITD」项目工作中来。除了旨在构建 AI 范围术语库的「Artificial-Intelligence-Terminology-Database」，呆板之心目前还有「开放知识库」 GitHub 项目，例如 ——
「ML-Tutorial-Experiment」算法教程与实现项目目前共获得 2400+ Star。它目前有五篇详细的教程文章，即 CNN 的实现、经典 GAN 的推导实现、 CapsNet 的解读、LSTM 等语言建模和基于 Transformer 的神经呆板翻译实现。我们希望能提供高质量和能实现的技术文章，在这些文章中，我们所使用的代码块或整体实现都是我们预先测试的，且提供的 Jupyter Notebook 都带有代码注释，非常适合初学者随文章阅读。
项目地址：https://github.com/jiqizhixin/ML-Tutorial-Experiment
「SyncedLeg2018」 呆板之腿项目是源于呆板之心 2018 年暑期实习生 Hackathon 的输出成果，可基于微信历史文章与相应的流量数据、分析统计出热点词汇。
项目地址：https://github.com/jiqizhixin/SyncedLeg2018
加入呆板之心分析师搜集，在参与呆板之心发起的人工智能及相关技术范围的「开放知识库」项目之外，还将有机会受邀作为特约分析师
现场参与国内外学术、学术及产业盛会，现场观察。
参与热点技术解读、指标分析、性能评测等专业性技术分析项目。
参与热点事件解读、产业前景分析等专业性产业分析项目。
在过去的五年里数百位兼职分析师们利用自己的工作、进修之余的闲暇时间，与呆板之心的全职分析师们共同构建 AI 知识库、维护开源项目、撰写技术分析、开展专业调研、联合发布报告等等。参与呆板之心全球开放项目的分析师大部分来自于内一流的研究机构及一流人工智能企业，其中包括卡耐基梅隆大学，滑铁卢大学，多伦多大学，加州大学洛杉矶分校，清华大学等等。点击原文链接，申请加入「呆板之心分析师搜集」。
「AITD」Version 3.0：「呆板进修」专项范围术语中英对照表
英文术语中文翻译0-1 Loss Function0-1损失函数Accept-Reject Sampling Method接受-拒绝抽样法/接受-拒绝采样法Accumulated Error Backpropagation累积误差反向传播Accuracy精度Acquisition Function采集函数Action动作Activation Function激活函数Active Learning主动进修Adaptive Bitrate Algorithm自适应比特率算法Adaptive BoostingAdaBoostAdaptive Gradient AlgorithmAdaGradAdaptive Moment Estimation AlgorithmAdam算法Adaptive Resonance Theory自适应谐振理论Additive Model加性模型Affinity Matrix亲和矩阵Agent智能体Algorithm算法Alpha-Beta Pruningα-β修剪法Anomaly Detection异常检测Approximate Inference近似推断Area Under ROC CurveAUCArtificial Intelligence人工智能Artificial Neural Network人工神经搜集Artificial Neuron人工神经元Attention注意力Attention Mechanism注意力机制Attribute属性Attribute Space属性空间Autoencoder自编码器Automatic Differentiation自动微分Autoregressive Model自回归模型Back Propagation反向传播Back Propagation Algorithm反向传播算法Back Propagation Through Time随时间反向传播Backward Induction反向归纳Backward Search反向搜索Bag of Words词袋Bandit赌博机/老虎机Base Learner基进修器Base Learning Algorithm基进修算法Baseline基准Batch批量Batch Normalization批量规范化Bayes Decision Rule贝叶斯决策准则Bayes Model Averaging贝叶斯模型平均Bayes Optimal Classifier贝叶斯最优分类器Bayes' Theorem贝叶斯定理Bayesian Decision Theory贝叶斯决策理论Bayesian Inference贝叶斯推断Bayesian Learning贝叶斯进修Bayesian Network贝叶斯网/贝叶斯搜集Bayesian Optimization贝叶斯优化Beam Search束搜索Bechmark基准Belief Network信念网/信念搜集Belief Propagation信念传播Bellman Equation贝尔曼方程Bernoulli Distribution伯努利分布Beta Distribution贝塔分布Between-Class Scatter Matrix类间散度矩阵BFGSBFGSBias偏差/偏置Bias In Affine Function偏置Bias In Statistics偏差Bias Shift偏置偏移Bias-Variance Decomposition偏差 – 方差分解Bias-Variance Dilemma偏差 – 方差困境Bidirectional Recurrent Neural Network双向循环神经搜集Bigram二元语法Bilingual Evaluation UnderstudyBLEUBinary Classification二分类Binomial Distribution二项分布Binomial Test二项检验Boltzmann Distribution玻尔兹曼分布Boltzmann Machine玻尔兹曼机BoostingBoostingBootstrap AggregatingBaggingBootstrap Sampling自助采样法Bootstrapping自助法/自举法Break-Event Point平衡点Bucketing分桶Calculus of Variations变分法Cascade-Correlation级联相关Catastrophic Forgetting灾难性遗忘Categorical Distribution类别分布Cell单元Chain Rule链式法则Chebyshev Distance切比雪夫距离Class类别Class-Imbalance类别不平衡Classification分类Classification And Regression Tree分类与回归树Classifier分类器Clique团Cluster簇Cluster Assumption聚类假设Clustering聚类Clustering Ensemble聚类集成Co-Training协同训练Coding Matrix编码矩阵Collaborative Filtering协同过滤Competitive Learning竞争型进修Comprehensibility可解释性Computation Graph计算图Computational Learning Theory计算进修理论Conditional Entropy条件熵Conditional Probability条件概率Conditional Probability Distribution条件概率分布Conditional Random Field条件随机场Conditional Risk条件风险Confidence置信度Confusion Matrix混淆矩阵Conjugate Distribution共轭分布Connection Weight连接权Connectionism连接主义Consistency一致性Constrained Optimization约束优化Context Variable上下文变量Context Vector上下文向量Context Window上下文窗口Context Word上下文词Contextual Bandit上下文赌博机/上下文老虎机Contingency Table列联表Continuous Attribute连续属性Contrastive Divergence对比散度Convergence收敛Convex Optimization凸优化Convex Quadratic Programming凸二次规划Convolution卷积Convolutional Kernel卷积核Convolutional Neural Network卷积神经搜集Coordinate Descent坐标下降Corpus语料库Correlation Coefficient相关系数Cosine Similarity余弦相似度Cost代价Cost Curve代价曲线Cost Function代价函数Cost Matrix代价矩阵Cost-Sensitive代价敏感Covariance协方差Covariance Matrix协方差矩阵Critical Point临界点Cross Entropy交叉熵Cross Validation交叉验证Curse of Dimensionality维数灾难Cutting Plane Algorithm割平面法Data Mining数据挖掘Data Set数据集Davidon-Fletcher-PowellDFPDecision Boundary决策边界Decision Function决策函数Decision Stump决策树桩Decision Tree决策树Decoder解码器Decoding解码Deconvolution反卷积Deconvolutional Network反卷积搜集Deduction演绎Deep Belief Network深度信念搜集Deep Boltzmann Machine深度玻尔兹曼机Deep Convolutional Generative Adversarial Network深度卷积生成对抗搜集Deep Learning深度进修Deep Neural Network深度神经搜集Deep Q-Network深度Q搜集Delta-Bar-DeltaDelta-Bar-DeltaDenoising去噪Denoising Autoencoder去噪自编码器Denoising Score Matching去躁分数匹配Density Estimation密度估计Density-Based Clustering密度聚类Derivative导数Determinant行列式Diagonal Matrix对角矩阵Dictionary Learning字典进修Dimension Reduction降维Directed Edge有向边Directed Graphical Model有向图模型Directed Separation有向分离Dirichlet Distribution狄利克雷分布Discriminative Model判别式模型Discriminator判别器Discriminator Network判别搜集Distance Measure距离度量Distance Metric Learning距离度量进修Distributed Representation分布式表示Diverge发散Divergence散度Diversity多样性Diversity Measure多样性度量/差异性度量Domain Adaptation范围自适应Dominant Strategy主特征值Dominant Strategy占优策略Down Sampling下采样Dropout暂退法Dropout Boosting暂退BoostingDropout Method暂退法Dual Problem对偶问题Dummy Node哑结点Dynamic Bayesian Network动态贝叶斯搜集Dynamic Programming动态规划Early Stopping早停Eigendecomposition特征分解Eigenvalue特征值Element-Wise Product逐元素积Embedding嵌入Empirical Conditional Entropy经验条件熵Empirical Distribution经验分布Empirical Entropy经验熵Empirical Error经验误差Empirical Risk经验风险Empirical Risk Minimization经验风险最小化Encoder编码器Encoding编码End-To-End端到端Energy Function能量函数Energy-Based Model基于能量的模型Ensemble Learning集成进修Ensemble Pruning集成修剪Entropy熵Episode回合Epoch轮Error误差Error Backpropagation Algorithm误差反向传播算法Error Backpropagation误差反向传播Error Correcting Output Codes纠错输出编码Error Rate错误率Error-Ambiguity Decomposition误差－分歧分解Estimator估计/估计量Euclidean Distance欧氏距离Evidence证据Evidence Lower Bound证据下界Exact Inference精确推断Example样例Expectation期望Expectation Maximization期望最大化Expected Loss期望损失Expert System专家系统Exploding Gradient梯度爆炸Exponential Loss Function指数损失函数Factor因子Factorization因子分解Feature特征Feature Engineering特征工程Feature Map特征图Feature Selection特征选择Feature Vector特征向量Featured Learning特征进修Feedforward前馈Feedforward Neural Network前馈神经搜集Few-Shot Learning少试进修Filter滤波器Fine-Tuning微调Fluctuation振荡Forget Gate遗忘门Forward Propagation前向传播/正向传播Forward Stagewise Algorithm前向分步算法Fractionally Strided Convolution微步卷积Frobenius NormFrobenius 范数Full Padding全填充Functional泛函Functional Neuron功能神经元Gated Recurrent Unit门控循环单元Gated RNN门控RNNGaussian Distribution高斯分布Gaussian Kernel高斯核Gaussian Kernel Function高斯核函数Gaussian Mixture Model高斯混合模型Gaussian Process高斯过程Generalization Ability泛化能力Generalization Error泛化误差Generalization Error Bound泛化误差上界Generalize泛化Generalized Lagrange Function广义拉格朗日函数Generalized Linear Model广义线性模型Generalized Rayleigh Quotient广义瑞利商Generative Adversarial Network生成对抗搜集Generative Model生成式模型Generator生成器Generator Network生成器搜集Genetic Algorithm遗传算法Gibbs Distribution吉布斯分布Gibbs Sampling吉布斯采样/吉布斯抽样Gini Index基尼指数Global Markov Property全局马尔可夫性Global Minimum全局最小Gradient梯度Gradient Clipping梯度截断Gradient Descent梯度下降Gradient Descent Method梯度下降法Gradient Exploding Problem梯度爆炸问题Gram MatrixGram 矩阵Graph Convolutional Network图卷积神经搜集/图卷积搜集Graph Neural Network图神经搜集Graphical Model图模型Grid Search网格搜索Ground Truth真实值Hadamard ProductHadamard积Hamming Distance汉明距离Hard Margin硬间隔Hebbian Rule赫布法则Hidden Layer隐藏层Hidden Markov Model隐马尔可夫模型Hidden Variable隐变量Hierarchical Clustering层次聚类Hilbert Space希尔伯特空间Hinge Loss Function合页损失函数/Hinge损失函数Hold-Out留出法Hyperparameter超参数Hyperparameter Optimization超参数优化Hypothesis假设Hypothesis Space假设空间Hypothesis Test假设检验Identity Matrix单位矩阵Imitation Learning模仿进修Importance Sampling重要性采样Improved Iterative Scaling改进的迭代尺度法Incremental Learning增量进修Independent and Identically Distributed独立同分布Indicator Function指示函数Individual Learner个体进修器Induction归纳Inductive Bias归纳偏好Inductive Learning归纳进修Inductive Logic Programming归纳逻辑程序设计Inference推断Information Entropy信息熵Information Gain信息增益Inner Product内积Instance示例Internal Covariate Shift内部协变量偏移Inverse Matrix逆矩阵Inverse Resolution逆归结Isometric Mapping等度量映射Jacobian Matrix雅可比矩阵Jensen InequalityJensen不等式Joint Probability Distribution联合概率分布K-Armed Bandit Problemk-摇臂老虎机K-Fold Cross Validationk 折交叉验证Karush-Kuhn-Tucker ConditionKKT条件Karush–Kuhn–TuckerKarush–Kuhn–TuckerKernel Function核函数Kernel Method核方法Kernel Trick核技巧Kernelized Linear Discriminant Analysis核线性判别分析KL DivergenceKL散度L-BFGSL-BFGSLabel标签Label Space标记空间Lagrange Duality拉格朗日对偶性Lagrange Multiplier拉格朗日乘子Language Model语言模型Laplace Smoothing拉普拉斯平滑Laplacian Correction拉普拉斯修正Latent Dirichlet Allocation潜在狄利克雷分配Latent Semantic Analysis潜在语义分析Latent Variable潜变量/隐变量Law of Large Numbers大数定律Layer Normalization层规范化Lazy Learning懒惰进修Leaky Relu泄漏修正线性单元/泄漏整流线性单元Learner进修器Learning进修Learning By Analogy类比进修Learning Rate进修率Learning Vector Quantization进修向量量化Least Square Method最小二乘法Least Squares Regression Tree最小二乘回归树Left Singular Vector左奇异向量Likelihood似然Linear Chain Conditional Random Field线性链条件随机场Linear Classification Model线性分类模型Linear Classifier线性分类器Linear Dependence线性相关Linear Discriminant Analysis线性判别分析Linear Model线性模型Linear Regression线性回归Link Function联系函数Local Markov Property局部马尔可夫性Local Minima局部极小Local Minimum局部极小Local Representation局部式表示/局部式表征Log Likelihood对数似然函数Log Linear Model对数线性模型Log-Likelihood对数似然Log-Linear Regression对数线性回归Logistic Function对数几率函数Logistic Regression对数几率回归Logit对数几率Long Short Term Memory长短期记忆Long Short-Term Memory Network长短期记忆搜集Loopy Belief Propagation环状信念传播Loss Function损失函数Low Rank Matrix Approximation低秩矩阵近似Machine Learning呆板进修Macron-R宏查全率Manhattan Distance曼哈顿距离Manifold流形Manifold Assumption流形假设Manifold Learning流形进修Margin间隔Marginal Distribution边缘分布Marginal Independence边缘独立性Marginalization边缘化Markov Chain马尔可夫链Markov Chain Monte Carlo马尔可夫链蒙特卡罗Markov Decision Process马尔可夫决策过程Markov Network马尔可夫搜集Markov Process马尔可夫过程Markov Random Field马尔可夫随机场Mask掩码Matrix矩阵Matrix Inversion逆矩阵Max Pooling最大汇聚Maximal Clique最大团Maximum Entropy Model最大熵模型Maximum Likelihood Estimation极大似然估计Maximum Margin最大间隔Mean Filed平均场Mean Pooling平均汇聚Mean Squared Error均方误差Mean-Field平均场Memory Network记忆搜集Message Passing消息传递Metric Learning度量进修Micro-R微查全率Minibatch小批量Minimal Description Length最小描述长度Minimax Game极小极大博弈Minkowski Distance闵可夫斯基距离Mixture of Experts混合专家模型Mixture-of-Gaussian高斯混合Model模型Model Selection模型选择Momentum Method动量法Monte Carlo Method蒙特卡罗方法Moral Graph端正图/道德图Moralization道德化Multi-Class Classification多分类Multi-Head Attention多头注意力Multi-Head Self-Attention多头自注意力Multi-Kernel Learning多核进修Multi-Label Learning多标记进修Multi-Layer Feedforward Neural Networks多层前馈神经搜集Multi-Layer Perceptron多层感知机Multinomial Distribution多项分布Multiple Dimensional Scaling多维缩放Multiple Linear Regression多元线性回归Multitask Learning多任务进修Multivariate Normal Distribution多元正态分布Mutual Information互信息N-Gram ModelN元模型Naive Bayes Classifier朴素贝叶斯分类器Naive Bayes朴素贝叶斯Nearest Neighbor Classifier最近邻分类器Negative Log Likelihood负对数似然函数Neighbourhood Component Analysis近邻成分分析Net Input净输入Neural Network神经搜集Neural Turing Machine神经图灵机Neuron神经元Newton Method牛顿法No Free Lunch Theorem没有免费午餐定理Noise-Contrastive Estimation噪声对比估计Nominal Attribute列名属性Non-Convex Optimization非凸优化Non-Metric Distance非度量距离Non-Negative Matrix Factorization非负矩阵分解Non-Ordinal Attribute无序属性Norm范数Normal Distribution正态分布Normalization规范化Nuclear Norm核范数Number of Epochs轮数Numerical Attribute数值属性Object Detection目标检测Oblique Decision Tree斜决策树Occam's Razor奥卡姆剃刀Odds几率Off-Policy异策略On-Policy同策略One-Dependent Estimator独依赖估计One-Hot独热Online Learning在线进修Optimizer优化器Ordinal Attribute有序属性Orthogonal正交Orthogonal Matrix正交矩阵Out-Of-Bag Estimate包外估计Outlier异常点Over-Parameterized过度参数化Overfitting过拟合Oversampling过采样Pac-LearnablePAC可进修Padding填充Pairwise Markov Property成对马尔可夫性Parallel Distributed Processing分布式并行处理Parameter参数Parameter Estimation参数估计Parameter Space参数空间Parameter Tuning调参Parametric ReLU参数化修正线性单元/参数化整流线性单元Part-Of-Speech Tagging词性标注Partial Derivative偏导数Partially Observable Markov Decision Processes部分可观测马尔可夫决策过程Partition Function配分函数Perceptron感知机Performance Measure性能度量Perplexity困惑度Pointer Network指针搜集Policy策略Policy Gradient策略梯度Policy Iteration策略迭代Polynomial Kernel Function多项式核函数Pooling汇聚Pooling Layer汇聚层Positive Definite Matrix正定矩阵Post-Pruning后剪枝Potential Function势函数Power Method幂法Pre-Training预训练Precision查准率/准确率Prepruning预剪枝Primal Problem主问题Primary Visual Cortex初级视觉皮层Principal Component Analysis主成分分析Prior先验Probabilistic Context-Free Grammar概率上下文无关文法Probabilistic Graphical Model概率图模型Probabilistic Model概率模型Probability Density Function概率密度函数Probability Distribution概率分布Probably Approximately Correct概率近似正确Proposal Distribution提议分布Prototype-Based Clustering原型聚类Proximal Gradient Descent近端梯度下降Pruning剪枝Quadratic Loss Function平方损失函数Quadratic Programming二次规划Quasi Newton Method拟牛顿法Radial Basis Function径向基函数Random Forest随机森林Random Sampling随机采样Random Search随机搜索Random Variable随机变量Random Walk随机游走Recall查全率/召回率Receptive Field感受野Reconstruction Error重构误差Rectified Linear Unit修正线性单元/整流线性单元Recurrent Neural Network循环神经搜集Recursive Neural Network递归神经搜集Regression回归Regularization正则化Regularizer正则化项Reinforcement Learning强化进修Relative Entropy相对熵Reparameterization再参数化/重参数化Representation表示Representation Learning表示进修Representer Theorem表示定理Reproducing Kernel Hilbert Space再生核希尔伯特空间Rescaling再缩放Reset Gate重置门Residual Connection残差连接Residual Network残差搜集Restricted Boltzmann Machine受限玻尔兹曼机Reward奖励Ridge Regression岭回归Right Singular Vector右奇异向量Risk风险Robustness稳健性Root Node根结点Rule Learning规则进修Saddle Point鞍点Sample样本Sample Complexity样本复杂度Sample Space样本空间Scalar标量Selective Ensemble选择性集成Self Information自信息Self-Attention自注意力Self-Organizing Map自组织映射网Self-Training自训练Semi-Definite Programming半正定规划Semi-Naive Bayes Classifiers半朴素贝叶斯分类器Semi-Restricted Boltzmann Machine半受限玻尔兹曼机Semi-Supervised Clustering半监督聚类Semi-Supervised Learning半监督进修Semi-Supervised Support Vector Machine半监督支持向量机Sentiment Analysis情感分析Separating Hyperplane分离超平面Sequential Covering序贯覆盖Sigmoid Belief NetworkSigmoid信念搜集Sigmoid FunctionSigmoid函数Signed Distance带符号距离Similarity Measure相似度度量Simulated Annealing模拟退火Simultaneous Localization And Mapping即时定位与地图构建Singular Value奇异值Singular Value Decomposition奇异值分解Skip-Gram Model跳元模型Smoothing平滑Soft Margin软间隔Soft Margin Maximization软间隔最大化SoftmaxSoftmax/软最大化Softmax FunctionSoftmax函数/软最大化函数Softmax RegressionSoftmax回归/软最大化回归Softplus FunctionSoftplus函数Span张成子空间Sparse Coding稀疏编码Sparse Representation稀疏表示Sparsity稀疏性Specialization特化Splitting Variable切分变量Squashing Function挤压函数Standard Normal Distribution标准正态分布State状态State Value Function状态值函数State-Action Value Function状态-动作值函数Stationary Distribution平稳分布Stationary Point驻点Statistical Learning统计进修Steepest Descent最速下降法Stochastic Gradient Descent随机梯度下降Stochastic Matrix随机矩阵Stochastic Process随机过程Stratified Sampling分层采样Stride步幅Structural Risk结构风险Structural Risk Minimization结构风险最小化Subsample子采样Subsampling下采样Subset Search子集搜索Subspace子空间Supervised Learning监督进修Support Vector支持向量Support Vector Expansion支持向量展式Support Vector Machine支持向量机Surrogat Loss替代损失Surrogate Function替代函数Surrogate Loss Function代理损失函数Symbolism符号主义Tangent Propagation正切传播Teacher Forcing强制教学Temporal-Difference Learning时序差分进修Tensor张量Test Error测试误差Test Sample测试样本Test Set测试集Threshold阈值Threshold Logic Unit阈值逻辑单元Threshold-Moving阈值移动Tied Weight捆绑权重Tikhonov RegularizationTikhonov正则化Time Delay Neural Network时延神经搜集Time Homogenous Markov Chain时间齐次马尔可夫链Time Step时间步Token词元Token词元Tokenization词元化Tokenizer词元分析器Topic Model话题模型Topic Modeling话题分析Trace迹Training训练Training Error训练误差Training Sample训练样本Training Set训练集Transductive Learning直推进修Transductive Transfer Learning直推迁移进修Transfer Learning迁移进修TransformerTransformerTransformer ModelTransformer模型Transpose转置Transposed Convolution转置卷积Trial And Error试错Trigram三元语法Turing Machine图灵机Underfitting欠拟合Undersampling欠采样Undirected Graphical Model无向图模型Uniform Distribution均匀分布Unigram一元语法Unit单元Universal Approximation Theorem通用近似定理Universal Approximator通用近似器Universal Function Approximator通用函数近似器Unknown Token未知词元Unsupervised Layer-Wise Training无监督逐层训练Unsupervised Learning无监督进修Update Gate更新门Upsampling上采样V-StructureV型结构Validation Set验证集Validity Index有效性指标Value Function Approximation值函数近似Value Iteration值迭代Vanishing Gradient Problem梯度消失问题Vapnik-Chervonenkis DimensionVC维Variable Elimination变量消去Variance方差Variational Autoencoder变分自编码器Variational Inference变分推断Vector向量Vector Space Model向量空间模型Version Space版本空间Viterbi Algorithm维特比算法Vocabulary词表Warp线程束Weak Learner弱进修器Weakly Supervised Learning弱监督进修Weight权重Weight Decay权重衰减Weight Sharing权共享Weighted Voting加权投票Whitening白化Winner-Take-All胜者通吃Within-Class Scatter Matrix类内散度矩阵Word Embedding词嵌入Word Sense Disambiguation词义消歧Word Vector词向量Zero Padding零填充Zero-Shot Learning零试进修Zipf's Law齐普夫定律