不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

AIxiv专栏是机械之心发布学术、技术内容的栏目。过去数年,机械之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:[email protected][email protected]本文作者肖镇中是德国马克思普朗克-智能系统研究所和图宾根大学的博士生,Robert Bamler 是图宾根大学机械进修方向的教授,Bernhard Schölkopf 是马克思普朗克-智能

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

AIxiv专栏是机械之心发布学术、技术内容的栏目。过去数年,机械之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:[email protected][email protected]

本文作者肖镇中是德国马克思普朗克-智能系统研究所和图宾根大学的博士生,Robert Bamler 是图宾根大学机械进修方向的教授,Bernhard Schölkopf 是马克思普朗克-智能系统研究所的所长,刘威杨是马普所剑桥大学联合项目的研究员。

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

论文地址:https://arxiv.org/abs/2406.04344

在传统的机械进修场景如分类和返回问题中,给定训练数据不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了,我们通过优化参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了学到一个函数模型不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了来准确描绘训练集和测试集中不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了的关系。其中不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了是鉴于数值的函数,它的参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了通常是连续空间中的数值向量或矩阵,优化算法通过计算数值梯度迭代革新不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了从而达到进修的效果。

与其用数值,我们是否能用自然语言来表示一个模型?这种鉴于自然语言的非数值模型又该如何做推理和训练

Verbalized Machine Learning (VML;言语化的机械进修) 回答了这些问题,并提出了一种鉴于自然语言的机械进修全新范式。VML 把大语言模型 (LLM) 当作自然语言空间中的通用相似函数 (universial function approximator)不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了,数据不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了和参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了都是自然语言空间中的字符串。在做推理时,我们可以将给定的输入数据不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了和参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了提交给 LLM,LLM 的回答就是推理的答案不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

对于任意任意和数据不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了,我们如何得到不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了?在鉴于数值的传统机械进修中,我们通过计算损失函数的梯度,将现有的模型参数往损失下降的方向革新,从而得到不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了的优化函数:

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

其中不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了分别为进修率和损失函数。

在 VML 的设定中,由于数据不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了和参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了都是字符串且 LLM 被当作是黑箱的推理引擎,所以我们无法通过数值计算来优化不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了。但既然我们已经将 LLM 用作自然语言空间中的通用相似函数去相似模型函数,而不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了的优化器不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了也是一个函数,我们为何不也用 LLM 去相似它?因此,言语化的不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了优化函数可写作

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

其中不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了为一个数量为不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了的批次的训练数据和模型预测结果,不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了为优化函数的参数(同为自然语言)。

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

                                                                                  图 1:VML 的训练算法。

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

                            图 2:VML 中模型和优化器的自然语言模版样例。

图 1 显示了 VML 的完整算法。可以看见其跟传统机械进修算法基本相同,唯一的区别是数据和参数是在自然语言空间里的字符串, 以及模型不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了和优化器不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了都是通过 LLM 在自然语言空间中进行推理。图 2 为返回任意中模型不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了和优化器不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了的具体模板样例。

跟传统机械进修比,VML 的优势包括:(1)用自然语言简单的描绘就可以对模型加入演绎偏置 (inductive bias);(2)由于不需要预设模型的函数族 (function family),优化器不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了可以在训练过程中自动对模型的函数族进行选择;(3)优化函数对模型参数的每一步革新都会提供自然语言的解释,同时模型的描绘和推理也是自然语言且可解释的。

实验展示

多项式返回

如图 3 所示,模型的初始参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了为线性返回的定义。在第一步优化时,优化器说它发现不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了有更大的值域,且它们似乎存在正相关性,所以它决定将模型革新为简单的线性返回模型。

在第二步优化时,优化器说当前模型的不良表现让它意识到线性模型的假设过于简单了,同时它发现不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了之间存在非线性关系, 因此它决定将模型革新为二次函数。

第三步优化时,优化器的关注点从函数族选择转换成二次函数的参数修改。最终模型学到了真实函数很接近的结果。

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

                                   图 3: VML 在多项式返回任意中的训练过程记录。

非线性二维平面分类

如图 4 所示,模型的初始参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了为二维平面二分类的定义,同时用了一句话「决策边界是个圆」加入演绎偏置。在第一步优化中,优化器说它鉴于提供的先验,将模型革新为了一个圆方程。接下来的优化步骤中,优化器都在根据训练数据调整圆方程的圆心和半径。直到第四十一步,优化器说当前模型似乎拟合得很好了,于是停止了对模型的革新。

同时,我们也可以看见在不加演绎偏置的情况下,VML 也能学到一个鉴于决策树的不错的模型,但相比之下训练损失的波动更大。

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

                               图 4: VML 在非线性二维平面分类任意中的训练过程记录。

医疗图像二分类

如果大模型接受多模态输入,如图片和文字,那 VML 也可以用在图片任意上。这个实验中,我们使用了 GPT-4o 和 PneumoniaMNIST 数据集,做了一个 X 光片肺炎检测的任意。

如图 5 所示,我们初始化了两个模型,模型的初始参数不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了都为图片二分类的定义, 但其中一个添加了一句话「输入是用于肺炎检测的 X 光图片」的演绎偏置作为先验。在训练了五十步后,两个模型都达到了 75% 左右的准确度,其中有先验的模型准确度要稍微高一点点。

仔细观察第五十步后的模型参数,我们可以看到加了演绎偏置的模型描绘中包含了很多与肺炎相关的医学词汇,比如「感染」、「发炎」;而没有加演绎偏置的模型描绘中只有对肺部 X 光片的特征描绘,比如「透明度」、「对称」。

同时,这些模型所学到的描绘,都是可以被具备专业知识的医生验证的。这种可解释和人工检验的机械进修模型在以安全为重的医疗场景下十分有价值。

不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

                               图 5: VML 在 PneumoniaMNIST 图片二分类上的训练记录。不做数值运算、纯靠嘴炮也能机械进修?鉴于自然语言的全新ML范式来了

结语

该文章介绍了一种鉴于大语言模型的机械进修新范式 Verbalized Machine Learning (VML; 言语化的机械进修),并在返回和分类任意上展示了 VML 的有效性和可解释性的特点。

给TA打赏
共{{data.count}}人
人已打赏
工程

从高考到奥林匹克竞技场:大模型与人类智能的终极较量

2024-6-20 15:29:00

工程

字节豆包全新图象Tokenizer:生成图象最低只需32个token,最高提速410倍

2024-6-24 11:07:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索