验证

互联网时代，网站如何判断访问者是人类用户还是机器人？其中一个被广泛部署的解决方案，就是 CAPTCHA 验证系统。不过在迈入 AI 时代后，CAPTCHA 验证系统的识别和防御能力被大打折扣。用户在访问某些网站时，可能就会遇到 CAPTCHA 验证系统，要求用户从 9 张图片中，筛选汽车、自行车、桥梁或红绿灯等，来证明是人类访问者。根据苏黎世联邦理工学院（ETH Zurich）的最新研究，AI 现…

谷歌 DeepMind 团队于 8 月 27 日在 arxiv 上发表论文，介绍展示了 GenRM 生成式验证器，创造性提出奖励模型，从而提升生成式 AI 推理能力。AI 行业内，目前提高大语言模型（LLMs）的主流做法就是 Best-of-N 模式，即由 LLM 生成的 N 个候选解决方案由验证器进行排序，并选出最佳方案。这种基于 LLM 的验证器通常被训练成判别分类器来为解决方案打分，但它们无…