AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

前段时间,谷歌搜索“AI 摘要”(AI Overviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在 Gemini 聊天机器人。从北京时间昨夜至今日凌晨,有 Reddit 网友陆续发现,Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。过去几天里,部分 Gemini 用户陆续发现自己遇到了这一奇怪问题:Gemini 会输出胡言乱语。这些回复可能是一连串的重

前段时间,谷歌搜索“AI 摘要”(AI Overviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在 Gemini 聊天机器人。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

从北京时间昨夜至今日凌晨,有 Reddit 网友陆续发现,Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。

过去几天里,部分 Gemini 用户陆续发现自己遇到了这一奇怪问题:Gemini 会输出胡言乱语。这些回复可能是一连串的重复单词、短语,也可能是随机字符,回复的内容往往相当冗长,且与提示词毫无关联。

截至IT之家发文,谷歌暂未对上述问题进行回应。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

据外媒 9to5Google 报道,这些奇怪的回复结果会在 Gemini 网页端、移动端出现,且往往都以“Full”或“Full bor”开头。不过,在大多数情况下,Gemini 仍然会正常回应用户提出的请求。

相关资讯

严防“胡说八道”,苹果 Apple Intelligence 智能回复功能加入“反幻觉”指令

近日有网友在 macOS 15.1 测试版中发现了苹果公司为 Apple Intelligence 的智能回复(Smart Reply)功能设置的一系列内部指令。这些指令以 JSON 文件的形式存在,详细规定了该功能的工作流程。其中最引人注目的是,苹果明确要求系统“不要编造事实,不要产生幻觉”。据AI在线了解,智能回复是苹果邮件应用的一项功能,旨在通过分析邮件内容自动生成可能的回复选项,这一功能的背后是苹果自研的智能技术。然而,与其他生成式 AI 一样,智能回复也面临着“幻觉”问题,即系统可能会生成虚假或误导性的信

谷歌发布 3 款 Gemini 实验 AI 模型:1.5 Pro 冲榜第二、1.5 Flash 从第 23 蹿升至第 6

谷歌 AI Studio 产品总监洛根・基尔帕特里克(Logan Kilpatrick)今天(8 月 28 日)在 X 平台发布推文,宣布推出 3 款 Gemini 实验性模型。AI在线附上谷歌本次推出的 3 款实验性 Gemini AI 模型如下:Gemini 1.5 Flash-8BGemini 1.5 Flash-8B 是 Gemini 1.5 Flash 的更小尺寸模型,拥有 80 亿参数,专为多模态任务而设计,包括大容量任务和长文本摘要任务。Gemini 1.5 Pro Exp-0827主要增强编程、复杂

91.1% 准确率,性能远超 GPT-4 系列模型,谷歌推出多模态医学大模型 Med-Gemini

编辑 | 萝卜皮各种复杂的医疗应用给人工智能带来了巨大挑战:需要先进的推理、获取最新的医学知识以及对复杂的多模态数据的理解。Gemini 模型在多模态和长上下文推理方面具有强大的通用能力,为 AI 在医学领域应用提供了可能性。基于 Gemini 的核心优势,谷歌的研究人员推出了 Med-Gemini,这是一个功能强大的多模态模型系列,专门用于医学,能够无缝使用网络搜索,并且可以使用自定义编码器有效地针对新颖的模态进行定制。研究人员用 14 项医疗基准评估 Med-Gemini,在其中 10 项上建立了新的最先进(S