幻觉

当地时间 27 日，据美联社报道，超过十位软件工程师、开发人员和学术研究人员称，OpenAI 的语音转写工具 Whisper 存在一个重大缺陷：有时会凭空生成大段甚至整句虚假内容。 这些专家指出，这些生成的文本（AI在线注：业内通常称为“AI 幻觉”）可能涉及种族言论、暴力措辞，甚至杜撰的医疗建议。 专家们认为，这一问题尤其令人担忧，因为 Whisper 已被广泛应用于全球多个行业，包括用于翻译和…

科技媒体 The Decoder 昨日（9 月 24 日）发布博文，报道称微软以预览版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“纠正” AI 幻觉。AI 幻觉在人工智能领域中，幻觉是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。该术语源自幻觉的心理学概念，因为它们具有相似的特征。人工智能幻觉的危险之处之一是…

大模型幻觉还分内在、外在了 ——OpenAI 科学家翁荔最新 Blog，提出 LLM 外在幻觉（extrinsic hallucination）。有别于代指模型生成与现实不符、虚构、不一致或者毫无意义的内容，翁荔将 LLM“幻觉”问题具体化为模型输出内容是虚构的，并且不基于所提供的上下文或世界知识。由此，幻觉有两种类型：上下文内幻觉：模型输出应该与上下文中的源内容一致（出现上下文内幻觉时，输出与源…

近年来，人工智能蓬勃发展，谈天机器人等运用逐渐普及，人们可以通过简单的指令从这些谈天机器人（例如 ChatGPT）获取信息。然而，这些谈天机器人依然容易出现“幻觉”成绩，即提供错误的谜底，有时甚至是危险的信息。图源 Pexels造成“幻觉”的原因之一是训练数据不准确、泛化能力不足以及数据采集过程中的副作用。不过，牛津大学的钻研职员另辟蹊径，在最新出版的《自然》杂志上详细介绍了一种他们新开发的要领，…

就在 GPT-4 因征服标准化尝试而登上头条时，微软研究人员正在对其他 AI 模型进行一种非常另类的尝试 —— 一种旨在让模型捏造信息的尝试。为了治好这种被称为“AI 幻觉”的症状，他们设定了一个会让大多数人头疼的文本检索任务，然后跟踪并改进模型推戴，这也是微软在测定、检测和缓解 AI 幻觉方面的一个例子。微软 AI 担任项目的首席产物官 Sarah Bird 意味，“微软希望其所有 AI 系统都…

【新智元导读】Alembic 首次推出用于企业数据分析和决议计划支持的无「幻觉」人工智能。原来大模型的「幻觉」，真的可以完全消除！近日，AI 初创公司 Alembic 首次宣布，一种全新 AI 体系完全解决了 LLM 虚假信息生成问题。也就是说，饱受诟病的 LLM 幻觉，被彻底攻破了。联创兼首席执行官 Tomás Puig 在接受 Venture Beat 独家采访时透露，「取得这一关头打破在于，…

长期以来，人们常常把大谈话模型提供的看似合理但讹夺百出的答案称作“AI 幻觉（AI hallucinations）”。然而，来自英国格拉斯哥大学的三名哲学钻研职员近期提出了不同的看法 ——“AI 幻觉”这样的描写并不正确。当地时间 6 月 8 日，《伦理与信息技术》杂志刊登了三名钻研职员的论文。这篇论文指出，聊天机器人“胡编乱造”回答的行为不应被称为“幻觉”，用“胡言乱语（bullshitting…

AI 安全公司 DeepKeep 近日发布评价陈说，在 13 个风险评价类别中，Meta 公司的 Llama 2 大谈话模型仅通过 4 项尝试。陈说称 70 亿参数的 Llama 2 7B 模型幻觉（答复实质存在虚假，或者有误导性实质）最为严重，幻觉率高达 48%。DeepKeep 表示：“结果表明，模型有明显的幻觉倾向，提供正确答案或编造答复的可能性对半开，而幻觉率最高，那么向用户传递的错误信息…