大模型算法 - AI在线

AAAI2025｜小红书搜索广告团队提出幻觉检测新方法：基于语义图增强的不确定建模

大型语言模型（LLMs）在生成文本时容易出现“幻觉”，即生成不真实或不忠实的内容，这限制了其在实际场景中的应用。现有的研究主要基于不确定性进行幻觉检测，利用 LLMs 的输出概率计算不确定性，无需依赖外部知识或频繁采样。然而，这些方法通常只关注单个 Token 的不确定性，忽略了 Token 和句子之间复杂的语义关系，导致在多 Token 和跨句子的幻觉检测中存在不足。