回复
严防“胡说八道”，苹果 Apple Intelligence 智能回复功能加入“反幻觉”指令
近日有网友在 macOS 15.1 测试版中发现了苹果公司为 Apple Intelligence 的智能回复（Smart Reply）功能设置的一系列内部指令。这些指令以 JSON 文件的形式存在，详细规定了该功能的工作流程。其中最引人注目的是，苹果明确要求系统“不要编造事实，不要产生幻觉”。据AI在线了解，智能回复是苹果邮件应用的一项功能，旨在通过分析邮件内容自动生成可能的回复选项，这一功能的背后是苹果自研的智能技术。然而，与其他生成式 AI 一样，智能回复也面临着“幻觉”问题，即系统可能会生成虚假或误导性的信
AI 摘要“幻觉”风波未平，谷歌 Gemini 聊天机器人又被曝“胡言乱语”
前段时间，谷歌搜索“AI 摘要”（AI Overviews）功能因其经常提供具有严重错误的搜索结果而备受诟病，导致官方亲自下场保证后续会进行修正。而如今，又有网友爆料称谷歌旗下的人工智能产品“抽了风”，这次问题出在 Gemini 聊天机器人。从北京时间昨夜至今日凌晨，有 Reddit 网友陆续发现，Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。过去几天里，部分 Gemini 用户陆续发现自己遇到了这一奇怪问题：Gemini 会输出胡言乱语。这些回复可能是一连串的重
- 1