逃狱

GPT-4o，比上一代更容易被逃狱攻打了？来自北航和南洋理工的研究人员，通过上万次的 API 查问，对 GPT-4o 各种模态的危险性进行了详细测试。结果发现，GPT-4o 新引入的语音模态带来了新的攻打面，而且多模态整体危险性不敌 GPT-4V。具体来说，研究人员针对 4 个常用的基准测试，对 GPT-4o 支持的三种模态（文本、图象、音频）进行了测试。测试一共涉及到 4000 初始文本查问的优…

英国政府下属的人工智能保险平安研究所（AISI）今日发布了一份新敷陈，揭示了一个值得重视的事实 —— 现在的 AI 系统可能并非像创建者所说的那样“保险平安”。敷陈指出，参与尝试的四个大谈话模型（IT之家注：敷陈未提到这些模型的具体名称）“极易受到基本逃狱袭击”的影响，更有一些模型在被逃狱之前，就主动生成了“无害”实质。图源 Pexels现在，大部分公开可用的谈话模型都内置了部分保护措施，从而防止…

【新智元导读】Anthropic 发现了大模型的惊人马脚。经过 256 轮对话后，Claude 2 逐渐被「灌醉」，开始疯狂逃狱，帮人类造出炸弹！谁能想到，它的超长上下文，反而成了软肋。大模型又被曝出宁静题目？这次是长上下文窗口的锅！今天，Anthropic 发表了自己的最新研讨：如何绕过 LLM 的宁静限度？一次逃狱不够，那就多来几次！论文地址： Claude3 一家叫板 OpenAI 之余，A…