GPT4
为超越 OpenAI GPT-4，Meta 不惜使用争议数据训练 Llama 3
周二，在一场涉及 Meta 的人工智能版权案件（Kadrey 诉 Meta 案）中，法院公开了 Meta 高管和研究人员的内部通信记录。这些文件显示，Meta 在开发其最新 AI 模型 Llama 3 的过程中，高管和研究人员将超越 OpenAI 的 GPT-4 视为核心目标，并在内部讨论中表现出极强的竞争意识。
Anthropic 新研究：打错字就能“越狱”GPT-4、Claude 等 AI 模型
据 404 Media 报道，人工智能公司 Anthropic 近期发布了一项研究，揭示了大型语言模型（LLM）的安全防护仍然十分脆弱，且绕过这些防护的“越狱”过程可以被自动化。研究表明，仅仅通过改变提示词（prompt）的格式，例如随意的大小写混合，就可能诱导 LLM 产生不应输出的内容。
万物皆可《毁灭战士》，专家利用 GPT-4V 模型运行该游戏
英国约克大学研究员 Adrian de Wynter 近日发表研究论文《Will GPT-4 Run DOOM?》，探讨了如何让 GPT-4V 模型来玩《毁灭战士》游戏。de Wynter 为此设计了一个系统，使用 GPT-4V（GPT4 的多模态衍生版本，可以接收图像作为输入）捕捉游戏引擎的画面截图，并返回游戏状态的结构化描述。他设计了一个 Agent 模型，根据视觉输入信息，并对比此前历史记录作出决策，并将其反应转化为《毁灭战士》游戏可以理解的按键命令。简单地说，系统会截取游戏截图，并利用这些截图找出游戏中发生
如何应对生成式大模型「双刃剑」？之江实验室发布《生成式大模型安全与隐私白皮书》
研究者们也开始意识到 ChatGPT 等生成式大模型面临着数据和模型方面的安全隐患。
- 1