全部标签

提示

ECCV 2024｜牛津大学&港科提出毫秒级文生图安全检测框架Latent Guard

最近的文本到图像生成器由文本编码器和扩散模型组成。如果在没有适当安全措施的情况下部署，它们会产生滥用风险（左图）。我们提出了潜在保护方法（右图），这是一种旨在阻止恶意输入提示的安全方法。
理论
- 3
- 0
新闻助手11月5日
OpenAI 推出 meta-prompt 工具，AI 时代让你掌握提示词艺术

AI 时代，你和他人的差异可能直接体现在如何提出合适的提示词（Prompt）上。科技媒体 The Decoder 昨日（10 月 11 日）发布博文，报道称 OpenAI 更新提示词优化功能 Playgound，新增引入“元提示”（meta-prompt）工具。“元提示”（meta-prompt）工具主要帮助用户更高效地创建、改进针对大型语言模型（LLMs）的提示，节省开发高质量 AI 提示的时间…
应用
- 3
- 0
故渊10月12日
OpenAI ChatGPT 新增自动模式，基于提示词复杂度灵活选择合适 AI 模型

科技媒体 testingcatalog 昨日（9 月 18 日）报道，OpenAI 面向所有用户在多种设备上，为 ChatGPT 推出了“Auto”自动模式。AI在线注：用户切换选择 Auto 之后，会自动根据用户输入的提示词复杂程度，自动选择最合适的 AI 模型。对于复杂的提示，它会选用最先进的模型，而对于较简单的提示，则采用更快的模型以节省时间。许多用户反馈表示，在大多数情况下，他们更倾向于与…
应用
- 5
- 0
故渊9月19日
网信办发布《人工智能生成合成内容标识办法（征求意见稿）》

感谢国家互联网信息办公室今日发布关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知。其中第四条提到，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识。（一）在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；（二）在音频的起始、末尾或中间适…
应用
- 14
- 0
浩渺9月14日
OpenAI大秀肌肉，一口气放出10个新模型Demo，全球网友玩疯了

AI好好用报道编辑：杨文9.11和9.8哪个大还是答不对。9 月 13 日凌晨，OpenAI 又搞了个大新闻 ——推出 o1 系列模型，也就是江湖流传已久的「草莓」。这款模型到底厉害在哪，能让朋友圈刷了屏？这么说吧，它不需要专门训练，就能直接拿下数学奥赛金牌，甚至可以在博士级别的科学问答环节上超越人类专家。（查看详情，请移步：刚刚，OpenAI震撼发布o1大模型！强化学习突破LLM推理极限）不过，…
理论
- 3
- 0
AI好好用9月14日
哈佛反向学习法火了：教会 AI 就是教会自己，陶哲轩力荐

数学大佬陶哲轩力荐，哈佛反向学习法火了：教会 AI 就是教会自己。他最新分享了哈佛应用数学和应用物理学教授 Michael P. Brenner 的一个教学方法 ——利用提示工程，让学生尝试教 AI 完成平时数学作业（不纳入正式考核），期末再让这些 AI 参加考试。好嘛，相当于学生再把 AI 当学生，俄罗斯套娃有。Michael P. Brenner 教授认为，这一方法能够教会学生拆解问题，并深度…
应用
- 17
- 0
汪淼9月2日
Anthropic 公开 Claude AI 模型的系统提示词

科技媒体 Techcrunch 昨日（8 月 26 日）报道，Anthropic 公司公开了 Claude AI 模型的“系统提示词”（system prompts）。系统提示词（System prompt）为了让 AI 模型更好地理解人类指令，提示词（Prompt）工程实际上包含 2 层核心内容，用户提示词（User prompt）和系统提示词（System prompt）：用户提示词：用户输入…
应用
- 22
- 0
故渊8月27日
苹果 Apple Intelligence 被挖出重大安全缺陷，几行代码即可攻破

Apple Intelligence 上线在即，一小哥几行代码曝出 Apple Intelligence 安全缺陷。在 2024 年全球开发者大会 (WWDC) 上，Apple 发布了将搭载在 iOS 18.1 中的 AI 功能 Apple Intelligence。眼看着 10 月即将正式上线了，有「民间高手」在 macOS 15.1 提供的 Beta 测试版 Apple Intelligenc…
应用
- 11
- 0
汪淼8月15日
关于大模型「越狱」的多种方式，有这些防御手段

AIxiv专栏是AI在线发布学术、技术内容的栏目。过去数年，AI在线AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]作者：罗昊京（Financial Quantitative Anal…
理论
- 6
- 0
机器之心7月29日
大模型集体“失智”：9.11 和 9.9 哪个大，几乎全翻车了

没眼看……“9.11 和 9.9 哪个大”这样简单的问题，居然把主流大模型都难倒了？？强如 GPT-4o，都坚定地认为 9.11 更大。谷歌 Gemini Advanced 付费版，同样的口径。新王 Claude 3.5 Sonnet，还一本正经的给出离谱的计算方法。9.11 = 9 1/10 1/1009.9 = 9 9/10到这一步还是对的，但下一步突然就不讲道理了如上所示，9.11 比 9.…
应用
- 16
- 0
汪淼7月16日
Anthropic 基于 Claude 3.5 Sonnet 扩充 AI 开发工具：细化提示词、增强评估和测试

Anthropic 公司昨日（7 月 10 日）发布新闻稿，宣布推出了多项新工具，基于 Claude 3.5 Sonnet 大语言模型自动化、细化提示词（prompt）。AI在线附上完整演示视频如下：增强开发环境，可生成提示Anthropic 控制面板新增“评估”（Evaluate）单元，借助 Claude 3.5 Sonnet 大语言模型，帮助开发者高效地生成、微调和测试提示（Prompt）。…
应用
- 30
- 0
故渊7月11日