AI在线 AI在线

谷歌 Magic Editor 集成 SynthID,“火眼金睛”识别 AI 造假

作者:故渊
2025-02-07 02:38
AI 生成媒体技术日新月异,其生成的内容 以假乱真。谷歌公司正积极探索解决方案,将 SynthID 水印技术应用于其图像编辑工具 Magic Editor,以识别 AI 生成的图像和视频,从而应对潜在的虚假信息传播风险。

AI 生成媒体技术日新月异,其生成的内容以假乱真。谷歌公司正积极探索解决方案,将 SynthID 水印技术应用于其图像编辑工具 Magic Editor,以识别 AI 生成的图像和视频,从而应对潜在的虚假信息传播风险。

谷歌 Magic Editor 集成 SynthID,“火眼金睛”识别 AI 造假

AI 生成的图片、视频甚至音频质量近年来大幅提升,“威尔・史密斯吃意大利面”的梗图便是例证。然而,技术的进步也带来了伦理挑战,尤其是在虚假信息传播方面。AI在线附上视频如下:

为此,各大 AI 实验室开始为 AI 生成内容添加水印,例如 xAI 在其 Grok 生成的图像右下角添加 logo。谷歌则采用了不同的方法 ——SynthID。

该技术于 2023 年 8 月推出,最初用于为 AI 生成的图像添加水印和识别。SynthID 的功能于 2024 年 5 月扩展到 AI 生成的文本和视频,该技术通过将数字水印嵌入像素和视频帧中,在不影响视觉质量的前提下实现内容标记。

最新消息显示,谷歌已将 SynthID 集成到 Magic Editor 的 Reimagine 功能中。本周起,使用 Magic Editor 进行 AI 生成编辑的图像将在 Google Photos 中使用 SynthID 进行标记,但并非所有编辑都会被标记,例如对背景中小物件的色彩修改可能无法被 SynthID 检测到。

相关标签:

相关资讯

CVPR 2024|让图像扩散模型生成高质量360度场景,只需要一个语言模型

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:[email protected][email protected]蔡志鹏博士()是美国英特尔研究院的研究员,博士毕业于澳大利亚阿德莱德大学。他的研究兴趣包括鲁棒视觉感知,持续学习和生成模型等。他的工作已在领域顶级会议杂志上发表超过15篇。其中5篇文章被选
6/11/2024 2:36:00 PM
机器之心

AI 编程公司 Magic 融资 3.2 亿美元,Codeium 融资 1.5 亿美元;1X 发布家务机器人 NEO丨AI情报局

今日融资快报AI 编码助手初创公司 Magic 完成 3.2 亿美元融资,竞争对手 Codeium 获得 1.5 亿美元Magic 筹集了 3.2 亿美元。 Codeium(正式名称为 Exafunction Inc.)同时宣布已完成 1.5 亿美元融资,估值为 12.5 亿美元。 两家公司都在使用人工智能为开发人员自动执行重复性任务,但他们采取了不同的方法来实现这一点。
9/2/2024 9:59:00 AM
我在思考中

美政府力邀 ChatGPT 产品主管出庭作证,希望增强对谷歌的反垄断指控

美国政府目前正通过邀请 ChatGPT 产品负责人 Nick Turley 作为证人来增强其对谷歌的反垄断指控,特别是为了证明谷歌的竞争对手在进入搜索市场时面临巨大的障碍。
1/18/2025 10:52:38 PM
清源
  • 1