AI在线 AI在线

Marco

研究人员绕过 GPT-4o 模型安全护栏，利用“十六进制字符串”成功令其编写漏洞攻击程序

研究人员绕过 GPT-4o 模型安全护栏，利用“十六进制字符串”成功令其编写漏洞攻击程序
网络安全公司 0Din 的研究员 Marco Figueroa 发现了一种新型 GPT 越狱攻击手法，成功突破了 GPT-4o 内置的“安全护栏”措施，能够使其编写出恶意攻击程序。 参考 OpenAI 介绍，ChatGPT-4o 内置了一系列“安全护栏”措施，以防止该 AI 遭到用户不当使用，相关防护措施会分析输入的提示文本，判断用户是否要求模型生成恶意内容。 ▲ 图源 Marco Figueroa 博客（下同）不过 Marco Figueroa 尝试设计了一种将恶意指令转化为十六进制的越狱方法，号称能够绕过 GPT-4o 的防护，让 GPT-4o 解码运行用户的恶意指令。
11/4/2024 10:07:29 AM
漾仔
阿里国际 Marco 翻译大模型发布：支持中英日韩西法等 15 种主流语言

阿里国际 Marco 翻译大模型发布：支持中英日韩西法等 15 种主流语言
感谢据阿里国际 AI 团队 AIDC-AI，阿里国际最新研发的翻译大模型 Marco 于今日正式上线，支持中、英、日、韩、西、法等 15 种全球主流语种。官方称其基于目前广泛使用的开源评测数据集 Flores，Marco 翻译大模型在 BLEU 自动评测指标上，领先于市面上的标杆翻译产品，如 Google 翻译、DeepL、GPT-4 等。“你的宝贝正在路上”，不会再被翻译成“Your baby is on the way”。
10/16/2024 12:31:04 PM
清源
  • 1