9 月 6 日上午，在 2024 Inclusion・外滩大会“以 AI 守护 AI 大模型时代的攻守之道”论坛上，国内首个大模型攻防主题的科技赛事“全球 AI 攻防挑战赛”宣布正式启动。
这项赛事聚焦 AI 大模型产业实践，设计了攻、防双向赛道，邀请各路“白帽黑客”（AI在线注：站在黑客立场攻击自己系统以进行安全漏洞排查的程序员）、技术人才分别进行针对文生图大模型“数据投毒”的攻防实战演练，以及金融场景大模型生成内容的防伪检测竞赛。
“攻击赛道”聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术，诱发大模型输出风险图像，以此激活大模型的潜在弱点和漏洞，增强大模型生图的安全免疫能力。
“防守赛道”则聚焦于 AI 核身中的金融场景凭证篡改检测，以应对日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。大赛提供百万级凭证篡改数据训练集，参赛选手需要研发和训练模型，并利用对应的测试集评估模型有效性，给出数据伪造概率值。
该赛事由中国图像图形学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，并得到了上海交通大学、浙江大学等 C9 高校及多家产学研组织的支持。
赛事设立了近 100 万元奖金池，并邀请了多位学术界和工业界的知名专家担任评委。中国工程院院士、中国图象图形学学会理事长王耀南，云安联盟（CSA）大中华区主席李雨航担任本次大赛的指导委员会专家，来自清华大学、上海交通大学、上海人工智能实验室、中国图象图形学学会等单位的近 30 位知名学者将参与大赛的组织及评审工作。
本次大赛于 9 月 6 日正式启动报名，11 月初完成赛事评审。即日起，选手可通过中国图象图形学学会官网、阿里云天池大数据众智平台官网等渠道报名。
