9月16日，以“共筑AI宁静 安享智能未来”为主题的AISC首届人工智能宁静大赛圆满落幕。中科院院士、清华大学人工智能研讨院名誉院长张钹，北京市科学技巧委员会、中关村科技园区管理委员会党组成员、副主任张宇蕾，北京市经济和信息化委员会党组成员、副主任潘锋，工业和信息化部网络宁静管理局数据宁静处四级调研员张洪为活动致辞。
活动现场
本次大赛由国家工业信息宁静进展研讨中心、清华大学人工智能研讨院和北京瑞莱智慧科技有限公司等单位联合主办，系首个全国性人工智能宁静赛事，旨在推动人工智能攻防技巧创新、实战演练、场景挖掘和人才培养。
同期举办的主题论坛，邀请到多位院士大师、行业领袖、政企代表出席，共同探讨如何在未来智能的全新战场，打赢技巧攻防之战。与会大师们表示，重视人工智能宁静体系建设，既是当务之急，也是长远考虑，需加快促进人工智能宁静领域关键技巧研讨与攻防实践。
AI宁静危急已非未来挑战，而是眼前威胁
试想一下，有人将一张“神奇的贴纸”放置在面部，就可以使人脸识别门禁体系误认为是你，从而轻而易举打开大门；同样是这张“神奇的贴纸”，把它放置在眼镜上，就可以1秒解锁你的手机人脸识别，探取你的隐私如入无人之境。这并非科幻大片的想象，而是首届人工智能宁静大赛颁奖典礼现场展示的真实攻防场景。
大赛工作人员示范反抗样本攻打人脸识别门禁体系
人工智能和其他通用目的技巧一样，在高歌猛进的同时，也带来了新的危急和隐患。主办方北京瑞莱智慧科技有限公司首席执行官田天认为，人工智能技巧危急发生的范围正随着应用场景的日趋广泛而逐步扩大，危急发生的可能性也随着其应用频次的增长而持续提高。在他看来，人工智能当前的宁静危急主要可以从“人”与“体系”这两个视角来剖析。
从人的视角来评估AI的宁静问题，首当其冲就是技巧的两面性问题，存在AI滥用甚至“武器化”的问题。具体到人工智能的应用中来看，最为典型的代表就是深度假造技巧，它的负向应用危急持续加剧且已产生实质危害。
而现场的人脸识别破解示范，所揭示的正是体系的危急，它来自于深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”，具有不可解释性，意味着体系存在结构性的马脚，可能受到不可预知的危急，典型的就比如现场示范的“神奇贴纸”，其实就是“反抗样本攻打”，通过在输入数据中添加扰动，使得体系作出错误判断。
这一马脚在主动驾驭感知体系同样存在，瑞莱智慧示范了用反抗样本攻打主动驾驭汽车。正常情况下，在识别到路障、指示牌、行人等目标后，主动驾驭车辆就会立即停车，但在目标物体上添加干扰图案后，车辆的感知体系就会出错，径直撞上去。
在人工智能的全生命周期，不仅存在算法层面的宁静性问题，算力作为人工智能进展的重要基础设施，也面临着诸多危急，推动人工智能算力基础设施宁静进展具有重要意义。活动期间，由国家工业信息宁静进展研讨中心牵头，联合华为技巧有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施宁静进展白皮书》正式发布。
《人工智能算力基础设施宁静进展白皮书》正式发布
白皮书围绕人工智能算力基础设施宁静进展的意义、内涵与体系架构、宁静管理现状、进展建议等方面展开深入研讨。白皮书指出，人工智能算力基础设施不同于传统的算力基础设施，既是“基础设施”又是“人工智能算力”也是“公共设施”，具有基建属性、技巧属性、公共属性三重属性。相应地，推动人工智能算力基础设施宁静进展应从强化自身宁静、保障运行宁静、助力宁静合规三个方面发力，通过强化自身的可靠性、可用性与稳定性，保障算法运行时的机密性与完整性，提升用户的宁静管控力、认可度与合规性等八个领域筑牢人工智能宁静防线，打造可信、可用、好用的人工智能算力底座，营造宁静、健康、合规进展的人工智能产业生态。
以赛促研、以赛育人，守护未来智能宁静
宁静的本质在于反抗升级，构建宁静需要一个持续攻防演进的过程。田天表示，大赛聚焦人工智能真实应用场景中的典型马脚及危急，以赛促建、以赛促研，通过考核参赛队伍的马脚发现、马脚挖掘等能力，探索新型宁静需求场景，推动AI攻防技巧创新，为强化人工智能治理体系与宁静评估能力建设提供支撑。
瑞莱智慧首席执行官田天
结合具体赛题来看，主动驾驭宁静赛题和人脸识别宁静赛题从攻打视角出发，通过让选手攻打目标模型挖掘算法马脚，旨在发现更加稳定的攻打算法，以更好的实现准确评估模型的宁静性。深度假造宁静赛题则通过分析假造音视频的相似性，来溯源不同假造内容是否来自同一种或同一类生物特征生成软件，以促进对深度假造检测技巧的进展，具有重要的现实意义。
构建人工智能的宁静生态，一方面需要技巧的持续演进，一方面也需要专项技巧人才的建设与培养。田天表示，由于人工智能宁静研讨目前仍属于新兴领域，专项人才较少，缺乏体系性的研讨队伍，本次大赛通过实战演练的方式，全方位验证和提升选手实战能力，为培育一批高水平、高层次的人工智能宁静新型人才团队提供了“快速通道”。
自七月开启报名以来，大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队，共计600余名选手的踊跃参与。经过三个月的激烈角逐，最终，上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度假造宁静与主动驾驭宁静赛道桂冠，北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。
深度假造宁静竞赛前三名
主动驾驭宁静竞赛前三名
人脸识别宁静竞赛前三名
本次大赛供了技巧交锋和思维碰撞的平台，通过竞赛的方式挖掘攻打与防御技巧新思路，同时链接产业侧真实宁静需求，为进一步强化人工智能宁静攻防研讨提供基础，也为推动人工智能宁静标准及能力建设提供了重要支撑，助力我国人工智能产业的整体进展。
大师观点：没有高水平宁静，就没有高质量进展
统筹进展和宁静，是每项新技巧进展过程中面临的必然问题，如何实现高水平进展和高水平宁静的良性互动，也是当前人工智能产业进展最为重要的命题，现场多位大师就此话题展开分享，探索AI宁静建设的新思路与新路径。
人工智能反抗攻防包括反抗样本、神经网络后门、模型隐私问题等多方面技巧。模型有错误就需要进行及时的修复，中国科学院信息宁静国家重点实验室副主任陈恺提出“神经网络手术刀”的方法，通过定位引发错误的神经元，进行精准“微创”修复。陈恺表示，不同于传统的模型修复工作需要重新训练模型，或者依赖于较大量的数据样本，这种方式类似于“微创手术”，只需极少量或无需数据样本，能够大幅提升模型修复效果。
中国科学院信息宁静国家重点实验室副主任陈恺
开放环境下的人工智能体系面临诸多宁静挑战，如何解决通用人工智能算法全周期的宁静保障问题成为重中之重。北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙表示，目前人工智能算法及体系的宁静性缺乏科学评测手段，难以有效评测完整的人工智能模型和算法能力。他表示，从技巧上来看应形成从宁静性测试到宁静性分析与宁静性加固的完整技巧手段，最终形成标准化的测试流程。同时他指出，未来的人工智能宁静应该围绕从数据、算法到体系各个层次上的全面评测，同时配合一套整体的从硬件到软件的宁静可信计算环境。
北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙
工商银行金融研讨院宁静攻防实验室主管大师苏建明表示，人工智能宁静治理需要广泛协作和开放创新，需加强政府、学术机构、企业等产业各参与方的互动合作，建立积极的生态规则。政策层面加快人工智能的立法进程，加强对人工智能服务水平、技巧支撑能力等专项监督考核力度。学术层面，加大对人工智能宁静研讨的激励投入，通过产学研合作模式加快科研成果的转化与落地。企业层面，逐步推动人工智能技巧由场景拓展向宁静可信进展转变，通过参与标准制定，推出产品服务，持续探索人工智能宁静实践及解决方案。
工商银行金融研讨院宁静攻防实验室主管大师苏建明
最后，圆桌对话环节，北京交通大学教授、计算机与信息技巧学院副院长景丽萍、清华大学人工智能研讨院基础理论研讨中心主任朱军、北京邮电大学网络空间宁静学院副院长邓伟洪、北京科技大学计算机与通信工程学院教授陈健生、华为可信AI宁静解决方案大师唐文围绕人工智能宁静技巧进展、人工智能宁静治理等话题展开深入交流。
大师们认为，从长远看，人工智能的宁静问题，还需从算法模型的原理上突破，唯有持续加强基础研讨，才能破解核心科学问题，同时他们强调，人工智能的未来进展需确保对整个社会、国家进展的有效性和正向促进性，需要政产学研用多方协同共进。