在2024年的中关村论坛数据安全治理与发展论坛上，一项具有里程碑意义的活动——首届生成式人工智能安全大赛，正式拉开了帷幕。这场大赛是在北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室的共同指导下，由中国科学院信息工程研究所与信息内容安全国家工程研究中心联合主办。
此次大赛以“共筑安全星河，护航AI发展”作为核心主题，其宗旨在于依托中国科学院信息工程研究所Galaxy（星河）生成式人工智能安全风险测评平台，为参赛者提供一个专业的比赛环境。
Galaxy平台，被誉为安全风险测评的“星河”，其核心是一个“以攻促防，攻防相长”的大模型安全测评技术体系。通过这一体系，平台不仅能够模拟各种攻击场景，促使防御技术不断进步，同时也能够在攻防演练中提升自身的能力。为了实现这一目标，平台研制了一系列的大模型自我博弈与安全能力循环升级工具集，这些工具集不仅能够助力我国在智能时代的安全底座建设，同时也能够保障人工智能技术的安全、健康和可持续发展。
此次大赛设置了三大核心赛道：安全攻击、安全检测、对齐防护。这三大赛道的设立，旨在从攻击、检测和防护三个维度，全面提高人工智能底层技术和基础底座的安全可控水平。通过聚集国内的优势力量，大赛将有效发现、分析并应对大模型的安全风险，从而推动北京市乃至全国的大模型产业安全发展。
在平台及大赛的发布环节，来自政、产、学、研等各界代表的广泛关注和积极反响，无疑是对此次大赛及其平台的高度认可。这不仅是对大赛及其平台的一种肯定，更是对其未来发展的期待和信任。随着大赛的正式启动，我们有理由相信，这将是一场推动我国人工智能安全领域发展的重要赛事，也将为全球人工智能安全领域的发展提供新的思路和方向。
