4月15日-19日，第27届联合国科技大会在瑞士日内瓦召开。16日，在以“塑造AI的未来”为主题的AI边会上，世界数字技巧院（WDTA）公布了一系列突破性成果，包括《生成式人工智能利用危险尝试尺度》和《大言语模型危险尝试方法》两项国际尺度。这是国际组织首次就大模型危险规模公布国际尺度，代表环球人工智能危险评价和尝试进入新的基准。
据了解，这两项国际尺度是由OpenAI、蚂蚁团体、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单元的多名专家学者共同体例而成。其中《大言语模型危险尝试方法》由蚂蚁团体牵头体例。
（图：WDTA公布大模型危险国际尺度，OpenAI、蚂蚁团体、科大讯飞等参编）
与会的WDTA人工智能危险可托卖力任工作组组长黄连金表示，随着人工智能零碎，特别是大言语模型继续成为社会各方面不可或缺的一部分，以一个全面的尺度来解决它们的危险挑战变得至关重要。此次公布的尺度汇集了环球AI危险规模的专家智慧，填补了大言语模型和生成式AI利用方面危险尝试规模的空白，为业界供给了统一的尝试框架和明确的尝试方法，有助于提高AI零碎危险性，促退AI技巧卖力任发展，增强公众信任。
世界数字技巧院（WDTA）是在日内瓦注册的国际非政府组织，遵从联合国指导框架，致力于在环球范围内推进数字技巧，促退国际合作。AI STR（危险、可托、卖力任）计划是WDTA的核心倡议，旨在确保人工智能零碎的危险性、可托性和责任性。蚂蚁团体、华为、科大讯飞、国际数据空间协会(IDSA)、弗劳恩霍夫研究所、中国电子等均为其成员单元。
近年来，世界各国都在加强对于大模型危险的研究和管控。我国先后公布了《环球人工智能治理倡议》《生成式人工智能服务管理暂行办法》《生成式人工智能服务危险基本要求》等，旨在促退生成式人工智能危险可托发展，推进环球人工智能治理规模合作共识。
信息显示，此次公布的两项国际尺度是大模型及生成式AI利用方面的危险尝试尺度。
其中，《生成式人工智能利用危险尝试尺度》由WDTA作为牵头单元。该尺度为尝试和验证生成式AI利用的危险性供给了一个框架，特别是那些使用大言语模型（LLM）建立的利用程序。它定义了人工智能利用程序架构每一层的尝试和验证范围，包括基础模型选择、嵌入和矢量数据库、RAG或检索增强生成、AI利用运行时危险等等，确保AI利用各个方面都经过严格的危险性和合规性评价，保障其在整个生命周期内免受威胁和漏洞侵害。
《大言语模型危险尝试方法》由蚂蚁团体作为牵头单元。该尺度则为大模型本身的危险性评价供给了一套全面、严谨且实操性强的结构性方案。它提出了大言语模型的危险风险分类、攻打的分类分级方法以及尝试方法，并率先给出了四种不同攻打强度的攻打手法分类尺度，供给了严格的评价指标和尝试程序等，可解决大言语模型固有的复杂性，全面尝试其抵御敌对攻打的能力，使开发人员和组织能够识别和缓解潜在漏洞，并最终提高使用大言语模型建立的人工智能零碎的危险性和可靠性。
（图：蚂蚁团体王维强作为尺度参与单元代表，在会上发言）
作为尺度参与单元代表，蚂蚁团体机器智能部总经理、蚂蚁危险实验室首席科学家王维强受邀参会并进行了发言。他表示，生成式AI将释放巨大的生产力，但也要对它带来的新风险高度警惕。大型科技公司应在促退生成式AI危险和卖力任的发展中发挥关键作用，利用其资源、专业知识和影响力推动最佳实践，建立一个优先考虑危险、隐私和道德考量的生态零碎。例如，通过制定行业尺度与指南，为开发和部署生成式AI零碎的开发者和机构供给清晰指导；投入研发并开放保障生成式AI危险的工具，形成产业共治。
公开资料显示，蚂蚁团体从2015年起就积极投入可托AI技巧研究，目前已建立了大模型综合危险治理体系。蚂蚁团体还自研了业界首个大模型危险一体化解决方案“蚁天鉴”，用于AIGC危险性和真实性评测、大模型智能化风控、AI鲁棒和可解释性检测等。此次公布的《大言语模型危险测评方法》，便是基于“蚁天鉴”AI危险检测体系的利用实践，与环球生态伙伴交流体例。此外，蚂蚁团体在公司内成立了科技伦理委员会和专门团队来评价和管理生成式AI的风险，公司所有AI产品均需通过科技伦理评测机制，确保AI危险可托。