可诠释AI（XAI）是人工智能的一个新兴分支，用于诠释人工智能所做出的每一个决策背后的逻辑，是人工智能可持续发展核心关注点之一。随着大模型时代的到来，模型变得越来越复杂，关注可诠释性对于提升人工智能系统的透明度、宁静性和可靠性具有重要意义。
可诠释AI国际尺度IEEE P2894宣布，打开AI“黑匣子”
近期，IEEE尺度协会关于可诠释AI体系架构的尺度P2894（Guide for an Architectural Framework for Explainable Artificial Intelligence）正式宣布。IEEE是全球最大的非营利性专业手艺学会，在学术及国际尺度等领域具有公认权威性，已经制定了900多个现行工业尺度。
尺度原文链接：https://standards.ieee.org/ieee/2894/11296/
此次宣布的可诠释AI体系架构尺度为行业提供了构建、部署和管理机械进修模型的手艺蓝图，同时通过采用各种可诠释AI方式满足透明和可托赖AI的要求。尺度定义了可诠释 AI 的架构框架和应用指南，包括可诠释AI的描述和定义、可诠释AI方式的类型和每种类型适用的应用场景，以及可诠释AI系统在准确性、隐衷和宁静方面的性能评估方式。
据了解，早在2020年6月，微众银行、华为、京东、百度、依图、海信、中电科大数据研究院、中科院计算所、中国电信、中国移动、中国联通、上海计算机软件手艺开发中心、新奥集团、华夏基金、创新工场等20余家企业和机构基于金融、零售、智慧城市等多领域业务场景中对AI手艺宁静合规、可诠释性的深刻理解，在IEEE尺度协会共同成立可诠释AI尺度工作小组，并于当年7月组织了第一次尺度工作组会议，微众银行人工智能首席科学家范力欣博士担任尺度工作组主席，美国华盛顿大学教授陈一昕博士担任副主席。此后，尺度工作组召开多次会议，就尺度文件的起草和修改进行了多次讨论，最终尺度草案于2024年2月由IEEE尺度协会通过正式宣布。
尺度工作组主席范力欣博士表示：“可诠释性是当前AI手艺发展阶段中不可忽视的重要议题，但是相关的行业尺度和规范文件仍然不够完善，此次的尺度制定吸纳了来自金融、通信、零售、互联网等各个领域的头部企业和研究机构的前沿实践经验，相信能为AI的更广泛落地提供具有价值的参考。”
可托联邦进修与可托AI相关尺度将陆续出台，聚焦AI数据宁静与隐衷保护
据范力欣博士介绍，此次宣布的可诠释AI体系架构尺度也是“可托联邦进修”新范式研究与落地的重要里程碑。“可托联邦进修”是能够满足用户和监管等各方面需求的分布式机械进修范式。在此范式中，隐衷保护、模型性能、算法效率是核心的三角基石，与模型的决策可诠释性和模型的可监管性两大支柱，共同构成了更加宁静可托的联邦进修。
据了解，可托联邦进修对于推动数据要素的宁静流行具有关键性作用。国家数据局印发的《“数据要素×”三年行动计划（2024—2026年）》提出“打造宁静可托流行环境，深化隐衷计算、联邦进修等手艺应用，增强数据利用可托、可控、可计量能力，促进数据合规高效流行使用。”
随着工业界和学术界对联邦进修和可托赖人工智能的关注，IEEE尺度协会批准立项的多个可托联邦进修和可托赖人工智能尺度也将陆续出台。其中，关于联邦进修的隐衷和宁静架构的尺度IEEE P2986 （Recommended Practice for Privacy and Security for Federated Machine Learning）草案已完成，预计不久将正式宣布。该尺度在业界首次提出联邦进修的隐衷风险等级和宁静风险等级评估方式。具体包括联邦机械进修中的常见故障及对抗方式、联邦机械进修的隐衷和宁静要求、及联邦机械进修隐衷和宁静评估指南。
此外，以IEEE P2986为基础，更加聚焦联邦进修的可托赖、可诠释、可优化、可监管的可托联邦进修尺度IEEE P3187（Guide for Framework for Trustworthy Federated Machine Learning）也已完成初步审核。该尺度提出了可托联邦进修的框架和特性，对实现这些特性做了具体约束，并对实现可托联邦进修的方案进行了介绍。
大模型AI Agent+联邦进修，打造大模型时代的可托赖人工智能
近期，中国电信和微众银行还联合发起成立了关于语义信息智能体的联邦进修尺度IEEE P3427（Standard for Federated Machine Learning of Semantic Information Agents）工作组。该尺度计划讨论议题包括基于联邦机械进修的语义认知网络中不同语义智能体的角色定义、激励机制、语义通信，语义智能体上便于人类理解的语义信息表征，以及语义智能体之间的联邦信息宁静、高效交互等。该尺度工作组计划于2024年3月底开展尺度研制，目前正广泛吸纳各行业的相关专家加入，共同完善尺度，促进行业发展。
相关行业尺度的陆续宣布将进一步推动跨行业、跨领域的手艺合作与创新，打开AI的“黑匣子”，推动数据要素的宁静高效流行，高准确性和高可诠释性的人工智能将有助于实现手艺广泛、负责任、有效地应用，为人类带来福祉。