一位刚刚上路的新手驾驭员，如何成长为「老司机」？显然，Ta必须经过足够时间和里程的驾驭练习，才可能熟练、从容地应对各种可能出现的路况和紧急事件。所以尽管主动驾驭系统也会在投入使用之前历经大量的真实道路测试，但就算是科学文明相当普及的今天，仍有很多人依旧做不到将开车这件事「放心地交给AI」，毕竟摆在人们眼前的却是道不尽的争议和说不明的驾驭变乱，而变乱的发生可能是技能，算法，道路，数据，传输，天气，驾驭员等多重主客观因素影响造成的，权责划分十分困难。
具体从算法层面看，由于驾驭场景天然对保险平安性有更高要求，这就需要主动驾驭算法具备可解释性；但目前主动驾驭系统的决策规划模块大多基于训练数据，由于现有数据集普遍缺少中间数据或状态数据，导致算法在极端情况下难以及时做出完全正确的决策。“算法还没有达到完全「可托」的程度，这在一定程度上为变乱发生后的责任认定带来了难题。”中国信息通信研讨院华东分院人工智能与大数据事业部主任陈俊琰分析称。
中国信息通信研讨院华东分院人工智能与大数据事业部主任陈俊琰
由于无法通过算法对已发生变乱中的权责边界从事解释，人类只能尝试从主动驾驭行为中得到合理化的解释，但深度学习模型的黑箱特性让这一过程又变得困难重重。京东索求研讨院算法科学家何凤翔认为，目前阶段的很多AI算法依旧处于一种黑盒模型的基础上，如果不太了解算法背后的机制，就不太清楚风险从哪里来，也无法识别风险机制和风险尺度，更谈不上很好地管理风险。在这样的情况下，AI算法还不能应用在关键领域中，比如人们抱有很高期待的医疗诊断、主动驾驭等以及更多「人命关天」的行业。“下一步，我们需要深刻地理解算法的行为，然后才可能在这一基础上设计出可以被信赖的算法。”
京东索求研讨院算法科学家何凤翔
此外令人忧心的是，无论是地址、路线这些基础的位置信息，还是音乐、聊天内容等个性化信息，一旦其中的重要数据被窃取、篡改或滥用，会产生严重的法律责任事件，损害数据主体的财产保险平安甚至生命保险平安。怎样对如此庞大的数据从事隐衷保护、防止数据滥用？也是主动驾驭落地过程中必须要解决的课题。
可托AI，数字时代的保险平安卫士
今天，人工智能技能已经成为如水电一般的资源，融入到人们日常生活的方方面面，小到购物推荐、医疗教育，大到生物信息识别以及工业智能制造，机遇良多。然而，当我们沉浸在AI技能带来的生活便捷高效、行业迅猛发展的同时，因其“黑盒模式”引发的技能不可控、数据保险平安、隐衷泄露等课题却时有发生。
AI值得信任吗？如何建立起人与系统的互信？衡量标尺又是什么？如何更好将AI技能为人所用……相关课题逐渐成为学界、产业界、政府界，甚至是普罗大众近年来十分关心的话题。
可托AI的概念最早出现在2017年11月的香山科学会议上，由中国科学家何积丰院士首次在国内提出，近年来伴随人工智能的飞速发展，人们对可托AI的认知越来越明晰甚至深入。
2019年10月，京东集团首次在乌镇世界互联网大会上提出京东践行「可托赖AI」的六大维度。2021年7月，中国信通院与京东索求研讨院联合撰写的国内首本《可托人工智能白皮书》正式宣布，首次系统提出了可托人工智能全景框架，全面阐述可托人工智能的特征要素。“我们和白皮书的思路一脉相承，从四个方面从事可托AI方面的研讨，即稳定性、可解释性、隐衷保护、公平性。”京东索求研讨院算法科学家何凤翔表示。
纵观全球，可托AI技能的发展都有相似路径可循：从基础实际出发，从实际课题、实际结果深入，设计出可以被信赖的AI算法，最后尝试将这些AI算法应用到产品中去完成技能落地，目前可托AI作为京东索求研讨院锁定的三大研讨方向之一也是如此。“工作之中我们发现这四个方面彼此之间是有一些关联的，也是希望在长期的索求中可能提出一些统一的实际去一致描述可托AI，而不是简单机械分开去研讨它的四个方面。”
相比于国内，国外企业在可托AI技能的具体布局上起步要早一些。以隐衷保护为例，2006年，Dwork等人提出了差分隐衷模型，一经出现便迅速取代了之前的隐衷模型，成为隐衷研讨的核心。目前已有公司将差分隐衷作为规范大规模部署，对于用户数据采取不收集的处理方式，对于一些不得不收集的内容则采用差分隐衷算法将收集过后的数据从事匿名、扰乱，从而让数据无法定位到具体的用户。
毋庸置疑，可托AI涉及的方向是繁多的，每个方向都会延伸出很多具体任务，实现可托AI绝非「一日之功」。在京东索求研讨院算法科学家何凤翔看来，能否通过研讨AI背后的运行机制建立起实际基础，把不同方向的实际统一起来，这是一个比较困难的课题，当然这也是很核心的课题。这个课题如果解决了的话，后续的算法研讨可能就会得到很大帮助。
「两条腿走路」，推动可托AI规范化
可托AI的规范化工作要走在落地实践的前头，这是业界的另一大共识。实现上述目标的关键在于，要学会「两条腿走路」，除了政策指导，也需要行业自律。
从国际上来看，一方面是用指南及法案的形式对AI的可托度从事规范，比如欧盟委员会人工智能高级专家组(AI HLEG)宣布的《可托人工智能伦理指南草案》和《可托赖人工智能道德准则》。今年，《欧盟人工智能法案》也已正式宣布。
另一方面是在规范研制上面从事发力。例如美国国家规范技能研讨所（NIST）在今年6月宣布了《关于识别和管理人工智能歧视的规范提案》，随后在7月又提出《人工智能风险管理框架》。
相比之下，国内的规范化制定遵循了同样的思路，包括信通院在内的规范化机构，以及像京东这样的企业界代表，都在努力推从事业倡议、规范研制。
2020年7月，五部委宣布《国家新一代人工智能规范体系建设指南》；在今年的世界人工智能大会可托AI论坛上，《促进可托人工智能发展倡议》正式宣布；同时，中国人工智能产业发展联盟人工智能治理与可托委员会也宣告成立。
“我们也希望可以从自身的研讨成果出发，协助规范的制定；有了规范之后，一些研讨成果也能更好地被量化。比如提供一些量化指标去度量算法的可托赖程度，去设定一些阈值作为技能规范。”在何凤翔看来，这相当于“先做出一把制定好的尺子，再去做测量。”
可托AI未来之路，将指向何方？
在可托AI技能实践过程中，企业必然扮演中坚力量的角色，可能让可托AI更好落地并走得更远。尤其在数据筛选、算法优化、模型设计这些环节中，要找到隐衷泄露、算法偏见、内容审核等课题的最优解，都要依靠企业的不断摸索。
今年8月，华控清交承建的光大银行企业级多方保险平安算计平台上线就是一个企业助力可托AI落地的直观案例。这是金融行业首个正式投产的企业级数据流通基础设施平台，标志着多方保险平安算计真正打通了「产学研用」最后一环，向大规模应用迈上关键台阶。
据悉多方保险平安算计可能同时确保输入的隐衷性和算计的正确性，实现数据的「可用不可见，可控可计量」。“在无可托第三方的前提下，多方保险平安算计通过数学实际不仅可以保证参与算计的各方成员输入信息不暴露，还可能获得准确的运算结果。在此基础上，可通过算计合约机制控制数据用途用量，结合区块链存证有效防止数据滥用。在实现数据隐衷保护以及用途用量有效控制的前提下，AI在可解释性、公平性等层面的研讨及落地将会有更多机会。”华控清交规范负责人、战略总监王云河表示。
华控清交规范负责人、战略总监王云河
“可托AI涉及面非常广，涉及到的任务更是非常繁杂。在技能在落地方面，我们认为可以建立一个开放的体系，由不同厂商合作制定出统一的规范，最终成为一个完整的生态体系。”何凤翔建议。据了解，目前京东索求研讨院的隐衷算计、多方算计、联邦学习等技能已经用在对外技能输出中，针对可解释性、稳定性的相关技能也从事了最前沿的索求，相关产品也会尽快落地。
自学术界首次提出到各界积极研讨，再到产业界开始落地实践，可托AI内涵也在逐步地丰富和完善，然而可托AI的落地不单单需要先进技能的支撑，更需要达成理念上的共识。未来发展可托人工智能，还需各界携手才能共建保险平安、公平、可控的未来智能世界。