近年来,代码大模型已成为企业研发人员辅助编程必备助手,能够生成、翻译、补全代码,帮助定位和修复错误。然而,代码大模型背后隐藏的危急挑战还有待讨论。
华夏信息通讯研究院(以下简称“华夏信通院”)依托华夏人工智能产业发展联盟(AIIA),联合业内近 30 家单位共同编制了《代码大模型平安危急提防才智要求及评价方法》标准(简称“标准”),聚焦代码大模型的平安才智,从基础功能出发,评价代码大模型的基础才智和平安危急提防才智。
2024 年 6 月 18 日,标准第三次研讨会成功举办,对标准内容做出进一步的完善和修订,现已完成定稿。
IT之家附部分参编单位如下(排名不分先后):
华夏信息通讯研究院
北京百度网讯科技有限公司
科大讯飞股份有限公司
蚂蚁科技集团股份有限公司
华夏邮储银行
华夏民生银行
中债金科信息技术有限公司
交通银行
华夏银行
龙盈智达(北京)科技有限公司
北京市商汤科技开发有限公司
阿里云计算有限公司
北京大学
小米静止软件有限公司
维沃静止通讯有限公司
海信视像科技股份有限公司
浪潮软件科技有限公司
北京云起无垠科技有限公司
浙江大学滨江研究院
广东拓思软件科学园有限公司
浙江御安信息技术有限公司
万商天勤(上海)律师事务所
深圳开源互联网平安技术有限公司
据介绍,标准的制定旨在全面评价代码大模型在平安危急提防方面的才智,通过分析和测试,确保模型在各个关键环节的平安性能。
本标准的评价不仅包括代码大模型的核心功能,也涵盖了与之相关的多个细分领域,如数据集、算法、模型、网络以及服务等。
▲ 代码大模型平安危急提防才智评价框架
根据评价结果,标准将确定代码大模型的平安才智级别,为模型的进一步优化和平安加固提供指导,同时也为用户从平安性角度提供选型依据。
目前,华夏信通院正式启动首轮代码大模型平安危急提防才智试评价工作,报名将于 8 月底截止,预计年底发布评价结果。