代码大模型在代码生成、代码翻译、代码补全、错误定位与修复、自动化测试等方面为研发人员带来了极大便利的同时,也带来了对安全风险防范能力的挑战。基于此,中国信通院依托中国人工智能产业发展联盟(AIIA),联合开源网安和百度、蚂蚁集团、阿里云等业内近30家单位共同编制了《代码大模型安全风险防范能力要求及评估方法》规范(以下简称“规范”),经多次完善和修订,于近日正式定稿发布。
规范旨在全面评估代码大模型在安全风险防范方面的能力,通过分析和测试,确保模型在各个关键环节的安全性能。本规范的评估不仅包括代码大模型的核心功能,也涵盖了与之相关的多个细分领域。
代码大模型安全风险防范能力评估框架
作为规范编制者之一,开源网安一直深耕软件安全领域,专注技术创新和标准体系建设推广,截至目前,公司已累计申请发明专利320余项,先后编制了软件供应链安全要求、软件产品开源代码安全评价方法等30余项国家/行业标准。公司早在多年前便启动了AI技术研究和大模型的应用,并在代码审计、软件成分分析、灰盒测试和模糊测试等全线产品上均嵌入了大模型能力,可为用户在知识库检索、代码定位、自动化等方面提供更好的使用体验,帮助用户提升研发效率,降低综合成本。
未来,公司将继续秉持技术创新和行业引领的核心理念,保障代码大模型的安全、高效应用,推动软件开发行业的转型变革,让软件开发更高效、更智能。