《生成式人工智能服务管理暂行办法》即将施行，企业在AI研发过程中如何把控风险

以ChatGPT为代表的生成式人工智能正在重塑数字内容的生产方式和消费模式，显著地影响各行各业变革。然而，AI带来的相应危害也层出不穷，网络攻击、数据泄露等风险日益凸显，过度采集、歧视性算法，滥用深度伪造等问题可能严重影响社会经济运行。

为促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。近期，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》（以下称《办法》），该《办法》将于2023年8月15日起施行。

《办法》第7条提出：生成式人工智能服务提供应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

• 使用具有合法来源的数据和基础模型

• 涉及知识产权的，不得侵害他人依法享有的知识产权

• 涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形

随着数字技术的发展，开源技术被广泛应用于各个行业，AI行业也需要使用大量的第三方组件，在一定程度上保证软件质量，并以更低成本加快项目进度，推动企业AI业务快速占领市场，实现商业目的。

然而，开源技术是一把双刃剑，不当使用开源技术也会带来大量风险，其安全性直接关系到信息系统基础设施的安全。那么企业在发展AI技术的过程中，该如何响应政策监管需求，保障开源组件的安全性呢？

企业应建立清晰的SBOM清单，详细了解软件的组件成分信息，便于进行资产盘点，在开发阶段检测AI程序被“投喂”的组件，降低其中潜藏的合规风险并加以限制，减轻企业履行合规义务的负担。同时也能帮助AI企业向客户、监管机构和其他利益相关者展示程序的质量和可靠性。