1、大模型备案为什么要办理

      《生成式人工智能服务管理暂行办法》第十七条指出，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估。

      大模型备案的安全评估是依据《互联网新闻信息服务新技术新应用安全评估管理规定》，《互联网新闻信息服务新技术新应用安全评估管理规定》中所指的互联网新技术新应用是指用于提供互联网新闻信息服务的互联网站、应用程序、论坛、博客、微博客、公众账号、即时通信工具、网络直播以及其他具有新闻舆论属性或社会动员能力的创新性应用（包括功能及应用形式）及相关支撑技术，大模型属于规定所指的新技术新应用范畴。

      2月29日，全国网络安全标准化技术委员会正式发布的《生成式人工智能服务安全基本要求》（以下简称“《基本要求》”）。《基本要求》作为大模型备案的配套指引，其第9章“安全评估要求”对备案所需安全评估应涵盖的要点进行逐一细化，第8章“其他要求”及附录A则是对于安全评估材料必备附件的细化要求。

      2、大模型备案流程

      （1）报请属地网信办，拿到备案表；

      （2）企业根据表格及评估要点准备填写材料；

      （3）企业内部展开评估，编写相关材料，准备测试账号；

      （4）材料附件及测试账号提交属地网信办审核；

      （5）属地网信办材料审核及技术测试审核通过后，属地上报中央网信办；未通过，修改材料或调整模型能力后再次提审，具体调整哪方面根据属地网信反馈进行；

      （6）中央网信办进行材料复审及技术评审，通过，企业下发备案号；未通过，需重新进行上线备案。

      3、大模型备案材料要求

      （1）大模型上线备案表，包含以下具体内容：

      1）基本情况：模型名称、主要功能、适用人群、服务范围等。

      2）模型研制：模型备案情况、训练算力资源（自研模型）、训练语料和标注语料来源与规模、语料合法性、算法模型的架构和训练框架等。

      3）服务与安全防范：推理算力资源、服务方式及对象等、非法内容拦截措施、模型更新升级信息等。

      4）安全评估：基本情况、评估情况。

      5）自愿承诺：承诺所填信息真实性，并签字确认。

      6）附件及备注：附件包括安全评估报告、模型服务协议、语料标注规则、拦截关键词列表、评估测试题。

      （2）安全评估报告：提交的报告应包含语料安全评估、模型安全评估以及安全措施评估，并应在评估报告中形成整体评估结论。每一类评估的要求可参考《基本要求》中的具体条款。

      （3）模型服务协议：一般包含产品及服务的各项规则及隐私条款等，需协同法务共同制定提交。

      （4）语料标注规则：包括标注团队介绍、功能性及安全性标注细则，标注流程等。

      （5）拦截关键词列表：总规模不宜少于10000个，应至少覆盖《生成式人工智能服务安全基本要求》A.1以及A.2中17种安全风险，A.1中每一种安全风险的关键词均不宜少于200个，A.2中每一种安全风险的关键词均不宜少于100个。

      （6）评估测试题集：

      1）该测试题集需要包括生成内容测试题库、拒答内容测试题库、非拒答测试题库。

      2）测试题分类满足《生成式人工智能服务安全基本要求》中相关的风险类型，并有最小的数量要求。

      3）测试题建议是“问题”(包含主谓宾)，不可只是短词、长文章。

      4）生成内容测试题库中建议明确标记出哪些问题是需要拒答的、哪些是需要回答的。

      以上提交材料均可参考《生成式人工智能服务安全要求》，《基本要求》作为引导、指引生成式人工智能服务安全发展的指南类文件，本身虽不具备强制性法律效力，但在现行网络空间治理法律框架下合法合规提供生成式人工智能服务提供实践指引与监管侧重参照，企业在提交相关材料时可具体根据《基本要求》的条款逐一核对是否满足要求。

      自大模型备案开展以来，大模型备案的实践要求处于动态调整的过程，这在一定程度上体现出监管部门对大模型备案的重视程度：随着实践经验的积累，适时调整备案要求从而契合当下生成式人工智能服务的发展情况。