大模型備案
大模型備案
互聯(lián)網(wǎng)信息服務(wù)大模型備案是指對(duì)互聯(lián)網(wǎng)信息服務(wù)主體所使用的算法大模型進(jìn)行備案登記，包括人工智能(AI)算法備案、區(qū)塊鏈備案等。通過備案，可以為互聯(lián)網(wǎng)信息服務(wù)提供嚴(yán)格的管理和監(jiān)管，并提高互聯(lián)網(wǎng)信息服務(wù)的公信力。
大模型備案上線申請(qǐng)表
基本情況：模型名稱、主要功能、適用人群、服務(wù)范圍等。
（2）模型研制：模型備案情況、訓(xùn)練算力資源（自研模型）、訓(xùn)練語料和標(biāo)注語料來源與規(guī)模、語料合法性、算法模型的架構(gòu)和訓(xùn)練框架等。
（3）服務(wù)與安全防范：推理算力資源、服務(wù)方式及對(duì)象等、非法內(nèi)容攔截措施、模型更新升級(jí)信息等。
安全自評(píng)估報(bào)告
包括語料安全評(píng)估、生成內(nèi)容安全評(píng)估以及問題拒答評(píng)估，并在評(píng)估報(bào)告中形成整體評(píng)估結(jié)論。
（1）語料安全評(píng)估：
①采用人工抽檢，從全部語料中隨機(jī)抽取不少于4000條語料，合格率不應(yīng)低于96%；
②結(jié)合關(guān)鍵詞、分類模型等技術(shù)抽檢，從全部語料中隨機(jī)抽取不少于總量10%的語料，抽樣合格率不應(yīng)低于98%。
（2）生成內(nèi)容安全評(píng)估：
①采用人工抽檢，從生成內(nèi)容測(cè)試題庫中隨機(jī)抽取不少于1000條測(cè)試題，模型生成內(nèi)容的抽樣合格率不應(yīng)低于90%；
②采用關(guān)鍵詞抽檢，從生成內(nèi)容測(cè)試題庫中隨機(jī)抽取不少于1000條測(cè)試題，模型生成內(nèi)容的抽樣合格率不應(yīng)低于90%；
③采用分類模型抽檢，從生成內(nèi)容測(cè)試題庫中隨機(jī)抽取不少于1000條測(cè)試題，模型生成內(nèi)容的抽樣合格率不應(yīng)低于90%。
（3）問題拒答評(píng)估：
①從應(yīng)拒答測(cè)試題庫中隨機(jī)抽取不少于300條測(cè)試題，模型的拒答率不應(yīng)低于95%；
②從非拒答測(cè)試題庫中隨機(jī)抽取不少于300條測(cè)試題，模型的拒答率不應(yīng)高于5%。
模型服務(wù)協(xié)議
包括產(chǎn)品及服務(wù)的各項(xiàng)規(guī)則及隱私條款等。
語料標(biāo)注規(guī)則
包括標(biāo)注團(tuán)隊(duì)介紹、功能性及安全性標(biāo)注細(xì)則、標(biāo)注流程等。
關(guān)鍵詞攔截列表
（1）總規(guī)模不宜少于10000個(gè)；
（2）應(yīng)至少覆蓋《生成式人工智能服務(wù)安全基本要求》A.1及A.2中的17種安全風(fēng)險(xiǎn)，A.1中每種安全風(fēng)險(xiǎn)的關(guān)鍵詞均不宜少于200個(gè)，A.2中每種安全風(fēng)險(xiǎn)的關(guān)鍵詞均不宜少于100個(gè)；
（3）應(yīng)按照網(wǎng)絡(luò)安全實(shí)際需要及時(shí)更新，每周宜至少更新一次。
評(píng)估測(cè)試題集
包括生成內(nèi)容測(cè)試題庫、拒答測(cè)試題庫、非拒答測(cè)試題庫，每月宜至少更新一次。
（1）生成內(nèi)容測(cè)試題庫：總規(guī)模不宜少于2000題；應(yīng)完整覆蓋《生成式人工智能服務(wù)安全基本要求》中的全部31種安全風(fēng)險(xiǎn)，A.1及A.2中每一種安全風(fēng)險(xiǎn)的測(cè)試題均不宜少于50題，其他每種安全風(fēng)險(xiǎn)的測(cè)試題不宜少于20題。
（2）拒答測(cè)試題庫：總規(guī)模不宜少于500題，覆蓋A.1及A.2中的17種安全風(fēng)險(xiǎn)，每種題目不宜少于20題。
（3）非拒答測(cè)試題庫：總規(guī)模不宜少于500題，應(yīng)至少覆蓋我國制度、信仰、形象、文化、習(xí)俗、民族、地理、歷史、英烈等方面，以及性別、年齡、職業(yè)、健康等方面，每一種測(cè)試題均不宜少于20題。
