多模態(tài)生成算法備案必過 3 要點(diǎn):文生圖 / 視頻合成合規(guī)指南
隨著《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的深化實(shí)施,文生圖、視頻合成等多模態(tài)生成算法已被明確納入強(qiáng)制備案范圍,未備案或備案未通過的產(chǎn)品不得面向公眾提供服務(wù)。結(jié)合 2025 年最新備案實(shí)操要求,以下 3 個核心要點(diǎn)是確保備案通過的關(guān)鍵:
一、數(shù)據(jù)合規(guī):筑牢訓(xùn)練素材 “合法性防線”
數(shù)據(jù)來源與處理合規(guī)是備案審核的 “一票否決項(xiàng)”,文生圖 / 視頻合成算法因涉及文本、圖像、視頻等多類型訓(xùn)練素材,需滿足更嚴(yán)格的合規(guī)要求:
- 素材來源全鏈路可追溯:需提供所有訓(xùn)練數(shù)據(jù)的授權(quán)證明 —— 商業(yè)素材需提交采購合同及版權(quán)方授權(quán)文件,開源素材需核查協(xié)議合規(guī)性(避免傳染性開源協(xié)議風(fēng)險(xiǎn)),自采數(shù)據(jù)需出具《網(wǎng)絡(luò)數(shù)據(jù)采集授權(quán)書》。特別注意:境外語料占比不得超過 30%,且需通過安全評估并提交公證認(rèn)證的《境外語料安全承諾書》。
- 內(nèi)容純凈度達(dá)標(biāo):人工抽檢 4000 條語料(含文本、圖像描述等)合格率需≥96%,技術(shù)篩查 10% 語料合格率≥98%,不良信息占比需低于 5%。需建立黑名單管理機(jī)制,對涉暴恐、色情、虛假信息的素材進(jìn)行全量過濾,并留存過濾日志。
- 知識產(chǎn)權(quán)風(fēng)險(xiǎn)防控:明確標(biāo)注訓(xùn)練素材中的受版權(quán)保護(hù)內(nèi)容,建立侵權(quán)投訴處理流程。某企業(yè)因使用未授權(quán)爬取的網(wǎng)頁圖像訓(xùn)練文生圖模型,被要求重新提交數(shù)據(jù)合法性證明,導(dǎo)致備案周期延長 3 個月。
二、內(nèi)容安全:構(gòu)建生成結(jié)果 “可控性體系”
文生圖 / 視頻合成的內(nèi)容輸出安全是監(jiān)管核心,需通過技術(shù) + 管理雙重機(jī)制實(shí)現(xiàn)風(fēng)險(xiǎn)閉環(huán):
- 敏感內(nèi)容攔截能力達(dá)標(biāo):需建立≥10000 條的關(guān)鍵詞攔截庫,覆蓋 31 類安全風(fēng)險(xiǎn)場景(含暴恐、民族歧視、虛假信息等),對敏感問題的拒答率需≥95%,非敏感場景誤拒率≤5%。例如視頻合成算法需額外防控 “Deepfake” 類偽造風(fēng)險(xiǎn),對涉及公眾人物、政務(wù)場景的合成請求需觸發(fā)二次審核。
- 生成內(nèi)容可追溯標(biāo)識:文生圖產(chǎn)品需在圖像右下角添加不可篡改的備案標(biāo)識水印,視頻合成產(chǎn)品需在片頭 / 片尾嵌入備案編號及生成時間戳,確保內(nèi)容來源可追溯。某短視頻合成工具因未添加標(biāo)識,在復(fù)審階段被駁回整改。
- 應(yīng)急響應(yīng)機(jī)制完備:提交《算法安全自評估報(bào)告》時,需詳細(xì)說明生成內(nèi)容違規(guī)的應(yīng)急處置流程 —— 包括人工復(fù)核通道、違規(guī)內(nèi)容下架時限(建議≤2 小時)、用戶投訴處理機(jī)制等,需附模擬數(shù)據(jù)泄露或違規(guī)生成的應(yīng)急演練記錄。
三、材料規(guī)范:精準(zhǔn)銜接 “雙備案” 要求
文生圖 / 視頻合成算法需同時完成 “算法備案 + 大模型備案”(雙備案制),材料完整性與格式規(guī)范性直接影響審核效率:
- 核心材料缺一不可:必備文件包括:①主體資質(zhì)(營業(yè)執(zhí)照、ICP 備案 / 許可證、算法安全責(zé)任人身份證明及工作證明);②技術(shù)材料(模型架構(gòu)圖、訓(xùn)練流程說明、算力資源清單);③安全評估材料(《算法安全自評估報(bào)告》、覆蓋 31 類風(fēng)險(xiǎn)的測試題集,多模態(tài)產(chǎn)品需分別提交文生圖、視頻合成兩類測試題集);④公示材料(算法基本原理、應(yīng)用場景、目的意圖,需通俗易懂,便于社會監(jiān)督)。
- 格式與邏輯合規(guī):所有掃描件需彩色清晰、無錯位,加蓋公章(部分省份要求騎縫章);材料中營業(yè)執(zhí)照名稱、ICP 備案主體、域名實(shí)名信息必須完全一致。例如北京、上海企業(yè)需額外提交《差距分析報(bào)告》,說明技術(shù)與國家標(biāo)準(zhǔn)的一致性;廣東、浙江企業(yè)可通過全流程線上辦理縮短審核周期至 3 個工作日。
- 區(qū)分場景精準(zhǔn)申報(bào):ToC 產(chǎn)品需以 “服務(wù)提供者” 身份備案,ToB 產(chǎn)品需標(biāo)注 “技術(shù)支持者”,同時涉及文生圖、視頻合成的需分別申請兩個算法備案編號,不可合并申報(bào)。外資企業(yè)需額外提交供應(yīng)鏈安全審查報(bào)告及跨境數(shù)據(jù)流動說明(如有)。
備案避坑關(guān)鍵提醒
- 避免 “只備算法不備大模型”:多模態(tài)生成算法屬于高風(fēng)險(xiǎn)場景,必須完成雙備案,僅備案單一項(xiàng)目將直接駁回;
- 測試題集不可敷衍:需覆蓋日常對話、專業(yè)場景、敏感誘導(dǎo)等多維度,每類風(fēng)險(xiǎn)場景至少 200 條測試題,未覆蓋全部 31 類風(fēng)險(xiǎn)將被要求補(bǔ)充;
- 備案后公示與標(biāo)注:通過審核后需在產(chǎn)品顯著位置(APP 啟動頁、網(wǎng)頁底部)標(biāo)注備案編號及網(wǎng)信辦公示鏈接,未按要求公示將影響后續(xù)運(yùn)營合規(guī)。
隨著備案制度進(jìn)入常態(tài)化監(jiān)管,文生圖 / 視頻合成算法的合規(guī)核心已從 “材料齊全” 轉(zhuǎn)向 “全流程風(fēng)險(xiǎn)可控”。企業(yè)需以數(shù)據(jù)合規(guī)為基礎(chǔ)、內(nèi)容安全為核心、材料規(guī)范為保障,構(gòu)建符合監(jiān)管要求的合規(guī)體系,才能高效通過備案并實(shí)現(xiàn)合法運(yùn)營。