生成式人工智能（AI）的算法備案是中國為規(guī)范 AI 技術(shù)應(yīng)用、防范安全風(fēng)險而建立的一項(xiàng)監(jiān)管制度。該制度要求向境內(nèi)公眾提供具有輿論屬性或社會動員能力的生成式 AI 服務(wù)的主體，需按照《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》）及相關(guān)配套標(biāo)準(zhǔn)，履行算法安全評估、材料申報、公示等程序，以確保技術(shù)可控、內(nèi)容合規(guī)。
法律基礎(chǔ)
備案制度的核心依據(jù)是 2023 年 8 月 15 日施行的《生成式人工智能服務(wù)管理暫行辦法》。該辦法明確要求，提供具有輿論屬性或社會動員能力的生成式 AI 服務(wù)（如聊天機(jī)器人、AI 寫作工具、圖像生成平臺等）需履行備案義務(wù)。
- 輿論屬性：指服務(wù)可能影響公眾認(rèn)知或引發(fā)社會討論，例如新聞生成、社交媒體內(nèi)容推薦。
- 社會動員能力：指服務(wù)可能組織或引導(dǎo)公眾行為，例如活動策劃、公益倡議工具。
豁免情形
- 非公眾服務(wù)：企業(yè)內(nèi)部研發(fā)、未向公眾開放的 AI 模型無需備案。
- 低風(fēng)險場景：如單純的數(shù)據(jù)處理工具、不涉及內(nèi)容生成的技術(shù)研發(fā)。
核心材料
- 安全自評估報告：需覆蓋語料安全、模型安全、生成內(nèi)容合規(guī)性等 31 項(xiàng)安全風(fēng)險，包括人工抽檢、關(guān)鍵詞過濾、分類模型檢測等評估方法。
- 測試題集：需包含 2000 題以上的生成內(nèi)容測試題庫（覆蓋 31 種風(fēng)險）和 500 題以上的拒答測試題庫（覆蓋 17 種高風(fēng)險場景）。
- 其他材料：模型服務(wù)協(xié)議、語料標(biāo)注規(guī)則、關(guān)鍵詞攔截列表、供應(yīng)鏈安全評估（如芯片國產(chǎn)化適配情況）。
材料差異
- 多模態(tài)產(chǎn)品：需提交多份測試題集（如文本生成和圖像生成分別準(zhǔn)備）。
- 地區(qū)要求：部分省份（如浙江、河北）要求紙質(zhì)材料掃描，北京、上海則接受電子提交。
屬地管理
- 備案主體需向注冊地省級網(wǎng)信辦提交材料，例如浙江省企業(yè)向浙江省委網(wǎng)信辦申報。
- 國家網(wǎng)信辦負(fù)責(zé)全國統(tǒng)籌，地方網(wǎng)信辦協(xié)同審核。
審核流程
- 初審：材料完整性審查（約 7 個工作日）。
- 技術(shù)評估：對模型安全性、內(nèi)容合規(guī)性進(jìn)行測試（約 30-60 個工作日）。
- 公示：通過審核的企業(yè)信息在 “網(wǎng)信辦” 公眾號或官網(wǎng)公示。
備案編號
企業(yè)需在產(chǎn)品顯著位置（如官網(wǎng)首頁、APP 啟動頁）標(biāo)注備案號，例如 “京 AI 備 XXXX 號”。
持續(xù)監(jiān)管
- 定期抽查：監(jiān)管部門每年對備案企業(yè)進(jìn)行 1-2 次抽檢，重點(diǎn)核查生成內(nèi)容合規(guī)性、數(shù)據(jù)安全措施。
- 動態(tài)更新：模型迭代或服務(wù)范圍擴(kuò)大需重新備案。
內(nèi)容安全
- 防止生成虛假信息、暴力色情、民族歧視等違法內(nèi)容。
- 要求企業(yè)建立關(guān)鍵詞攔截庫（至少 10000 個關(guān)鍵詞），并每周更新。
數(shù)據(jù)合規(guī)
- 訓(xùn)練數(shù)據(jù)需來源合法，涉及個人信息需取得用戶同意。
- 數(shù)據(jù)標(biāo)注需制定明確規(guī)則，標(biāo)注人員需接受法律培訓(xùn)。
技術(shù)可控
- 模型需具備可解釋性，例如公開算法原理、訓(xùn)練數(shù)據(jù)來源摘要。
- 硬件供應(yīng)鏈需評估安全風(fēng)險，鼓勵使用國產(chǎn)芯片和開源框架。
行政處罰
- 警告、罰款（1 萬 - 10 萬元）、暫停服務(wù)。
- 案例：重慶 “靈象智問 AI” 因未備案被關(guān)停，運(yùn)營主體被約談。
民事責(zé)任
- 若生成內(nèi)容導(dǎo)致侵權(quán)（如肖像權(quán)、名譽(yù)權(quán)），企業(yè)需承擔(dān)賠償責(zé)任。
- 案例：某 AI 寫作平臺因內(nèi)容審核不嚴(yán)，被責(zé)令暫停服務(wù) 15 日。
刑事風(fēng)險
- 涉及國家安全、恐怖主義等嚴(yán)重違法，可能追究刑事責(zé)任。
企業(yè)成本
- 時間成本：備案周期通常為 3-6 個月，復(fù)雜模型可能延長至 1 年。
- 經(jīng)濟(jì)成本：安全評估、法律咨詢等費(fèi)用約 50 萬 - 200 萬元，中小型企業(yè)壓力較大。
區(qū)域分布
- 截至 2024 年底，全國 302 款生成式 AI 服務(wù)完成備案，80% 集中在北京、上海、廣東。
- 典型案例：百度 “文心一言”、阿里 “通義千問”、人民中科 “白澤” 大模型均已通過備案。
國際對比
- 與歐盟《人工智能法案》的 “高風(fēng)險 AI” 強(qiáng)制認(rèn)證類似，但中國更強(qiáng)調(diào)屬地管理和動態(tài)監(jiān)管。
提前規(guī)劃
- 上線前 6 個月啟動備案準(zhǔn)備，預(yù)留充足時間處理材料和技術(shù)整改。
技術(shù)合規(guī)
- 建立內(nèi)容過濾系統(tǒng)，確保生成內(nèi)容抽樣合格率≥90%。
- 定期更新測試題庫，覆蓋最新安全風(fēng)險。
法律支持
- 聘請專業(yè)律師審核數(shù)據(jù)來源、用戶協(xié)議，避免知識產(chǎn)權(quán)糾紛。
動態(tài)跟蹤
- 關(guān)注地方網(wǎng)信辦政策更新，例如湖南省將備案周期壓縮至 60 個工作日。
關(guān)注微信訂閱號
