標(biāo)注體系漏洞標(biāo)注環(huán)節(jié)常見(jiàn)問(wèn)題包括:未建立標(biāo)準(zhǔn)化分類(lèi)規(guī)則(如敏感內(nèi)容分級(jí)不清晰)、標(biāo)注團(tuán)隊(duì)缺乏專(zhuān)業(yè)培訓(xùn)、未執(zhí)行雙盲審核機(jī)制。某對(duì)話(huà)模型企業(yè)因標(biāo)注流程未明確色情內(nèi)容識(shí)別標(biāo)準(zhǔn),導(dǎo)致模型生成低俗回復(fù),在技術(shù)測(cè)試階段被一票否決。
建議措施:制定涵蓋 17 類(lèi)風(fēng)險(xiǎn)場(chǎng)景的標(biāo)注手冊(cè),標(biāo)注人員需通過(guò)崗前考核并留存培訓(xùn)記錄,關(guān)鍵數(shù)據(jù)需經(jīng)雙人復(fù)核,確保標(biāo)注準(zhǔn)確率超 95%。