人民網(wǎng)發(fā)布“天目”智能識別系統(tǒng)利用AI治理AI
1/520.jpg)
12月9日，人民網(wǎng)正式發(fā)布“天目”智能識別系統(tǒng)，探索“用AI治理AI”的內(nèi)容風(fēng)控新模式。（體驗(yàn)入口：http://117.80.234.9:5080/welcome）。
“天目”由傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室（人民網(wǎng)）研發(fā)，能夠?qū)θ斯ぶ悄苌蓛?nèi)容進(jìn)行識別，對深度偽造內(nèi)容進(jìn)行檢測，對合成手段進(jìn)行追根溯源。公開測試數(shù)據(jù)顯示，“天目”對國內(nèi)外主要人工智能大模型生成中文文本的識別準(zhǔn)確率達(dá)到93%。系統(tǒng)支持單次最多10萬字的數(shù)據(jù)檢測，對疑似AI生成句段明確標(biāo)識，一鍵生成檢測報告。同時，系統(tǒng)不留存、不轉(zhuǎn)用任何檢測數(shù)據(jù)，充分保護(hù)用戶的數(shù)據(jù)隱私與安全。
傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室首席科學(xué)家張勇東表示：“我們以語言模型的困惑度、詞頻特征為切入點(diǎn)，研究發(fā)現(xiàn)AI生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機(jī)性。”基于此，人民網(wǎng)研發(fā)了語義與風(fēng)格特征融合的語言模型評價方法，推出“天目”系統(tǒng)，用于快速區(qū)分機(jī)器生成內(nèi)容與人工創(chuàng)作內(nèi)容。
“我們肯定AI的技術(shù)價值，積極研發(fā)，主動運(yùn)用。我們也同樣重視人的創(chuàng)新創(chuàng)作創(chuàng)意。”人民網(wǎng)內(nèi)容風(fēng)控負(fù)責(zé)人辛瑞佳表示，人類的靈感和創(chuàng)造力無法被機(jī)器替代，也不應(yīng)被機(jī)器替代，過度依賴AI可能會削弱人的獨(dú)特性。“識別AI生成的信息，從更深層講，也是保護(hù)人類的創(chuàng)造價值。”
此外，人民網(wǎng)內(nèi)容風(fēng)控的另一個智能產(chǎn)品“人民審校”，于近期同步升級4.0版本，新增了標(biāo)識審校、地標(biāo)審校、商標(biāo)審校、版式審校等能力，優(yōu)化自定義詞庫功能，在涉政信息表述審校精度和廣度方面實(shí)現(xiàn)全面提升。
下一步，人民網(wǎng)將加大力度研發(fā)建設(shè)主流價值語料庫，幫助國產(chǎn)AI系統(tǒng)建設(shè)安全合規(guī)的語料體系，更好實(shí)現(xiàn)價值觀對齊，助力AI產(chǎn)業(yè)健康安全發(fā)展。