人工智能浪潮深刻重塑信息內(nèi)容的生產(chǎn)與傳播方式，“善用”與“善治”成為時(shí)代之問(wèn)。2026中國(guó)網(wǎng)絡(luò)媒體論壇主題論壇之一的“善用善治：AI內(nèi)容規(guī)范發(fā)展”主題論壇近日在河南鄭州舉行。論壇聚焦AI內(nèi)容規(guī)范發(fā)展，集中展示治理成效，深度交流實(shí)踐經(jīng)驗(yàn)，共商網(wǎng)絡(luò)生態(tài)治理長(zhǎng)效之策。
《100秒致敬故宮百年守護(hù)》借助AI技術(shù)還原大量歷史資料，創(chuàng)造了精彩的古今“同框”畫(huà)面；《AI創(chuàng)意視頻|哪吒敖丙悟空都來(lái)了！神話(huà)照進(jìn)現(xiàn)實(shí)有“億”點(diǎn)酷》“腦洞大開(kāi)”，展現(xiàn)大國(guó)重器絲滑“變身”中國(guó)神話(huà)人物；《一覺(jué)醒來(lái)，蘇軾來(lái)到了2025年》讓宋代詞人蘇軾與2025年的四川浪漫相遇，巧妙展現(xiàn)四川的發(fā)展活力……2025中國(guó)正能量網(wǎng)絡(luò)傳播AI精品案例，生動(dòng)展現(xiàn)了AI幫助內(nèi)容創(chuàng)作者提升效率、拓寬想象空間等作用。
同時(shí)，人工智能被濫用的風(fēng)險(xiǎn)也隨之凸顯，成為網(wǎng)絡(luò)生態(tài)治理的新課題。中國(guó)政法大學(xué)教授、數(shù)據(jù)法治研究院院長(zhǎng)時(shí)建中說(shuō)：“當(dāng)技術(shù)被濫用，看見(jiàn)不再為憑，聽(tīng)見(jiàn)不足為信。”深度偽造侵蝕信任基石。現(xiàn)實(shí)中，有的商家未經(jīng)授權(quán)，用AI合成明星、主持人、專(zhuān)業(yè)人士的肖像、聲音，冒充其推薦產(chǎn)品，不僅侵害個(gè)人權(quán)益，更涉嫌商業(yè)欺詐。
AI大模型的價(jià)值觀和輸出質(zhì)量高度依賴(lài)訓(xùn)練數(shù)據(jù)。北京智譜華章科技股份有限公司首席執(zhí)行官?gòu)堸i說(shuō)，大模型訓(xùn)練數(shù)據(jù)中若存在偏見(jiàn)、誤差，可能通過(guò)連續(xù)輸出潛移默化地影響受眾認(rèn)知。中國(guó)科學(xué)院院士、北京航空航天大學(xué)教授、未來(lái)區(qū)塊鏈與隱私計(jì)算高精尖創(chuàng)新中心主任鄭志明指出，來(lái)源不可證、邊界不可控、責(zé)任不可歸、過(guò)程不可審，是AI內(nèi)容治理的深層難題。
AI技術(shù)大幅降低內(nèi)容生產(chǎn)門(mén)檻，導(dǎo)致互聯(lián)網(wǎng)上同質(zhì)化、低質(zhì)化信息爆發(fā)式增長(zhǎng)，通過(guò)算法實(shí)現(xiàn)的個(gè)性化信息分發(fā)機(jī)制可能加劇“信息繭房”效應(yīng)。無(wú)憂(yōu)傳媒集團(tuán)有限公司創(chuàng)始人兼首席執(zhí)行官雷彬藝說(shuō)：“技術(shù)越強(qiáng)大，內(nèi)容生產(chǎn)者越要有敬畏之心，始終堅(jiān)持正向的價(jià)值導(dǎo)向。”
2025年11月28日，中共中央政治局就加強(qiáng)網(wǎng)絡(luò)生態(tài)治理進(jìn)行第二十三次集體學(xué)習(xí)。這對(duì)推動(dòng)網(wǎng)信事業(yè)高質(zhì)量發(fā)展，加快建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)具有重大而深遠(yuǎn)的意義。頂層設(shè)計(jì)之下，治理實(shí)踐不斷深化。中央網(wǎng)信辦以“清朗”系列專(zhuān)項(xiàng)行動(dòng)為抓手，針對(duì)利用AI技術(shù)制作發(fā)布不實(shí)信息、色情低俗內(nèi)容等突出問(wèn)題強(qiáng)力出擊，推進(jìn)大模型生成內(nèi)容規(guī)范管理。
與此同時(shí)，法治基礎(chǔ)不斷夯實(shí)。去年，國(guó)家網(wǎng)信辦等4部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，配套的強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》同時(shí)出臺(tái)，兩者于2025年9月1日起正式施行。這一套組合拳構(gòu)建了“源頭標(biāo)識(shí)—分發(fā)審核—傳播核驗(yàn)—用戶(hù)聲明”的協(xié)同治理閉環(huán)，成功將原則性要求轉(zhuǎn)化為可落地執(zhí)行的治理實(shí)踐。信息內(nèi)容領(lǐng)域法規(guī)制度文件陸續(xù)制定出臺(tái)，治理體系愈加完善，治理效能日益彰顯。
技術(shù)帶來(lái)的問(wèn)題，最終需要依靠技術(shù)來(lái)解決。鄭志明系統(tǒng)闡述了“可信智能”的技術(shù)框架，即通過(guò)區(qū)塊鏈技術(shù)實(shí)現(xiàn)確權(quán)、存證、溯源與歸責(zé)，通過(guò)隱私計(jì)算保障高價(jià)值數(shù)據(jù)“可用不可見(jiàn)、可算不可泄”，通過(guò)內(nèi)容治理從“大而全”走向“準(zhǔn)而專(zhuān)、穩(wěn)而可控”實(shí)現(xiàn)精準(zhǔn)智能，將治理嵌入內(nèi)容生成的“前、中、后”環(huán)節(jié)。
眾多企業(yè)探索將AI技術(shù)轉(zhuǎn)化為治理利器。騰訊推出“青禾守護(hù)”，通過(guò)強(qiáng)化學(xué)習(xí)等方式將大量樣本注入大模型，讓大模型能更好地實(shí)現(xiàn)風(fēng)險(xiǎn)及時(shí)篩查，并構(gòu)建社交與信息流主動(dòng)防御系統(tǒng)；抖音啟動(dòng)“智盾計(jì)劃”，利用大模型技術(shù)從熱點(diǎn)、異常流量、特定情緒等全局視角研判網(wǎng)絡(luò)暴力風(fēng)險(xiǎn)，實(shí)現(xiàn)從被動(dòng)響應(yīng)到主動(dòng)防御的跨越；百度研發(fā)“清流鑒”產(chǎn)品，依托文心大模型，從多模態(tài)智能檢測(cè)、內(nèi)容溯源追蹤、AI+人工協(xié)同驗(yàn)證3道防線(xiàn)入手，助力公眾識(shí)別深度偽造內(nèi)容與網(wǎng)絡(luò)謠言；人民網(wǎng)“天目”智能識(shí)別系統(tǒng)，探索“用AI治理AI”的內(nèi)容風(fēng)控新模式，檢測(cè)深度偽造內(nèi)容，追蹤合成手段來(lái)源。
語(yǔ)料筑基與行業(yè)自律，共同構(gòu)建健康生態(tài)的基石。武漢理工數(shù)字傳播工程有限公司創(chuàng)始人、執(zhí)行總裁施其明強(qiáng)調(diào)，高質(zhì)量專(zhuān)業(yè)語(yǔ)料將決定模型能力的上限，成為國(guó)際AI競(jìng)爭(zhēng)格局的分水嶺和重要變量。他建議，以出版業(yè)為切入口，利用其審核嚴(yán)格、文本完整、體系完善的優(yōu)勢(shì)，構(gòu)建自主可控、健康有序的中文AI高質(zhì)量語(yǔ)料供給體系。論壇上，與AI內(nèi)容發(fā)展相關(guān)的52家企業(yè)還集體簽署了《AI生成合成內(nèi)容自律公約》，齊心協(xié)力守底線(xiàn)、促共治。
