習(xí)近平總書記在中共中央政治局第十二次集體學(xué)習(xí)時強調(diào)，要從維護國家政治安全、文化安全、意識形態(tài)安全的高度，加強網(wǎng)絡(luò)內(nèi)容建設(shè)，使全媒體傳播在法治軌道上運行?；ヂ?lián)網(wǎng)的飛速發(fā)展推動信息傳播方式發(fā)生深刻變革，人們通過網(wǎng)絡(luò)瀏覽信息、獲取服務(wù)、表達訴求、開展監(jiān)督。根據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第42次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展狀況統(tǒng)計報告》，截至2018年6月，我國網(wǎng)絡(luò)新聞用戶規(guī)模為6.63億，手機網(wǎng)民規(guī)模達7.88億。在全媒體時代，加強網(wǎng)絡(luò)空間治理，加強網(wǎng)絡(luò)內(nèi)容建設(shè)，日益成為推進國家治理體系和治理能力現(xiàn)代化的重要方面。

全媒體時代網(wǎng)絡(luò)內(nèi)容治理面臨的挑戰(zhàn)

網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)的專業(yè)化、多元化、技術(shù)化、智能化帶來海量信息流，給網(wǎng)絡(luò)內(nèi)容治理帶來前所未有的困難與挑戰(zhàn)。根據(jù)國家統(tǒng)計局和中國互聯(lián)網(wǎng)絡(luò)信息中心數(shù)據(jù)統(tǒng)計，截至2018年6月，我國網(wǎng)民規(guī)模達8.02億、網(wǎng)站544萬、移動應(yīng)用412萬款，網(wǎng)絡(luò)內(nèi)容類移動應(yīng)用超過216萬，下載量超過5600億次。網(wǎng)絡(luò)平臺的豐富、多元、分散給內(nèi)容生產(chǎn)者提供了廣闊空間，從PGC（專業(yè)生產(chǎn)內(nèi)容）、UGC（用戶生產(chǎn)內(nèi)容）到OGC（職業(yè)生產(chǎn)內(nèi)容）、CGC（社群生產(chǎn)內(nèi)容），再到MCN（多頻道網(wǎng)絡(luò)），網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)變得更加多元、專業(yè)和智能，帶來了更加豐富、多樣、生動、感性的網(wǎng)絡(luò)信息，同時也會帶來大量無效信息、重復(fù)信息甚至有害信息。一些內(nèi)容生產(chǎn)者為了博眼球、上熱搜，不擇手段地標新立異、毫無底線地迎合受眾，甚至制造低俗話題和虛假有害內(nèi)容，給信息把關(guān)人和管理者帶來嚴峻挑戰(zhàn)。比如，一些短視頻平臺上含有色情暴力元素、宣揚紙醉金迷生活方式的作品，經(jīng)過算法推薦技術(shù)進行大量分發(fā)后，吸引百萬千萬粉絲，造成錯誤的價值導(dǎo)向。盡管有關(guān)部門對違規(guī)主播和視頻實行禁播處理、對違規(guī)內(nèi)容實行禁止轉(zhuǎn)發(fā)等管理措施，但仍然禁而不止。一些網(wǎng)絡(luò)平臺在內(nèi)容分發(fā)上奉行技術(shù)中心主義，給公眾帶來“信息繭房”、觀念窄化等嚴重問題，也給內(nèi)容治理帶來技術(shù)挑戰(zhàn)。

商業(yè)網(wǎng)絡(luò)平臺逐利意識強烈、社會責(zé)任意識淡薄，使得網(wǎng)絡(luò)內(nèi)容生態(tài)面臨被資本綁架的風(fēng)險與挑戰(zhàn)。截至2017年年底，我國上市互聯(lián)網(wǎng)企業(yè)102家，市值總和超過8萬億元人民幣?；ヂ?lián)網(wǎng)企業(yè)發(fā)展從一開始就與風(fēng)險資本關(guān)系緊密。最近，中國信通院發(fā)布《2018年第三季度互聯(lián)網(wǎng)投融資運行情況》顯示，2018年第三季度中國互聯(lián)網(wǎng)投融資筆數(shù)達到892件，同比增長66.4%，融資金額達到152億美元。據(jù)工信部數(shù)據(jù)顯示，2018年我國互聯(lián)網(wǎng)百強企業(yè)收入規(guī)模為1.72萬億元，互聯(lián)網(wǎng)業(yè)務(wù)收入同比增長50.6%，相比五年前翻了兩番多?？陀^來看，風(fēng)險資本對中國互聯(lián)網(wǎng)行業(yè)快速發(fā)展發(fā)揮了非常重要的推動作用，但毋庸諱言，資本的逐利性也在綁架甚至驅(qū)動一些網(wǎng)絡(luò)內(nèi)容創(chuàng)業(yè)公司走向野蠻生長之路，奉行流量至上的價值觀。比如，一些短視頻應(yīng)用和直播平臺經(jīng)常出現(xiàn)“三低”信息、搜索引擎導(dǎo)向虛假網(wǎng)站、“買熱搜”現(xiàn)象等，產(chǎn)生了負面社會影響。流量為王、資本至上的發(fā)展思路，也容易導(dǎo)致互聯(lián)網(wǎng)企業(yè)過度追逐經(jīng)濟利益而罔顧社會效益。

網(wǎng)民網(wǎng)絡(luò)素養(yǎng)參差不齊，群體極化帶來的網(wǎng)絡(luò)暴力等問題威脅網(wǎng)絡(luò)生態(tài)良性發(fā)展?；ヂ?lián)網(wǎng)已成為人們?nèi)粘Ｉ畹囊徊糠?。近年來微信群、QQ群、微博群等各類互聯(lián)網(wǎng)群組不斷涌現(xiàn)，社交媒體的興起使得信息傳播呈現(xiàn)圈層化、裂變式擴散，字數(shù)限制、快速傳播、情緒化表達、娛樂化取向等因素使得網(wǎng)民傾向于選擇跟自己觀點和態(tài)度相近的圈子接觸，在此過程中非理性內(nèi)容更容易在與理性內(nèi)容的對抗中占據(jù)優(yōu)勢，進而催生群體極化現(xiàn)象甚至道德失范行為。過于偏激的表達經(jīng)過互聯(lián)網(wǎng)的放大，不僅威脅網(wǎng)絡(luò)生態(tài)良性發(fā)展，還有可能向線下轉(zhuǎn)化，將網(wǎng)上輿論風(fēng)險演變?yōu)榫€下的行動性風(fēng)險，從而對社會秩序穩(wěn)定帶來嚴重挑戰(zhàn)。

政府管理模式和技術(shù)監(jiān)管手段較為滯后，難以適應(yīng)網(wǎng)絡(luò)內(nèi)容生產(chǎn)和傳播技術(shù)的快速進化。整體來看，當前我國網(wǎng)絡(luò)內(nèi)容管理領(lǐng)導(dǎo)體制已基本形成，國務(wù)院授權(quán)國家互聯(lián)網(wǎng)信息辦公室行使互聯(lián)網(wǎng)信息內(nèi)容管理職責(zé)，中央、省、市三級網(wǎng)絡(luò)內(nèi)容管理體系基本建立，國家對網(wǎng)絡(luò)生態(tài)的把控力和管理能力得到明顯加強。網(wǎng)絡(luò)安全法及相關(guān)配套法規(guī)文件、各種管理辦法和規(guī)定的出臺，提高了網(wǎng)絡(luò)內(nèi)容管理的規(guī)范化、法治化水平。但在一些具體領(lǐng)域和問題上，網(wǎng)絡(luò)生態(tài)治理工作依然缺乏及時性、針對性和精準度，特別是技術(shù)監(jiān)管能力落后于技術(shù)更新速度。從互聯(lián)網(wǎng)時代向大數(shù)據(jù)時代邁進，所產(chǎn)生的數(shù)據(jù)量呈幾何級數(shù)增長，預(yù)計到2020年中國數(shù)據(jù)總量將高達8000EB級別，相當于目前全球云存儲數(shù)據(jù)量的8000倍。面對迅速增長的海量信息和數(shù)據(jù)，現(xiàn)行的集中化管理手段和跟隨型監(jiān)管技術(shù)難以有效滿足信息把關(guān)和處置需求，導(dǎo)致內(nèi)容管理顯得較為滯后和低效。

以網(wǎng)絡(luò)內(nèi)容治理體系建設(shè)守住網(wǎng)上輿論陣地

習(xí)近平總書記指出：“我們要本著對社會負責(zé)、對人民負責(zé)的態(tài)度，依法加強網(wǎng)絡(luò)空間治理，加強網(wǎng)絡(luò)內(nèi)容建設(shè)，做強網(wǎng)上正面宣傳，培育積極健康、向上向善的網(wǎng)絡(luò)文化。”結(jié)合網(wǎng)絡(luò)內(nèi)容治理現(xiàn)狀，我們要從國家戰(zhàn)略層面、社會綜合治理層面加強頂層設(shè)計，確立黨委、政府、企業(yè)、網(wǎng)民等多元主體的主體責(zé)任，明確治理目標和任務(wù)，堅持線上線下協(xié)調(diào)聯(lián)動，守住網(wǎng)上輿論陣地。

建立管理端的網(wǎng)絡(luò)內(nèi)容治理制度體系。堅持技術(shù)與法治并重，對網(wǎng)絡(luò)內(nèi)容治理與監(jiān)管的相關(guān)法律規(guī)定進行系統(tǒng)梳理，制定科學(xué)有效的制度規(guī)范和技術(shù)流程，并對法律法規(guī)中滯后于網(wǎng)絡(luò)發(fā)展的內(nèi)容進行修改、完善和補充，為網(wǎng)絡(luò)內(nèi)容治理提供科學(xué)化、系統(tǒng)化、規(guī)范化、標準化制度設(shè)計，確保有章可循、有據(jù)可依。建立網(wǎng)絡(luò)內(nèi)容綜合治理的管理與協(xié)作機制，從管理體系、運行機制、保障機制、追責(zé)機制、技術(shù)支撐等方面，建立一套系統(tǒng)完善的網(wǎng)絡(luò)內(nèi)容治理指令執(zhí)行體系，健全跨部門、跨層級、跨地域、跨系統(tǒng)、跨業(yè)務(wù)的網(wǎng)絡(luò)內(nèi)容治理分工與協(xié)作機制，使政府監(jiān)管與網(wǎng)民自律、內(nèi)容安全與內(nèi)容創(chuàng)新、用戶管理與平臺管理之間相互協(xié)同、高效運作。訴諸技術(shù)手段，實現(xiàn)科學(xué)監(jiān)管、技術(shù)治理，保持技術(shù)敏感性，跟進新技術(shù)發(fā)展，轉(zhuǎn)變監(jiān)管方式，將機器學(xué)習(xí)與人工審核相結(jié)合，由主管部門牽頭制定網(wǎng)絡(luò)內(nèi)容“紅線”標準，確立網(wǎng)絡(luò)內(nèi)容治理的基調(diào)和價值主張，通過人工智能等技術(shù)手段對“信源”實現(xiàn)智能識別與篩選、抓取采集、過濾清理，一旦有新的“紅線”信息被識別標記，將其關(guān)鍵詞納入后臺“負面語料庫”，實現(xiàn)全網(wǎng)共享、交叉識別與自動處理，從而達到簡化行政流程、提高治理效率的效果。

建立生產(chǎn)端的網(wǎng)絡(luò)內(nèi)容建設(shè)規(guī)則體系。這里的生產(chǎn)端包括網(wǎng)絡(luò)內(nèi)容生產(chǎn)者與網(wǎng)絡(luò)平臺運營者。網(wǎng)絡(luò)空間內(nèi)容生態(tài)的維護與治理不能只從終端開始，應(yīng)從生產(chǎn)源頭把控內(nèi)容質(zhì)量，防止一開始就被污染。把控質(zhì)量需要建立標準和規(guī)則，否則質(zhì)量好壞沒有依據(jù)。無論是對PGC、UGC，還是對OGC、CGC、MCN，都需要根據(jù)這些機構(gòu)的特點建立針對性強、可操作、易執(zhí)行的規(guī)則和標準體系，以指引其內(nèi)容生產(chǎn)過程。對傳播環(huán)節(jié)的網(wǎng)絡(luò)平臺運營者來說，需要壓實平臺的企業(yè)主體責(zé)任，應(yīng)針對不同的網(wǎng)絡(luò)平臺制定實用對路的規(guī)則和標準，把平臺的責(zé)任具體化、數(shù)據(jù)化、實時化，切實讓平臺主動承擔起內(nèi)容治理的社會責(zé)任。

建立用戶端的網(wǎng)絡(luò)內(nèi)容自律體系。用戶是網(wǎng)絡(luò)內(nèi)容生態(tài)建設(shè)的重要參與者。網(wǎng)民的瀏覽、閱讀、轉(zhuǎn)發(fā)、點贊、打賞、付費等上網(wǎng)行為和數(shù)據(jù)都是網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)傳播的重要參考依據(jù)。網(wǎng)民的素質(zhì)和行為對網(wǎng)絡(luò)內(nèi)容的生產(chǎn)者、網(wǎng)絡(luò)平臺的運營者、網(wǎng)絡(luò)社會的發(fā)展趨勢有重要的影響，需要網(wǎng)絡(luò)平臺運營者通過上網(wǎng)規(guī)則、平臺約定、入網(wǎng)須知、技術(shù)限制等方式引導(dǎo)網(wǎng)民增強責(zé)任自負意識、依法上網(wǎng)意識、文明上網(wǎng)意識、個人隱私意識、網(wǎng)絡(luò)安全與風(fēng)險意識等，讓每位用戶都能夠加強網(wǎng)絡(luò)行為自律，從而促進網(wǎng)絡(luò)空間生態(tài)良好。

建立效果端的網(wǎng)絡(luò)內(nèi)容治理評價體系。網(wǎng)絡(luò)內(nèi)容治理應(yīng)堅持效果導(dǎo)向，建立一套具備科學(xué)性、操作性、系統(tǒng)性、權(quán)威性的網(wǎng)絡(luò)空間生態(tài)評價指標體系，明確評價的對象、方法、頻率、主體、發(fā)布流程、后續(xù)反饋等，一以貫之地堅定執(zhí)行下去，確保取得實效。網(wǎng)絡(luò)內(nèi)容治理評價的參與主體主要有三個，一是國家層面和地方層面的網(wǎng)絡(luò)內(nèi)容治理主管部門，二是以學(xué)術(shù)機構(gòu)為代表的第三方評估機構(gòu)，三是網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)平臺。網(wǎng)絡(luò)工作職能部門負責(zé)制定、修改和主導(dǎo)實施網(wǎng)絡(luò)內(nèi)容治理評價的制度性文件；組織、委托或聘用第三方機構(gòu)建構(gòu)和完善網(wǎng)絡(luò)內(nèi)容治理評價指標體系；運用評價評估結(jié)果指導(dǎo)、監(jiān)督和推動網(wǎng)絡(luò)內(nèi)容生產(chǎn)者和網(wǎng)絡(luò)平臺運營者履行主體責(zé)任，樹立正面價值導(dǎo)向。第三方評估機構(gòu)應(yīng)秉持科學(xué)、公正的原則，發(fā)揮研究機構(gòu)的權(quán)威性和專業(yè)性，在相關(guān)理論和經(jīng)驗研究的基礎(chǔ)上建構(gòu)一套經(jīng)得起實踐檢驗的評價指標體系，并根據(jù)監(jiān)管部門和相關(guān)網(wǎng)絡(luò)內(nèi)容主體的意見反饋及時修改完善評價指標體系，使之與網(wǎng)絡(luò)生態(tài)建設(shè)的實際情況同步發(fā)展，真正發(fā)揮網(wǎng)絡(luò)內(nèi)容建設(shè)風(fēng)向標作用。

（作者：謝新洲，系北京大學(xué)新媒體研究院院長）