河北省邯鄲市復(fù)興區(qū)陽(yáng)春小學(xué)的學(xué)生們展示網(wǎng)絡(luò)安全主題手抄報(bào)。郝群英攝（人民視覺(jué)）
通過(guò)諧音梗、縮寫(xiě)詞等形式傳播不良網(wǎng)絡(luò)用語(yǔ)，宣揚(yáng)畸形審美、低俗惡俗文化，利用未成年人打造爭(zhēng)議人設(shè)等方式博取關(guān)注……這些長(zhǎng)期游走在監(jiān)管“灰色地帶”的網(wǎng)絡(luò)內(nèi)容，如今有了“界定標(biāo)尺”。
3月1日，由國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家新聞出版署、國(guó)家電影局、教育部、工業(yè)和信息化部、公安部、文化和旅游部、國(guó)家廣播電視總局聯(lián)合發(fā)布的《可能影響未成年人身心健康的網(wǎng)絡(luò)信息分類(lèi)辦法》（以下簡(jiǎn)稱(chēng)《辦法》）正式施行，明確可能影響未成年人身心健康的網(wǎng)絡(luò)信息的4種類(lèi)型及具體表現(xiàn)形式，同時(shí)針對(duì)算法推薦等風(fēng)險(xiǎn)提出防控要求，切實(shí)守護(hù)青少年“數(shù)字健康”。
可能影響未成年人身心健康的網(wǎng)絡(luò)信息都有哪些？《辦法》施行后，各方又該如何協(xié)同打通未成年人網(wǎng)絡(luò)保護(hù)的“最后一公里”？帶著這些問(wèn)題，筆者進(jìn)行了采訪(fǎng)。
上網(wǎng)遇“灰色地帶”
作為互聯(lián)網(wǎng)的“原住民”，未成年人早已將上網(wǎng)作為生活的一部分。《第6次中國(guó)未成年人互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告》顯示，我國(guó)未成年網(wǎng)民規(guī)模已上升至1.96億，未成年人互聯(lián)網(wǎng)普及率達(dá)97.3%。
互聯(lián)網(wǎng)為未成年人打開(kāi)知識(shí)通道的同時(shí)，不良信息的滲透風(fēng)險(xiǎn)也相伴而生。不同于法律明文禁止的違法信息，大量對(duì)未成年人存在潛在負(fù)面影響的內(nèi)容，長(zhǎng)期處于模糊地帶，形成了“界定難、干預(yù)難、防控難”的治理困境。
北京市民王女士反映，這兩年，孩子在上網(wǎng)時(shí)，經(jīng)常會(huì)接觸到包含“炫富拜金”“挑動(dòng)性別對(duì)立”“鼓吹讀書(shū)無(wú)用論”等不良導(dǎo)向的內(nèi)容?！斑@些內(nèi)容雖算不上違法，但會(huì)在潛移默化中扭曲孩子的價(jià)值觀，作為家長(zhǎng)，想要屏蔽卻無(wú)從下手?！蓖跖扛嬖V筆者。
此類(lèi)不良信息帶來(lái)的影響，目前在校園教學(xué)中也表現(xiàn)得尤為突出。廣東省某初中語(yǔ)文教師孔老師坦言，在日常批改作業(yè)和課堂教學(xué)中，總能看到學(xué)生濫用網(wǎng)絡(luò)熱梗或低俗諧音梗。
“這些信息夾雜在正常的娛樂(lè)、學(xué)習(xí)內(nèi)容中，邊界非常模糊。當(dāng)我們結(jié)合語(yǔ)境判斷其是否屬于低俗內(nèi)容時(shí)，這些‘黑話(huà)爛梗’其實(shí)早已進(jìn)入孩子的腦海，成了日常表達(dá)的一部分?！笨桌蠋熣f(shuō)。
新載體、新技術(shù)的涌現(xiàn)，也給不法分子提供了可乘之機(jī)。他們深諳未成年人的興趣點(diǎn)，用推薦算法精準(zhǔn)推送不良文化。
“當(dāng)青少年點(diǎn)擊一條不良信息，算法便會(huì)記錄其行為，并將相似內(nèi)容持續(xù)推薦給他，形成信息‘繭房’。此后一段時(shí)間，青少年接觸到的很可能全是此類(lèi)信息，從而陷入惡性循環(huán)?！北本┼]電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)李小勇介紹。
近期，某平臺(tái)在治理中發(fā)現(xiàn)，部分用戶(hù)利用AI生成虛假的未成年人“賣(mài)慘”內(nèi)容，博取同情、不當(dāng)牟利；還有利用AI“魔改”經(jīng)典動(dòng)畫(huà)、動(dòng)漫及文學(xué)形象，炮制含有血腥、暴力、低俗等不良元素的內(nèi)容。這些行為均嚴(yán)重危害未成年人身心健康。
不少不良網(wǎng)絡(luò)信息還以“擦邊”等形式變換為“軟色情”“軟暴力”，有的則與未成年人喜愛(ài)的網(wǎng)絡(luò)流行文化相結(jié)合，以卡牌、動(dòng)漫等為載體，加以包裝美化。
“一些學(xué)生模仿過(guò)度節(jié)食減肥、打唇釘?shù)扰c學(xué)生身份不符的行為，還有一些則沉迷網(wǎng)絡(luò)游戲，低俗網(wǎng)絡(luò)用語(yǔ)脫口而出。”重慶市某中學(xué)的劉老師表示，“這些內(nèi)容都披著‘潮流個(gè)性’的外衣，孩子們很難分辨對(duì)錯(cuò)?！?/p>
場(chǎng)景隱蔽之外，干預(yù)滯后已成為家校面臨的共同困境。王女士無(wú)奈地說(shuō)，孩子上網(wǎng)課、查資料都離不開(kāi)電子產(chǎn)品，有時(shí)因缺乏自律，在學(xué)習(xí)過(guò)程中不知不覺(jué)便瀏覽起網(wǎng)頁(yè)，接觸到不良信息。對(duì)此，孔老師也深有感觸：“往往等我們發(fā)現(xiàn)問(wèn)題時(shí)，孩子已經(jīng)形成了行為習(xí)慣，甚至出現(xiàn)了認(rèn)知偏差，干預(yù)滯后?！?/p>
“長(zhǎng)期以來(lái)，行業(yè)尚未形成一套具有統(tǒng)一共識(shí)且高度細(xì)化的分類(lèi)規(guī)范，面臨不良信息標(biāo)準(zhǔn)難以精確量化、復(fù)雜語(yǔ)境下邊界判定難等挑戰(zhàn)?！蹦称脚_(tái)相關(guān)負(fù)責(zé)人表示，如何讓未成年人保護(hù)工作更加科學(xué)化、規(guī)范化，是整個(gè)行業(yè)一直都在思考的難點(diǎn)。
明確分類(lèi)“標(biāo)尺”
近年來(lái)，我國(guó)持續(xù)加大對(duì)未成年人保護(hù)相關(guān)法律法規(guī)的出臺(tái)或修訂力度。2019年，國(guó)家網(wǎng)信辦指導(dǎo)主要短視頻與直播平臺(tái)試點(diǎn)上線(xiàn)青少年模式；新修訂實(shí)施的《中華人民共和國(guó)未成年人保護(hù)法》和《中華人民共和國(guó)網(wǎng)絡(luò)安全法》都對(duì)未成年人身心健康提出了明確的要求。
專(zhuān)家指出，此次《辦法》將法律法規(guī)中的原則性要求轉(zhuǎn)化為有操作性、針對(duì)性的具體規(guī)則，從4個(gè)維度對(duì)可能影響未成年人身心健康的網(wǎng)絡(luò)信息進(jìn)行系統(tǒng)性的界定與科學(xué)分類(lèi)，為平臺(tái)、內(nèi)容生產(chǎn)者提供指引。
第一類(lèi)是可能引發(fā)或者誘導(dǎo)未成年人模仿或者實(shí)施不良行為的信息。例如，通過(guò)諧音梗、縮寫(xiě)詞、拆解字、圖文結(jié)合等形式傳播不良網(wǎng)絡(luò)用語(yǔ)的；存在指責(zé)嘲諷、貶低歧視等涉網(wǎng)絡(luò)暴力不良信息的；誘導(dǎo)未成年人進(jìn)行充值、打賞等非理性消費(fèi)行為的。
第二類(lèi)是可能對(duì)未成年人價(jià)值觀造成負(fù)面影響的信息。例如，宣揚(yáng)奢靡享樂(lè)、消極頹廢等不良價(jià)值觀的；宣揚(yáng)畸形審美、低俗惡俗文化的。
第三類(lèi)聚焦不當(dāng)使用未成年人形象的問(wèn)題，對(duì)當(dāng)前網(wǎng)絡(luò)中存在的利用未成年人進(jìn)行刻意擺拍、利用未成年人牟利、打造爭(zhēng)議人設(shè)等亂象劃定了紅線(xiàn)，旨在保護(hù)未成年人免受商業(yè)炒作和不良內(nèi)容的利用與侵害。
第四類(lèi)則與《中華人民共和國(guó)個(gè)人信息保護(hù)法》及《未成年人網(wǎng)絡(luò)保護(hù)條例》緊密銜接，強(qiáng)調(diào)了對(duì)不當(dāng)披露和使用未成年人個(gè)人信息行為的規(guī)制，凸顯了對(duì)未成年人隱私權(quán)的特殊保護(hù)。
“《辦法》以‘可能影響’為界定標(biāo)準(zhǔn)，體現(xiàn)出明顯的前瞻性?！比A東師范大學(xué)教育學(xué)部教授姚榮對(duì)筆者說(shuō)，“《辦法》通過(guò)將誘導(dǎo)模仿高風(fēng)險(xiǎn)行為、宣揚(yáng)畸形審美等情形列入規(guī)制類(lèi)型，使得風(fēng)險(xiǎn)能夠在早期即被識(shí)別，符合未成年人保護(hù)中‘預(yù)防優(yōu)先’的原則。”
值得注意的是，在明確分類(lèi)的基礎(chǔ)上，《辦法》并未對(duì)相關(guān)信息采取簡(jiǎn)單的刪除處理，而是確立了“防范抵制+顯著提示”兩大核心治理手段——要求網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者以及網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者對(duì)相關(guān)信息采取必要的防范和抵制措施，同時(shí)在信息展示前作出顯著提示。
中國(guó)政法大學(xué)光明新聞傳播學(xué)院教授鄭滿(mǎn)寧稱(chēng)，這體現(xiàn)了從事后懲戒轉(zhuǎn)向源頭治理、從被動(dòng)處置轉(zhuǎn)向主動(dòng)防控、從粗放監(jiān)管轉(zhuǎn)向分類(lèi)施策的治理思路，“《辦法》為平臺(tái)設(shè)定了具體且可操作的義務(wù)，本質(zhì)上是將監(jiān)管要求嵌入內(nèi)容分發(fā)的關(guān)鍵環(huán)節(jié)”。
《辦法》還進(jìn)一步壓實(shí)網(wǎng)站平臺(tái)的主體責(zé)任，要求將保護(hù)措施聚焦于內(nèi)容分發(fā)的關(guān)鍵環(huán)節(jié)?！掇k法》明確，不得在首頁(yè)首屏、彈窗、熱搜、榜單、推薦等處于產(chǎn)品或者服務(wù)醒目位置、易引起用戶(hù)關(guān)注的重點(diǎn)環(huán)節(jié)，呈現(xiàn)可能影響未成年人身心健康的信息。同時(shí)，《辦法》對(duì)提供算法推薦、生成式人工智能等技術(shù)的平臺(tái)提出了建立健全內(nèi)部安全管理制度和技術(shù)措施的要求，以防范技術(shù)濫用帶來(lái)的新型風(fēng)險(xiǎn)。這些條款共同將平臺(tái)的內(nèi)容管理責(zé)任從原則性要求具體化為場(chǎng)景化、全鏈條的操作規(guī)范，有助于推動(dòng)平臺(tái)從被動(dòng)處理投訴向主動(dòng)進(jìn)行風(fēng)險(xiǎn)防控轉(zhuǎn)型。
合力織密“安全網(wǎng)”
《辦法》的出臺(tái)，標(biāo)志著我國(guó)未成年人網(wǎng)絡(luò)保護(hù)法治體系在精細(xì)化方向上邁出了關(guān)鍵一步，實(shí)施后將有效提升治理效能。
“《辦法》為行業(yè)提供了清晰、權(quán)威、可落地的合規(guī)指引，有利于統(tǒng)一全行業(yè)保護(hù)標(biāo)尺，讓大家在統(tǒng)一的準(zhǔn)繩下齊心協(xié)力，有效消除保護(hù)盲區(qū)，這對(duì)整個(gè)行業(yè)的健康長(zhǎng)遠(yuǎn)發(fā)展具有重要推動(dòng)作用?！蹦称脚_(tái)相關(guān)負(fù)責(zé)人認(rèn)為，《辦法》將推動(dòng)平臺(tái)審核機(jī)制與技術(shù)升級(jí)，引導(dǎo)行業(yè)走向“科學(xué)前置管理”。
業(yè)內(nèi)人士分析稱(chēng)，各類(lèi)網(wǎng)絡(luò)產(chǎn)品與服務(wù)提供者應(yīng)當(dāng)以《辦法》為基準(zhǔn)，將相關(guān)要求細(xì)化為可執(zhí)行的審核標(biāo)準(zhǔn)。
姚榮表示，在產(chǎn)品層面，平臺(tái)應(yīng)盡快細(xì)化內(nèi)容標(biāo)識(shí)與提示機(jī)制，通過(guò)分級(jí)提示、風(fēng)險(xiǎn)標(biāo)注與推薦控制等方式降低未成年人接觸高風(fēng)險(xiǎn)信息的概率，同時(shí)提升提示的可理解性與教育性。
“平臺(tái)應(yīng)從‘防’與‘堵’轉(zhuǎn)向‘建’與‘引’，優(yōu)化青少年服務(wù)模式中的功能設(shè)置和算法推薦，開(kāi)發(fā)更加多元、適合各學(xué)段青少年需求的垂直類(lèi)媒介教育資源。”鄭滿(mǎn)寧建議。
封堵不良網(wǎng)絡(luò)信息傳播渠道，離不開(kāi)監(jiān)管部門(mén)的嚴(yán)格管理與規(guī)范指引。
國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，對(duì)違反《辦法》規(guī)定的，網(wǎng)信等有關(guān)部門(mén)可依據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《未成年人網(wǎng)絡(luò)保護(hù)條例》等法律、行政法規(guī)的規(guī)定予以處理。
中國(guó)政法大學(xué)未成年人事務(wù)治理與法律研究基地副主任苑寧寧稱(chēng)，監(jiān)管部門(mén)還可以通過(guò)發(fā)布典型案例等方式，細(xì)化裁量標(biāo)準(zhǔn)，統(tǒng)一執(zhí)法尺度，特別是在認(rèn)定顯著提示的有效性、判定審核重點(diǎn)環(huán)節(jié)管控是否到位等實(shí)操層面提供明確指引。
立規(guī)只是起點(diǎn)，關(guān)鍵在于落實(shí)。要織密青少年網(wǎng)絡(luò)保護(hù)“安全網(wǎng)”，需要多方協(xié)同發(fā)力。
“家庭和學(xué)校應(yīng)建立分段、分時(shí)、分工的精細(xì)化協(xié)作機(jī)制?！编崫M(mǎn)寧舉例稱(chēng)，在業(yè)余時(shí)間和假期，家長(zhǎng)應(yīng)承擔(dān)主要責(zé)任，轉(zhuǎn)變認(rèn)知范式，實(shí)現(xiàn)從“時(shí)長(zhǎng)管控”到“質(zhì)量管控”和“內(nèi)容引導(dǎo)”的觀念躍遷?！凹议L(zhǎng)可以對(duì)照《辦法》中列出的不良信息類(lèi)型，在與孩子的日常交流中有意識(shí)地識(shí)別和討論相關(guān)情境?！?/p>
姚榮指出，學(xué)校層面應(yīng)強(qiáng)化網(wǎng)絡(luò)素養(yǎng)教育的系統(tǒng)化融入，將《辦法》所體現(xiàn)的風(fēng)險(xiǎn)分層邏輯轉(zhuǎn)化為可教學(xué)、可討論的學(xué)習(xí)內(nèi)容，通過(guò)真實(shí)案例分析引導(dǎo)學(xué)生理解不同類(lèi)型網(wǎng)絡(luò)信息的傳播機(jī)制與潛在危害，并通過(guò)情境化任務(wù)提高其辨別能力與應(yīng)對(duì)策略?！霸谶@一過(guò)程中，應(yīng)注重批判性思維與價(jià)值判斷能力的同步培養(yǎng)，使學(xué)生不僅知道什么是風(fēng)險(xiǎn)，更能夠解釋風(fēng)險(xiǎn)為何產(chǎn)生?！?/p>
“展望未來(lái)，期待《辦法》與《未成年人網(wǎng)絡(luò)保護(hù)條例》及其他相關(guān)法律法規(guī)協(xié)同配合、有效實(shí)施，共同為未成年人在數(shù)字時(shí)代的健康成長(zhǎng)構(gòu)筑起更加堅(jiān)實(shí)、可靠的防護(hù)屏障?！痹穼帉幷f(shuō)。（劉樂(lè)藝 南彤霏）
（責(zé)任編輯：蔡文斌）
晉公網(wǎng)安備 14090202000008號(hào) 
