□ 中國婦女報全媒體記者 高亞菲
最近，一些號稱“外國山海經”的AI生成怪圖、怪視頻，在中小學里突然火了起來。這些內容造型詭異，有的還夾雜著暴力、血腥元素，甚至歪曲歷史經典。
隨著AI制作越來越簡單，一批只想“賺流量”的制作者，利用算法推薦，專門向孩子推送這些“電子糟粕”。算法推薦成為低俗內容的“幫兇”，當技術淪為收割注意力的工具，我們不得不問：這背后原因為何？該怎樣為孩子們守住一方干凈的網絡環境？
從屏幕到玩具：產業鏈的“快”與“害”
“咚咚咚咚撒呼啦！”“李麗麗拉里拉！”一個男孩一邊念念有詞，一邊和身旁的同學打鬧。這些像咒語的句子，其實“AI山海經”怪物的名字。這種由算法批量制造、借由社交攀比傳播的“電子怪物”，正悄然改寫許多孩子的課余學習認知與興趣。
“我家5歲的兒子一刷抖音就要刷山海經，還說要外國的山海經。”小羽爸爸向中國婦女報全媒體記者講述著最近的怪事：年幼的小羽最近在手機上刷到一些奇怪的內容。這些由AI簡單拼接生成的動畫形象，常常夾雜著暴力畫面。“我覺得畫面詭異、情節也很荒誕。但色彩鮮艷、節奏快速，很容易吸引孩子觀看模仿。”
三年級的果果告訴媽媽，自己班上已經有同學互相轉發這種AI魔改山海經，于是果果媽媽打開短視頻平臺搜索相關內容，結果被嚇了一跳。原來這類內容不止魔改山海經，各種童話故事和迪士尼動畫主角都有所謂的“邪典版”。點開這些視頻，一些在成年人審美中稱得上獵奇、怪異、令人不適的形象比比皆是：有些視頻內容更為驚悚，比如“奧特曼懷孕”“小豬佩奇打骷髏”等。
記者通過梳理和調查發現，這些色彩鮮艷的動畫視頻，往往打著“益智早教”“色彩啟蒙”的旗號讓家長放松警惕。動畫用高飽和度的色彩和快速切換的畫面吸引著孩子的注意力，內容卻往往空洞無邏輯，甚至充斥暴力血腥。
更令人擔憂的是，這些內容正從線上蔓延到線下。
電商平臺上，被魔改的動畫形象被印在衣服上、做成盲盒和卡牌，以“給孩子的禮物”為名熱銷。不少孩子為了收集這些商品，頻繁向家長要錢，甚至形成了相互間的攀比。
在某短視頻平臺，輸入相關詞條，能看到不少孩子在視頻中開心地展示著書包掛著的“耐克鞋鯊魚”掛件，房間里擺滿了造型詭異的“木棒人”“仙人掌象”玩具……
平臺治理之路：如何當好守門人？
盡管各大視頻平臺設有“未成年人模式”，但實測發現，有些含有AI魔改動畫視頻內容的APP只需卸載重裝，就能以“游客模式”繞過限制，繼續自由瀏覽不良內容。
對此，北京理工大學智能科技法律研究中心研究員王磊表示，雖然我國已初步構建以未成年人保護法、《中華人民共和國網絡安全法》《未成年人網絡保護條例》為核心，并包含《生成式人工智能服務管理暫行辦法》等專門規定的法律體系。然而，在具體認定和處罰層面，針對利用AI生成、傳播危害未成年人內容的行為，仍面臨多重挑戰。
首先，法律條文對“AI山海經”這類新型低俗混雜內容缺乏清晰界定，其危害性常處于認定模糊的灰色地帶，導致處置依據不足。其次，AI內容生產鏈條復雜，模型開發者、平臺、用戶之間的責任邊界難以清晰劃分，歸責存在現實困難。最后，現有處罰流程周期較長，與有害內容的快速傳播不匹配，且罰款等懲戒措施威懾力有限，部分違規收益可能遠高于違法成本。跨境傳播治理亦是當前的法律執行難點。
平臺如何當好“守門人”？王磊認為平臺須從根本上轉變邏輯，將社會責任置于流量目標之上。應建立獨立的未成年人推薦體系，降低娛樂化內容權重，豐富優質教育資源，并向社會公開算法原則，接受監督。唯有構建真正有益的內容生態，才能實現可持續的長期發展。
王磊補充，在治理層面，一是應推行強制性的AI內容標識與透明度義務。目前，世界各國以及國際組織紛紛采取措施推進生成式人工智能標識制度的建立。2024年3月，聯合國發布《抓住安全、可靠和值得信賴的人工智能系統帶來的機遇，促進可持續發展》，鼓勵開發和部署有效、可獲取、適應性強、具有國際互操作性的內容認證和來源識別機制。我國自2025年9月1日起開始施行的《人工智能生成合成內容標識辦法》要求，AI生成合成內容必須添加顯式標識或隱式標識，并要求提供網絡信息內容傳播服務的服務提供者應當采取技術措施，規范生成合成內容傳播活動。
二是發展以溯源和檢測為核心的技術治理工具，例如，通過隱形水印和強制標簽實現內容可追溯、可識別，并結合AI檢測技術，從源頭降低有害內容的迷惑性。王磊表示，這些技術手段必須與法律監管緊密結合，才能構建覆蓋內容全生命周期的有效治理閉環。
被算法“喂養”的童年：心理代價何在？
不少家長在焦慮的同時生出疑惑：孩子們為何易于被這類獵奇、荒誕、帶有“暗黑”元素的內容吸引？
“處于此年齡段的孩子，大腦前額葉尚未發育完善，使得沖動控制與理性判斷能力較弱，而好奇心、尋求刺激與群體歸屬感的需求則達到高峰。”鄭州知愈藝術表達成長空間、青少年心理咨詢師賈昕娜表示，青少年對“AI魔改”內容的沉迷，根植于其心理發展的核心特點。
“具體有四點。”賈昕娜進一步說明，一是被旺盛的獵奇心驅動探索。AI生成的詭異、未知形象，完美契合了孩子們突破常規、探索邊界的本能沖動。二是單調生活需要情緒出口。在“學校—家庭”兩點一線的固化生活中，帶有“暗黑”元素的虛擬內容能提供一種安全可控的感官刺激，類似體驗“鬼屋”的興奮。三是強烈的社交歸屬壓力。當某種內容成為同齡人中的“社交貨幣”，不了解就意味著被孤立，促使孩子主動接觸以融入群體。四是對“力量感”的隱性渴望。現實中常處于被管理的青少年，容易向往虛擬角色所具有的顛覆性掌控力。
“加之社會閱歷淺、批判思維尚未成熟，他們更易被強烈、怪誕的視覺形象俘獲注意力，而難以理性辨識其背后的扭曲價值觀。”賈昕娜補充，從教育心理的角度看，長期接觸這類內容對青少年注意力、邏輯思維、審美偏好和暴力認知會產生多維度的負面影響。
賈昕娜表示，低俗AI內容如“數字污染”般侵蝕青少年心智，會造成多層面危害：首先是注意力碎片化。高強度感官刺激的“電子快餐”使大腦習慣于即時滿足，導致對需要深度思考的學習活動產生排斥。其次是邏輯思維退化。混亂荒誕的內容削弱青少年辨別真偽、建立因果認知的能力。此外，還會導致審美趣味扭曲。怪異低俗的視覺形象拉低審美基準，使其對經典藝術與自然之美逐漸麻木。
為此，賈昕娜呼吁廣大的教育者和家長，幫助孩子建立新的網絡生活習慣。首先要幫孩子建立健康的內容消費習慣，就像教他們辨別變質食物一樣學會篩選信息；其次要培養辨別媒介的本質，讓孩子明白“AI生成≠真實”，學會用批判性思維看待網絡內容。最重要的是保持開放的親子溝通，當孩子接觸到不良內容時，用方法引導代替簡單禁止，讓孩子在安全的環境中建立對美的認知和對暴力的警惕。
為AI魔改“畫出”紅線：技術如何向善？
AI魔改動畫視頻之所以大量傳播并流行，一方面是因為AI技術大幅降低了制作門檻，任何人只需輸入幾個關鍵詞，就能快速生成一段動畫；另一方面，部分平臺在算法推薦上“推波助瀾”，孩子一旦點擊，系統就會持續推送同類內容，形成“信息繭房”，讓家長防不勝防。
對此，記者就技術層面咨詢了中國科學院自動化研究所研究員董晶。她介紹，當前，低俗AI內容的生成主要依賴于開源擴散模型、簡易人像合成工具與一鍵式視頻平臺。其“低門檻”體現于三方面：成本極低，消費級顯卡即可運行；技能要求近乎為零，用戶僅需輸入文字即可批量生成；獲取與迭代極快，網絡上有大量免費資源和教程，使“技術小白”也能迅速成為內容生產者。
董晶表示，技術門檻的迅速降低帶來了顯著的社會隱患。青少年易被此類獵奇、扭曲的視覺內容吸引，不僅影響其價值觀形成，也削弱文化認同。此類問題核心不在于技術本身，而在于缺乏有效約束的價值取向與監管機制。
董晶及其科研團隊長期從事視覺可控生成、人像合成與鑒偽、多模態內容安全等研究，開發的偽造檢測與溯源平臺也已在多個行業應用。
她強調，目前人工智能生成內容（AIGC）檢測與治理正面臨雙重挑戰。技術上，生成內容愈發逼真且不斷引入對抗性處理，傳統辨別真假的方法效果減弱。生態上，內容經多次傳播與加工后缺乏可信元數據記錄，導致溯源困難。同時，海量審核需平衡準確性與效率，過度過濾易引發爭議。
“最后我想強調，技術問題終須依靠技術手段解決，但呵護孩子們的成長更需要法律、平臺責任與公眾意識的協同。作為科研人員，我們希望通過持續的技術創新，筑牢這第一道防線，讓技術真正用于啟迪智慧、傳承文化。”董晶說。
