本刊記者 焦艷 白楚玄

在數(shù)字時代的浪潮下，個性化算法推薦正深刻重構青少年的學習與娛樂方式。從短視頻平臺精準推送，到教育類App智能適配，算法在為未成年人創(chuàng)造便捷體驗的同時，衍生出誘導沉迷、信息繭房等新型風險。構建科學有效的算法治理體系，護航未成年人數(shù)字未來，成為保護未成年人網(wǎng)絡安全的重要課題。受訪的專家學者指出，破解難題需法治監(jiān)管與素養(yǎng)教育雙軌并行，共同構筑未成年人數(shù)字世界的安全屏障。

未成年人易受算法侵害

“AI比真人更體貼”“Ta完全符合我對戀人的所有想象”……當前，AI模擬戀愛聊天軟件通過所提供的“虛擬戀愛”等新奇體驗，對于好奇心重、模仿能力強的未成年人來說極具吸引力。2024年10月，美國發(fā)生一起引發(fā)全球關注的訴訟案：一名母親指控某AI公司通過“擬人化、過度性化”的算法設計誘導其未成年子女沉迷虛擬戀愛對話，最終導致悲劇發(fā)生。

中國政法大學教授郭旨龍認為，該類案件暴露了算法治理的全球性難題——沉迷“當AI以‘完美伴侶’介入未成年人情感世界時，其背后的數(shù)據(jù)收集、模型訓練和推薦邏輯可能直接威脅青少年身心健康。”

目前，不乏未成年人在算法推薦下通過交友軟件、鏈接而遭遇網(wǎng)絡侵害的案事例?！?023年網(wǎng)絡性侵未成年人全球風險評估報告》顯示，社交游戲平臺上的對話可以在短短19秒內從第一條信息發(fā)展成為高風險的誘騙事件，凸顯了算法推薦與未成年人網(wǎng)絡侵害的高度關聯(lián)。

“無論未成年人還是成年人，皆已自愿或被動地裹挾于算法推薦之中?！敝袊鴤髅酱髮W教授王四新強調，對于未成年人而言，算法呈現(xiàn)出一種“二律背反”的困境?！捌脚_本應提供適宜內容，卻因無法有效區(qū)分或者為實現(xiàn)商業(yè)目的，導致青少年被精準營銷卻缺乏足夠保護?！蓖跛男抡f。

法治監(jiān)管建好制度堤壩

面對算法對未成年人可能帶來的潛在威脅，目前我國算法治理框架與未成年人網(wǎng)絡保護法治建設方面初具雛形。業(yè)內人士表示，當前我國已逐步構建起一個覆蓋法律規(guī)則、執(zhí)法行動與常態(tài)化監(jiān)管治理體系。

在法律規(guī)則層面，我國有《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《生成式人工智能服務管理暫行辦法》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《科技倫理審查辦法(試行)》等涉及算法的法律法規(guī)，對生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術進行了規(guī)范，同時明確要求算法推薦服務提供者應定期審核、評估、驗證其算法機制、模型、數(shù)據(jù)及應用結果，確保不設置任何誘導用戶沉迷、過度消費等違反法律法規(guī)或違背倫理道德的算法模型。

對涉及未成年人的保護方面，《未成年人網(wǎng)絡保護條例》對內容分類管理、適齡提示、有害信息過濾等作出規(guī)定，旨在從源頭減少不良信息對未成年人的影響，為未成年人營造健康的網(wǎng)絡環(huán)境。2024年11月15日，國家網(wǎng)信辦發(fā)布《移動互聯(lián)網(wǎng)未成年人模式建設指南》，升級目前“青少年模式”為“未成年人模式”，進一步促進企業(yè)平臺在時間管理、內容審核、功能設計三個方面實現(xiàn)重要改進。

在執(zhí)法行動層面，通過積極開展算法綜合治理專項行動，切實保障未成年人的合法權益。2024年11月，中央網(wǎng)信辦、工信部、公安部等四部門發(fā)布《關于開展“清朗·網(wǎng)絡平臺算法典型問題治理”專項行動的通知》，要求進一步深化互聯(lián)網(wǎng)信息服務算法綜合治理，專項行動要求增強算法向上向善服務保護網(wǎng)民合法權益，持續(xù)優(yōu)化完善面向未成年人的算法推薦服務，便利未成年人獲取有益身心健康的信息。

從常態(tài)化監(jiān)管來看，2022年3月1日上線運行互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)，定期分批公布算法備案信息，并要求通過算法備案的平臺進行算法公示。業(yè)內專家認為，備案制度一定意義上倒逼算法推薦服務提供者積極進行風險評估和全流程記錄，促進執(zhí)法機關監(jiān)督算法活動。

多方共筑免疫屏障

網(wǎng)絡空間治理面臨艱巨而復雜的挑戰(zhàn)，技術迭代會不斷產生新情況、新問題，加大了治理難度。受訪人士認為，除了加強對算法推薦的規(guī)制管理，更需要幫助孩子建立“數(shù)字防護盾”?；ヂ?lián)網(wǎng)平臺應當建立青少年模式的“防火墻”，家長和學校也要教會孩子識別算法推薦套路，共同提升青少年在網(wǎng)絡空間自我保護能力。

中國青少年研究中心青年發(fā)展研究所副所長張曉冰認為，很多未成年人在面對算法推送的信息時，缺乏辨別能力，容易被誤導、被誘導。不少未成年人可能會盲目相信算法推薦的內容，陷入信息繭房，無法接觸到多元的觀點與知識;也可能會在算法設計的成癮機制下難以自拔，對自身成長造成負面影響。

張曉冰建議，學校應將數(shù)字素養(yǎng)教育納入課程體系，開設專門的課程或講座，向學生普及算法的基本原理、運行機制以及潛在風險。通過案例分析、實踐操作等方式，引導學生辨別信息真?zhèn)危硇詫Υ惴ㄍ扑]，避免沉迷網(wǎng)絡。

家庭教育的協(xié)同作用不容忽視。中國青少年研究會副秘書長孫宏艷在調研中注意到，若家長支持孩子適度上網(wǎng)，沉迷網(wǎng)絡的比例只占2%左右;若嚴格管理或放任不管，未成年人網(wǎng)絡沉迷的比例將大幅提升。

多位受訪專家認為，未成年人算法治理是一項系統(tǒng)工程，法治監(jiān)管與素養(yǎng)教育相輔相成，缺一不可。北京數(shù)字經(jīng)濟與數(shù)字治理法治研究會副秘書長梁偉亮指出，算法問題不應孤立看待，法律規(guī)制不應僅關注單個算法，應考慮數(shù)字生態(tài)中的聯(lián)動關系。

北京航空航天大學法學院副教授趙精武表示，現(xiàn)階段，多維度治理人工智能技術應用已成為社會共識，除了傳統(tǒng)意義上的監(jiān)管機構介入，家長、學校、平臺協(xié)同保護之外，還需要行業(yè)協(xié)會等社會機構形成良好的商業(yè)慣例，提前設置未成年人特殊保護機制，比如嚴格落實實名制、增設風險提示等。