當前，算法已成為數字社會(huì )發(fā)展的新引擎，但也伴生了“信息繭房”、大數據“殺熟”、傳播失真等亂象，加強算法治理備受各界關(guān)注——

今天，我們需要什么樣的互聯(lián)網(wǎng)算法

光明網(wǎng)記者 李政葳 雷渺鑫 周仕興

算法是網(wǎng)絡(luò )平臺生存發(fā)展的重要技術(shù)手段和基礎應用支撐，也是互聯(lián)網(wǎng)及人工智能產(chǎn)業(yè)發(fā)展的關(guān)鍵因素。3月30日，在2025中國網(wǎng)絡(luò )媒體論壇期間，由中央網(wǎng)信辦網(wǎng)絡(luò )綜合治理局主辦，光明網(wǎng)、抖音承辦的“堅持主流價(jià)值導向 推動(dòng)算法向上向善”主題分享會(huì )在廣西南寧舉辦。

當天，來(lái)自中央和國家機關(guān)有關(guān)部門(mén)，中央新聞單位，中央和地方新聞網(wǎng)站，各地網(wǎng)信辦，主要商業(yè)網(wǎng)站、互聯(lián)網(wǎng)企業(yè)負責人等300余位嘉賓參會(huì )。他們一致認為，要不斷凝聚眾智、攜手共治，讓技術(shù)既“聰明”又“善良”，共同守護清朗的網(wǎng)絡(luò )空間。

強化主流價(jià)值，打造良性?xún)热萆鷳B(tài)

“2024年下半年微博熱搜前十位的話(huà)題里，由媒體主持的熱點(diǎn)話(huà)題數量環(huán)比增長(cháng)90%”“在2024年全年微博熱搜中，社會(huì )時(shí)事熱點(diǎn)96%來(lái)源于媒體”……會(huì )上，微博首席執行官王高飛分享了這樣一組數據。他表示，媒體在微博獲得大流量的同時(shí)，傳播力也得到了充分提升，平臺的輿論引導價(jià)值不斷顯現。從2024年開(kāi)始，微博創(chuàng )建起“媒體共建”機制，讓更多正能量話(huà)題登上熱搜，并提供更多流量加持。

當前，互聯(lián)網(wǎng)上內容生態(tài)，已經(jīng)成為算法治理成效的重要標志。以微博為例，王高飛介紹，除了原創(chuàng )、首發(fā)、“暖”等標簽外，還將“辟謠”“主題宣傳”“官方回應”等標簽開(kāi)放給媒體，在發(fā)布時(shí)可以對內容進(jìn)行標注；根據媒體做的標注，平臺會(huì )對原創(chuàng )內容加權推薦。

不僅微博，當前多家平臺不斷發(fā)揮自身優(yōu)勢，與主流媒體大力合作，擴大優(yōu)質(zhì)內容影響力?？焓挚萍悸?lián)合創(chuàng )始人楊遠熙介紹，他們逐漸構建了以主流媒體、政務(wù)號為核心的正能量矩陣，通過(guò)算法優(yōu)化分發(fā)鏈路，擴大優(yōu)質(zhì)內容的覆蓋面和影響力。

針對“信息繭房”問(wèn)題，抖音總裁韓尚佑分享了自身體驗——我們在實(shí)踐中發(fā)現，如果只推薦單一內容，會(huì )使用戶(hù)很快厭倦，導致用戶(hù)體驗下降。因此，我們將消除“信息繭房”作為一項重要目標，建立了多目標模型，設置了100多個(gè)目標，以解決單一目標下系統容易重復推送相似內容的問(wèn)題；還加強了推薦系統中對搜索行為的應用，讓系統更加實(shí)時(shí)地根據用戶(hù)搜索興趣進(jìn)行調整。

“以透明化破除信任危機，以多樣化應對信息同質(zhì)，以系統化實(shí)現協(xié)同治理?！彬v訊公司副總裁陳勇也提到，他們正在陸續構建更豐富的“破繭”功能矩陣，并提供用戶(hù)指引，包括便捷關(guān)閉個(gè)性化推薦、“不感興趣”的負反饋、內容多樣性綜合評估、推薦類(lèi)目自定義等能力，通過(guò)算法迭代和體驗優(yōu)化的雙支點(diǎn)，讓用戶(hù)找得到、用得上、有實(shí)效。

凈化互聯(lián)網(wǎng)內容生態(tài)，也需要提高算法透明度，為用戶(hù)賦權，讓他們了解算法邏輯?！八惴ǖ陌l(fā)展，必須以用戶(hù)為中心，保障其知情權、選擇權、隱私權?！睏钸h熙介紹，快手公開(kāi)熱搜排序規則，并通過(guò)趣味視頻、智能客服等渠道，向用戶(hù)普及算法邏輯，確保透明、可監督。

小紅書(shū)也通過(guò)優(yōu)化產(chǎn)品設計，在長(cháng)期信息流的分發(fā)中，把50%流量分配給用戶(hù)?！啊畔⒗O房’是一個(gè)雙向過(guò)程，平臺和用戶(hù)在內容偏好上，要做到靈活調節，借助正、負反饋機制，進(jìn)一步破除‘繭房’?！毙〖t書(shū)總編輯、副總裁許磊說(shuō)。

創(chuàng )新技術(shù)驅動(dòng)，跑出速度展現溫度

隨著(zhù)生成式人工智能快速發(fā)展，社交媒體逐步向算法和數據主導的智能媒體方向演進(jìn)。如何順應技術(shù)趨勢，驅動(dòng)算法創(chuàng )新發(fā)展？

楊遠熙提到“技術(shù)共治”這一關(guān)鍵詞。他認為，要以技術(shù)監管技術(shù)，依托大模型能力實(shí)時(shí)監測推薦偏差，對低質(zhì)內容實(shí)施“智能熔斷”，輔助審核模型訓練，強化內容識別與治理能力；秉持“算法向上向善”理念，加大以人工智能為代表的技術(shù)研發(fā)，持續優(yōu)化算法推薦內容池，保障內容推薦的公平性、透明性、多樣性。

阿里巴巴集團安全總裁錢(qián)磊認為，作為數字時(shí)代的新質(zhì)生產(chǎn)力，算法可以從海量數據中發(fā)現和總結新的規律，讓各類(lèi)企業(yè)特別是中小企業(yè)享受技術(shù)紅利，獲得生產(chǎn)效率的大幅提升。

對此，錢(qián)磊提出了“守己利他”的技術(shù)理念——“守己”，需要讓人工智能自始至終處于人類(lèi)的控制之下，確保其生成的內容符合價(jià)值觀(guān)、具備正能量；“利他”，堅持普惠創(chuàng )新、服務(wù)中小企業(yè)的初心，對該企業(yè)的通義大模型進(jìn)行全尺寸、全模態(tài)、全能力的開(kāi)源。

技術(shù)迭代提升效率的同時(shí)，也要做到“有溫度”?！八惴?，已經(jīng)成為保障騎手權益的重要抓手。當騎手擺脫配送時(shí)間的焦慮，在奔波忙碌中擁有更好的工作體驗，算法便不再是那么冰冷的工具?！泵缊F黨委書(shū)記、副總裁陳榮凱說(shuō)。

比如，在配送時(shí)間方面，美團已公開(kāi)“預估送達時(shí)間”算法規則，并且針對遠距離、單量多等配送難度較大的訂單，用預估送達時(shí)間段替代預估送達時(shí)間點(diǎn)；近期，還將在全國范圍上線(xiàn)“防疲勞”措施，當日跑單超過(guò)8小時(shí)的騎手將收到防疲勞彈窗提醒，超過(guò)12小時(shí)將強制下線(xiàn)。

在加強對特定群體關(guān)懷方面，陳勇舉例說(shuō)，視頻號等產(chǎn)品已推出夜間休息提醒等功能，鼓勵用戶(hù)健康用網(wǎng)；持續升級未成年人模式與青少年專(zhuān)屬內容池，幫助未成年人擺脫網(wǎng)絡(luò )沉迷；及時(shí)推送健康辟謠信息，設立防詐騙等宣傳專(zhuān)區，幫助老年人提高防范意識；為視障聽(tīng)障等特殊需求用戶(hù)提供無(wú)障礙服務(wù)模式等。

此外，多家平臺加強行業(yè)聯(lián)動(dòng)，推動(dòng)產(chǎn)學(xué)研合作，提升算法技術(shù)創(chuàng )新能力，加強算法安全研究，提高抵御安全風(fēng)險能力。比如，快手與清華大學(xué)聯(lián)合推出“負責任的內容推薦關(guān)鍵技術(shù)研究與應用”項目，聚焦解決自身平臺推薦中的視頻曝光偏差等問(wèn)題；阿里巴巴成立“算法安全藍軍”，與清華大學(xué)、復旦大學(xué)等高校聯(lián)動(dòng)，在實(shí)戰中提升檢驗防御能力，進(jìn)一步守護算法安全。

凝聚多方合力，構建共治共享格局

“算法就像我們做菜時(shí)放的鹽。我們需要算法創(chuàng )造價(jià)值、帶來(lái)便利，也要正視算法帶來(lái)的諸多挑戰?！标愑乱浴胞}”為喻，建議“用量精準”，只有堅持高效可用、安全可靠、透明可知、自主可控的原則，算法才能在新航路上乘風(fēng)破浪。

算法紅利不斷惠及廣大網(wǎng)民，但算法治理同樣沒(méi)有“旁觀(guān)者”，需要政府、平臺、用戶(hù)、社會(huì )等多方合力，形成“共建共治共享”的治理格局。

為進(jìn)一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，中央網(wǎng)信辦等四部門(mén)于2024年11月聯(lián)合發(fā)布了《關(guān)于開(kāi)展“清朗·網(wǎng)絡(luò )平臺算法典型問(wèn)題治理”專(zhuān)項行動(dòng)的通知》，明確“信息繭房”、大數據“殺熟”、誘導沉迷等六大整治重點(diǎn)，督促企業(yè)深入對照自查整改，進(jìn)一步提升算法安全能力。

近些年，多家互聯(lián)網(wǎng)企業(yè)發(fā)力構建“向上向善”算法治理生態(tài)。陳勇認為，需要堅持用戶(hù)為本和長(cháng)期主義，在算法設計底層杜絕短視逐利、過(guò)度商業(yè)化、流量饑渴等竭澤而漁的行為。楊遠熙表示，快手通過(guò)成立算法安全委員會(huì )等措施，全面統籌算法安全管理監督工作，構建算法安全、算法糾偏、算法透明體系，實(shí)現內容的真實(shí)與向善。韓尚佑介紹，抖音“安全與信任中心”網(wǎng)站已試運行上線(xiàn)，面向社會(huì )全面公開(kāi)抖音的算法原理、社區規范、治理體系、客戶(hù)服務(wù)……

在分享會(huì )現場(chǎng)，“算法向善”南寧宣言發(fā)布，重點(diǎn)互聯(lián)網(wǎng)企業(yè)代表集體簽署，并承諾：算法的溫度取決于開(kāi)發(fā)者的態(tài)度，算法的“清朗”源自踐行者的擔當。

在互聯(lián)網(wǎng)發(fā)展日新月異的當下，我們唯有堅持主流價(jià)值導向，推動(dòng)算法向上向善，互聯(lián)網(wǎng)這艘巨輪方能行穩致遠。