破“繭房”、治“謠言”、衡“權益”……北京算法治理成效凸顯
算法正深刻影響着每一個人的生活:內容平臺的算法勾勒着我們的興趣圖譜、外賣平臺的算法對平臺、騎手與用戶之間的利益分配進行動態調節、導航軟件的算法爲出行規劃最優路徑……然而,算法在帶來便利的同時,也帶來治理難題。
爲持續提升屬地網站平臺算法典型問題治理能力,分享交流先進治理經驗,集中展示階段性工作成果,6月24日,北京市網信辦、首都互聯網協會共同召開“清朗京華·智算未來”首都算法治理成果評議會,政府管理部門、互聯網企業、行業專家及網民四方代表參會。
新京報貝殼財經記者從會上了解到,針對虛假信息、信息繭房等算法治理痛點,抖音和快手兩家平臺通過推進算法公開透明、升級內容管理工具、優化內容多樣性和加強審覈等舉措,致力於構建優質的內容生態和算法治理共同體。而美團先後召開百餘次騎手懇談會,通過推出超時免罰和8小時預警、12小時強制休息機制,並結合算法和規則,力求達到各方利益平衡。
優化技術、公開算法、支持使用管理,平臺算法治理多管齊下
算法不僅決定了用戶獲取信息的質量和效率,更影響着平臺生態的健康,對內容平臺有着重要影響。在算法治理中,抖音與快手作爲內容平臺的代表,在算法治理中既展現出共性策略,也基於平臺定位形成了差異化實踐。
抖音相關負責人介紹,在算法公開透明方面,今年3月,抖音正式上線“抖音安全與信任中心”網站,面向社會公開抖音算法原理、社區規範、治理體系和用戶服務機制,“我們每篇文章都經過了深入的調研,與內部的資深算法工程師進行訪談,最後用通俗易懂的語言披露算法的原理。”該負責人表示。
在用戶賦權方面,抖音升級的“使用管理助手”可通過色彩圓環圖直觀展示用戶興趣偏好,並支持“探索更多”按鈕拓展內容類型。在保障內容真實性等重點環節,抖音重點落實當事人限時覈實和熱點實時監測機制。
快手相關負責人則介紹,快手通過技術構建優質內容生態、推動算法透明化和組建算法治理共同體三方面,打造向善的算法生態。如快手通過自主研發的智能分發系統,避免推薦內容過度集中和低質量內容蔓延。通過建立AI審覈和人工干預雙重審覈機制,以及綠色算法和內容推薦去重,提高內容安全性和多樣性。
值得關注的是,快手新上線的推薦大模型“OneRec”,可有效捕捉用戶的情緒、愛好以及不同時間段的興趣轉折,將用戶長期瀏覽偏好整合成完整興趣序列,實現從“分層篩選”到“直接生成推薦列表”的變革。
美團的算法治理同樣聚焦算法的公開透明、治理改進以及社會化共治。美團相關負責人介紹,在騎手疲勞管理方面,美團考慮到騎手在線時間長但非持續接單的工作特性,推出“騎手防疲勞機制”:當識別到騎手跑單超過8小時,騎手App會彈出提醒,跑單12小時將強制下線。除此之外,“等燈等燈”計劃通過正向激勵培養騎手安全習慣,試點城市超2萬名騎手因遵守交通規則獲得獎勵。
據悉,美團還聯動街道、社區、物業企業等,在全國150多個城市打造了27620個“騎手友好社區”,騎手可通過掃碼等方式快速進入小區,有效解決了“進門難”和客訴高的問題。
美團相關負責人向貝殼財經記者表示,對於新場景配送困難,平臺會通過騎手上報數據或算法抓取數據發現履約難題,進而優化配送時間。“平臺會平衡商戶、騎手、消費者三方利益,參考周邊同等距離平均配送時長,以及商戶出餐速度、騎手履約交付難度等綜合因素,配合商戶出餐後騎手再到店等舉措,合理規劃配送時間。”
專家多維建言,內外治理優化算法生態
此次成果評議會上,參會專家、學者們充分肯定了北京各平臺在算法治理上的經驗做法,並從法律、管理和技術等多角度建言獻策。
北京大學法學院教授葉靜漪指出,在平臺經濟重塑勞動關係的背景下,算法治理需要平衡效率與公平,將企業創新嵌入法治框架,企業自律行動也需要轉化爲制度化實踐。深入剖析零工經濟帶來的勞動基準模糊化、算法偏見隱蔽化等挑戰,建議建立“算法透明、數據保護、影響評估、反歧視治理”四條通用路徑,並與勞動法的“基準保障、民主程序、集體協商”形成合力。
中國人民大學商學院教授周禹表示,算法公開性、算法能動性、算法參與性、算法交互生態共同構成了算法包容性治理的實踐內涵,也是應持續深化推進的發展方向。
周禹建議,相關政策部門應及時吸收標杆平臺在算法治理的先進經驗,將其轉化爲公共政策。一方面,強化分類指導,針對生活服務平臺的配單算法與內容平臺的推薦、審覈算法等不同算法,實施具有針對性的治理政策。另一方面,在算法治理政策上應對成熟大平臺和新加入平臺一視同仁,提高政策公共治理的穿透性,以牽引、助推和規範整個行業的發展。
中國科學院信息工程研究所張瀟丹研究員在會上提出了算法“外治內巡”的治理思路:對外,強調算法生態的公平、公示與透明度;對內,平臺需強化自我巡查與約束,在日常算法管理中繃緊安全弦。張瀟丹還提到,隨着大模型與傳統算法融合,可能引發新的算法風險和生態問題,算法治理是循序漸進的過程,需要各方共同努力。
北京市網信辦相關負責人指出,屬地網站平臺要強化合規意識,堅決築牢安全防線;要強化技術創新,堅決破解治理難題;要強化價值引領,堅決推動算法向善。下一步,北京市網信辦將結合評議會創新案例和專家觀點,進一步深入研究推動算法治理的具體舉措、有效途徑,堅決鞏固算法集中治理成果,全力推動算法治理向常態化治理轉變。
新京報貝殼財經記者 韋博雅
編輯 楊娟娟
校對 穆祥桐