您的位置：首頁 >新聞 > 產經 >
精彩看點：【承澤觀察·平臺經濟40評之二十四】張俊妮：主動提升算法透明度有利于平臺企業(yè)可持續(xù)發(fā)展
中新經緯7月26日電 題：主動提升算法透明度有利于平臺企業(yè)可持續(xù)發(fā)展
作者 張俊妮 北京大學國家發(fā)展研究院長聘副教授
【資料圖】
導語：主動提升算法透明度對平臺企業(yè)履行社會責任至為關鍵，也有利于平臺企業(yè)的經濟效益和可持續(xù)發(fā)展。平臺企業(yè)需著眼于算法輸入和輸出的透明，尤其是仔細選擇并主動公示與利益相關者核心訴求相關的優(yōu)化目標。
2021年3月召開的中央財經委員會第九次會議指出，近年來我國平臺經濟快速發(fā)展，在經濟社會發(fā)展全局中的地位和作用日益突顯。要著眼長遠、兼顧當前，補齊短板、強化弱項，營造創(chuàng)新環(huán)境，解決突出矛盾和問題，推動平臺經濟規(guī)范健康持續(xù)發(fā)展。
時代呼吁平臺企業(yè)更積極地履行社會責任。平臺企業(yè)使用算法連接眾多的利益相關者(如外賣平臺上的消費者、餐飲企業(yè)、騎手)，其履行社會責任的核心在于使用負責任的算法平衡和兼顧各利益相關者的利益。只有使用負責任的算法，平臺企業(yè)才能獲得利益相關者的認同和支持，從而獲得可持續(xù)發(fā)展的動力。
提升算法透明度是實現負責任算法的第一步和關鍵一步。多個國家進行了相關的制度探索。例如，2021年5月，美國議會提出《算法正義與互聯網平臺透明度法案》(正在立法過程中)，規(guī)定互聯網平臺需披露算法處理信息的方式方法以及信息的來源，發(fā)布透明度報告，使用戶能夠了解平臺如何對內容進行審核以及如何使用算法推薦內容。2021年11月，英國內閣辦公廳中央數字和數據辦公室發(fā)布算法透明度標準。第一層信息要求提供算法工具的簡短非技術性描述，概述該工具是什么以及使用該工具的原因；第二層信息要求提供更詳細的技術信息，例如有關工具工作方式和工具使用數據的具體細節(jié)；2022年3月我國《互聯網信息服務算法推薦管理規(guī)定》正式生效，要求算法推薦服務者對算法進行備案，以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等。
目前我國關于算法透明度的法律法規(guī)尚不存在統(tǒng)一的執(zhí)行標準，算法公示內容的詳略程度主要由平臺企業(yè)自行決定。然而，遵守法律法規(guī)僅僅是企業(yè)履行社會責任的最基本要求，有長遠發(fā)展考量的平臺企業(yè)不應坐等媒體披露或政府監(jiān)管算法存在的問題，宜主動在更高水平上實現算法透明。
算法透明的一種思路是將算法代碼透明化，但這種做法往往無法付諸實際。第一，這涉及平臺企業(yè)的核心商業(yè)機密；第二，當前常用的算法基于深度學習等復雜模型，即使全部看了代碼也無法了解算法的實際效果；第三，算法的實際效果在很大程度上依賴于用來訓練算法的數據，但數據沒有體現在代碼中。
另一種思路著眼于算法輸入和輸出的透明，是更加實際的做法。首先需要闡明的就是算法的優(yōu)化目標，它是平臺企業(yè)如何權衡自己與各利益相關者利益的關鍵所在。這一點非常重要，我們將通過關于YouTube的實際案例進行詳細說明。
2005至2011年，YouTube的算法向用戶推薦視頻時的優(yōu)化目標是瀏覽量或點擊量。這導致點擊誘餌(如誤導性標題)的激增，用戶體驗直線下降。2012年，YouTube將推薦系統(tǒng)調整為優(yōu)化觀看每段視頻的時間和花費在平臺上的總時間，以增加廣告收入。然而，花費的時間不一定等于花費的高質量時間。2016年，YouTube開始優(yōu)先考慮通過調查衡量的用戶滿意度，以及用戶點擊分享、喜歡和不喜歡等按鈕這樣的直接回應指標。2017年YouTube對推薦系統(tǒng)實施了更多更改，以阻止宣傳包含煽動性宗教或種族優(yōu)越論內容的視頻。
然而，YouTube前計算機程序員紀堯姆·查斯洛(Guillaume Chaslot)認為，這些改變大多是表面上的，并沒有從根本上改變算法中形成的一些令人不安的偏見。他編寫了一個計算機程序進行調查。該程序模擬了一些沒有任何觀看歷史記錄的用戶的行為，每位用戶首先通過文字搜索找到一些視頻，從中選擇一個“種子”視頻，然后按照推薦的視頻鏈跟蹤沿途的數據。查斯洛利用該程序探索了在美國、法國、英國和德國選舉、全球變暖和大規(guī)模槍擊事件期間YouTube推薦內容中的偏見。研究表明，YouTube系統(tǒng)地放大了分裂、聳人聽聞和陰謀論的視頻。2018年初，媒體報導了查斯洛的調查結果。作為回應，YouTube宣布將為視頻標注新的信息標簽，以努力打擊陰謀論和鼓吹宣傳。
2019年初，YouTube推出了30多項更改，旨在積極減少推薦邊緣內容以及可能以有害方式誤導用戶的內容，例如宣傳治療一種嚴重疾病的虛假奇跡、聲稱地球是平的、或者對9·11之類的歷史事件公然做出虛假聲明的視頻。這種變化依賴于機器學習和真人的結合。YouTube與人類評估人員和專家合作，幫助培訓生成推薦內容的機器學習系統(tǒng)。這些評估人員接受使用公共指南的培訓，并提供有關視頻質量的關鍵輸入。2019年底，YouTube宣布在美國，通過未訂閱的推薦觀看邊緣或誤導內容的平均時間減少了70%。2021年，YouTube將推薦中的邊緣或誤導內容的消費量大大降低到1%以下。YouTube通過官方博客持續(xù)公布對推薦系統(tǒng)的更改及其背后的邏輯。
在構建更負責任算法期間，YouTube在2018至2021年四年間廣告收入年增長超過30%，在2021年獲得了288億美元廣告收入，比2020年增長46%。YouTube付費訂閱服務(YouTube Music和YouTube Premium)的用戶在2020年達到3千萬，在2021年達到5千萬。
在YouTube的案例中，用戶的核心訴求并不是依據瞬間的本能反應或自我沉溺去觀看聳人聽聞的視頻，而是獲取真實可靠有內涵的內容。當YouTube不著眼于通過讓用戶沉溺來獲取更多收入，反而收入大幅上升。由此可見，平臺企業(yè)仔細選擇并主動公示與利益相關者核心訴求相關的優(yōu)化目標，以及采取與其相適應的措施，不僅能大幅度改善算法的社會效益，也有助于平臺的經濟效益和可持續(xù)發(fā)展。例如，在一個外賣平臺上，消費者的核心訴求可能是獲得健康安全、美味營養(yǎng)的食物，騎手的核心訴求可能是在安全到達的前提下獲得應有收入，餐飲企業(yè)的核心訴求可能是通過提升菜品味道和質量獲得更多收入(而不是為爭取排名靠前而疲于做滿減、折扣等活動)，平臺算法的優(yōu)化目標應該兼顧這些核心訴求，而不是著眼于平臺自身的分成。一旦確定了合適的優(yōu)化目標，查斯洛使用的模擬方法以及其他評估方法可用于平臺企業(yè)自查或第三方獨立評估，以及時發(fā)現與目標不符合的算法問題。
在提升算法透明度方面，平臺企業(yè)還可以對算法訓練、評估及選擇中用到的數據、算法使用的技術、算法的運行效果等等進行說明。值得一提的是，2018年《哈佛商業(yè)評論》上的一篇文章指出，相對于低透明度而言，中等透明度顯著增加了信任，過高透明度反而完全侵蝕了信任。用戶不會信任黑箱算法，但他們不需要極高的透明度，不需要過度了解黑箱算法的細節(jié)。這意味著，平臺企業(yè)無需著力于披露源代碼或幫助用戶閱讀海量數據集，而應該努力提供關于驅動算法決策因素的基本洞察。
總而言之，通過主動提升算法透明度并進行持續(xù)改進，平臺企業(yè)能獲取其連接的眾多利益相關者的滿意和信任，在提升社會效益的同時實現自身的經濟效益和可持續(xù)發(fā)展。(中新經緯APP)
本文由中新經緯研究院選編，因選編產生的作品中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。選編內容涉及的觀點僅代表原作者，不代表中新經緯觀點。
責任編輯：宋亞芬
【承澤觀察·平臺經濟40評之二十三】余昌華：數字經濟提升了投資效率嗎？
【承澤觀察·平臺經濟40評之二十二】楊明：如何看待平臺的縱向一體化策略？
【承澤觀察·平臺經濟40評之二十一】鄧峰等：認真對待互聯互通的不同應用
