您的位置：首頁(yè) >新聞 > 產(chǎn)經(jīng) >
世界熱門:張欣：算法公平具有多維動(dòng)態(tài)性，應(yīng)依場(chǎng)景制定優(yōu)先級(jí)清單
中新經(jīng)緯7月15日電 (王玉玲 實(shí)習(xí)生 郭西子)近日，由對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心舉辦的“算法公平治理與實(shí)現(xiàn)”研討會(huì)在線上舉行。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣在會(huì)議上表示，算法公平具有多維動(dòng)態(tài)性，應(yīng)根據(jù)場(chǎng)景制定公平價(jià)值觀的優(yōu)先級(jí)清單。
會(huì)議伊始，張欣就數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心撰寫的《算法公平性分類與實(shí)現(xiàn)》研究報(bào)告進(jìn)行了匯報(bào)。報(bào)告指出，算法公平是一個(gè)具有多維動(dòng)態(tài)性的概念，對(duì)算法公平性的目標(biāo)追求和要求不能泛泛而論和求全責(zé)備，在人工智能語(yǔ)境下，任何關(guān)于算法公平的主張都需要在特定場(chǎng)景下結(jié)合法律規(guī)范、技術(shù)倫理和社會(huì)影響展開評(píng)判和預(yù)估。
【資料圖】
報(bào)告共分為四部分。第一部分為算法公平的定義與界分。對(duì)算法公平劃分主要從以下四個(gè)方面進(jìn)行：基于主體，基于參與者，基于主觀感知和基于算法生命周期。
報(bào)告指出，從參與者角度分析，平臺(tái)算法公平是多方主體的公平，需要超越單一的用戶視角。分析工業(yè)界實(shí)踐表明，企業(yè)是可以在這些方面做出積極探索并在公共利益和商業(yè)利益之間建立良性平衡的。例如，TikTok推薦算法兼顧了需求方(短視頻觀看者)和供給方(短視頻發(fā)布者)兩個(gè)角度的公平，使得普通用戶發(fā)布的內(nèi)容也有可能受到明星般的關(guān)注，迅速流行起來(lái)；具有小眾或細(xì)分需求的用戶，也能看到自己感興趣的內(nèi)容。
第二部分為算法公平的衡量與判據(jù)。報(bào)告顯示，為提升算法的公平性，國(guó)內(nèi)外互聯(lián)網(wǎng)企業(yè)做了不同探索。比如，2018年，IBM推出AI Fairness 360，用以減少軟件偏見并提高其公平性。Facebook(Meta)公開了Fairness Flow診斷工具包，幫助診斷和分析算法模型和標(biāo)簽的公平性問(wèn)題。阿里巴巴、字節(jié)跳動(dòng)、美團(tuán)、京東等國(guó)內(nèi)互聯(lián)網(wǎng)企業(yè)也積極探索解決方案，積極規(guī)避造成算法不公平的潛在因素，發(fā)展無(wú)偏推薦系統(tǒng)。
第三部分為算法公平實(shí)現(xiàn)層次。首先，從預(yù)處理、中間處理和后處理去做算法公平設(shè)計(jì)；其次，從算法公平運(yùn)行的角度討論到底如何構(gòu)建更加全面的數(shù)據(jù)集，使算法具有更加公平和可解釋的特性；接下來(lái)是進(jìn)行算法公平輸出；最后，討論如何從短期、中期、長(zhǎng)期實(shí)現(xiàn)算法公平。
第四部分為算法公平的實(shí)現(xiàn)周期。算法歧視和不公是技術(shù)與社會(huì)互動(dòng)的結(jié)果，是根植于社會(huì)結(jié)構(gòu)中深層和隱形的不平等在算法系統(tǒng)中的表現(xiàn)，算法實(shí)現(xiàn)周期對(duì)應(yīng)著四個(gè)不同特質(zhì)：一是算法公平具有場(chǎng)景化特質(zhì)，并且有著嚴(yán)格的約束條件和給定條件，所以相對(duì)應(yīng)的算法治理是相對(duì)有限。二是算法公平具有動(dòng)態(tài)演進(jìn)性，公平的倫理內(nèi)容及規(guī)范內(nèi)容具有時(shí)代性，目的和部署場(chǎng)景具有差異性。在某一時(shí)期中算法公平，在另一時(shí)期由于歷史、社會(huì)的發(fā)展可能就不再公平。三是算法公平具有多維性特征，通過(guò)算法和技術(shù)完全消除社會(huì)當(dāng)中的不公平是不切實(shí)際的。四是算法公平具有過(guò)程溝通性，通過(guò)主觀感知進(jìn)行劃分。
張欣表示，短期算法公平治理，應(yīng)該從三個(gè)方面展開。一是建立算法公平目標(biāo)體系，包括感知公平性、統(tǒng)計(jì)公平性和因果公平性，同時(shí)要鼓勵(lì)和尊重不同平臺(tái)、不同場(chǎng)景下，依據(jù)算法功能定位，各個(gè)平臺(tái)主營(yíng)業(yè)務(wù)特征，運(yùn)行場(chǎng)景利益相關(guān)主體，制定公平價(jià)值觀的優(yōu)先級(jí)清單；二是完善數(shù)據(jù)公平治理；三是創(chuàng)建公平解釋機(jī)制。
而針對(duì)中期算法公平治理，報(bào)告建議，完善算法公平審計(jì)制度；建立算法影響評(píng)估制度，包括算法影響評(píng)估的分類和分級(jí)；推動(dòng)算法公平認(rèn)證制度落地。對(duì)于長(zhǎng)期算法公平治理，應(yīng)從法律上構(gòu)建算法公平的法律規(guī)范體系，培育算法公平治理文化，同時(shí)培育算法公平向善的運(yùn)行生態(tài)。
最后，張欣指出，算法公平的認(rèn)知和行業(yè)實(shí)踐仍處于起步階段，算法公平治理是涉及個(gè)體、企業(yè)行業(yè)、公共機(jī)構(gòu)等多元主體復(fù)雜互動(dòng)的重要議題，需要以適宜的運(yùn)行生態(tài)作為基礎(chǔ)協(xié)同推進(jìn)，以獲得制度實(shí)效最大化，共筑“算法公平向善”的運(yùn)行生態(tài)。(更多報(bào)道線索，請(qǐng)聯(lián)系本文作者王玉玲：wangyuling@chinanews.com.cn)(中新經(jīng)緯APP)
(文中觀點(diǎn)僅供參考，不構(gòu)成投資建議，投資有風(fēng)險(xiǎn)，入市需謹(jǐn)慎。)
中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。
責(zé)任編輯：李中元
