您的位置：首頁(yè) >新聞 > 產(chǎn)經(jīng) >
每日頭條!梁正：算法公平存“不可能三角”，分級(jí)分類定制化是務(wù)實(shí)之舉
(資料圖片僅供參考)
中新經(jīng)緯7月15日電 (王玉玲 實(shí)習(xí)生 郭西子)近日，由對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心舉辦的“算法公平治理與實(shí)現(xiàn)”研討會(huì)在線上舉行。清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)梁正認(rèn)為，公平具有多維性，常常面臨“不可能三角”式的挑戰(zhàn)。分級(jí)分類定制化的治理方案可能更務(wù)實(shí)。
關(guān)于算法公平性的定義，梁正以COMPAS案件為例總結(jié)了三個(gè)視角。第一是統(tǒng)計(jì)平等，即COMPAS對(duì)每個(gè)種族群體，比如黑人、白人，被拘留的被告人數(shù)比例相等。第二是條件統(tǒng)計(jì)平等，指在有限的風(fēng)險(xiǎn)因素情況下，每個(gè)種族群體中被拘留的被告人數(shù)比例相等，即犯罪風(fēng)險(xiǎn)的概率同等。第三是預(yù)測(cè)相等，偏誤的假陽(yáng)性和不同種族群體預(yù)測(cè)的準(zhǔn)確性應(yīng)大致相同。
梁正指出，在公共管理領(lǐng)域中，起點(diǎn)公平、過(guò)程公平、結(jié)果公平三者不可能同時(shí)實(shí)現(xiàn)。對(duì)于不同層面的算法公平性，滿足其中某一個(gè)定義，可能另外一個(gè)公平性就得不到滿足。公平性的定義實(shí)際上與資源分配密切相關(guān)，但常常面臨“不可能三角”式的挑戰(zhàn)。此外，梁正還提出了一些算法治理的困境，如當(dāng)涉及到公平正義的問(wèn)題時(shí)，用什么工具判斷？這個(gè)工具可靠嗎？從落實(shí)平臺(tái)責(zé)任角度來(lái)講，怎么去解決復(fù)雜性問(wèn)題？梁正表示，有些從技術(shù)上來(lái)講基本上是做不到的，但這些困境需要解決。
梁正表示，從國(guó)外實(shí)踐來(lái)看，采用分級(jí)分類定制化的治理方案可能更務(wù)實(shí)。算法公平也是保障公共利益最大化。算法分級(jí)分類，即在判斷風(fēng)險(xiǎn)要素識(shí)別和分級(jí)分類基礎(chǔ)上，我們才有相應(yīng)的規(guī)制要求和力度。不同監(jiān)管規(guī)則的設(shè)計(jì)應(yīng)注重與具體場(chǎng)景相匹配。因此，從這個(gè)意義上，算法公平問(wèn)題涉及社會(huì)資源分配，同時(shí)也涉及具體場(chǎng)景的多元因素判斷。(更多報(bào)道線索，請(qǐng)聯(lián)系本文作者王玉玲：wangyuling@chinanews.com.cn)(中新經(jīng)緯APP)
(文中觀點(diǎn)僅供參考，不構(gòu)成投資建議，投資有風(fēng)險(xiǎn)，入市需謹(jǐn)慎。)
中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。
責(zé)任編輯：李中元
