您的位置：首頁 >新聞 > 產(chǎn)經(jīng) >
天天微資訊！龐亮：以技術(shù)賦能算法公平 并探索“算法取中”和化解“算法厭惡”
(資料圖)
中新經(jīng)緯7月15日電 (王玉玲)近日，由對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主辦的“算法公平治理與實現(xiàn)”研討會在線上舉行。中國科學院計算技術(shù)研究所副研究員龐亮認為，通過技術(shù)來進行算法公平性的賦能和監(jiān)管是未來的一個大的方向。
龐亮首先分析了算法偏見產(chǎn)生的原因，在社會層面，設(shè)計者的主觀無意識偏見可能會被寫入算法系統(tǒng)；在技術(shù)層面，算法訓練數(shù)據(jù)選取不合理，分布偏差或數(shù)據(jù)缺失，算法訓練目標比較單一，以及算法機制的不透明性都可能導致算法偏見的產(chǎn)生；從哲學層面，偏見跟人工智能、機器學習特征有關(guān)，經(jīng)驗普適性與個例特殊性之間存在矛盾，算法簡化及歸類思想與對象異質(zhì)性之間存在沖突，個體異質(zhì)性未被充分考慮，少數(shù)個體被算法歧視。
龐亮主張技術(shù)是實現(xiàn)算法公平的重要方式之一。從企業(yè)角度，在技術(shù)層面或者算法設(shè)計層面加入一些公平性技術(shù)，實現(xiàn)算法公平增強技術(shù)；從國家治理角度通過技術(shù)來監(jiān)管算法的公平，形成算法公平監(jiān)管體系。
在算法公平增強技術(shù)方面，龐亮認為人工智能算法的公平性存在三個階段，一是預處理公平性階段，主要面向的就是輸入數(shù)據(jù)，二是過程的公平性技術(shù)，主要面向是人工智能模型，三是后處理階段主要是干預策略。
針對這三個階段，龐亮進一步分析，在預處理階段，數(shù)據(jù)分布不平衡和數(shù)據(jù)標注偏差是產(chǎn)生模型不公平的原因。對于數(shù)據(jù)分布不平衡，可以對數(shù)據(jù)按類別、按難度，按時空分布進行均衡采樣，使模型訓練更平衡。對數(shù)據(jù)標注偏差，構(gòu)造偏差模型，在訓練模型的時候通過概率的減法，消除偏差的部分，我們甚至可以建模因果圖，通過因果圖方式去除一些變量。
在過程公平性方面，龐亮認為訓練目標單一和數(shù)據(jù)標簽“最嚴化”可能會產(chǎn)生不公。在優(yōu)化算法目標的時候，可以加入一些人性化的目標，平衡不同評價指標，讓算法達到更公平的效果。將算法最嚴改為算法取中，訓練更公平的算法。例如，不同于外賣平臺上的商家和用戶，外賣騎手屬于側(cè)面利益相關(guān)方，“算法取中”理念要求算法設(shè)計在平臺運行效率、用戶期望、外賣騎手安全、公眾的預期之間尋找動態(tài)均衡，將對騎手的公平性考慮在內(nèi)。
在后處理階段，龐亮認為，即使算法決策具有公平性和準確性，甚至優(yōu)于人類決策，個體仍可能對算法決策的公平感知較低，表現(xiàn)出算法厭惡。如果我們能夠設(shè)計更好的算法機制公開策略，就會使得更多人相信算法的決策，或者解釋推薦結(jié)果。算法模型輸出不可控，可以在模型設(shè)計上把平滑作為其中一個設(shè)計目標，或者人為過濾不可控因素，減少隨機不公平。(中新經(jīng)緯APP)
