您的位置：首頁(yè) >新聞 > 產(chǎn)經(jīng) >
當(dāng)前快訊:于洋：算法公平性提升，需兼顧效率等功能訴求
(資料圖)
中新經(jīng)緯7月15日電 (王玉玲)近日，由對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主辦的“算法公平治理與實(shí)現(xiàn)”研討會(huì)在線上舉行。清華大學(xué)交叉信息研究院助理教授于洋表示，人工智能算法歧視可能涉及到根本的理論性的重大問(wèn)題。如今，知識(shí)問(wèn)答，智能的法律審判，都是基于語(yǔ)言模型。
于洋分享了一個(gè)很重要的結(jié)論，如果我們糾正算法性別歧視或者種族歧視，算法完成其他功能的能力也隨之下降。在這種情況下，幾乎所有模型，沒(méi)有歧視的同時(shí)也完不成任務(wù)，或者水平很好，但是歧視程度很高。
由此帶來(lái)了一個(gè)疑問(wèn)，人工智能到底能不能不歧視？就是人工智能只學(xué)會(huì)干好事，不學(xué)會(huì)歧視。于洋表示，要是人工智能這個(gè)工具本身不可能只學(xué)會(huì)干好事，不學(xué)會(huì)歧視，或者說(shuō)歧視就是干好事前提的話，那這對(duì)人工智能算法的使用、監(jiān)管會(huì)帶來(lái)很多新的思考，這是一個(gè)很重要的理論問(wèn)題。
于洋認(rèn)為，其中訓(xùn)練數(shù)據(jù)和路徑至關(guān)重要。在人工智能設(shè)計(jì)中，訓(xùn)練數(shù)據(jù)影響結(jié)果有三條路徑。第一，訓(xùn)練的數(shù)據(jù)影響了輸入，把輸入的詞轉(zhuǎn)化為向量，向量本身會(huì)直接對(duì)預(yù)測(cè)結(jié)果產(chǎn)生影響；第二，向量作為輸入本身，也會(huì)通過(guò)模型里面的參數(shù)，最后影響輸出；第三，訓(xùn)練數(shù)據(jù)決定了模型里面的參數(shù)，也影響了結(jié)果的輸出。在這三條路徑中，如果歧視是因?yàn)閿?shù)據(jù)導(dǎo)致的，我們?nèi)ゼm正路徑所帶來(lái)的歧視，不會(huì)影響模型表現(xiàn)。
于洋表示，如果我們知道影響歧視的路徑和原理，我們就可以想辦法糾正。還有一些需要處理的技術(shù)難題，比如我們并不知道沒(méi)有歧視的情況是什么樣的，我們要通過(guò)不斷搜尋排除，找到一個(gè)不那么歧視的狀態(tài)。(中新經(jīng)緯APP)
