(資料圖)

中新經(jīng)緯7月15日電 (王玉玲)近日，由對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主辦的“算法公平治理與實現(xiàn)”研討會在線上舉行。中國人民大學(xué)高瓴人工智能學(xué)院助理教授陳旭對推薦算法領(lǐng)域公平性進行了介紹。

推薦算法是今日頭條、優(yōu)酷等各大網(wǎng)站中標(biāo)配的組件，它可以緩解信息過載問題，幫助用戶節(jié)省大量時間，找到自己感興趣的商品、視頻和其他信息，也可以幫助企業(yè)提升銷量，在互聯(lián)網(wǎng)當(dāng)中應(yīng)用廣泛。

陳旭介紹道，從人工智能角度來講，推薦算法和傳統(tǒng)人工智能，包括計算機視覺、自然語言處理有所差別，后者偏向客觀AI，前者偏向主觀AI，公平性指標(biāo)對其更為重要。由于推薦系統(tǒng)用戶本身的差異，基于用戶的公平性在實現(xiàn)過程中更關(guān)注不同組用戶對推薦結(jié)果滿意度的公平，而不局限于追求推薦結(jié)果的一致性。主觀AI以提升利益方的效益為目的，而并非單純提升準(zhǔn)確度，利益方包括用戶、商家、其他人員，如騎手等?！靶б姹葴?zhǔn)確度的范圍要大很多，公平性就是效益的一個重要方面。”陳旭說道。

對于推薦系統(tǒng)領(lǐng)域的公平性，陳旭將其分為三類，包括基于用戶的公平、基于商品的公平和基于用戶和商品的公平。基于用戶的公平有兩種比較常用的定義，第一種是希望對于不同組的用戶，推薦結(jié)果應(yīng)該盡量相似。但推薦結(jié)果相似，對于個人來講滿意度可能會降低，所以在這個基礎(chǔ)上人們又提出基于用戶滿意度的公平性。比如對于不同用戶，并不需要給他們推薦相似結(jié)果，只需要讓不同用戶之間滿意度比較相似即可。如果有的用戶滿意度比較高，有的用戶滿意度比較低，則被認(rèn)為是不公平的。所以基于推薦結(jié)果的滿意度公平性目前在推薦系統(tǒng)領(lǐng)域較為推崇?；谏唐返墓叫韵Ｍ麩衢T商品被推薦的概率稍微低一點，冷門商品被推薦的概率盡量高一點?；谟脩艉蜕唐返墓叫允菍⑸鲜鰞深惙椒ㄈ诤显谝黄?。

從實現(xiàn)的角度來講，基于公平性的推薦算法通?？梢苑譃槿悾谝皇乔疤幚矸椒?，這類方法往往直接去除敏感變量或通過調(diào)整權(quán)重、刪除樣本等方式使敏感變量和預(yù)測結(jié)果相互獨立；第二是中處理方法，它希望模型學(xué)習(xí)產(chǎn)生的結(jié)果本身就是公平的，而無需對數(shù)據(jù)進行預(yù)處理；第三是后處理方法，在這類方法中，人們通常先預(yù)訓(xùn)練推薦模型，然后對推薦結(jié)果進行重排序，使得它能夠滿足群組或個體的公平性約束。對于推薦算法的公平性，未來仍需研究三個問題：第一，個人如何能夠感受到算法是否公平；第二，算法公平性的定義眾多，以何種標(biāo)準(zhǔn)來定義公平更為合適；第三，對于多敏感變量，特別是相互矛盾的敏感變量，如何權(quán)衡實現(xiàn)公平。(更多報道線索，請聯(lián)系本文作者王玉玲：wangyuling@chinanews.com.cn)(中新經(jīng)緯APP)

責(zé)任編輯：李中元

關(guān)鍵詞： 陳旭算法公平需兼顧用戶滿意度和商品公平性