中新經(jīng)緯12月21日電 (薛宇飛)近日，清華大學(xué)社會(huì)科學(xué)學(xué)院社會(huì)學(xué)系、中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會(huì)協(xié)同發(fā)展研究中心主辦了“倫理立場、算法設(shè)計(jì)與企業(yè)社會(huì)責(zé)任”研討會(huì)，并在會(huì)上發(fā)布了《倫理立場、算法設(shè)計(jì)與企業(yè)社會(huì)責(zé)任》研究報(bào)告(下稱報(bào)告)。清華大學(xué)社會(huì)學(xué)系教授李正風(fēng)在分享報(bào)告時(shí)指出，算法治理正在向更加綜合的治理網(wǎng)絡(luò)發(fā)展，強(qiáng)調(diào)政府、專業(yè)機(jī)構(gòu)、團(tuán)體、企業(yè)及公眾共同參與的協(xié)同治理。

構(gòu)建融合百家之長的算法倫理體系

清華大學(xué)社會(huì)學(xué)系教授李正風(fēng)。主辦方供圖

李正風(fēng)指出，算法具有可塑性，這一方面意味著算法設(shè)計(jì)是開放的，具有創(chuàng)造和建構(gòu)的空間，但另一方面也意味著算法可能在倫理上產(chǎn)生道德真空。他說：“算法可能再現(xiàn)社會(huì)當(dāng)中已有的倫理問題，尤其是掌握了大量數(shù)據(jù)并且對數(shù)據(jù)進(jìn)行深度挖掘后，隱含在社會(huì)當(dāng)中的倫理問題會(huì)更清晰地展現(xiàn)出來。比如，現(xiàn)在人們討論比較多的公平性問題，還有算法偏見、算法歧視、隱私保護(hù)，這些都是社會(huì)當(dāng)中已存在的倫理問題，只不過是通過算法更為顯性地展現(xiàn)出來?！?/p>

除此以外，他稱，大數(shù)據(jù)時(shí)代下的算法技術(shù)，還可能帶來新的倫理問題，如主體性的喪失。人工智能技術(shù)的發(fā)展，使得人類在處理一些社會(huì)事務(wù)或者自然與機(jī)器之間的關(guān)系時(shí)，會(huì)讓渡一部分權(quán)利，影響思維和決策的自主性。這種權(quán)利讓渡可能會(huì)是在無意識情況下發(fā)生的。

對于出現(xiàn)算法倫理問題的原因，他總結(jié)為三個(gè)主要原因。一是技術(shù)本身的特點(diǎn)或不完備、不成熟，會(huì)導(dǎo)致不透明、不可解釋及難以問責(zé)等技術(shù)難題，進(jìn)而引發(fā)倫理問題。

二是利益驅(qū)使，無論是數(shù)據(jù)還是算法產(chǎn)品，都伴隨著對市場的重新界定與分割，因此它背后隱含著巨大的利益，很多中小企業(yè)主體并不重視倫理問題，這也是誘發(fā)倫理問題的重要成因。

三是倫理意識和責(zé)任缺失，部分算法設(shè)計(jì)者、審查者自身的價(jià)值無意識與價(jià)值偏好會(huì)直接導(dǎo)致算法倫理問題。這也引導(dǎo)我們思考算法設(shè)計(jì)中的倫理立場問題。

他進(jìn)一步分析稱，算法設(shè)計(jì)具有邏輯可塑性和價(jià)值選擇性。在算法的設(shè)計(jì)過程中，可以看到兩種狀態(tài)的倫理意識，一是倫理無意識，這種情況會(huì)帶來價(jià)值真空或道德真空；二是有特定的倫理立場，從倫理學(xué)上看，倫理立場大體可以分為功利論、義務(wù)論、契約論、德性論，這四種倫理立場在社會(huì)中是共存的，各自都有存在的根據(jù)，也有各自的擁護(hù)者與支持者?！艾F(xiàn)實(shí)世界對于什么是好的、什么是善的、什么是對的，是有分化、有層次的，這也是比較復(fù)雜的社會(huì)系統(tǒng)的反映?！?/p>

“這幾種不同的倫理立場是并存的，最普遍的是功利論立場，即從后果的‘善’來判斷行為的好壞。另一種常見的倫理立場是契約論，如生產(chǎn)者與消費(fèi)者之間建立某種使用APP的契約。追求更廣泛的‘善’和更恰當(dāng)?shù)钠跫s，會(huì)導(dǎo)致企業(yè)不斷改變自身形象。但影響社會(huì)公眾和公共利益的事件也會(huì)不斷發(fā)生，并成為重要的社會(huì)問題，需要監(jiān)管機(jī)構(gòu)對一些個(gè)體或企業(yè)的行為進(jìn)行公共規(guī)制，這就涉及到義務(wù)論的倫理立場?！崩钫L(fēng)還說，從算法治理角度看，新規(guī)則的生成是某種約束和引導(dǎo)，包括政府部門出臺(tái)的規(guī)制手段。更為重要的是要讓相關(guān)的行動(dòng)者都能夠具有較高的倫理意識和倫理影響，就是要提高算法設(shè)計(jì)者、企業(yè)的“德性”，這就上升到德性論的倫理立場。如今，企業(yè)越來越注重社會(huì)形象和社會(huì)責(zé)任，這是非常值得肯定的。

他稱，在調(diào)研中發(fā)現(xiàn)，中國企業(yè)在算法倫理“知行合一”方面邁出了步伐。例如，字節(jié)跳動(dòng)人工智能實(shí)驗(yàn)室已經(jīng)在對機(jī)器學(xué)習(xí)公平性和“負(fù)責(zé)任的人工智能”的其他方面(包括但不限于可解釋性、可控性、多樣性、真實(shí)性、隱私性和魯棒性)進(jìn)行技術(shù)基礎(chǔ)研究，以確保字節(jié)跳動(dòng)基于機(jī)器學(xué)習(xí)的智能系統(tǒng)惠及所有用戶。

建立協(xié)同性綜合治理網(wǎng)絡(luò)

李正風(fēng)指出，算法既受到人類社會(huì)價(jià)值判斷的影響，也具有價(jià)值塑造的作用。由于人的倫理價(jià)值立場具有多樣性，包括傷風(fēng)敗俗、入鄉(xiāng)隨俗、公序良俗、移風(fēng)易俗四個(gè)層次，且在入鄉(xiāng)隨俗層次上的人群分布最多，所以無意識、樸素的價(jià)值觀念和倫理立場往往會(huì)占據(jù)主導(dǎo)，而算法可能默認(rèn)其為應(yīng)當(dāng)普遍遵守的社會(huì)行為準(zhǔn)則。

他指出，無意識、樸素的價(jià)值觀念和倫理立場占據(jù)主導(dǎo)后，會(huì)出現(xiàn)倫理責(zé)任缺失，反映到技術(shù)和社會(huì)之間的關(guān)系時(shí)，會(huì)導(dǎo)致技術(shù)的“助紂為虐”。因此，不能完全地隨波逐流，好的企業(yè)具有比較值得肯定的價(jià)值立場，會(huì)成為維護(hù)公序良俗的中流砥柱。同時(shí)，也希望算法治理能發(fā)揮更重要的作用，源清流凈，開風(fēng)氣之先。

因此，算法設(shè)計(jì)需要突破傳統(tǒng)思維結(jié)構(gòu)和社會(huì)觀念，用向善的價(jià)值立場推動(dòng)社會(huì)發(fā)展，促進(jìn)公序良俗和新社會(huì)倫理發(fā)展。“企業(yè)對于算法的依賴也好，對算法向善的強(qiáng)調(diào)也好，也是清醒地意識到算法不僅是一個(gè)簡單的技術(shù)，促進(jìn)經(jīng)濟(jì)增長，同時(shí)也可以輔助人類實(shí)現(xiàn)更高效地治理社會(huì)，引導(dǎo)社會(huì)向著更加美好的方向發(fā)展?！崩钫L(fēng)稱，倡導(dǎo)算法向善，是希望算法能負(fù)責(zé)任地賦能社會(huì)，在多元主體之間重建共同追求美好生活的信任機(jī)制。

具體到算法治理，則有不同模式，特別值得注意的是，算法治理正在向更加綜合的治理網(wǎng)絡(luò)發(fā)展。李正風(fēng)介紹道，最開始是“技治主義”，強(qiáng)調(diào)技術(shù)維度的重要性，依靠專業(yè)機(jī)構(gòu)、人員在治理中扮演重要角色，也比較強(qiáng)調(diào)自治。但受技術(shù)發(fā)展不成熟和利益因素的影響，單純依靠技術(shù)維度的治理是存在一定困難的，所以，后來又發(fā)展到監(jiān)管主義，強(qiáng)調(diào)監(jiān)管機(jī)構(gòu)的作用。

他談道，如今，人們逐漸發(fā)現(xiàn)，無論是專業(yè)團(tuán)體還是政府部門，單獨(dú)扮演監(jiān)管角色都非常困難，因此，現(xiàn)在更加強(qiáng)調(diào)“治理網(wǎng)絡(luò)”，強(qiáng)調(diào)多元主體參與的治理網(wǎng)絡(luò)，政府、專業(yè)機(jī)構(gòu)、團(tuán)體、企業(yè)及公眾共同參與的協(xié)同治理。

李正風(fēng)認(rèn)為，建立算法向善的倫理規(guī)約，最后會(huì)落實(shí)到算法治理和企業(yè)責(zé)任上。算法產(chǎn)品的生產(chǎn)者主要是企業(yè)和政府，企業(yè)既在治理網(wǎng)絡(luò)中扮演重要角色，也是自治自律的實(shí)踐者。算法產(chǎn)品的特殊性，在于接受了消費(fèi)者讓渡的部分決策權(quán)，它深刻改變了企業(yè)與消費(fèi)者之間的關(guān)系，使得企業(yè)倫理責(zé)任更加重要，需要建立新型的企業(yè)-公眾的倫理治理共同體。“如果企業(yè)沒有很好的倫理責(zé)任，那它提供的服務(wù)就不會(huì)被消費(fèi)者所接受，這是算法產(chǎn)品本身的特殊性決定的。這個(gè)過程中要以人為本，更加尊重自主原則?！?/p>

針對企業(yè)的算法倫理治理策略，報(bào)告建議，要構(gòu)建企業(yè)算法倫理治理體系，包括建立企業(yè)算法倫理委員會(huì)，建立審查責(zé)任制和應(yīng)急反應(yīng)機(jī)制，結(jié)合企業(yè)特點(diǎn)制定企業(yè)算法倫理規(guī)范，同時(shí)要提升德性，加強(qiáng)企業(yè)員工倫理素養(yǎng)培訓(xùn)，加強(qiáng)國家相關(guān)法律法規(guī)宣講教育，對違反倫理規(guī)范的后果進(jìn)行警示教育。(中新經(jīng)緯APP)

中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何公司及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。

關(guān)鍵詞： 李正風(fēng)：算法治理正在向更綜合多元的理念和治理網(wǎng)絡(luò)發(fā)展