中新經(jīng)緯12月21日電 (薛宇飛)近日，清華大學(xué)社會(huì)科學(xué)學(xué)院社會(huì)學(xué)系、中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會(huì)協(xié)同發(fā)展研究中心主辦了“倫理立場、算法設(shè)計(jì)與企業(yè)社會(huì)責(zé)任”研討會(huì)。清華大學(xué)公共管理學(xué)院教授、人工智能治理研究中心主任梁正在研討會(huì)上表示，算法治理是一個(gè)制度問題，不是技術(shù)問題，算法的治理應(yīng)當(dāng)重點(diǎn)關(guān)注算法使用的過程及其產(chǎn)生的影響。

梁正表示，從技術(shù)特性方面看，機(jī)器學(xué)習(xí)目前還是一個(gè)“黑箱”過程，在透明性和可解釋性上存在問題，某種程度上類似于化學(xué)科學(xué)產(chǎn)生之前的“煉金術(shù)”階段，“我們知道算法管用，但不知道它的核心原理是什么，需要在基礎(chǔ)理論方面進(jìn)一步深入研究。”

梁正分析說，從國際經(jīng)驗(yàn)看，歐盟是自上而下地制定規(guī)則，以算法透明和問責(zé)去保證算法公平。他稱，這里面，涉及到了算法原理的可解釋性、過程的可追溯性及決策結(jié)果的可被理解性，具體的治理路徑是建立算法評估機(jī)制、審計(jì)機(jī)制以及問責(zé)機(jī)制，用這個(gè)方式倒推算法開發(fā)和應(yīng)用的責(zé)任。

相較而言，美國對算法的規(guī)制相對謹(jǐn)慎，梁正說，“如果把算法理解為一套技術(shù)方案，對它進(jìn)行干預(yù)的話，可能就不符合基本的市場競爭理念。美國在這方面還是很小心，特別是商業(yè)、企業(yè)領(lǐng)域。不過，在過去三年，美國在公共領(lǐng)域比較明顯的變化是對人臉識(shí)別技術(shù)的禁用，包括紐約市出臺(tái)的算法問責(zé)法，州層面出臺(tái)的法案如《加州消費(fèi)者隱私法》，則類似于歐盟的思路?！?/p>

他介紹，中國目前已經(jīng)出臺(tái)一系列法律法規(guī)，包括《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》，建立了基礎(chǔ)機(jī)制，一些規(guī)范、指引、準(zhǔn)則在推出過程中，數(shù)據(jù)治理體系也在建設(shè)中。在基本的制度體系建立后，接下來應(yīng)該重點(diǎn)研究制定可實(shí)施和操作的細(xì)則。

“治理模式構(gòu)建方面，算法的治理不在于算法本身，而在于算法使用后產(chǎn)生的影響。當(dāng)然，也不只是看結(jié)果，還要看過程，這是一個(gè)理想狀況。如果技術(shù)解決方案上能夠做到可解釋、可負(fù)責(zé)、可信任，就可以保障它不出問題。算法治理還需要多方協(xié)同參與，包括使用者、勞動(dòng)者、研發(fā)設(shè)計(jì)者、管理者等等。”他還說。

梁正指出，“目前國家出臺(tái)的相關(guān)法律，把安全、個(gè)人權(quán)益等敏感問題的紅線都劃出來了，之后便是針對各專門應(yīng)用領(lǐng)域提出更具體的要求，算法做到可解釋、可問責(zé)，治理中實(shí)現(xiàn)分級分類、分場景。同時(shí)，過程中有監(jiān)督，事后有補(bǔ)救，以及確定治理的優(yōu)先級，在不同領(lǐng)域應(yīng)用不同的治理工具，包括對基本底線的把控?！?/p>

他最后強(qiáng)調(diào)，算法治理是一個(gè)制度問題，不是技術(shù)問題，不能僅僅按照技術(shù)的選擇區(qū)分什么是好算法或壞算法。(中新經(jīng)緯APP)

中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何公司及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。

關(guān)鍵詞： 梁正：算法治理應(yīng)關(guān)注技術(shù)使用過程及產(chǎn)生的影響