中新經(jīng)緯12月21日電 (張燕征)近日，清華大學(xué)社會科學(xué)學(xué)院社會學(xué)系、中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會協(xié)同發(fā)展研究中心主辦了“倫理立場、算法設(shè)計與企業(yè)社會責(zé)任”研討會。中國科學(xué)院自動化研究所研究員曾毅在研討會上指出，企業(yè)算法倫理與應(yīng)用要做到“知行合一”。

“人工智能是一個看似智能的信息處理工具，但并不能像人類之間一樣默認有一定的基線水平信任，人類的信任來源于長期的文化沉淀與關(guān)系網(wǎng)絡(luò)?！痹惚硎?，人們對于人工智能系統(tǒng)的起點應(yīng)是不信任，隨著交互增多，人們開始逐漸對人工智能系統(tǒng)與服務(wù)產(chǎn)生一定的、有條件的信任。

“企業(yè)算法倫理與應(yīng)用要做到知行合一?！痹阒赋?，在人工智能倫理和治理方面，一些企業(yè)設(shè)有倫理研究團隊，并產(chǎn)生一些關(guān)于倫理研究的結(jié)果，但倫理研究結(jié)果并沒有真正用來指導(dǎo)企業(yè)研發(fā)人工智能產(chǎn)品與服務(wù)，甚至產(chǎn)品團隊與倫理團隊存在較大鴻溝，如果是這樣的話，長遠來看企業(yè)很難贏得公眾、政府、學(xué)術(shù)界的信任。

倫理原則的技術(shù)落地挑戰(zhàn)重重，需要企業(yè)和學(xué)術(shù)界真正將倫理關(guān)切進行深度技術(shù)實踐。曾毅舉例說，《中華人民共和國個人信息保護法》、人工智能治理原則都談到了平臺應(yīng)該給用戶授權(quán)，比如用戶可要求平臺刪除用戶的數(shù)據(jù)，這件事看起來簡單，但它在技術(shù)落地上幾乎不具備可行性。

“數(shù)據(jù)庫里可以實時刪掉用戶的數(shù)據(jù)，但只要是用人工智能算法的企業(yè)都知道，應(yīng)用數(shù)據(jù)方法絕大多數(shù)不是放在數(shù)據(jù)庫里面調(diào)用的，而是通過人工智能和機器學(xué)習(xí)模型學(xué)習(xí)，把用戶特征學(xué)習(xí)到了以后，以參數(shù)的形式內(nèi)化于人工智能模型當中。如果你采用類似于深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型，是很難把單個用戶數(shù)據(jù)的影響從模型當中刪除的?！痹惴Q。

人工智能對于社會長遠的影響也不可忽視。曾毅表示，人類的下一代是社會當中最脆弱的一代，因為當受到傷害的時候，他們沒有成年人的表達欲望和能力。另外，即使他們受到人工智能產(chǎn)品與服務(wù)的傷害時，他們可能也不自知。這就使得他們更容易受傷害。

因此，曾毅表示，目前人工智能倫理原則中，應(yīng)該明確告知用戶現(xiàn)在交互的對象是人工智能，而不是人類，未來也不應(yīng)該混淆人工智能與人類之間的界限。

“如果真正能夠?qū)崿F(xiàn)人類水平的人工智能，它必然是有真正的理解能力。假如它變成社會準成員，我們該怎么處理人工智能與社會準成員之間的關(guān)系？也許我們的文化現(xiàn)在還很難接受人工智能成為社會準成員，但是一旦向這個方向邁進，實現(xiàn)通用人工智能或涌現(xiàn)出超級智能，對現(xiàn)在的社會來說，是完全沒有任何準備的，其存在的長遠倫理問題未來三五十年時間未見得有解。”曾毅稱。(中新經(jīng)緯APP)

關(guān)鍵詞： 曾毅：企業(yè)算法倫理與應(yīng)用要做到知行合一