(資料圖)

11月10日，在2022年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)“人工智能與數(shù)字倫理”論壇上，瑞萊智慧CEO田天表示，在數(shù)智化時(shí)代，人工智能充當(dāng)著“大腦”的角色，在目標(biāo)性能的實(shí)現(xiàn)、設(shè)施運(yùn)維的智能化和設(shè)施安全保障等方面發(fā)揮著重要作用。例如，運(yùn)用人工智能的計(jì)算機(jī)視覺(jué)技術(shù)，可以實(shí)現(xiàn)工業(yè)殘次品的檢測(cè)、構(gòu)建人臉識(shí)別安防設(shè)備，在提升生產(chǎn)性能與生產(chǎn)效率的同時(shí)，大幅提升安全保障能力。

近年來(lái)，隨著算法的快速發(fā)展，算力、數(shù)據(jù)等資源的日益豐富，人工智能產(chǎn)業(yè)呈現(xiàn)快速發(fā)展態(tài)勢(shì)。但田天表示，放眼未來(lái)，人工智能若要實(shí)現(xiàn)高質(zhì)量發(fā)展，需要突破倫理規(guī)則和技術(shù)安全兩大關(guān)鍵問(wèn)題。

首先，隨著人工智能逐步成為經(jīng)濟(jì)社會(huì)的關(guān)鍵角色，它與人類的交互規(guī)則構(gòu)成了倫理問(wèn)題，例如，人機(jī)控制權(quán)分配、人工智能采信度等等。作為一項(xiàng)具有開(kāi)放性但又遠(yuǎn)未成熟的新技術(shù)，人工智能不可避免地會(huì)對(duì)現(xiàn)有倫理關(guān)系與社會(huì)結(jié)構(gòu)造成沖擊。

比如，人類對(duì)機(jī)器控制權(quán)的不適當(dāng)讓渡，會(huì)導(dǎo)致惡性事故的發(fā)生，典型的例子如自動(dòng)駕駛汽車(chē)電子剎車(chē)系統(tǒng)失控引發(fā)交通事故，以及過(guò)度信任算法而忽視算法偏見(jiàn)導(dǎo)致的不公平事件等。隨著人工智能對(duì)生產(chǎn)生活方方面面的不斷滲透，倫理問(wèn)題層出不窮。

其次技術(shù)安全問(wèn)題。以當(dāng)前落地應(yīng)用最為廣泛的人臉識(shí)別為例，這一技術(shù)實(shí)現(xiàn)的整個(gè)過(guò)程為黑箱模式，主要依靠海量人臉數(shù)據(jù)進(jìn)行特征提取、訓(xùn)練和識(shí)別，從而能夠利用相關(guān)漏洞，采用多種形式進(jìn)行攻擊。例如，在人臉照片上添加少量干擾或?qū)?duì)抗補(bǔ)丁打印制作后由真人佩戴，以這種定向攻擊的形式破解人身核驗(yàn)。

面對(duì)這些問(wèn)題，田天表示，需要從倫理規(guī)則和技術(shù)規(guī)則兩方面加以解決。

一是倫理規(guī)則建設(shè)。這涉及到人與人工智能之間控制權(quán)閾值如何設(shè)定、兜底機(jī)制如何設(shè)計(jì)等問(wèn)題，需結(jié)合具體應(yīng)用場(chǎng)景，打造可量化、可度量、可執(zhí)行的具體標(biāo)準(zhǔn)，再落實(shí)到算法、代碼層面。

二是技術(shù)路徑優(yōu)化。在數(shù)據(jù)、算法、算力三大要素基礎(chǔ)上，將知識(shí)要素融合進(jìn)來(lái)，發(fā)展安全、可靠、可信和可擴(kuò)展的第三代人工智能，不斷提升人工智能的魯棒性和可解釋性，同時(shí)持續(xù)提高人工智能倫理安全、技術(shù)安全的敏捷測(cè)評(píng)水平，使之成為保障人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的關(guān)鍵能力。（記者 魏蔚）

關(guān)鍵詞：