(資料圖)

11月10日，在2022年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會“人工智能與數(shù)字倫理”論壇上，瑞萊智慧CEO田天表示，在數(shù)智化時代，人工智能充當(dāng)著“大腦”的角色，在目標(biāo)性能的實(shí)現(xiàn)、設(shè)施運(yùn)維的智能化和設(shè)施安全保障等方面發(fā)揮著重要作用。例如，運(yùn)用人工智能的計(jì)算機(jī)視覺技術(shù)，可以實(shí)現(xiàn)工業(yè)殘次品的檢測、構(gòu)建人臉識別安防設(shè)備，在提升生產(chǎn)性能與生產(chǎn)效率的同時，大幅提升安全保障能力。

近年來，隨著算法的快速發(fā)展，算力、數(shù)據(jù)等資源的日益豐富，人工智能產(chǎn)業(yè)呈現(xiàn)快速發(fā)展態(tài)勢。但田天表示，放眼未來，人工智能若要實(shí)現(xiàn)高質(zhì)量發(fā)展，需要突破倫理規(guī)則和技術(shù)安全兩大關(guān)鍵問題。

首先，隨著人工智能逐步成為經(jīng)濟(jì)社會的關(guān)鍵角色，它與人類的交互規(guī)則構(gòu)成了倫理問題，例如，人機(jī)控制權(quán)分配、人工智能采信度等等。作為一項(xiàng)具有開放性但又遠(yuǎn)未成熟的新技術(shù)，人工智能不可避免地會對現(xiàn)有倫理關(guān)系與社會結(jié)構(gòu)造成沖擊。

比如，人類對機(jī)器控制權(quán)的不適當(dāng)讓渡，會導(dǎo)致惡性事故的發(fā)生，典型的例子如自動駕駛汽車電子剎車系統(tǒng)失控引發(fā)交通事故，以及過度信任算法而忽視算法偏見導(dǎo)致的不公平事件等。隨著人工智能對生產(chǎn)生活方方面面的不斷滲透，倫理問題層出不窮。

其次技術(shù)安全問題。以當(dāng)前落地應(yīng)用最為廣泛的人臉識別為例，這一技術(shù)實(shí)現(xiàn)的整個過程為黑箱模式，主要依靠海量人臉數(shù)據(jù)進(jìn)行特征提取、訓(xùn)練和識別，從而能夠利用相關(guān)漏洞，采用多種形式進(jìn)行攻擊。例如，在人臉照片上添加少量干擾或?qū)寡a(bǔ)丁打印制作后由真人佩戴，以這種定向攻擊的形式破解人身核驗(yàn)。

面對這些問題，田天表示，需要從倫理規(guī)則和技術(shù)規(guī)則兩方面加以解決。

一是倫理規(guī)則建設(shè)。這涉及到人與人工智能之間控制權(quán)閾值如何設(shè)定、兜底機(jī)制如何設(shè)計(jì)等問題，需結(jié)合具體應(yīng)用場景，打造可量化、可度量、可執(zhí)行的具體標(biāo)準(zhǔn)，再落實(shí)到算法、代碼層面。

二是技術(shù)路徑優(yōu)化。在數(shù)據(jù)、算法、算力三大要素基礎(chǔ)上，將知識要素融合進(jìn)來，發(fā)展安全、可靠、可信和可擴(kuò)展的第三代人工智能，不斷提升人工智能的魯棒性和可解釋性，同時持續(xù)提高人工智能倫理安全、技術(shù)安全的敏捷測評水平，使之成為保障人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的關(guān)鍵能力。（記者 魏蔚）

關(guān)鍵詞：