色婷婷综合在线,在线日韩欧美一区二区三区,欧美日韩中文字幕在线,一区国产视频,极品嫩模,h美女漫画网站,亚洲wuma

您的位置:首頁(yè)>基金 >

全球熱議:聚焦烏鎮(zhèn):倫理規(guī)則和技術(shù)安全是AI高質(zhì)量發(fā)展關(guān)鍵

2022-11-11 09:47:41    來(lái)源:北京商報(bào)


(資料圖)

11月10日,在2022年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)“人工智能與數(shù)字倫理”論壇上,瑞萊智慧CEO田天表示,在數(shù)智化時(shí)代,人工智能充當(dāng)著“大腦”的角色,在目標(biāo)性能的實(shí)現(xiàn)、設(shè)施運(yùn)維的智能化和設(shè)施安全保障等方面發(fā)揮著重要作用。例如,運(yùn)用人工智能的計(jì)算機(jī)視覺(jué)技術(shù),可以實(shí)現(xiàn)工業(yè)殘次品的檢測(cè)、構(gòu)建人臉識(shí)別安防設(shè)備,在提升生產(chǎn)性能與生產(chǎn)效率的同時(shí),大幅提升安全保障能力。

近年來(lái),隨著算法的快速發(fā)展,算力、數(shù)據(jù)等資源的日益豐富,人工智能產(chǎn)業(yè)呈現(xiàn)快速發(fā)展態(tài)勢(shì)。但田天表示,放眼未來(lái),人工智能若要實(shí)現(xiàn)高質(zhì)量發(fā)展,需要突破倫理規(guī)則和技術(shù)安全兩大關(guān)鍵問(wèn)題。

首先,隨著人工智能逐步成為經(jīng)濟(jì)社會(huì)的關(guān)鍵角色,它與人類的交互規(guī)則構(gòu)成了倫理問(wèn)題,例如,人機(jī)控制權(quán)分配、人工智能采信度等等。作為一項(xiàng)具有開(kāi)放性但又遠(yuǎn)未成熟的新技術(shù),人工智能不可避免地會(huì)對(duì)現(xiàn)有倫理關(guān)系與社會(huì)結(jié)構(gòu)造成沖擊。

比如,人類對(duì)機(jī)器控制權(quán)的不適當(dāng)讓渡,會(huì)導(dǎo)致惡性事故的發(fā)生,典型的例子如自動(dòng)駕駛汽車(chē)電子剎車(chē)系統(tǒng)失控引發(fā)交通事故,以及過(guò)度信任算法而忽視算法偏見(jiàn)導(dǎo)致的不公平事件等。隨著人工智能對(duì)生產(chǎn)生活方方面面的不斷滲透,倫理問(wèn)題層出不窮。

其次技術(shù)安全問(wèn)題。以當(dāng)前落地應(yīng)用最為廣泛的人臉識(shí)別為例,這一技術(shù)實(shí)現(xiàn)的整個(gè)過(guò)程為黑箱模式,主要依靠海量人臉數(shù)據(jù)進(jìn)行特征提取、訓(xùn)練和識(shí)別,從而能夠利用相關(guān)漏洞,采用多種形式進(jìn)行攻擊。例如,在人臉照片上添加少量干擾或?qū)?duì)抗補(bǔ)丁打印制作后由真人佩戴,以這種定向攻擊的形式破解人身核驗(yàn)。

面對(duì)這些問(wèn)題,田天表示,需要從倫理規(guī)則和技術(shù)規(guī)則兩方面加以解決。

一是倫理規(guī)則建設(shè)。這涉及到人與人工智能之間控制權(quán)閾值如何設(shè)定、兜底機(jī)制如何設(shè)計(jì)等問(wèn)題,需結(jié)合具體應(yīng)用場(chǎng)景,打造可量化、可度量、可執(zhí)行的具體標(biāo)準(zhǔn),再落實(shí)到算法、代碼層面。

二是技術(shù)路徑優(yōu)化。在數(shù)據(jù)、算法、算力三大要素基礎(chǔ)上,將知識(shí)要素融合進(jìn)來(lái),發(fā)展安全、可靠、可信和可擴(kuò)展的第三代人工智能,不斷提升人工智能的魯棒性和可解釋性,同時(shí)持續(xù)提高人工智能倫理安全、技術(shù)安全的敏捷測(cè)評(píng)水平,使之成為保障人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的關(guān)鍵能力。(記者 魏蔚)

(責(zé)編:趙竹青、陳鍵)關(guān)注公眾號(hào):人民網(wǎng)財(cái)經(jīng)

關(guān)鍵詞:

相關(guān)閱讀