全球熱議:聚焦烏鎮(zhèn):倫理規(guī)則和技術(shù)安全是AI高質(zhì)量發(fā)展關(guān)鍵
(資料圖)
11月10日,在2022年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)“人工智能與數(shù)字倫理”論壇上,瑞萊智慧CEO田天表示,在數(shù)智化時(shí)代,人工智能充當(dāng)著“大腦”的角色,在目標(biāo)性能的實(shí)現(xiàn)、設(shè)施運(yùn)維的智能化和設(shè)施安全保障等方面發(fā)揮著重要作用。例如,運(yùn)用人工智能的計(jì)算機(jī)視覺(jué)技術(shù),可以實(shí)現(xiàn)工業(yè)殘次品的檢測(cè)、構(gòu)建人臉識(shí)別安防設(shè)備,在提升生產(chǎn)性能與生產(chǎn)效率的同時(shí),大幅提升安全保障能力。
近年來(lái),隨著算法的快速發(fā)展,算力、數(shù)據(jù)等資源的日益豐富,人工智能產(chǎn)業(yè)呈現(xiàn)快速發(fā)展態(tài)勢(shì)。但田天表示,放眼未來(lái),人工智能若要實(shí)現(xiàn)高質(zhì)量發(fā)展,需要突破倫理規(guī)則和技術(shù)安全兩大關(guān)鍵問(wèn)題。
首先,隨著人工智能逐步成為經(jīng)濟(jì)社會(huì)的關(guān)鍵角色,它與人類的交互規(guī)則構(gòu)成了倫理問(wèn)題,例如,人機(jī)控制權(quán)分配、人工智能采信度等等。作為一項(xiàng)具有開(kāi)放性但又遠(yuǎn)未成熟的新技術(shù),人工智能不可避免地會(huì)對(duì)現(xiàn)有倫理關(guān)系與社會(huì)結(jié)構(gòu)造成沖擊。
比如,人類對(duì)機(jī)器控制權(quán)的不適當(dāng)讓渡,會(huì)導(dǎo)致惡性事故的發(fā)生,典型的例子如自動(dòng)駕駛汽車(chē)電子剎車(chē)系統(tǒng)失控引發(fā)交通事故,以及過(guò)度信任算法而忽視算法偏見(jiàn)導(dǎo)致的不公平事件等。隨著人工智能對(duì)生產(chǎn)生活方方面面的不斷滲透,倫理問(wèn)題層出不窮。
其次技術(shù)安全問(wèn)題。以當(dāng)前落地應(yīng)用最為廣泛的人臉識(shí)別為例,這一技術(shù)實(shí)現(xiàn)的整個(gè)過(guò)程為黑箱模式,主要依靠海量人臉數(shù)據(jù)進(jìn)行特征提取、訓(xùn)練和識(shí)別,從而能夠利用相關(guān)漏洞,采用多種形式進(jìn)行攻擊。例如,在人臉照片上添加少量干擾或?qū)?duì)抗補(bǔ)丁打印制作后由真人佩戴,以這種定向攻擊的形式破解人身核驗(yàn)。
面對(duì)這些問(wèn)題,田天表示,需要從倫理規(guī)則和技術(shù)規(guī)則兩方面加以解決。
一是倫理規(guī)則建設(shè)。這涉及到人與人工智能之間控制權(quán)閾值如何設(shè)定、兜底機(jī)制如何設(shè)計(jì)等問(wèn)題,需結(jié)合具體應(yīng)用場(chǎng)景,打造可量化、可度量、可執(zhí)行的具體標(biāo)準(zhǔn),再落實(shí)到算法、代碼層面。
二是技術(shù)路徑優(yōu)化。在數(shù)據(jù)、算法、算力三大要素基礎(chǔ)上,將知識(shí)要素融合進(jìn)來(lái),發(fā)展安全、可靠、可信和可擴(kuò)展的第三代人工智能,不斷提升人工智能的魯棒性和可解釋性,同時(shí)持續(xù)提高人工智能倫理安全、技術(shù)安全的敏捷測(cè)評(píng)水平,使之成為保障人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的關(guān)鍵能力。(記者 魏蔚)
(責(zé)編:趙竹青、陳鍵)關(guān)注公眾號(hào):人民網(wǎng)財(cái)經(jīng)關(guān)鍵詞:
相關(guān)閱讀
-
全球熱議:聚焦烏鎮(zhèn):倫理規(guī)則和技術(shù)安全...
11月10日,在2022年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)“人工智能與數(shù)字倫理”... -
中外新能源汽車(chē)產(chǎn)業(yè)“相向而行”分享更...
新華社合肥11月10日電(記者劉菁、馬姝瑞、汪海月、吳慧珺)面積相... -
天天熱點(diǎn)評(píng)!企業(yè)中長(zhǎng)期貸款有望繼續(xù)回暖
中國(guó)人民銀行11月10日公布的金融統(tǒng)計(jì)數(shù)據(jù)顯示,10月末,廣義貨幣(M... -
世界熱訊:電商季節(jié)性大促來(lái)臨,互聯(lián)網(wǎng)“...
一年一度的電商大促正在進(jìn)行,由此產(chǎn)生的許多季節(jié)性崗位也迎來(lái)巨大... -
環(huán)球今頭條!新一代商業(yè)遙感衛(wèi)星系統(tǒng)將...
9日,中國(guó)四維測(cè)繪技術(shù)有限公司在珠海國(guó)際航展中心舉辦的新一代商業(yè)... -
焦點(diǎn)速看:美股漲瘋了 納指暴漲7%!A...
美股漲瘋了納指暴漲7%!A股開(kāi)盤(pán)怎么走? -
全球股市大漲,大底形成,A股即將爆發(fā)!
全球股市大漲,大底形成,A股即將爆發(fā)! -
李大霄:史詩(shī)般利好推動(dòng)港股沖16600,A...
李大霄:史詩(shī)般利好推動(dòng)港股沖16600,A股上摸3100 -
【世界新要聞】美國(guó)三大股指創(chuàng)兩年最大...
美國(guó)三大股指創(chuàng)兩年最大單日漲幅A股今天開(kāi)盤(pán)表現(xiàn)成看點(diǎn) -
每日熱文:美國(guó)CPI數(shù)據(jù)見(jiàn)喜,外圍市場(chǎng)大...
美國(guó)CPI數(shù)據(jù)見(jiàn)喜,外圍市場(chǎng)大漲能否帶動(dòng)A股止跌反彈? -
慧達(dá)驛站HD-WG12002(慧達(dá)驛站)
1、【慧達(dá)使命】改善酒店網(wǎng)絡(luò)生態(tài),網(wǎng)聚商旅信息文明,與員工共同成... -
全球微頭條丨越前倫子什么時(shí)候去洛杉磯...
1、是個(gè)動(dòng)漫人物的名字啊 越前リョーマ(EchizenRyoma)是日本... -
科技要聞:小米旅行箱和青春版區(qū)別在哪里
互聯(lián)網(wǎng)在提高人們社會(huì)活動(dòng)質(zhì)量的同時(shí)可能對(duì)部分互聯(lián)網(wǎng)使用者造成傷... -
當(dāng)前觀察:深中通道加緊建設(shè)
11月10日,起重船將深中通道海上非通航孔橋最后一榀混凝土箱梁架設(shè)... -
【快播報(bào)】看好中國(guó)市場(chǎng)巨大潛力(見(jiàn)證...
“中國(guó)堅(jiān)持創(chuàng)新發(fā)展理念給我們帶來(lái)了機(jī)遇,為雙方深化航空領(lǐng)域合作... -
當(dāng)前熱門(mén):古村豐收樂(lè)(尋找最美鄉(xiāng)村·...
喜悅。 李俊杰鄭宏攝影報(bào)道 村景?! ⊥踅∶駭z(影像中國(guó))... -
環(huán)球最資訊丨“中歐青年科學(xué)家對(duì)話未來(lái)...
據(jù)新華社布魯塞爾11月9日電(記者潘革平)“中歐青年科學(xué)家對(duì)話未來(lái)... -
應(yīng)對(duì)老齡化要堅(jiān)持系統(tǒng)觀念(多棱鏡)
以更加全面、長(zhǎng)遠(yuǎn)的眼光系統(tǒng)謀劃,統(tǒng)籌應(yīng)對(duì),綜合施策,更好承接億... -
找中介辦貸款,消費(fèi)者須“四看”(新視點(diǎn))
日前,銀保監(jiān)會(huì)發(fā)布《關(guān)于警惕貸款中介不法行為侵害的風(fēng)險(xiǎn)提示》,... -
快訊:A股白酒風(fēng)云30年|白酒分化大時(shí)代
A股白酒風(fēng)云30年|白酒分化大時(shí)代