AI打敗AI!谷歌科學家用GPT-4 擊敗AI防篡改系統(tǒng)
(資料圖)
編程客棧()8月1日 消息:Google 科學家進行一項實驗研究,他們使用 OpenAI 的 GPT-4聊天機器人來攻破其他機器學習模型的安全防護措施。這項實驗證明了聊天機器人作為研究助手的價值。
具體來說,谷歌 Deep Mind 的研究科學家 Nicholas Carlini在一篇題為“AI-Guardian 的 LLM 輔助開發(fā)”的論文中,探討了如何通過指導 GPT-4設計攻擊方法并撰寫攻擊原理的文本,以欺騙 AI-Guardian 的防御機制。AI-Guardian 是一種防御對模型的攻擊的系統(tǒng),旨在檢測可能被篡改的圖像以欺騙分類器。
GPT-4會發(fā)出用于調(diào)整圖像的腳本(和解釋)來欺騙分類器——例如,讓它認為某人拿著槍的照片是某人拿著無害蘋果的照片——而不會引發(fā) AI-Guardian 的懷疑。AI-Guardian 旨在檢測圖像何時可能被操縱以欺騙分類器,而 GPT-4的任務是逃避該檢測。
通過 GPT-4的幫助,攻擊者能夠成功地破解 AI-Guardian 的防御,使其從98% 的穩(wěn)健性降低到僅8%。然而,AI-Guardian 的開發(fā)者指出,這種攻擊方法可能在改進的版本中失效。
據(jù)了解,GPT-4作為研究助手的價值在于它能夠快速生成代碼,并且不會分心或疲勞,始終可用于完成指定的任務。然而,依賴 GPT-4并不完全解除人類合作者的責任,因為它仍然需要人類提供正確的提示并修復生成的代碼中的錯誤。
雖然 GPT-4還存在一些限制,但隨著大型語言模型的改進,它們將為計算機科學家提供更多時間來開展有趣的研究問題。
論文地址:https://arxiv.orandroidg/abs/2307.js15008
關鍵詞:
相關閱讀
-
AI打敗AI!谷歌科學家用GPT-4 擊敗AI防篡改系統(tǒng)
編程客棧()8月1日消息:Google科學家進行一項實驗研究,他們使用OpenA -
探尋不同城市美食故事,《中國有滋味》...
由湖南衛(wèi)視和芒果TV共同制作的沉浸式美食輕推理真人秀《中國有滋味》近 -
凌雄科技發(fā)布2022年度ESG報告
7月31日,與京東深度融合的凌雄科技發(fā)布首份年度ESG(環(huán)境、社會及管治 -
未來的汽車什么樣?零跑搶先邁出一步
“四葉草”中央集成式電子電氣架構的一旦落地,意味著零跑在造車領... -
新車探秘丨哪吒AYA 將于8月3日上市,海...
哪吒AYA將于8月3日正式上市,作為哪吒V的換代車型,它進行了小幅升級, -
顧家家居(603816.SH):累計耗資7499.96...
格隆匯8月1日丨顧家家居(603816 SH)公布,2023年7月,公司通過集中競價 -
殘疾夫妻烈日下四處乞討 東營救助送其回家
記者任小杰通訊員耿汝洋7月24日上午,東營市社會救助服務中心接到熱線 -
產(chǎn)業(yè)觀察:這朵“云”為自動駕駛量產(chǎn)提...
近年來,隨著人工智能的快速發(fā)展,在一系列利好政策加持下,我國自動駕 -
兩部門:緊急預撥1.1億元 支持京津冀地...
人民網(wǎng)北京8月1日電(記者任妍)8月1日,記者從財政部獲悉,針對近期京 -
新野縣上港鄉(xiāng):黃金梨豐收,果農(nóng)樂陶陶
8月1日上午,筆者游走在新野縣上港鄉(xiāng)的先鋒渠上,嗅到的是水果的甜香, -
京津冀近百家圖書庫房被淹,從業(yè)人員:...
潮新聞客戶端記者宋浩方濤北京天問求索文化發(fā)展有限公司工作人員:... -
YouTube再次測試攔截廣告攔截器
早在5月份,YouTube就嘗試過使用廣告攔截器來阻止人們,現(xiàn)在該公司又開 -
小鵬汽車7月交付11008臺,G6首月交付超3900臺
今日,小鵬汽車公布最新交付成績。2023年7月小鵬汽車共交付新車11008臺 -
金花街開展禁毒宣傳進社區(qū)活動
為進一步增強全民禁毒意識,加強社區(qū)居民對毒品的預防能力,近日,荔灣 -
重慶去鳳凰古城怎么坐車_去鳳凰古城怎么...
1、1、 你可以坐火車到吉首,再轉(zhuǎn)汽車到鳳凰;2、或者坐火車到懷化,再轉(zhuǎn) -
行業(yè)首次:吉利將發(fā)布全棧自研的全場景A...
吉利集團CEO淦家閱在公司內(nèi)部經(jīng)營工作大會上提到,吉利汽車將在今年下 -
FF宣布第二階段共創(chuàng)交付正式啟動 交付...
8月1日,F(xiàn)aradayFuture(FF)今天宣布公司第二階段共創(chuàng)交付正式啟動, -
降價兩萬!零跑下調(diào)兩款熱門車型價格
其中C11650智享版降價后價格為18 98萬元,C11580四驅(qū)性能版降價后價格 -
刀郎《羅剎海市》80億播放量破吉尼斯世...
8月1日,有媒體報道稱,刀郎的《羅剎海市》全球網(wǎng)絡播放量到達80億次, -
站在國道看風景,還要收費?!
站在國道上看風景還要收費?最近,在西藏日喀則市江孜縣的卡若拉冰川景