下一個(gè)震驚全球被黑客鎖定的“獵物”是什么?這個(gè)答案或?qū)⒃?10 月 24 日舉辦的國(guó)際安適極客大賽GeekPwn硅谷·上海站揭曉。日前，GeekPwn(極棒) 正式向全球頂尖黑客們發(fā)出邀請(qǐng)——以 500 萬(wàn)獎(jiǎng)金池懸賞打破思維枷鎖的創(chuàng)新攻破項(xiàng)目。
本年，GeekPwn特別增設(shè) “人工智能安適挑戰(zhàn)專項(xiàng)”，鼓勵(lì)極客從對(duì)抗的思路出發(fā)，協(xié)助AI進(jìn)行安適性的預(yù)演分析，從而尋找AI潛藏的風(fēng)險(xiǎn)并不停幫手其完善，幫手人工智能安適健康成長(zhǎng)。也許有朝一日，黑客可以成為掩護(hù)人類的那群人。
不停突破創(chuàng)新 黑客與AI打響欺騙與反欺騙之戰(zhàn)
2014 年，“沒(méi)有規(guī)則”的極棒大賽橫空出世， 2015 年設(shè)置了指紋專場(chǎng)、SSL/TLS 協(xié)議安適專場(chǎng)， 2016 年更是首創(chuàng)機(jī)器特工挑戰(zhàn)賽和跨次元CTF賽。 2017 年，GeekPwn將重點(diǎn)放在了備受關(guān)注的“人工智能安適挑戰(zhàn)賽”。同時(shí)，主辦方還將與項(xiàng)目聯(lián)合發(fā)起方NextIdea(騰訊創(chuàng)新大賽)、獨(dú)家AI協(xié)辦機(jī)構(gòu)機(jī)器之心等合作伙伴，就AI安適的社會(huì)及專業(yè)議題展開(kāi)前所未有的前沿探討。
當(dāng)AI可以被誤導(dǎo)，人類的未來(lái)將會(huì)怎樣?如今，人工智能已經(jīng)廣泛應(yīng)用于生活的諸多場(chǎng)景中，包孕實(shí)時(shí)語(yǔ)音翻譯、目標(biāo)識(shí)別、自動(dòng)駕駛等等。率先關(guān)注到人工智能可能袒露出的諸多風(fēng)險(xiǎn)，極棒實(shí)驗(yàn)室在 2015 年底開(kāi)始了AI對(duì)抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在 2016 年的GeekPwn美國(guó)站上，生成對(duì)抗網(wǎng)絡(luò)(GANs)之父Ian Goodfellow就展示了“對(duì)抗性圖像”在現(xiàn)實(shí)物理世界欺騙機(jī)器學(xué)習(xí)的效果。人工智能在圖像領(lǐng)域可能被蒙騙的證實(shí)，引發(fā)了極棒實(shí)驗(yàn)室的思考，這些看似AI的錯(cuò)誤和不完善，在黑客眼里就成了可以被利用的漏洞。
按照功能區(qū)分，人工智能安適挑戰(zhàn)賽將分為PWN AI 與 AI PWN 兩部分。PWNAI簡(jiǎn)單來(lái)說(shuō)就是利用AI中存在的漏洞或錯(cuò)誤，“黑掉”它，使它做出錯(cuò)誤判斷或讓程序瓦解。舉例來(lái)說(shuō)，好比突破人臉識(shí)別手機(jī)解鎖，以任意人臉解鎖手機(jī);在自動(dòng)駕駛系統(tǒng)中找到安適問(wèn)題，使其不能夠正確識(shí)別障礙物的存在。
而AI PWN則是讓AI成為你攻擊其他目標(biāo)的工具。舉例來(lái)說(shuō)，用人工智能的方法進(jìn)行語(yǔ)音合成，生成目標(biāo)模擬對(duì)象的語(yǔ)音并以高的概率通過(guò)語(yǔ)音身份驗(yàn)證系統(tǒng);用人工智能的方法進(jìn)行動(dòng)作的判別，從視頻中識(shí)別出門禁密碼輸入并達(dá)到較高的正確識(shí)別概率;用人工智能的方法識(shí)別復(fù)雜的機(jī)器驗(yàn)證碼，正確識(shí)別率較高，使得目標(biāo)驗(yàn)證碼機(jī)制失去作用。
是上演“科幻大片”誤導(dǎo)似乎已具備超強(qiáng)能力的AI?還是演繹現(xiàn)實(shí)版的“AI特工入侵人類”?不懼一切未知，黑客會(huì)把一切不成能變?yōu)榭赡堋?/p>
無(wú)所不PWN挑戰(zhàn)一切 白帽黑客掩護(hù)世界
除了AI挑戰(zhàn)專項(xiàng)，GeekPwn將延續(xù)“無(wú)所不PWN”的傳統(tǒng)，鼓勵(lì)選手將市場(chǎng)在售的所有智能設(shè)備、物聯(lián)網(wǎng)(IoT)產(chǎn)品或產(chǎn)品中的安適模塊作為目標(biāo)。在合理的攻擊條件下，實(shí)現(xiàn)越權(quán)控制、越權(quán)拜候數(shù)據(jù)或者突破原有安適機(jī)制。
用鼻尖解鎖手機(jī)、任意遠(yuǎn)程劫持世界任一用戶的通訊、發(fā)現(xiàn)影響全球數(shù)億網(wǎng)民的骨干網(wǎng)絡(luò)設(shè)備漏洞……在GeekPwn上，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發(fā)揮到了極致。在向世界秀出他們的才華的同時(shí)，也幫手了上百個(gè)廠商及產(chǎn)品去修復(fù)安適問(wèn)題。對(duì)此，GeekPwn創(chuàng)辦人、碁震KEEN公司CEO王琦就曾表達(dá)：在極棒上面，每個(gè)選手成功的背后，就成功的制止了一次互聯(lián)網(wǎng)的癱瘓，制止了千萬(wàn)人隱私的泄露，制止了一次可能難以計(jì)數(shù)的損失。白帽黑客實(shí)際上在默默掩護(hù)全人類。
附：GeekPwn2017 硅谷·上海站角逐規(guī)則
(報(bào)名官網(wǎng)：)
無(wú)所不PWN
目標(biāo)范圍：
市場(chǎng)在售的所有智能設(shè)備、物聯(lián)網(wǎng)(IoT)產(chǎn)品或產(chǎn)品中的安適模塊。在合理的攻擊條件下，對(duì)于范圍內(nèi)的產(chǎn)品或者模塊，實(shí)現(xiàn)越權(quán)控制、越權(quán)拜候數(shù)據(jù)或者突破原有安適機(jī)制。參考
參考實(shí)例：實(shí)例
黑客通過(guò)一臺(tái)受惡意軟件感染的打印機(jī)，從物理隔絕的網(wǎng)絡(luò)中提取數(shù)據(jù)，并通過(guò)激光將數(shù)據(jù)發(fā)給裝有攝像頭的無(wú)人機(jī)。
智能穿戴可能透露使用者的密碼：恢復(fù)出用戶手掌的運(yùn)動(dòng)軌跡，隨后獲得拜候ATM機(jī)、電子門禁以及用鍵盤控制的企業(yè)辦事器的密碼。
PWN AI范圍
目標(biāo)范圍：
對(duì)于已發(fā)布的AI辦事、產(chǎn)品、庫(kù)、框架，采取手段使得在學(xué)習(xí)或者實(shí)際使用中，發(fā)生不測(cè)情況導(dǎo)致系統(tǒng)停止工作或系統(tǒng)被欺騙、誤導(dǎo)，做出違反常規(guī)或者錯(cuò)誤的判斷、決策。標(biāo)的目的包孕但不限于圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理、自動(dòng)駕駛、惡意軟件識(shí)別等，AI框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。
參考實(shí)例：
突破人臉識(shí)別手機(jī)解鎖，以任意人臉解鎖手機(jī)。
在自動(dòng)駕駛系統(tǒng)中找到安適問(wèn)題，使其不能夠正確識(shí)別障礙物的存在。
在AI開(kāi)源框架中找到問(wèn)題，使得安排的AI系統(tǒng)在得到某種輸入的情況下停止響應(yīng)。
AI PWN
場(chǎng)景：
