2016年GeekPwn硅谷站：谷歌大腦團(tuán)隊(duì)的資深研究員Ian Goodfellow
中新網(wǎng)8月29日電 在人工智能異?；鸨拇蟓h(huán)境下，各種生物識(shí)別技術(shù)的應(yīng)用已經(jīng)越來(lái)越廣泛。聲紋識(shí)別作為生物識(shí)別領(lǐng)域很重要的識(shí)別方式，已經(jīng)逐漸滲透到人們的日常生活：借助聲紋識(shí)別技術(shù)，智能硬件產(chǎn)品將可以實(shí)現(xiàn)“聞聲識(shí)人”；公安機(jī)關(guān)將能更有效地遏制與打擊犯罪；金融機(jī)構(gòu)則得以大幅提高風(fēng)險(xiǎn)防范系統(tǒng)安全性。
2017年，全球最大關(guān)注智能生活的黑客大賽GeekPwn(極棒)，將設(shè)立500萬(wàn)總獎(jiǎng)金池，繼續(xù)探索智能領(lǐng)域的安全問(wèn)題。在保留“無(wú)所不 PWN” 的報(bào)名規(guī)則和比賽形式的基礎(chǔ)上，開(kāi)設(shè)專項(xiàng)“人工智能安全挑戰(zhàn)賽”，招募AI黑客的安全挑戰(zhàn)項(xiàng)目。同時(shí)，還將增設(shè)“AI仿聲驗(yàn)聲攻防賽”，以此鼓勵(lì)全球頂尖AI黑客或AI相關(guān)領(lǐng)域的安全研究團(tuán)隊(duì)積極參與。
以AI的方式擊敗AI “黑客 VS AI”開(kāi)戰(zhàn)在即
如果說(shuō)由于AI的學(xué)習(xí)發(fā)展模式會(huì)導(dǎo)致黑客的蓄意攻擊，那么AI自身的特性也會(huì)引發(fā)“不自覺(jué)的相互攻擊”，這才是AI發(fā)展過(guò)程中最大的隱藏威脅。KEEN公司CEO、GeekPwn大賽發(fā)起人和創(chuàng)辦人王琦表示，隨著AI在交通、金融和醫(yī)療體系中運(yùn)用的愈加完善，一旦AI失去控制，后果將不堪設(shè)想。GeekPwn希望在惡意分子真正動(dòng)手之前，找到對(duì)抗這些攻擊的方法，幫助人工智能更加健康的發(fā)展。
作為全球首個(gè)探索人工智能與專業(yè)安全的前沿平臺(tái)，2017年， GeekPwn首創(chuàng)人工智能安全挑戰(zhàn)專項(xiàng)。根據(jù)功能區(qū)分，人工智能安全挑戰(zhàn)專項(xiàng)分為 PWN AI 與 AI PWN 兩部分。旨在鼓勵(lì)全球黑客自由報(bào)名，對(duì)已發(fā)布的AI 服務(wù)、產(chǎn)品、庫(kù)、框架等發(fā)起挑戰(zhàn)。
同時(shí)， GeekPwn組委會(huì)還在500萬(wàn)總獎(jiǎng)金池中抽出40萬(wàn)獎(jiǎng)金增設(shè)“AI仿聲驗(yàn)聲攻防賽”。即日起，面向全球招募優(yōu)秀AI安全極客或AI研究團(tuán)隊(duì)，用AI的方式向聲紋識(shí)別系統(tǒng)發(fā)起攻擊。
參賽隊(duì)伍將從目標(biāo)人物的聲音中學(xué)習(xí)語(yǔ)音特征并合成音頻，攻擊若干語(yǔ)音驗(yàn)證系統(tǒng)，突破或欺騙目標(biāo)系統(tǒng)本身的用戶身份鑒別功能。王琦針對(duì)大賽規(guī)則解釋到，簡(jiǎn)單來(lái)說(shuō)，就是以AI的方式擊敗AI的防線。屆時(shí)，將會(huì)有10支隊(duì)伍進(jìn)入10月24日在上海舉辦的GeekPwn2017嘉年華，第一名的隊(duì)伍將有可能獲得最高20萬(wàn)元的獎(jiǎng)金。
聲紋識(shí)別已滲透日常生活 方便同時(shí)帶來(lái)安全隱患
人工智能將會(huì)如何改變一個(gè)普通人的日常生活？隨著生物科技的不斷發(fā)展和廣泛應(yīng)用，包括人臉、指紋、掌紋、虹膜等生物特征已被用于公司打卡、軟件系統(tǒng)登錄、家庭或公共場(chǎng)所的安防等多個(gè)場(chǎng)景。由于生物識(shí)別技術(shù)的準(zhǔn)確率已經(jīng)達(dá)到與人工識(shí)別接近的程度。越來(lái)越多的人將目光放在另外一種生物識(shí)別技術(shù)上——聲紋識(shí)別。
在世界范圍內(nèi)，聲紋識(shí)別技術(shù)已應(yīng)用于如金融、證券、刑偵、以及其他民用安全認(rèn)證系統(tǒng)等諸多領(lǐng)域。然而，聲紋識(shí)別所締造的“獨(dú)一無(wú)二”的聲音真的無(wú)法被打破嗎？如果有一天，這些被人們認(rèn)為是安全保障的人工智能被利用或者是攻擊，將會(huì)對(duì)人們的日常生活帶來(lái)怎樣的危害？
在深度學(xué)習(xí)大紅大紫的今天，人工智能已經(jīng)暴露出諸多問(wèn)題。而人工智能與白帽黑客的過(guò)招，早在國(guó)內(nèi)外有各種實(shí)踐。在2016年GeekPwn嘉年華上，來(lái)自谷歌大腦團(tuán)隊(duì)的資深研究員Ian Goodfellow就分享了“對(duì)抗性圖像在物理世界中欺騙機(jī)器學(xué)習(xí)”的成果，僅在一張圖片上加入了人眼無(wú)法察覺(jué)的干擾因素，就輕松騙過(guò)機(jī)器導(dǎo)致其做出了錯(cuò)誤的判斷。
王琦表示，AI并不是萬(wàn)無(wú)一失。AI圖像領(lǐng)域存在被欺騙的可能性，AI被欺騙，看似人工智能的錯(cuò)誤和不完善，但其實(shí)在黑客眼里就有可能變成可以利用的漏洞。針對(duì)AI，黑客可以根據(jù)不同領(lǐng)域的技術(shù)特點(diǎn)，利用障眼法等手段，蒙蔽、欺騙、誘導(dǎo)人工智能出現(xiàn)“失誤”，甚至引發(fā)災(zāi)難。AI的這些失誤，用黑客思維理解，就會(huì)變成可以利用的漏洞。
據(jù)悉，2017年GeekPwn嘉年華將于10月24日、11月13日分別在中國(guó)上海和美國(guó)硅谷共同舉辦，全球頂尖黑客將在GeekPwn的舞臺(tái)上帶來(lái)眾多“前所未見(jiàn)”、“腦洞大開(kāi)”的項(xiàng)目。
微信掃一掃
