欧美色图 亚洲|野外口爆视频国产|久久精品视频观看|97精品人人抽插

有理有據(jù)!全球26名專家撰寫百頁(yè)報(bào)告:警惕AI

2018-03-05 14:22:21 來(lái)源:網(wǎng)易智能 熱度:

來(lái)自14個(gè)組織的26名研究人員對(duì)惡意AI所造成的危險(xiǎn)進(jìn)行了全面的報(bào)告。
 
當(dāng)我們想到人工智能時(shí),我們往往會(huì)想到機(jī)器學(xué)習(xí)的人性化表現(xiàn),比如Siri或Alexa,但事實(shí)是,人工智能在我們身邊主要是作為后臺(tái)進(jìn)程來(lái)運(yùn)行。從醫(yī)學(xué)到金融,人工智能向各種事物的的緩慢蔓延可能很難讓人理解,因?yàn)樗雌饋?lái)與好萊塢在《機(jī)械姬》或《她》等電影中所構(gòu)思的人工智能有很大的不同。事實(shí)上,與人類相比,如今大多數(shù)“人工智能”都是相當(dāng)愚蠢的——機(jī)器學(xué)習(xí)算法可能會(huì)在特定任務(wù)中給予人類一個(gè)重?fù)?,比如下圍棋,但在更普通的任?wù)上,比如區(qū)分烏龜與槍對(duì)其來(lái)說就很困難。

盡管如此,去年2月,一組由26名人工智能研究人員組成的團(tuán)隊(duì)在牛津會(huì)面,討論超人類AI(superhuman artificial intelligence)在未來(lái)可能被應(yīng)用于惡意目的的方式。這次為期兩天的會(huì)議產(chǎn)出了一份長(zhǎng)達(dá)100頁(yè)的報(bào)告,內(nèi)容是關(guān)于人工智能不良應(yīng)用所帶來(lái)的風(fēng)險(xiǎn)以及降低這些風(fēng)險(xiǎn)的策略。
 
工作組提出的四項(xiàng)建議中,有一項(xiàng)是“人工智能的研究人員和工程師應(yīng)當(dāng)謹(jǐn)慎對(duì)待其工作的雙重使用特性,在研究的優(yōu)先級(jí)和規(guī)范中考慮相關(guān)使用不當(dāng)所產(chǎn)生的影響,并在有害應(yīng)用程序可預(yù)見時(shí)主動(dòng)聯(lián)系相關(guān)的參與者。”這一建議尤其適用于最近興起的“deepfakes”,主要把機(jī)器學(xué)習(xí)用于將好萊塢女演員的臉換接到色情演員的身體上(制作人工合成的假色情片)。由Motherboard的Sam Cole最先報(bào)道,這些deepfakes是通過改編一個(gè)名為TensorFlow的開源機(jī)器學(xué)習(xí)庫(kù)來(lái)實(shí)現(xiàn)的,該庫(kù)最初由谷歌工程師開發(fā)。Deepfakes強(qiáng)調(diào)了機(jī)器學(xué)習(xí)工具的雙重使用特性,同時(shí)也提出了一個(gè)問題:誰(shuí)應(yīng)該使用這些工具?
 
盡管報(bào)告中特別提到了Deepfakes,研究人員還強(qiáng)調(diào)了將這種類似的技術(shù)用于處理世界領(lǐng)導(dǎo)人視頻所產(chǎn)生的危害,這會(huì)對(duì)政治安全構(gòu)成威脅,這是研究人員考慮到的三大威脅領(lǐng)域之一。人們只需想象出一段虛假的視頻,如特朗普在平壤向朝鮮宣戰(zhàn)以及由此引發(fā)的后果,就會(huì)明白這種情況的危險(xiǎn)性。此外,研究人員還發(fā)現(xiàn),通過數(shù)據(jù)分析和大規(guī)模有針對(duì)性的宣傳,利用人工智能技術(shù),能實(shí)現(xiàn)前所未有的大規(guī)模監(jiān)控,這是對(duì)政治領(lǐng)域考量的另一個(gè)側(cè)面。
 
另外兩個(gè)被認(rèn)為是惡意人工智能的主要風(fēng)險(xiǎn)領(lǐng)域是數(shù)字和物質(zhì)安全(physical AI?security)。在數(shù)字安全方面,使用人工智能進(jìn)行網(wǎng)絡(luò)攻擊將“緩解現(xiàn)有的攻擊規(guī)模和效率之間的權(quán)衡。”大規(guī)模的網(wǎng)絡(luò)攻擊可能會(huì)以人工智能的形式進(jìn)行,比如大規(guī)模的網(wǎng)絡(luò)釣魚,或者更復(fù)雜的攻擊形式,比如使用語(yǔ)音合成來(lái)模擬受害者。
 
在物質(zhì)AI威脅方面,研究人員觀察到物質(zhì)世界對(duì)自動(dòng)化系統(tǒng)越來(lái)越依賴。隨著更多智能家居和自動(dòng)駕駛汽車上線,人工智能可能被用來(lái)顛覆這些系統(tǒng),并造成災(zāi)難性的破壞。此外,還有故意制造惡意人工智能系統(tǒng)所帶來(lái)的威脅,比如自動(dòng)化武器或微型無(wú)人機(jī)。
 
其中一些場(chǎng)景,比如微型無(wú)人機(jī)所帶來(lái)的災(zāi)難,似乎還很遙遠(yuǎn),而其他的一些,比如大規(guī)模網(wǎng)絡(luò)攻擊、自動(dòng)化武器和視頻操控等,已經(jīng)引發(fā)了一些問題。為了應(yīng)對(duì)這些威脅,并確保人工智能被用于造福人類,研究人員建議開發(fā)新的政策解決方案,并探索不同的“開放模式”以降低人工智能的風(fēng)險(xiǎn)。例如,研究人員認(rèn)為,中央訪問許可模式(central access licensing models)可以確保人工智能技術(shù)不會(huì)落入壞人之手,或者建立某種監(jiān)控程序來(lái)密切記錄人工智能資源的應(yīng)用途徑。

報(bào)告的作者寫道:“目前的趨勢(shì)強(qiáng)調(diào)了對(duì)前沿研究和發(fā)展成果的廣泛開放。如果這些趨勢(shì)在未來(lái)5年持續(xù)下去,我們預(yù)期攻擊者用數(shù)字和機(jī)器人系統(tǒng)造成危害的能力會(huì)顯著提高。”
 
另一方面,研究人員認(rèn)識(shí)到,開源人工智能技術(shù)的擴(kuò)散也將越來(lái)越多地吸引決策者和監(jiān)管機(jī)構(gòu)的注意,他們將對(duì)這些技術(shù)施加更多限制。至于這些政策應(yīng)該具體采取何種形式,必須從地方、國(guó)家和國(guó)際層面上加以考量。報(bào)告總結(jié)說:“這份報(bào)告的合著者之間仍然存在許多分歧,更不用說世界上不同的專家群體了。隨著各種威脅和反饋被發(fā)現(xiàn),在我們得到更多的數(shù)據(jù)之前,這些分歧不會(huì)得到解決。但這種不確定性和專家分歧不應(yīng)阻止我們?cè)诮裉毂M早采取預(yù)防措施。”

責(zé)任編輯:吳一波

相關(guān)推薦

巴帝電信夢(mèng)想成真:107億美元收購(gòu)Zain非洲資產(chǎn)

這筆交易將為巴帝電信在15個(gè)非洲國(guó)家?guī)?lái)4200萬(wàn)用戶,意味著其躋身新興市場(chǎng)頂尖運(yùn)營(yíng)商的夢(mèng)想終于成真。Zain出售非洲資產(chǎn)套現(xiàn)90億美元在雙方約定的107億美元中包括90億美元的股份收購(gòu),支付方式將為現(xiàn)金。其中83億美元將在交易結(jié)束后支付,7億美元將在交易結(jié)束一年后支付。此外,巴帝電信還須代替Zain承擔(dān)起17億美元的綜合債務(wù)。據(jù)稱,Zain可分派儲(chǔ)備和40億美元循環(huán)貸款償付的規(guī)模須經(jīng)股東批準(zhǔn),它打算以股息的形式向股東分配前期大部分凈收入。Zain集團(tuán)董事長(zhǎng)阿薩德·艾爾·班萬(wàn)(AsaadAlBanwan)評(píng)價(jià)該交易時(shí)相當(dāng)?shù)靡猓骸白?005年收購(gòu)Celtel以來(lái),我們大幅增長(zhǎng)成為非洲主要的移動(dòng)運(yùn)

蘋果CEO庫(kù)克暗示不會(huì)推ARM芯片MacBook Air

北京時(shí)間2月4日消息,據(jù)國(guó)外媒體報(bào)道,蘋果首席執(zhí)行官蒂姆庫(kù)克(TimCook)和首席財(cái)務(wù)官彼得奧本海默(PeterOpenheimer)近日與花旗分析師會(huì)談時(shí)指出,由于iPad發(fā)展前景廣闊,所以不太可能去開發(fā)基于ARM芯片的MacBookAir;中國(guó)市場(chǎng)蘊(yùn)含著巨大的增長(zhǎng)潛力;AppleTV前景仍不明朗;而iCloud發(fā)展迅速且非常重要。iPad將繼續(xù)發(fā)展,不會(huì)推出基于ARM芯片的Mac。庫(kù)克重申了他在季度財(cái)報(bào)電話會(huì)議上所說的話,他認(rèn)為平板電腦市場(chǎng)將繼續(xù)發(fā)展,最終將超過傳統(tǒng)PC市場(chǎng)的規(guī)模。蘋果并未將iPad看作是PC產(chǎn)品,而是將它看作一款后PC產(chǎn)品,因此基于ARM芯片的平板電腦將不會(huì)與基于英特爾