欧美色图 亚洲|野外口爆视频国产|久久精品视频观看|97精品人人抽插

人工智能的崛起，可能是最好的事，也可能是最糟的事

2017-05-31 13:43:26 來(lái)源：新華社 熱度:
相信大家都知道史蒂芬·威廉·霍金，這位英國(guó)著名物理學(xué)家和宇宙學(xué)家，提出了黑洞蒸發(fā)現(xiàn)象和無(wú)邊界的霍金宇宙模型，被譽(yù)為“宇宙之王”。對(duì)于人工智能，他是期待還是擔(dān)憂呢？今天來(lái)看一份新華社對(duì)其演講稿的整理。
 
史蒂芬·威廉·霍金，英國(guó)著名物理學(xué)家和宇宙學(xué)家，提出了黑洞蒸發(fā)現(xiàn)象和無(wú)邊界的霍金宇宙模型，被譽(yù)為“宇宙之王”。
 
在我的一生中，見(jiàn)證了很多社會(huì)深刻的變化。其中最深刻，同時(shí)也是對(duì)人類影響與日俱增的變化就是人工智能的崛起。
 
簡(jiǎn)單來(lái)說(shuō)，我認(rèn)為強(qiáng)大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。
 
是好是壞，我們依然不能確定。人工智能的發(fā)展，本身是一種存在著問(wèn)題的趨勢(shì)，我們應(yīng)該竭盡所能，確保其未來(lái)發(fā)展對(duì)我們的后代和環(huán)境有利。
 
也許我們的科學(xué)研究應(yīng)暫停片刻
 
人工智能的研究與開(kāi)發(fā)正在迅速推進(jìn)。也許科學(xué)研究應(yīng)該暫停片刻，從而使研究重點(diǎn)從提升人工智能的能力轉(zhuǎn)移到最大化人工智能的社會(huì)效益上面。
 
基于這樣的考慮，美國(guó)人工智能協(xié)會(huì)（AAAI）于2008至2009年，成立了人工智能長(zhǎng)期未來(lái)總籌論壇，他們工作的原則是人工智能必須按照我們的意志工作。

 
文明所產(chǎn)生的一切都是人類智能的產(chǎn)物，但是現(xiàn)在“計(jì)算機(jī)在理論上可以模仿人類智能，然后超越”這一原則正在被人們所接受。但我們并不確定，我們將無(wú)限地得到人工智能的幫助，還是被藐視并被邊緣化，甚至很可能被它毀滅。至少現(xiàn)在，聰明的機(jī)器正在代替人類所從事的工作，并迅速地消滅數(shù)以百萬(wàn)計(jì)的工作崗位。
 
在人工智能從原始形態(tài)不斷發(fā)展，并被證明非常有用的同時(shí)，我也在擔(dān)憂這個(gè)結(jié)果，即創(chuàng)造一個(gè)可以等同或超越人類智能的人工智能，人工智能一旦脫離束縛，將以不斷加速的狀態(tài)重新設(shè)計(jì)自身。未來(lái)，人工智能可以發(fā)展出自我意志，一個(gè)與我們沖突的意志，人類由于受到漫長(zhǎng)的生物進(jìn)化的限制，無(wú)法與之競(jìng)爭(zhēng)，將被取代。
 
很多人認(rèn)為人類可以在相當(dāng)長(zhǎng)的時(shí)間里控制技術(shù)的發(fā)展，這樣我們就能看到人工智能可以解決世界上大部分問(wèn)題的潛力。但我并不確定，盡管我對(duì)人類一貫持有樂(lè)觀的態(tài)度。
 
要保證創(chuàng)造出可控的人工智能
 
2015年1月份，我和科技企業(yè)家埃隆·馬斯克，以及許多其他的人工智能專家簽署了一份關(guān)于人工智能的公開(kāi)信。目的是提倡就人工智能對(duì)社會(huì)所造成的影響，做認(rèn)真的調(diào)研。
 
在這之前，埃隆·馬斯克就警告過(guò)人們：超人類人工智能可能帶來(lái)不可估量的利益。但如果部署不當(dāng)，則可能給人類帶來(lái)相反的效果。我和他同在“生命未來(lái)研究所”擔(dān)任科學(xué)顧問(wèn)委員會(huì)的職務(wù)，這是一個(gè)旨在緩解人類所面臨的存在風(fēng)險(xiǎn)的組織。之前提到的公開(kāi)信也是由這個(gè)組織起草的。
 
對(duì)于決策者和普通大眾來(lái)說(shuō)，這封公開(kāi)信內(nèi)容翔實(shí)，并非危言聳聽(tīng)。人工智能具有根除疾患和貧困的潛力，但是研究人員必須能夠保證創(chuàng)造出可控的人工智能。
 
那封公開(kāi)信只有四段文字，題目為《應(yīng)優(yōu)先研究強(qiáng)大而有益的人工智能》，在其附帶的十二頁(yè)文件中，對(duì)研究的優(yōu)先次序作了詳細(xì)安排。
 
智能是一個(gè)與統(tǒng)計(jì)學(xué)和經(jīng)濟(jì)學(xué)相關(guān)的理性概念。通俗地講，這是一種能做出好的決定、計(jì)劃和推論的能力，大量的整合和交叉成果被應(yīng)用在人工智能、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)、控制論、神經(jīng)科學(xué)以及其他領(lǐng)域。共享理論框架的建立，結(jié)合數(shù)據(jù)的供應(yīng)和處理能力，在各種細(xì)分的領(lǐng)域取得了顯著的成功，例如語(yǔ)音識(shí)別、圖像分類、自動(dòng)駕駛、機(jī)器翻譯、步態(tài)運(yùn)動(dòng)和問(wèn)答系統(tǒng)。
 
隨著這些領(lǐng)域的發(fā)展，從實(shí)驗(yàn)室研究到有經(jīng)濟(jì)價(jià)值的技術(shù)形成了良性循環(huán)。哪怕很小的性能改進(jìn)，都會(huì)帶來(lái)巨大的經(jīng)濟(jì)效益，進(jìn)而鼓勵(lì)更長(zhǎng)期、更偉大的投入和研究。人工智能的研究正在穩(wěn)步發(fā)展，而它對(duì)社會(huì)的影響很可能還在擴(kuò)大，我們無(wú)法預(yù)測(cè)我們會(huì)取得什么成果，這種成果可能是被人工智能工具放大過(guò)的。
 
正如我說(shuō)的，根除疾病和貧窮并非完全不可能，由于人工智能的巨大潛力，研究如何規(guī)避風(fēng)險(xiǎn)是非常重要的。
 
 
秉持樂(lè)觀態(tài)度對(duì)潛在災(zāi)難有所認(rèn)識(shí)
 
關(guān)于人工智能的研究正在迅速發(fā)展，這一研究可以從短期和長(zhǎng)期來(lái)分別討論。
 
短期擔(dān)憂：
 
1. 無(wú)人駕駛。
 
從民用無(wú)人機(jī)到自主駕駛汽車。在緊急情況下，一輛無(wú)人駕駛汽車不得不在小風(fēng)險(xiǎn)的大事故和大概率的小事故之間進(jìn)行選擇。
 
2. 致命性智能自主武器。
 
它們是否該被禁止？如果是，那么“自主”該如何精確定義。如果不是，任何使用不當(dāng)和故障的過(guò)失應(yīng)該如何被問(wèn)責(zé)？
 
3. 隱私的擔(dān)憂。
 
由于人工智能逐漸開(kāi)始解讀大量監(jiān)控?cái)?shù)據(jù)，會(huì)造成隱私上的擔(dān)憂，以及如何管理因人工智能取代工作崗位帶來(lái)的經(jīng)濟(jì)影響。
 
長(zhǎng)期擔(dān)憂主要是人工智能系統(tǒng)失控的潛在風(fēng)險(xiǎn)。
 
隨著不遵循人類意愿行事的超級(jí)智能的崛起，強(qiáng)大的系統(tǒng)可能會(huì)威脅到人類發(fā)展。這種錯(cuò)位是否會(huì)發(fā)生？如果會(huì)，那些情況是如何出現(xiàn)的？我們應(yīng)該投入什么樣的研究，以便更好地理解和解決危險(xiǎn)的超級(jí)智能崛起的可能性，或智能爆發(fā)的出現(xiàn)？
 
當(dāng)前控制人工智能技術(shù)的工具，例如強(qiáng)化學(xué)習(xí)，簡(jiǎn)單實(shí)用的功能，還不足以解決這些系統(tǒng)失控的問(wèn)題。因此，我們需要進(jìn)一步研究來(lái)找到和確認(rèn)一個(gè)可靠的解決辦法來(lái)掌控這一問(wèn)題。
 
近來(lái)的里程碑，比如之前提到的自主駕駛汽車，以及人工智能贏得圍棋比賽，都是未來(lái)趨勢(shì)的跡象，巨大的投入傾注到這項(xiàng)科技。我們目前所取得的成就，和未來(lái)幾十年后可能取得的成就相比必然相形見(jiàn)絀。
 
而且我們遠(yuǎn)不能預(yù)測(cè)我們能取得什么成就。當(dāng)我們的頭腦被人工智能放大以后，也許在這種新技術(shù)革命的輔助下，我們可以解決一些工業(yè)化對(duì)自然界造成的損害。關(guān)乎到我們生活的各個(gè)方面都即將被改變。
 
簡(jiǎn)而言之，人工智能的成功有可能是人類文明史上最大的事件。
 
但人工智能也有可能是人類文明史的終結(jié)，除非我們學(xué)會(huì)如何避免危險(xiǎn)。我曾經(jīng)說(shuō)過(guò)，人工智能的全方位發(fā)展可能招致人類的滅亡。比如最大化使用智能性自主武器。今年早些時(shí)候，我和一些來(lái)自世界各國(guó)的科學(xué)家共同在聯(lián)合國(guó)會(huì)議上支持其對(duì)于核武器的禁令。我們正在焦急地等待協(xié)商結(jié)果。
 
目前，九個(gè)核大國(guó)可以控制大約一萬(wàn)四千個(gè)核武器，它們中的任何一個(gè)國(guó)家都可以將城市夷為平地，放射性廢物會(huì)大面積污染農(nóng)田，最可怕的危害是誘發(fā)核冬天，火和煙霧會(huì)導(dǎo)致全球的小冰河期。
 
這一結(jié)果使全球糧食體系崩塌，末日般動(dòng)蕩，很可能導(dǎo)致大部分人死亡。我們作為科學(xué)家，對(duì)核武器承擔(dān)著特殊的責(zé)任。正是科學(xué)家發(fā)明了核武器，并發(fā)現(xiàn)它們的影響比最初預(yù)想的更加可怕。
 
我對(duì)人工智能的災(zāi)難探討可能驚嚇到了各位。很抱歉。但是作為今天的與會(huì)者，重要的是，在影響當(dāng)前技術(shù)的未來(lái)研發(fā)中，大家要清楚自己所處的位置。
 
去年10月，我在英國(guó)劍橋建立了一個(gè)新的機(jī)構(gòu)，試圖解決一些在人工智能研究快速發(fā)展中出現(xiàn)的尚無(wú)定論的問(wèn)題。“利弗休姆智能未來(lái)中心”是一個(gè)跨學(xué)科研究所，致力于研究智能的未來(lái)，這對(duì)我們文明和物種的未來(lái)至關(guān)重要。
 
我們對(duì)潛在危險(xiǎn)有所意識(shí)，我內(nèi)心仍秉持樂(lè)觀態(tài)度，我相信創(chuàng)造智能的潛在收益是巨大的。也許借助這項(xiàng)新技術(shù)革命的工具，我們將可以削減工業(yè)化對(duì)自然界造成的傷害。
 
每個(gè)機(jī)器人設(shè)計(jì)都應(yīng)包含終止開(kāi)關(guān)
 
人工智能的最新進(jìn)展，包括歐洲議會(huì)呼吁起草一系列法規(guī)，以管理機(jī)器人和人工智能的創(chuàng)新。令人些許驚訝的是，這里涉及到了一種形式的電子人格。以確保最有能力和最先進(jìn)的人工智能盡到其應(yīng)盡的權(quán)利和責(zé)任。
 
歐洲議會(huì)發(fā)言人評(píng)論說(shuō)，隨著日常生活中越來(lái)越多的領(lǐng)域日益受到機(jī)器人的影響，我們需要確保機(jī)器人無(wú)論現(xiàn)在還是將來(lái)，都為人類而服務(wù)。
 
向歐洲議會(huì)議員提交的報(bào)告，明確認(rèn)為世界正處于新的工業(yè)機(jī)器人革命的前沿。報(bào)告中分析了是否應(yīng)該給機(jī)器人提供作為電子人的權(quán)利，這等同于法人身份。
 
報(bào)告強(qiáng)調(diào)，在任何時(shí)候，研究和設(shè)計(jì)人員都應(yīng)確保每一個(gè)機(jī)器人設(shè)計(jì)都包含有終止開(kāi)關(guān)。在庫(kù)布里克的電影《2001太空漫游》中，出故障的超級(jí)電腦哈爾沒(méi)有讓科學(xué)家們進(jìn)入太空艙，但那是科幻，我們要面對(duì)的則是事實(shí)。
 
報(bào)告承認(rèn)在幾十年的時(shí)間內(nèi)，人工智能可能會(huì)超越人類智力范圍，進(jìn)而挑戰(zhàn)人機(jī)關(guān)系。
 
報(bào)告最后呼吁成立歐洲機(jī)器人和人工智能機(jī)構(gòu)，以提供技術(shù)、倫理和監(jiān)管方面的專業(yè)知識(shí)。如果歐洲議會(huì)議員投票贊成立法，該報(bào)告將提交給歐盟委員會(huì)。它將在三個(gè)月的時(shí)間內(nèi)決定要采取哪些立法步驟。
 
在人工智能發(fā)展進(jìn)程中，我們還應(yīng)該扮演一個(gè)角色，確保下一代不僅僅有機(jī)會(huì)還要有決心。在早期階段充分參與科學(xué)研究，以便他們繼續(xù)發(fā)揮潛力，幫助人類創(chuàng)造一個(gè)更加美好的世界。這就是我剛談到學(xué)習(xí)和教育的重要性時(shí)所要表達(dá)的意思。我們需要跳出“事情應(yīng)該如何”這樣的理論探討，并且采取行動(dòng)，以確保他們有機(jī)會(huì)參與進(jìn)來(lái)。
 
我們站在一個(gè)美麗新世界的入口。這是一個(gè)令人興奮的、同時(shí)充滿了不確定性的世界，而你們是先行者。我祝福你們。

責(zé)任編輯：黃焱林