欧美色图 亚洲|野外口爆视频国产|久久精品视频观看|97精品人人抽插

研究人員開(kāi)發(fā)“失憶棒” 防止人工智能脫離控制

2017-12-07 13:56:34 來(lái)源:慧聰機(jī)械網(wǎng) 熱度:
人工智能發(fā)展愈發(fā)火熱,推動(dòng)著各領(lǐng)域變革不斷深入。不過(guò),人們也擔(dān)心人工智能會(huì)帶來(lái)威脅。為了防止人工智能脫離人類控制,近日有研究人員開(kāi)發(fā)了類似“記憶清除”的新系統(tǒng)。

    研究人員開(kāi)發(fā)“失憶棒”防止人工智能脫離控制
 

據(jù)英國(guó)《每日郵報(bào)》12月5日?qǐng)?bào)道,研究人員通過(guò)開(kāi)發(fā)類似“記憶清除”的新系統(tǒng)來(lái)防止人工智能(AI)干預(yù)人類的控制,以防AI反控人類。

人工智能機(jī)器人可以從自身行為的結(jié)果中學(xué)習(xí),以提高自己的能力,但專家說(shuō),這種特性可能導(dǎo)致AI的學(xué)習(xí)“無(wú)法停止”?,F(xiàn)在,AI研究人員開(kāi)發(fā)了一種新系統(tǒng),他們把它比作電影《黑衣人》里能清除記憶的“失憶棒”,通過(guò)刪除AI的部分記憶來(lái)中斷它的學(xué)習(xí),而不破壞它的學(xué)習(xí)方式。

瑞士洛桑聯(lián)邦理工學(xué)院分布式編程實(shí)驗(yàn)室的教授RachidGuerraoui說(shuō),“人工智能將尋求方法避免人類干預(yù),創(chuàng)造一種人類無(wú)法阻止的情況。”研究人員稱,必須開(kāi)發(fā)新系統(tǒng),防止AI繞過(guò)人類指令。

Guerraoui說(shuō):“我們面臨的挑戰(zhàn)不是阻止機(jī)器人學(xué)習(xí),而是把它編程。這樣一來(lái),中斷不會(huì)改變它的學(xué)習(xí)過(guò)程,也不會(huì)誘導(dǎo)它去優(yōu)化自身行為,從而避免AI的學(xué)習(xí)被阻止。”
 

責(zé)任編輯:吳禮得