研究人員開(kāi)發(fā)“失憶棒” 防止人工智能脫離控制
2017-12-07 13:56:34 來(lái)源:慧聰機(jī)械網(wǎng) 熱度:
人工智能發(fā)展愈發(fā)火熱,推動(dòng)著各領(lǐng)域變革不斷深入。不過(guò),人們也擔(dān)心人工智能會(huì)帶來(lái)威脅。為了防止人工智能脫離人類控制,近日有研究人員開(kāi)發(fā)了類似“記憶清除”的新系統(tǒng)。
研究人員開(kāi)發(fā)“失憶棒”防止人工智能脫離控制
據(jù)英國(guó)《每日郵報(bào)》12月5日?qǐng)?bào)道,研究人員通過(guò)開(kāi)發(fā)類似“記憶清除”的新系統(tǒng)來(lái)防止人工智能(AI)干預(yù)人類的控制,以防AI反控人類。
人工智能機(jī)器人可以從自身行為的結(jié)果中學(xué)習(xí),以提高自己的能力,但專家說(shuō),這種特性可能導(dǎo)致AI的學(xué)習(xí)“無(wú)法停止”?,F(xiàn)在,AI研究人員開(kāi)發(fā)了一種新系統(tǒng),他們把它比作電影《黑衣人》里能清除記憶的“失憶棒”,通過(guò)刪除AI的部分記憶來(lái)中斷它的學(xué)習(xí),而不破壞它的學(xué)習(xí)方式。
瑞士洛桑聯(lián)邦理工學(xué)院分布式編程實(shí)驗(yàn)室的教授RachidGuerraoui說(shuō),“人工智能將尋求方法避免人類干預(yù),創(chuàng)造一種人類無(wú)法阻止的情況。”研究人員稱,必須開(kāi)發(fā)新系統(tǒng),防止AI繞過(guò)人類指令。
Guerraoui說(shuō):“我們面臨的挑戰(zhàn)不是阻止機(jī)器人學(xué)習(xí),而是把它編程。這樣一來(lái),中斷不會(huì)改變它的學(xué)習(xí)過(guò)程,也不會(huì)誘導(dǎo)它去優(yōu)化自身行為,從而避免AI的學(xué)習(xí)被阻止。”
下一篇:驍龍845五大功能引領(lǐng)產(chǎn)業(yè),突出人工智能和沉浸體驗(yàn)上一篇:浙外引進(jìn)阿里AI批改中文試卷,全球第一份機(jī)器人批改的作文長(zhǎng)這樣
責(zé)任編輯:吳禮得