人工智能發(fā)展愈發(fā)火熱，推動著各領(lǐng)域變革不斷深入。不過，人們也擔(dān)心人工智能會帶來威脅。為了防止人工智能脫離人類控制，近日有研究人員開發(fā)了類似“記憶清除”的新系統(tǒng)。

    研究人員開發(fā)“失憶棒”防止人工智能脫離控制
 

據(jù)英國《每日郵報(bào)》12月5日報(bào)道，研究人員通過開發(fā)類似“記憶清除”的新系統(tǒng)來防止人工智能(AI)干預(yù)人類的控制，以防AI反控人類。

人工智能機(jī)器人可以從自身行為的結(jié)果中學(xué)習(xí)，以提高自己的能力，但專家說，這種特性可能導(dǎo)致AI的學(xué)習(xí)“無法停止”。現(xiàn)在，AI研究人員開發(fā)了一種新系統(tǒng)，他們把它比作電影《黑衣人》里能清除記憶的“失憶棒”，通過刪除AI的部分記憶來中斷它的學(xué)習(xí)，而不破壞它的學(xué)習(xí)方式。

瑞士洛桑聯(lián)邦理工學(xué)院分布式編程實(shí)驗(yàn)室的教授RachidGuerraoui說，“人工智能將尋求方法避免人類干預(yù)，創(chuàng)造一種人類無法阻止的情況。”研究人員稱，必須開發(fā)新系統(tǒng)，防止AI繞過人類指令。

Guerraoui說：“我們面臨的挑戰(zhàn)不是阻止機(jī)器人學(xué)習(xí)，而是把它編程。這樣一來，中斷不會改變它的學(xué)習(xí)過程，也不會誘導(dǎo)它去優(yōu)化自身行為，從而避免AI的學(xué)習(xí)被阻止。”