據(jù)國外媒體報導(dǎo)，跟著人工智能的成長，愈來愈多的迷信家開端擔(dān)心人工智能會給人類帶來各類難以估計的影響，乃至能夠是災(zāi)害。在近日揭幕的“TED2017”年夜會上，盤算機(jī)專家斯圖爾特-拉塞爾再次收回正告稱，人類制作出的事物（人工智能）將能夠退化得比人類更聰慧。拉塞爾建議，人類必需要在機(jī)械人外部預(yù)置不肯定性，以戒備它們的反水。

　　美國加州年夜學(xué)伯克利分校盤算機(jī)傳授斯圖爾特-拉塞爾說明說，固然他自己也支撐人工智能的研討，但總感到制作出一種比本身物種更加聰慧的事物其實不必定是功德情。拉塞爾建議，為了避免機(jī)械人接收我們?nèi)祟?，我們必需制作出忘我心的機(jī)械人，即在它們的目的義務(wù)中存在必定法式的不肯定性，應(yīng)當(dāng)教會它們?nèi)祟悆r值不雅方面的常識。經(jīng)由過程向人工智能體系中灌注貫注“人類知識”，迷信家必需從新界說人工智能，如許我們能力制作出無益的機(jī)械。

　　拉塞爾表現(xiàn)，機(jī)械人應(yīng)當(dāng)依照某種軌則或定律去編程，就好比科幻作家艾薩克-阿西莫夫提出的機(jī)械人三定律，以避免它們在履行義務(wù)時形成有意識的損害。艾薩克-阿西莫夫所提出的機(jī)械人三定律重要內(nèi)容包含：1）機(jī)械人不得損害人類，或因作壁上觀令人類遭到損害；2）在不違反第必定律的條件下，機(jī)械人必需屈服人類的敕令；3）在不違反第一落第二定律的條件下，機(jī)械人必需掩護(hù)本身。是以，在為機(jī)械人編程時，就必需將利他主義、謙遜謹(jǐn)嚴(yán)的立場和其它一些人類價值不雅方面的優(yōu)勝性編寫出來。拉塞爾以為，“這是人類與人工智能相互順應(yīng)、協(xié)調(diào)相處的第一步。”

　　不外，蘋果Siri高等研發(fā)主管湯姆-格魯伯對人類和人工智能的將來抱有較為悲觀的立場。他以為，人工智能將可用于加強(qiáng)人類的忘卻力，讓人類不再會忘卻任何工作。格魯伯表現(xiàn)，“人工智能所帶來的超人才能是弗成防止的，這可以或許讓我們記住每一個人的名字，記住聽過的每首歌或許看過的任何事物。人工智能可以或許與人類協(xié)作，而不是很多人所擔(dān)憂的反抗，它們可以或許贊助我們?nèi)祟惪朔O限。若何應(yīng)用這一壯大的迷信技巧，我們有本身的選擇。我們既可讓它們與我們競爭，也能夠讓它們與我們協(xié)作。它們只會讓我們戰(zhàn)勝局限，做得更好。機(jī)械人變得愈來愈聰慧，我們?nèi)祟愐矔颖堵敾邸?rdquo;