據(jù)國外媒體報導(dǎo)，跟著人工智能的成長，愈來愈多的迷信家開端擔(dān)心人工智能會給人類帶來各類難以估計(jì)的影響，乃至能夠是災(zāi)害。在近日揭幕的“TED2017”年夜會上，盤算機(jī)專家斯圖爾特-拉塞爾再次收回正告稱，人類制作出的事物（人工智能）將能夠退化得比人類更聰慧。拉塞爾建議，人類必需要在機(jī)械人外部預(yù)置不肯定性，以戒備它們的反水。

　　美國加州年夜學(xué)伯克利分校盤算機(jī)傳授斯圖爾特-拉塞爾說明說，固然他自己也支撐人工智能的研討，但總感到制作出一種比本身物種更加聰慧的事物其實(shí)不必定是功德情。拉塞爾建議，為了避免機(jī)械人接收我們?nèi)祟悾覀儽匦柚谱鞒鐾倚牡臋C(jī)械人，即在它們的目的義務(wù)中存在必定法式的不肯定性，應(yīng)當(dāng)教會它們?nèi)祟悆r值不雅方面的常識。經(jīng)由過程向人工智能體系中灌注貫注“人類知識”，迷信家必需從新界說人工智能，如許我們能力制作出無益的機(jī)械。

　　拉塞爾表現(xiàn)，機(jī)械人應(yīng)當(dāng)依照某種軌則或定律去編程，就好比科幻作家艾薩克-阿西莫夫提出的機(jī)械人三定律，以避免它們在履行義務(wù)時形成有意識的損害。艾薩克-阿西莫夫所提出的機(jī)械人三定律重要內(nèi)容包含：1）機(jī)械人不得損害人類，或因作壁上觀令人類遭到損害；2）在不違反第必定律的條件下，機(jī)械人必需屈服人類的敕令；3）在不違反第一落第二定律的條件下，機(jī)械人必需掩護(hù)本身。是以，在為機(jī)械人編程時，就必需將利他主義、謙遜謹(jǐn)嚴(yán)的立場和其它一些人類價值不雅方面的優(yōu)勝性編寫出來。拉塞爾以為，“這是人類與人工智能相互順應(yīng)、協(xié)調(diào)相處的第一步。”

　　不外，蘋果Siri高等研發(fā)主管湯姆-格魯伯對人類和人工智能的將來抱有較為悲觀的立場。他以為，人工智能將可用于加強(qiáng)人類的忘卻力，讓人類不再會忘卻任何工作。格魯伯表現(xiàn)，“人工智能所帶來的超人才能是弗成防止的，這可以或許讓我們記住每一個人的名字，記住聽過的每首歌或許看過的任何事物。人工智能可以或許與人類協(xié)作，而不是很多人所擔(dān)憂的反抗，它們可以或許贊助我們?nèi)祟惪朔O限。若何應(yīng)用這一壯大的迷信技巧，我們有本身的選擇。我們既可讓它們與我們競爭，也能夠讓它們與我們協(xié)作。它們只會讓我們戰(zhàn)勝局限，做得更好。機(jī)械人變得愈來愈聰慧，我們?nèi)祟愐矔颖堵敾邸?rdquo;