嘿，AI，你認(rèn)為你在看甚么？為何有著進(jìn)修算法的機(jī)械還會(huì)受愚認(rèn)知出本不存在的器械？跟著無(wú)人駕駛汽車如許的產(chǎn)物涌現(xiàn)，這一點(diǎn)變得愈來(lái)愈主要。如今，我們可以經(jīng)由過(guò)程一項(xiàng)測(cè)試來(lái)窺識(shí)趣器的年夜腦，這一測(cè)試可使人們曉得人工智能正在看一幅圖象的哪些部門。

　　人工智能和人類完整分歧。羅德島布朗年夜學(xué)的克里斯·格里姆說(shuō)，即便是最好的圖象辨認(rèn)算法，也會(huì)受愚，好比會(huì)將白噪圖象辨認(rèn)成知更鳥(niǎo)或是獵豹，這是一個(gè)年夜成績(jī)。他說(shuō)，假如我們不睬解為何這些體系會(huì)犯愚昧的毛病，那末我們把生命交付給人工智能時(shí)，就應(yīng)該三思爾后行，好比謹(jǐn)慎斟酌能否成長(zhǎng)無(wú)人駕駛汽車。

　　是以，格里姆和他的同事們創(chuàng)立了一個(gè)體系，剖析一小我工智能在辨認(rèn)圖象進(jìn)程中，及時(shí)監(jiān)測(cè)它在存眷圖象的哪一部門。相似地，關(guān)于一種文檔分類算法來(lái)講，該體系顯示了算法應(yīng)用哪些單詞來(lái)決議一種特定文檔應(yīng)當(dāng)屬于哪一個(gè)種別。

　　窺測(cè)內(nèi)涵

　　谷歌的研討人員杜密魯特·埃爾汗說(shuō)，這是一種異常有效的辦法，可以進(jìn)一步懂得人工智能并研討它是若何進(jìn)修的。格里姆的對(duì)象為人們供給了一種便利的方法，讓人可以檢討出一種算法能否準(zhǔn)確地給出了準(zhǔn)確的謎底，他如許說(shuō)道。

　　為了創(chuàng)立他的留意力跟蹤對(duì)象，格里姆在他想要測(cè)試的人工智能上裝置了第二小我工智能。這個(gè)“外包AI”調(diào)換了一張帶有白噪的圖象，來(lái)看看這能否對(duì)原始軟件的斷定發(fā)生了影響。

　　假如調(diào)換部門圖象轉(zhuǎn)變了卻果，那末這個(gè)圖象的區(qū)域極可能是辨認(rèn)進(jìn)程中的一個(gè)主要區(qū)域。這類辦法異樣實(shí)用于說(shuō)話。假如在文檔中轉(zhuǎn)變一個(gè)詞令人工智能對(duì)文檔停止了分歧的分類，那末它就注解這個(gè)詞對(duì)人工智能的決議相當(dāng)主要。

　　格里姆在人工智能上測(cè)試了他的技巧，該人工智能經(jīng)進(jìn)修可將圖象分類為10個(gè)種別，包含飛機(jī)、鳥(niǎo)類、鹿和馬等。他的體系映照出了人工智能在停止分類時(shí)的視野途徑。成果顯示，人工智能曾經(jīng)學(xué)會(huì)了把物體分化成分歧的元素，然后在圖象中搜刮每個(gè)元素，以確認(rèn)其辨認(rèn)成果。

　　辨認(rèn)馬頭

　　例如，當(dāng)看到馬的圖象時(shí)，格里姆的剖析顯示，人工智能起首對(duì)腿停止了親密存眷，然后在圖象中搜刮了它以為能夠是頭的處所——它事后其實(shí)不能曉得這匹馬的頭涌現(xiàn)的處所。關(guān)于包括了鹿的圖象，人工智能也采用了相似的辦法，但在這些情形下，它專門搜刮了鹿角。人工智能簡(jiǎn)直完整疏忽了一個(gè)圖象中的很多部門，這些部門其實(shí)不包括有助于分類的信息。

　　格林和他的同事們也剖析了一個(gè)練習(xí)后可以玩“Pong”（某電子游戲）的人工智能。他們發(fā)明，它簡(jiǎn)直疏忽了屏幕上一切的器械，只是親密存眷著兩根纖細(xì)的挪動(dòng)小柱。人工智能對(duì)一些區(qū)域簡(jiǎn)直沒(méi)有存眷，以致于把小柱從它預(yù)期的處所移開(kāi)后，它就誤認(rèn)為它是在看球而不是小柱。

　　格里姆以為，他的對(duì)象可以贊助人們斷定出人工智能是若何做出決議的。例如，它可以用來(lái)檢討在肺部掃描中檢測(cè)癌細(xì)胞的算法，確保它們不會(huì)經(jīng)由過(guò)程不雅察圖象毛病的部門，卻正好找到準(zhǔn)確的謎底。“你可以看看它能否沒(méi)有留意到準(zhǔn)確的器械，”他說(shuō)，但起首，格里姆想用他的對(duì)象來(lái)贊助人工智能進(jìn)修。

　　假如人工智能沒(méi)有留意到時(shí)，它就會(huì)讓人工智能培訓(xùn)師把他們的軟件直接引誘到到相干的信息上去。