約克大學(xué)的一項(xiàng)新研究表明，通過(guò)使用配置形狀感知，深度卷積神經(jīng)網(wǎng)絡(luò) (DCNN) 無(wú)法與人類(lèi)視覺(jué)處理相匹配。根據(jù)該研究的合著者詹姆斯·埃爾德教授的說(shuō)法，這可能對(duì)人工智能應(yīng)用產(chǎn)生嚴(yán)重而危險(xiǎn)的現(xiàn)實(shí)世界影響。

題為“深度學(xué)習(xí)模型無(wú)法捕捉人類(lèi)形狀感知的配置性質(zhì)”的新研究發(fā)表在細(xì)胞出版社雜志iScience 上。

這是由擔(dān)任約克人類(lèi)和計(jì)算機(jī)視覺(jué)研究主席以及約克人工智能與社會(huì)中心聯(lián)合主任職位的 Elder 與助理心理學(xué)教授和前 VISTA 的 Nicholas Baker 教授的合作研究約克大學(xué)博士后。

新穎的視覺(jué)刺激“科學(xué)怪人”

該團(tuán)隊(duì)依靠被稱(chēng)為“弗蘭肯斯坦”的新型視覺(jué)刺激，幫助他們探索人腦和 DCNN 如何處理整體的、可配置的對(duì)象屬性。

“科學(xué)怪人只是被拆開(kāi)并以錯(cuò)誤方式重新組合在一起的物體，”埃爾德說(shuō)。“因此，它們具有所有正確的地方特征，但在錯(cuò)誤的地方。”

研究發(fā)現(xiàn)，DCNN 不會(huì)像人類(lèi)視覺(jué)系統(tǒng)那樣被科學(xué)怪人混淆。這揭示了對(duì)配置對(duì)象屬性的不敏感。

“我們的結(jié)果解釋了為什么深度 AI 模型在某些條件下會(huì)失敗，并指出需要考慮物體識(shí)別之外的任務(wù)，以了解大腦中的視覺(jué)處理，”Elder 繼續(xù)說(shuō)道。“這些深度模型在解決復(fù)雜的識(shí)別任務(wù)時(shí)往往會(huì)走‘捷徑’。雖然這些捷徑可能在許多情況下都有效，但在我們目前與行業(yè)和政府合作伙伴合作的一些現(xiàn)實(shí)世界人工智能應(yīng)用程序中，它們可能是危險(xiǎn)的。”

圖片：約克大學(xué)

現(xiàn)實(shí)世界的影響

埃爾德說(shuō)，這些應(yīng)用之一是交通視頻安全系統(tǒng)。

“繁忙的交通場(chǎng)景中的物體——車(chē)輛、自行車(chē)和行人——相互阻礙，并以雜亂無(wú)章的碎片形式到達(dá)駕駛員的眼前，”他說(shuō)。“大腦需要正確地對(duì)這些片段進(jìn)行分組，以識(shí)別物體的正確類(lèi)別和位置。一個(gè)只能單獨(dú)感知碎片的交通安全監(jiān)控人工智能系統(tǒng)將無(wú)法完成這項(xiàng)任務(wù)，可能會(huì)誤解易受傷害的道路使用者的風(fēng)險(xiǎn)。”

研究人員還表示，旨在使網(wǎng)絡(luò)更像大腦的訓(xùn)練和架構(gòu)修改并沒(méi)有實(shí)現(xiàn)配置處理。沒(méi)有一個(gè)網(wǎng)絡(luò)能夠準(zhǔn)確地預(yù)測(cè)逐次試驗(yàn)的人類(lèi)對(duì)象判斷。

“我們推測(cè)，為了匹配人類(lèi)的配置敏感性，必須訓(xùn)練網(wǎng)絡(luò)來(lái)解決類(lèi)別識(shí)別之外的更廣泛的對(duì)象任務(wù)，”Elder 總結(jié)道