今年，AlphaGo（DeepMind 公司研發(fā)） 和 Libratus（卡內(nèi)基梅隆大學(xué)開發(fā)） 分別戰(zhàn)勝了人類最頂級的圍棋棋手和撲克牌玩家。雖然這兩個里程碑事件向世人展示了近些年里人工智能已經(jīng)取得了非常大的突破，但是失敗與成功并存，在過去的一年中同樣也出現(xiàn)了一些人工智能的失敗案例，因此有很多人對這項新興技術(shù)的整體成熟度持懷疑態(tài)度。
但作為人工智能的愛好者，很欣慰看到越來越多的人工智能項目落地，能夠獨立運行，從而部分代替人的工作，但是，它們有時也會出錯，這些錯誤對人類來說可以輕而易舉就能避免，接下來我們從 2017 年人工智能領(lǐng)域最具代表性的十大失敗案例中學(xué)習(xí)經(jīng)驗。
iPhone X 的臉部識別技術(shù)可以通過面具破解

Face ID（刷臉認證方式）是解鎖新型 iPhone X 的面部識別技術(shù)，被譽為迄今為止最安全的人工智能激活方法，蘋果公司宣稱其被破解的幾率為百萬分之一。
但是在其發(fā)布不久之后，越南的一家公司 BKAV 就破解了它，破解的方法是使用 3D 打印的塑料、硅膠、化妝品和剪紙構(gòu)建一個人臉面具，其制造成本大約 150 美元。BKAV 公司首先掃描一個測試對象的臉部，然后使用 3D 打印機生成一個臉部模型，并貼上剪紙眼睛和嘴巴以及硅膠鼻子，這樣一個面具就制作好了。這一破解事件讓整個行業(yè)都感到不安，擴大了消費級設(shè)備隱私的風(fēng)險，威脅到人工智能的安全。
Echo 音響午夜異常開啟
亞馬遜的 Echo 被認為是最強大的智能音響之一，但是任何事情都有其不完美之處。一名德國男子的 Echo 在夜間異常喚醒并開始播放音樂，然而他并不在家。之后音樂聲吵醒了鄰居，鄰居不得不報警。警察只好強行撞開房門把 Echo 音響關(guān)掉，由于門鎖被破壞，警察不得不換一把新鎖，而當(dāng)這名男子回家時發(fā)現(xiàn)自己的鑰匙居然無法打開自己的家門。
Facebook 聊天機器人關(guān)停事件

今年七月，報道稱有兩個 Facebook 聊天機器人因以無法識別的語言相互溝通而被關(guān)停。一時間有關(guān)新的秘密超級智能語言的謠言四起，直到 Facebook 解釋說這次神秘的交流只是由于語法編碼的疏忽造成，謠言才得以停歇。
拉斯維加斯自動駕駛巴士發(fā)生撞車事故
一輛自動駕駛的巴士今年十一月在拉斯維加斯首次亮相，市民可免費乘坐，當(dāng)時著名魔術(shù)師佩恩和泰勒也打算排隊體驗。然而這輛巴士剛剛運行了兩小時，就和一輛半掛卡車發(fā)生了相撞事故。盡管當(dāng)時的情況依照交通規(guī)則責(zé)任主要在半掛卡車，與巴士關(guān)系不大。但是這輛智能巴士上的乘客抱怨道，當(dāng)時卡車靠近的速度很慢，巴士原本可以避開，但是它不夠智能和聰明，從而沒有擺脫危險。
Google Allo 使用頭巾表情符號來回應(yīng)槍支表情

美國有線電視新聞網(wǎng)(CNN)的工作人員通過 Google Allo 收到了一個戴頭巾的人像的表情建議。原來這是由于包含手槍的表情符號引發(fā)的。尷尬之下，Google 只好向公眾致歉并保證它已經(jīng)解決了這個問題。
孿生兄弟破解匯豐銀行語音識別系統(tǒng)
匯豐銀行的語音識別是一個基于人工智能的安全系統(tǒng)，允許用戶通過語音命令訪問他們的賬戶。盡管該公司聲稱這項技術(shù)和指紋識別一樣安全，但一名 BBC 記者的雙胞胎兄弟卻能夠通過模仿他的聲音訪問他的賬戶。嘗試七次就成功了。匯豐銀行暫時的解決辦法是只要失敗超過三次就鎖定用戶的賬戶。
谷歌 AI 將步槍誤識別為直升機

通過對步槍照片進行一些微調(diào)，麻省理工學(xué)院的一個研究小組就蒙蔽了Google Cloud Vision API，使得系統(tǒng)將步槍圖片誤識別為直升機。這個不良樣本會導(dǎo)致計算機通過引入人眼無法察覺的修改來對圖像進行誤識別。在過去，只有當(dāng)黑客知道目標(biāo)計算機系統(tǒng)的內(nèi)部機制時，偽造破壞性樣本才會起作用。而這次，麻省理工學(xué)院的團隊在不需要了解系統(tǒng)內(nèi)部的情況下就觸發(fā)了誤識別。
惡作劇路牌誤導(dǎo)自動駕駛汽車

研究人員發(fā)現(xiàn)，通過使用油漆或膠帶對停止標(biāo)志進行偽裝，可以造成自動駕駛汽車對這些標(biāo)志的誤識別。通過在 STOP 標(biāo)志上添加 “LOVE” 和 “HATE” 這兩個詞可以誤導(dǎo)自動駕駛汽車的機器學(xué)習(xí)系統(tǒng)，造成它將 STOP 路牌誤識別為限速標(biāo)志。經(jīng)測試，幾乎每次都會誤識別成“限速 45 ”。
AI 將 Bank Butt 誤認為 sunset

機器學(xué)習(xí)研究人員 Janelle Shan 訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)，以生成帶有名稱的顏色，名稱應(yīng)當(dāng)和對應(yīng)顏色匹配。以及可以“匹配”每種顏色的名稱。顏色可能令人賞心悅目，但是名字滑稽可笑。盡管他用顏色名稱數(shù)據(jù)進行了少量訓(xùn)練，該模型仍然將天藍色標(biāo)記為“Gray Pubic”，將深綠色標(biāo)記為“Stoomy Brown”。
向虛擬助手 Alexa 提問時需要格外小心
亞馬遜 Alexa 虛擬助手讓網(wǎng)上購物變得更容易。但也許是購物過程太過容易了，1 月份時，圣地亞哥新聞頻道 CW6 曾報道說，有一個六歲的小女孩通過 Alexa 非常簡單地就購買了一個價值 170 美元的玩具屋。故事還沒有結(jié)束，戲劇性的是，當(dāng)電視主持人重復(fù)了這個女孩的話，說：“我喜歡這個小女孩說，'Alexa 請幫我訂一個玩具屋' ”時，一些觀眾家里的 Alexa 設(shè)備再次觸發(fā)了玩具屋訂購操作。