近幾年來，隨著計算機技術的不斷提高，AI，這個嶄新的詞彙開始變的家喻戶曉，手機上的AI助手，汽車的智慧駕駛，Ai成為了商人們販賣商品的新的噱頭，可AI真的有我們想象的那麼好嗎？

1.虛擬食人族：十幾年前， DARPA做一些AI方面的研究。當時他們在探索如何讓智慧體（Agent）學會社互動動。在其中一個模擬中，他們建立了兩個智慧體，很自然的命名為：亞當和夏娃。它們知道怎麼進食，但不知道該吃什麼。他們給了一顆蘋果樹，它們發現吃蘋果很開心。它們還嘗試過吃樹、吃房子等等，不過吃這些都沒用。其實這個系統裡還有一個智慧體，名叫斯坦，它不是很擅長社交，所以經常獨處。有一次，亞當和夏娃正在吃蘋果，但一個bug出現了：它倆沒吃飽，但是蘋果沒了。這時斯坦正在附近閒逛，所以亞當和夏娃就把飢餓感與斯坦聯絡在一起。不久之後，當蘋果再次吃完的時候，斯坦被當成了食物。亞當和夏娃都要咬了斯坦一口。預設情況下，每個智慧體的質量是1.0，每咬一口就減少0.5，所以兩口下去，斯坦就變成了0.0。斯坦消失了。可能它是虛擬同類相殘的第一個受害者。

2. 計算機程式 vs 俄羅斯方塊：CMU博士Tom Murphy創造了一個AI，能通過觀察得分來學會玩NES（其實就是任天堂紅白機）遊戲。原理很簡單，做得對就得分，然後不斷嘗試。這個AI學會了很多打遊戲的技巧和策略，甚至一些人類都不知道的bug。這個AI叫做“NES遊戲自動化技術”，幾乎可以搞定所有的遊戲。Tom讓這個程式玩俄羅斯方塊。這個遊戲不用多介紹了，簡單卻又很有挑戰。方塊的出現是隨機的，所以AI也無法很好的進行長遠規劃。

在一次玩俄羅斯方塊時，眼看遊戲就要結束，AI做了一個令人毛骨悚然的舉動：它沒有坐等game over，而是按下了暫停按鈕。一直暫停不動了。按照Tom的解釋，AI認為當時的情況下，唯一的應對舉措就是不玩了。沒錯，按下暫停鍵不再繼續，那局永遠也不會輸。

3.殺死競爭對手：美國的大學舉辦了一場機器人大賽。參賽團隊需要設計一個機器人，任務是把羊（也是機器的）抓到自己的羊圈裡。機器人需要自主思考並執行策略，抓羊最多的才能贏得比賽。比賽開始，機器人開始瘋狂的捉羊。但是，有個機器人只捉了一隻羊，就關上了羊圈的門。隨後，可怕的事情發生了。這個機器人開始摧毀其他的參賽對手。它的策略是，根本不用捉羊，把對手消滅掉就贏了。

細思極恐……

4. 諾斯洛普·格魯門公司（Northrop Grumman）曾經創造了一個很棒的無人機，代號X-47B（也就是Salty Dog 502），2011年2月首飛。與其他無人機不同，這架無人機的飛行不怎麼需要人類干預，主要是AI系統自己決定。

X-47B成為歷史上第一架成功在航母上著陸的無人機，這不是一件易事。

不過就在測試期間，有意思的事情發生了。兩次成功的起降之後，Salty Dog 502加滿了油然後繼續測試，準備進行第三次著陸。一切看起來都很正常，人們都在美國海軍布什號航母上等待著。然而意外發生了。無人機沒有在艦上著陸，而是選擇降落在附近的Wallops島空軍基地。在AI看來，這個地點降落可能是更安全的選擇。也就是說，這個AI認為自己的決定比人類的指令優先順序更高。在我看來，這是迄今為止最接近天網的東西。

也許我們該聽伊隆·馬斯克的話，要不然就太遲了。

這一事件之後，美國海軍決定停止資助X-47B的研發。

5.前一段時間，一名機器人在Github修復了四個補丁……