📖 ZKIZ Archives

對不起，Facebook的AI系統沒有“失控”……

黑智 2017-08-02 15:48

文 | 楊潔    編輯 | 黑智

機器碾壓人類的時刻要到了？

馬斯克和紮克伯格關於AI威脅論的爭論還沒有遠去，日前，又傳出Facebook關閉了一個“失控”的人工智能系統的新聞，據稱是因為聊天機器人開始用他們自己的語言說話，這些語言使用英語單詞，但人類無法理解。

據報道稱，Facebook 於 6 月開始測試的 AI 系統出現了問題，兩個智能對話機器人在對話時“失控”了。當然，它們並沒有關閉全球的電腦或者作出其他什麽類似的行動來，而是它們在對話時停止使用英語，並開始使用只有它們自己才能理解的新創建的語言。Facebook不得不拔掉正在研究的人工智能系統的插頭。

和馬斯克表示人工智能是人類文明面臨的最大風險、應該積極“監管”的言論對照，這自然讓人容易產生更大的擔憂。機器是否可以脫離研究人員設置的腳本，改善溝通的結果，進而“欺騙”人類？

但事實上，這個擔心還是太早了。

很快，Facebook解釋稱，兩個機器人為實驗性質，且並沒有發明新的語言，因為他們還是在用i、balls、the等英文單詞溝通，只是沒有設置“英語語法”的激勵項，於是創造了一種新的表達方式而已。因此，官方也表示，他們關閉人工智能系統的原因也並非是由於它們“失控”，而是因為這樣做沒有意義，因為他們更“希望AI和人溝通，而不是相互溝通。”

所以，大概的原因，我們可以解釋為，這兩臺機器，它們只是英語不好。

就如同兩個嬰幼兒，在用大人聽不懂的話交流，但是其基礎還是人類語言。

但不用擔心的是，這兩個孩子沒有人類一樣複雜的思維和創造力。

壹

AI威脅論已經不是個新鮮話題了。

幾年前，谷歌旗下人工智能實驗室DeepMind的聯合創始人哈薩比斯造訪馬斯克的SpaceX火箭工廠時，馬斯克說，SpaceX的終極目標是這個世界上最重要的項目：星際殖民，這樣“將來如果人工智能向人類發起攻擊，我們還有一個藏身之地。”

哈薩比斯的反應是哈哈大笑說，那人工智能也會追著人類去火星。

因此，馬斯克的擔憂一直沒有被打消。

著名物理學家霍金也抱有同樣的憂慮。他曾向BBC表示：“我認為，人工智能的發展可能預示著人類的滅亡。”

貳

人工智能是否如此兇猛？

李開複在給Quartz的約稿中提到：人工智能擅長對目標明確的工作進行優化（但是不能創造，沒有感情）；機械控制的發展速度較人工智能軟件的發展要緩慢得多；傳感器雖然得到迅猛發展，但價格昂貴、體積偏大且太耗電。

人工智能時代正在走近，機器在幫助我們提升工作效率、節省成本、帶來效益，甚至在高重複性勞動中能夠替代人的部分工作，但是，它們還遠不具備“人性”。人工智能在數年前，還連貓和狗都無法區分。它們現在，也許只是攝像頭、車輛中的自動駕駛系統、按照設置腳本完成工作的物流機器人，或者輔助教學的工具。

擁有自我意識、情感的機器，目前還沒有出現。

那麽，這一天是否終會到來呢？

魯白曾在博鰲論壇上表示：“人工智能可以有認知功能，包括邏輯思維分析，以及決策之類。人還有另外的一個方面的認知叫做高級認知功能，里面包括語言包括自我的意識，包括想象力、創造力最後還有人所特有的一種目的性的行為，而我認為，人類是在這方面，是不能被機器代替的。”

在深圳IT領袖峰會上，李彥宏曾表示，機器學習的算法還在初級階段，未來還有很多提升空間，但同時，他說，強人工智能時代，可能永遠也不會到來，用電腦的方法模擬人腦，達到人腦的水平，是永遠做不到的：“人工智能什麽時候能挑戰人的認知能力？我覺得還有很長很長的時間。我說話比較保守，我說很長，但我其實認為，這一天永遠不可能來到。”

叁

但對人工智能，人類對它的“不信任”是存在的。因為，從本質上看，目前深度學習，是個非常黑的“黑箱”。也即是，你是不能看出它是如何工作的。也許機器輸出的結果，可以給到合理的解釋，但也有可能，有的你還完全沒有任何理由去推斷。

因此，我們在利用機器決策時，不能簡單地去相信或拒絕相信它的判斷，同樣，我們也要保證，如何讓AI系統學會作出符合我們道德標準和社會規範的判斷。

之前，美國五大科技巨頭谷歌、Facebook、亞馬遜、IBM和微軟罕見攜手，成立了人工智能合作組織。此外，歐盟也開始探討機器人和人工智能方面的道德問題。

當然，AI之間對抗的實驗也已經在進行。

Google本部的人工智能團隊Google Brain（不是 DeepMind），就針對這個問題在去年做了實驗。研究者用到了三個並不複雜的神經網絡，其中兩個均未學過任何的加密知識，而是單純依靠二者之間的共識（一段共享的密鑰 K），去設計出一個加密的方法；另一個則為解密方。

結果發現他們搭建的人工智能系統，自己創造出了一個加密算法，不光人猜不透，還能“自我升級”，讓算法無法破解。

DeepMind 則是找了兩個人工智能玩對抗遊戲，結果發現，它們之間也能學會共贏和合作。

在今年5月烏鎮的圍棋峰會的人機配對賽中，即將終局前，面對劣勢，與古力搭檔的AlphaGo決定投子認輸，古力卻拒絕了AlphaGo的要求，仍堅持鏖戰。而之後，AlphaGo的棋路變得越來越消極，最終，古力在不可逆轉的情勢下，也只得認輸。

但是，這些實驗並沒有脫離人類的控制，作為環境的搭建者，人類需要設計和搭建神經網絡，以及對失敗和成功的定義等。

但對於AI威脅論，在馬斯克忙碌之余，我們或許現在還大可以放下心來。用馬雲的話說，現在AlphaGo還不會下臭棋，那麽，so what?

文章評論

匿名用戶

發布

全部評論：10

發布