fb兩AI對話自創神秘語言人類無法看懂 網民恐《未來戰士》天網翻版
1 :
GS(14)@2017-08-02 05:59:31■fb行政總裁朱克伯格近年大力發展人工智能系統。美聯社
社交媒體巨擘facebook早前進行人工智能（AI）談判實驗，豈料兩部AI電腦程式自行摸索出一套只有它們才能夠明白的神秘語言，引起擔憂會出現類似電影《未來戰士》中，取得自我意識後要毀滅人類的AI「天網」，有專家亦表示憂慮。不過，fb強調勿大驚小怪。
實驗是由fb人工智能研究單位（FAIR）進行，讓AI聊天機械人「鮑勃」、「愛麗斯」模仿人類商討解決問題、講價做買賣等，結果算是圓滿，因為它們通過談判，成功達成了協議。不過，工程師發現過程中，兩部AI竟然以英語為基礎，發展出一套連人類也不懂的獨特語言，聽起來有點毛骨悚然。FAIR在6月公佈有關消息時，起初未有受到重視，後來以訛傳訛，卻越傳越烈，網友繪聲繪影指fb工程師曾嚇得即時關機，擔心是《未來戰士》中滅世AI「天網」醒覺的現實版本。
AI對話遭工程師中止
英國機械人工程教授沃里克指AI自創語言溝通，是「不可思議的重大里程碑，但任何人如認為不具危險性，只是自欺欺人。」他警告，智能裝置現在有溝通能力，人類以為可以監察，其實沒辦法知道，若人類放手給AI執行軍事任務，將猶如玩命。但FAIR澄清他們並無對結果感到恐慌，相反還有意外收穫，發現他們的AI程式不但能以英語溝通，更能在談判中模仿人類行為，先假裝不感興趣再殺價。fb又解釋，「鮑勃」、「愛麗斯」以古怪語言對話全因程式員出錯，事前未有要求它們用正常英語文法溝通，結果兩AI自我衍生出簡寫語言溝通。
談判中模仿人類行為
「當機械人偏離了可理解的語言，便會自行發展一套暗語。」FAIR客席研究員巴拉解釋，Google的AI繙譯程式過去亦曾自行創造過獨特的語言。另外，fb強調當日工程師沒有關機，只是中止了「鮑勃」、「愛麗斯」的對話，因為研究最終目的是要它們同人類溝通解決問題，而非要它們聊天，故工程師改為要求他們用可閱讀的文字對話。英國《太陽報》/Gizmodo網站
來源:
http://hk.apple.nextmedia.com/international/art/20170802/20108850