📖 ZKIZ Archives

“人工智能就像是人類的一面鏡子”

在采訪日本機器人工程師石黑浩時，石黑浩制造的人形機器人嚇了楊瀾一跳。“五官還在動，”楊瀾向南方周末記者描述，“似人非人的，極其恐怖。”（視覺中國/圖）

（本文首發於2017年5月19日《南方周末》，原標題為《“人工智能就像是人類的一面鏡子” 楊瀾探尋人工智能之後》）

人類有出奇制勝和不按常理出牌的能力，哪怕贏一局我覺得他也是贏。

人類向未知和不確定性挑戰，這本身就是人類最高的智能，也是人類智能當中最可貴的一種。

——楊瀾談柯潔大戰阿爾法狗

2016年12月，楊瀾在中國電子科技大學做了一次演講。面對禮堂里兩千多名理工科學生，楊瀾形容自己的心情“是崩潰的”：“我沒想冒充這方面的專家。”她演講的主題是人工智能。

演講結尾，楊瀾講起一段半個世紀前的著名對話。“人工智能之父”馬文·明斯基說：“我們要讓機器變得智能，讓它們擁有意識。”“鼠標之父”恩格爾巴特回道：“你打算為機器做這些？那你打算為人類做些什麽呢？”

“我拿這個作為演講收尾，是希望這些將來可能成為人工智能探索者的人，心里要有人文關懷這桿秤。”楊瀾告訴南方周末記者。

《楊瀾訪談錄》做了快20年，拜訪國際政要、名流明星，每周跟著新聞跑。楊瀾想“沈下來”，“就某個話題做相對完整深入的報道分析”。

“我之前看過一篇報道，講未來50年內，人的思想可能會變成算法，被儲存在電腦上。如果是這樣，人是不是就獲得了某種意義上的永生？”楊瀾很好奇。

2016年初，楊瀾開始籌備專題紀錄片《探尋人工智能》。3月，韓國棋手李世石對戰阿爾法狗，“人機大戰”爆發。2017年5月底，中國棋手柯潔又將挑戰阿爾法狗，此時，這部紀錄片正好在江蘇衛視播出。

早在1997年，阿爾法狗的前身“深藍”就戰勝了國際象棋冠軍卡斯帕羅夫。次年楊瀾采訪了圍棋國手常昊，在中國棋院的門口，她斷言：機器能戰勝象棋冠軍，但是戰勝不了圍棋冠軍：“圍棋變幻無窮，考驗的是全局戰略和直覺先機，落子的可能性加起來約10的172次方。”如今，阿爾法狗在圍棋界所向披靡。楊瀾將自己“打臉”的話放進了紀錄片。

柯潔即將對戰阿爾法狗，楊瀾覺得柯潔未必沒有勝數：“人類有出奇制勝和不按常理出牌的能力，哪怕贏一局，我覺得也是贏。”她的另一個看法是：“人類向未知和不確定性挑戰，這本身就是人類最高的智能，也是人類智能當中極其可貴的一種。”

超過五年的預想，就是科幻了

2016年，楊瀾及其團隊制作完成了《探尋人工智能》紀錄片。一年後播出時，片中一些人物的頭銜卻“過期”了。百度首席科學家吳恩達已經離職，斯坦福大學人工智能實驗室負責人李飛飛則加入了谷歌。

這些“過期”並沒有困擾到楊瀾，反倒讓她註意到一個現象：“你會發現，學界、科技界、創業界、資本之間的流動是非常快的，既有從學術界到IT行業的，也有反過來流動的。這樣的人才流動，學界和企業界的互補，就使得實驗室的東西很快應用於生活場景，生活場景又很快回到學術領域加以研判。”

而學界與應用界的流動，從人工智能誕生起就開始了。在英國，楊瀾參觀了存放在布萊切利公園博物館中的圖靈“炸彈”機複制品。二戰期間，數學家阿蘭·圖靈利用機器破解了德軍的密碼系統英格瑪。戰後，他提出了“圖靈測試”，至今都是機器具有人類思考力的測試標準。

沿著歷史脈絡，楊瀾和她的紀錄片團隊梳理了人工智能從誕生到當下“人機大戰”的發展歷程。

1956年，在美國的達特茅斯學院，麥卡賽、明斯基、羅切斯特、申弄等一批青年學者開了一次研討會，首次提出“人工智能”這個詞，標誌著這個計算機分支學科的誕生。

明斯基有一個著名觀點：人不過是肉做的機器，而鋼鐵做的機器有一天也能思考，人與機器的邊界將不存在。未來世界將人機共存。

被稱為“半機械人”的英國雷丁大學教授凱文·沃維克，就在2003年時做過一次大膽的實驗，他將芯片植入自己的左臂，自己的神經系統可上傳至互聯網。沃維克的妻子也在手臂中植入了芯片，夫妻倆神經系統連在了一起。通過這樣的連接，二人可以實現簡單的信息傳輸。

楊瀾問他：“你確定想讓對方知道你的所有想法嗎？”沃維克以笑帶過了這個問題。接下來，這位科學家還想做大腦間的通信實驗，那得在腦中植入芯片，風險更大。上一個實驗，他縫了100針，每一針上，都有電極將芯片與人的神經相連，這差點讓他失去手的原本功能。

半機械人、人機共處的未來會怎樣，科幻電影給出了更為具體的想象，紀錄片《探尋人工智能》里引用了《大都會》《2001太空漫遊》《模仿遊戲》《機械姬》《她》等電影片段。

“很多人工智能電影，劇情都是機器被變成一個邪惡的東西，然後失控，要毀滅人類。你看，最早瑪麗·雪萊在《弗蘭肯斯坦》這本書里寫的就是這樣的故事。”楊瀾說。她對科幻故事這樣的寫法心存疑惑。

在采訪好萊塢明星摩根·弗里曼和美國制片人協會聯合主席羅瑞·麥克雷利時，楊瀾問他們：“從票房角度來講，是不是因為恐怖更容易有票房？”答案是肯定的。“恐懼總是最能夠抓住眼球的，人們總是被不確定性又異常強大的東西刺激。”楊瀾對南方周末記者說。

未來的某個時間點，機器智能將超越人類智能，並改變人類文明進程，這是“奇點論”的觀點。未來學家雷·庫茲韋爾預測，奇點將在2045年前後發生。

“我希望聽到正反兩方面的評論。”楊瀾說，“你可以去猜想，但無法證實，也無法證偽。”贊成該觀點的“正方”——比如麻省理工學院的神經學家托馬索·波吉奧說：“我不認為人類會是進化終點的物種。”特斯拉的CEO埃隆·馬斯克也認為：“隨著人工智能的發展，我們將召喚出惡魔。”麻省理工天體物理學教授麥克斯·泰格馬克在2014年還發表了警惕人工智能潛在威脅的公開信，征得了超過8000人的簽名，其中包括著名物理學家斯蒂芬·霍金。

而在“反方”的矽谷創業家傑瑞·卡普蘭眼里：“我們會制造無所不知的超級智能機器，這樣的想法很傻。”吳恩達也覺得，擔心智能機器人戰勝人類，“就像擔心火星上人口過剩”一樣扯淡。

做完紀錄片，楊瀾自己更傾向於這種看法：“機器可能會失控，可能會被人的貪婪和惡意操縱，來做壞事，就像核技術可以發電，也可以成為戰爭武器。但現在去擔心一個超級人工智能來統治人類，這個似乎還過於遙遠。”

“任何超過五到十年的預想，就是科幻了，人類對未來的預見能力也就五年左右。”楊瀾認同普利策獎得主、《紐約時報》記者約翰·馬爾科夫的這個說法。

楊瀾與斯坦福大學人工智能實驗室的機器人PR2互動。在拜訪世界各大人工智能研究與應用機構後，楊瀾覺得：“恰恰是人類的不完美，才是我們可貴的地方。”（楊瀾工作室供圖/圖）

保護司機還是保護路人？

如果投資，楊瀾會考慮人工智能在醫療領域的應用。每個醫生的訓練和經驗有限，遇見罕見病，在初級診治時很有可能誤判。“醫生的誤判率是30%，人工智能基於千萬張片子的大數據，讀片誤判率幾乎能控制在5%以內，起碼可以輔助醫生作出更準確的診斷。”楊瀾考慮。

但人工智能應用首先會帶來的現實問題是：機器可能會讓一大批人失去工作。楊瀾舉例說，馬克思在寫《資本論》時就看到了工人在砸機器，因為工人們認為是機器搶走了他們生存的飯碗。

前兩年，楊瀾還讀過一本暢銷書《21世紀資本論》，法國經濟學家托馬斯·皮凱蒂所著。“里面說，二戰後有段時間貧富差距在縮小，但近年來貧富差距又擴大，原因就是，當資本能夠掌握科技時，資本回報的增長就高於勞動力回報的增長。其實脫歐、特朗普當選，背後都是這個就業問題。”楊瀾說。

特朗普說，要把中國工人的工作拿回去給美國工人做。楊瀾看見這個新聞，心里有些冷笑：“他們未必知道，這些工作拿回美國，也是讓機器人做。”

《紐約時報》記者馬爾科夫也在紀錄片中說道：“如果某個社會只有頂層的精英和在底層做著糟糕工作的人，這樣的社會形態並不好。”

楊瀾曾專訪過特斯拉CEO埃隆·馬斯克，但這次卻未能再次訪問他——這或許和2016年5月的特斯拉無人駕駛汽車撞車事故有關。而馬爾科夫正是較早報道無人駕駛的記者，更是第一個遭遇自動駕駛汽車事故的記者。

2005年，由斯坦福學生和教師研制出的“斯坦利”無人駕駛車在亞利桑那州的沙漠里做測試，馬爾科夫坐在副駕駛位上，在經過一個上下坡時，激光雷達檢測到路邊樹叢，但司機未來得及人工接管與操作，車直沖出了公路。

當無人駕駛出現事故時，先保護外面的路人還是車里的人，也成為一個爭論。“還是應該保護車里的人，它的邏輯應該等同於一個司機的邏輯，不然誰會買一輛要犧牲掉自己的車呢？”楊瀾覺得，“但肯定要把科技提升到這個水平——街道上都是無人車，它們彼此發出信號，不要出現到底要犧牲誰這個問題。”

人工智能面臨的倫理問題，有一部分已經存在。交通攝像頭能抓取到在逃嫌疑犯，“人們的隱私其實也都暴露了，掌握數據的人和部門如果不受到監督，那大家就像全體在裸奔。”楊瀾說。

人工智能就是反觀人類的一面鏡子

采訪研究人工智能的科學家時，楊瀾發現，“他們個個都有鮮明的個性和豐富的情感。”“這也打破了我對科學家的刻板印象。”

牛津大學計算機系的菲利普·托兒教授，穿著皮夾克、留著爆炸長發，他將頭盔遞給楊瀾，讓她坐上哈雷摩托車後座。就這樣，這位教授帶著楊瀾，在千年學府的牛津校園里呼嘯而過。

托兒年輕時的夢想是做一個搖滾歌手，至今他還熱愛搖滾樂——盡管他目前進行的研究，和這些愛好看上去毫不搭調：他正帶領團隊利用計算機視覺識別，做盲人眼鏡。這項研究，將能讓視覺障礙者自由行動，還能做好一份早餐並端到桌子上，“看見”家人的臉龐。

在法爾茅斯大學采訪“繪畫機器人”設計者西蒙·科爾頓時，楊瀾有一個意外收獲：這位教授有個一歲的孩子。“智能最重要的能力之一，就是學習。”楊瀾想。教授和孩子的互動，讓她產生了一個新主意：對比機器的學習和孩子的學習。第二天，攝制組又去西蒙家拍攝了小朋友牙牙學語和學走路的場景。

對比頗有效果。“在看了那麽多機器以後，我覺得人工智就像一面鏡子，讓我們回過來看待人類自己。”楊瀾說，人類的高階智能，比如下圍棋，是花費很長時間去接受教育，訓練邏輯思維能力、知識和記憶等，“但這些東西反而容易被機器模仿。而我們在六歲以前學到的那些東西，包括人和人之間情感交流的方式，卻是機器難以企及的。”

西蒙·科爾頓給楊瀾展示了“繪畫機器人”畫出的一把椅子。“這的確是一幅視覺作品。”楊瀾說，但她想弄清楚，機器創作與人的創作究竟有何區別。她找到畫家葉永青，後者覺得這幅畫有些怪。楊瀾說:“這是機器畫的。”

葉永青告訴楊瀾：“人的創作不需要完美，也不是正確的。正是人的這種主觀性不完美，甚至是缺陷和偏見，才是我們人類藝術的可貴之處；而機器似乎在尋找某一指令下的唯一正確答案。”

“本能、常識、情感、潛意識，這些都是人工智能在可預見的將來沒法學習和超越的。”楊瀾對南方周末記者總結，“恰恰是我們人類的不完美，才是可貴的地方。恰恰是我們不可能得到永生，才讓我們每一天的生命更有價值。”她似乎找到了最初那個問題的答案。