📖 ZKIZ Archives

一手對談：13位中國最強AI 達人對話AlphaGo投資人

峰瑞資本 2016-06-20 14:58

AlphaGo 戰勝李世石掀起了新一輪人工智能（AI）投資狂潮。

我們邀請到 DeepMind 的早期投資人 Jaan Tallinn 與中國 AI 界的最強大腦們進行對話。Tallinn 是最早發現 DeepMind ——2016 年最紅 AI 公司的投資人之一，他見證了 AI 技術的發展，卻致力於研究人工智能帶來的潛在風險。

受邀參與對談的中國 AI 大佬包括：

陳孝良，聲智科技 CEO

丁磊，匯百川征信 CTO，前 Paypal 全球消費者數據科學部負責人

高始興，思必馳 CEO

李誌飛，出門問問 CEO

孟醒，順為資本投資副總裁

吳甘沙，馭勢科技 CEO，前英特爾中國研究院院長

許丞，心橙互聯 CEO，前谷歌工程師、

漆遠，螞蟻金服 CSO

印奇，Face++ CEO

余凱，地平線機器人創始人，前百度深度學習研究院院長

張本宇，CloudBrain CEO

張予彤，金沙江創投合夥人

趙雲峰，新媒體 “機器之心” 創始人

（排名不分先後，按姓氏拼音排序）

這是 AI 界最值得期待的腦力風暴之一。今天推出的是（上）篇，大佬們探討了 AI 技術的商業化、AI 領域被低估的方向、AI 與人類的較量。下周，我們推出的（下）篇中，Talllinn 會為你解讀 AI 投資和創業，並為你解密 DeepMind。

如果是人工智能領域的創業者，歡迎在後臺留言 “AI”，我們將邀請你加入峰瑞資本 AI 交流群。此外，Tallinn 在對談過程中引用了許多對於目前 AI 領域影響深遠的采訪報道。如果你想閱讀這篇訪談的完整版，可以點擊 “閱讀原文” 關註峰瑞資本知乎專欄。

采訪/ 峰瑞資本科技投資團隊

翻譯/  馮琪祺 周小然

余凱(百度深度學習研究院前院長、地平線機器人創始人)

Q: 你投資 Deepmind 時，考慮過它的商業模式嗎？哪方面對你最有吸引力？

A: 我投資 DeepMind 並不是為了賺錢。因此它商業模式不是我的優先考慮。對我而言這是一個策略性投資：我想加入一個未來有潛力成為 AI 研究領軍者的團隊，成為其中的一分子，也希望確保他們對 AI 的風險有清晰的認識。

2011 年我投資 AlphaGo 前，就非常看好他們的創始人，當時他們已經已經取得了不小的進展（包括來自 Peter Thiel 創辦的 Founders Fund 的投資），我認為他們一定會大有作為。

Q: 在深度學習的革命中，下一個偉大的目標是什麽？

A: 也許你比我更有資格回答這個問題。對於深度學習的發展，我關註得沒有這麽及時。我目前了解的大概關於 AI 的前沿發展有這些：

更好的無監督學習（unsupervised learning）：比如說尋找數據中的結構；或者在不借助標記數據（labeled data）的情況下，建立預測模型；

遷移學習（transfer learning）：將特定領域學習建立的模型，應用到其他領域。就像人類學習下國際像棋，也可以幫助提升在其他棋類運動中的水平；

更好的數據泛化（generalization）：和人類比起來，機器學習對於數據是非常 “饑渴” 的。只有接收、處理大量的訓練數據（training data），才能形成可用的模型。但對於少數模型而言，研究人員並沒有足夠的數據來訓練機器（我的朋友曾嘲笑深度神經網絡只是被美化的查找表格）。這一點需要通過更好的數據泛化來加以改進。

印奇(Face++創始人)

Q: 人工智能很熱，很多分析機構也預測人工智能會成為未來技術的水電煤——基礎技術。這個過程如果到最終成真，是否也會有一個從量變到質變的過程，互聯網改造商業也是從信息共享、購買商品這些量變一步步開始的，那麽人工智能改變商業最初的幾個量變領域最有可能是哪些？

A: 對我而言，這個預測並沒有那麽準確。要讓 AI 成為一種類似於水電的工具服務，需要滿足兩個條件：

這項技術變得更為通用和能幹。在很多場合下，你可以像租用計算能力這樣，租 10 分鐘的 AI 服務。

即便 GAI（General Artificial Intelligence，通用人工智能）在經濟中發揮重要作用，經濟體中的其他因素仍然能發揮特定作用。

這兩個觀點實際上是直接矛盾的：要是 AI 變得更加強大和普及，經濟體中的其他因素就會被削弱。最終，這樣想吧：經濟是人類制度，要是 AI 比人類能幹，可能就不需要人類經濟了，就像人類不需要螞蟻經濟。

用 Eliezer Yudkowsky（MIRI，Machine Intelligence Research Institute 的創辦人之一）的話來說，擁有超級智慧的 AI，可以自由重組宇宙里的任意原子。它們甚至不需要賺錢來養活自己。 一旦擁有重組原子結構的能力，它們可以制造出任何它們想要的東西。

但也有人和我持不同的觀點。有些人認為：即便 AI 擁有超群的智力和通用性，現有的經濟體系也能維持下去。我的朋友 Robin Hanson, 一位約翰梅森大學的經濟學教授，就認為超高智慧的 AI 將出現在現有的經濟體系，並受其約束，而不是將它顛覆並且毀滅。

張本宇（CloudBrain 創始人）

Q: 你認為有什麽比較重要的方向被低估了，且沒有得到足夠的投資？”

A: 我覺得是 “價值觀對接研究”（value-alignment research)。這個概念第一次由斯圖爾特·J·拉塞爾（Stuart J. Russell，世界首屈一指的計算機科學家）在《人工智能：現代方法總論》（Artificial Intelligence: a Modern Approach）中提出。他認為：我們需要重新定義 AI 研究的目標。不停留於單純的智能開發上，而是開發能充分對接人類價值觀的超級智慧。但從世界範圍內 AI 的發展來看，這一領域在目前的研究中被極大地忽視了。

這固然是一項非常艱巨的挑戰，誠如慈善評估機構 Givewell 在一份有關 AI 風險的報告中提到的：知識是可以被驗證的，但價值觀卻不能。如果 AI 學習了錯誤的數據，做了錯誤的預估，人們會很快發現並加以糾正。但對於錯誤的價值觀，我們是很難察覺並且糾正的。

我們沒有選擇，必須面對這個挑戰。如果我們想要給子孫後代留一個未來，就必須盡快解決 AI 價值觀對接的問題。當然，我不是說對於 AI 其他風險的研究就不重要了。

Q: 對於 AI 在 3-5 年後的研究和開發，你認為瓶頸將會是什麽呢？比如說：計算機能力？或者是先前沿用馮·諾伊曼（計算機之父）理論本身的問題？人類目前有限的知識？政府的管制？或者說是因為容易賺錢的方式越來越多，導致研究人員的不足？

A: 長期以來，AI 領域缺乏富有洞見的人才，和強大的計算能力（這將極大地提升神經網絡技術）。短時間內，這兩個瓶頸仍然難以突破。

一個有意思的話題是 “快錢” 如何影響人才。一方面來說，高漲的需求勢必會刺激供給。但另一方面，它給行業帶來不少噪音，讓人才難以專心研究。

從基礎理論上來說，目前的 AI 技術更多采用 GPU（圖像處理單元），而不是 CPU（計算處理單元）。所以在很大程度上，這個行業已經拋棄了諾伊曼的理論。

吳甘沙（前英特爾中國研究院院長、馭勢科技 CEO）

Q: 你是 Deepmind 的早期投資者，推動 AI 對人類智能的趕超，同時又是劍橋 “存在風險研究中心” 和 MIT “生命未來研究所”的創始人，後者致力於探討 AI 對人類產生存在性風險的可能性和解決方案。這兩者之間存在一定的沖突。你如何在倫理和社會影響方面給 Deepmind 反饋和指導?

A: 在 Deepmind 任職期間，我們舉辦過一些相關的討論會。為了 AI 未來發展的安全，Deepmind 專門招聘了研究人員，並開始與牛津大學的 Future of Humanity Institute 合作，還和 Google 創立了 “倫理與安全” 委員會。當然，作為一家資金與人員都十分有限的創業公司，DeepMind 對這一領域的貢獻仍然非常有限。但我相信他們會持續投入精力做“價值觀對接”的研究。

總的來說，我很高興自己能幫助 AI 研究和 “價值觀對接” 的研究搭建橋梁。此外，Deepmind 現在能專註於 “價值觀對接” 的研究上，我還是有一點點的小功勞的（笑）。

趙雲峰（新媒體 “機器之心” 創始人）

Q: 繼 Elon Musk，Stephen Hawking 之後，近日 Michio Kaku（加來道雄，美籍日裔理論物理學家）也表示我們應該擔憂人工智能，很多人工智能產業之外的名人和大眾也比較關註這個話題。但是，人工智能領域的從業者往往是從解決具體問題出發，對這個問題好像不是特別在意，或者只是提出一些較為宏觀的解決方案，比如說 DeepMind 的道德委員會，你認為對於防範人工智能風險，我們應該采取哪些具體的、馬上可以開始行動的方案嗎？

A: 有趣的問題。加來道雄真的認為我們應該對此感到焦慮嗎？他之前是不相信 AI 風險的（至少我是這麽認為的）。如果他的態度發生轉變，這是一個好消息（越來越多人開始正視問題存在了）。

關於研發者的態度，我覺得你是對的。他們的確沒有動力去考慮系統的風險（更準確的說，是關於價值觀對接的問題），但他們有動力去提高系統的性能。就如 Holden Karnofsky 所說：“目前從文化和機構層面來看，研發者沒有多大的動力去關心這些問題。但即使如此，還是有小部分有關人士開始關心這些潛在問題。所以我相信，未來會有更多的人加入這一思考。”

（這里有一篇非常棒的文章，列舉了許多優秀的 AI 研發者對於風險的思考  http://slatestarcodex.com/2015/05/22/ai-researchers-on-ai-risk/）

目前如何預防這種風險？當 “價值觀對接” 領域缺乏資金的問題得到緩解後，緊接著的瓶頸是缺乏這方面的人才（素質要求與 AI 研發的其它領域不同）。我們需要更多的人和機構，來解決各種研究上的問題——從運算理論上升到哲學思想。

就像我前面提到的，解決 AI “價值觀對接” 的問題不僅非常重要，而且是有趣的！

陳孝良（聲智科技CEO）

Q: 機器學習理論與神經科學、人類行為學都有著密切的聯系。因此，Deepmind 使用的“深度強化學習算法”需要海量的案例去訓練 AI。但如我們所知，我們人類往往可以通過單一案例舉一反三，從而學習一個概念，還能通過比機器算法更豐富的方式學習。為了解決這個問題，科學家正嘗試利用貝葉斯推論法讓 AI 通過簡單案例學習。你怎麽看貝葉斯推論和深度學習的未來？下一步 AI 又要如何模仿接近人類的想象力和推理能力？

A: 嗯...…據我所知，神經網絡大體建立在函數逼近上，與神經生理學只有一些偶然的聯系。

我對貝葉斯學習法了解不算深入，我認為雖然它是理論上最優的，但是特別消耗計算資源。此外，最近還有一個很有趣的所謂 “終極” 貝葉斯 AI 產品 AIXI。

的確，從通用的角度，目前的方法都還不夠好。我的朋友 Gary Marcus 已多次重申這個觀點。他自己也創立了一家公司來探索能夠通用化的技術：Geometric Intelligence（我投資的項目！）。

高始興（思必馳創始人）

Q: 你覺得未來人們有沒有可能有自己個人的大數據？

A: 從某種程度上來說，有可能。我投資了兩個創業項目，都與 “私有雲” 有關：Sandstorm（http://sandstorm.io/ ）和 Urbit （http://urbit.org/）。

但這樣說吧，公共數據（public data）的規模和價值都會更 “大”。隨著傳感器的廣泛應用，數據量會呈幾何倍增長。此外，越來越先進的分析技術能利用部分數據和歷史數據來推斷出更多信息。

劉維(聯想之星合夥人)

Q: 非結構化的數據的未來發展該會是怎樣？如何才能充分使用它們？我們有沒有必要結合框條化的學習與深度學習呢？此外，大量數據就能解決一切問題嗎？如果，在一些條件下，失敗的代價很大，並且很難去窮盡它的邊界條件（比如說：自動駕駛）？”

A: 從根本上來說，我認為非結構化的數據最終能滿足需要。就像小孩子就可以從非結構化的感觀信息開始學習，我並不認為人腦里有什麽 “神奇” 的東西。

最近，我的一個朋友在聽了許多關於自然語言處理（NLP，Natural Language Processing）的演講後，發現一個有趣的現象：許多研究者都在吹噓他們對語言學的認知有多 “少”，由此來暗示，他們的系統已經聰明到可以在沒有預設知識的前提下學習。

我同意你關於非結構化學習的觀點。這種學習很可能導致 “黑箱” 系統，最後在極端情況下產生嚴重的後果。當系統變得更自治，能操控的資源也更多時，我們需要讓 AI 變得更為可預測。一種方式是引入更多的結構和限制到系統中。

我們肯定不想把這個星球的未來，交給一個由一堆非結構化的浪漫小說訓練出來的 “黑盒”（black boxes）神經網絡吧？

Q: 你是否認為通用人工智能（GAI）是從一些列垂直領域的 AI 中衍生出來的？長期而言，對機器學習算法的依賴將會在哪些方面造成風險？你認為 2150 年最常見的職業是什麽？

A: 我不認為聰明地整合各種垂直領域的 AI 就能生成 GAI 。Deepmind 的做法就很有前景：它開發出一套比較通用的算法，然後把它用於垂直領域的學習中，以達到超過人類的表現。

有關風險：把 AI 用到 AI 領域的發展本身將會帶來極高的風險，因為在這個過程中沒有了人的參與，讓 AI 來控制發展進程，結果可能是失控的。關於其他的風險，可以參見這一份報告：http://www.openphilanthropy.org/blog/potential-risks- advanced-artificial-intelligence-philanthropic-opportunity. 

有關職業：我覺得到 2150 年職業（和整個經濟）可能已經完全不存在了！經濟分工是一個人類社會中的概念。它存在的語境是——這個世界上有很多人，他們能力相近，但因為優勢各異，所以他們之間的交易能有所得。而當我們有一個超級智能的 AI，它的能力超過所有人類，經濟分工存在的基礎就沒有了，就如同我們人類不與螞蟻做貿易。

當然，有可能到了 2150 年，還沒等我們早出超級智能 AI，人類文明就因為其他原因不存在了 :(

文章評論

匿名用戶

發布

全部評論：10

發布