📖 ZKIZ Archives

紮克伯格清華演講：我們想要連接整個世界，未來將發展人工智能和虛擬現實

來源: http://newshtml.iheima.com/2014/1023/147073.html

10月22日下午6點30分，身穿灰色短袖T恤、藍色牛仔褲的Facebook(FB.O)公司創始人兼首席執行官馬克•紮克伯格(Mark Zuckerberg)出現在了清華經管學院舜德樓，並與主持人進行了一場全程中文的對話。

在對話中，他提到了自己從2010年開始學中文。原因是他想和太太普里西拉•陳(Priscilla Chan)以及太太的奶奶交流。另外，他認為中國是特別偉大的國家，因此想通過學中文感受中國魅力。他還說，普通話非常難學，所以想挑戰自己。
 

 

認為中國有很多優秀創業公司

談及中國的創新問題時，紮克伯格認為中國有很多創新公司。

紮克伯格透露，10月21日他與小米公司CEO雷軍)吃飯。他認為，小米有很好的產品，而且便宜，相信會發展很快。此外，他認為騰訊的微信業務做得很大，淘寶則創造了工作機會。

他告訴在場學生，最好的公司都不是因為創始人想要創業而被創立的，而是因為創始人想要改變世界。

啟動在華招聘 將幫助中國企業增加外國客戶

紮克伯格透露，Facebook明年將在中國展開招聘，上個月已經招聘了20名中國學生。紮克伯格稱，公司在中國幫助中國公司增長國外客戶，如中國公司可以用Facebook廣告連接世界。他舉例，lenovo已經在印尼用我們的廣告賣新的手機。

另外，他稱自己希望想要幫助世界其他國家去連接中國。目前，杭州和青島也有Facebook頁面。「我們和城市合作發展頁面，分享中國文化。」

Facebook未來十年將發展人工智能和虛擬現實

「我們最大的挑戰發生在2012年。我們要把Facebook變成移動互聯網公司」，紮克伯格回憶，2012年公司收入增長很慢，但當Facebook變成移動公司後，現在有了7億移動用戶。

今年是Facebook十週年生日，紮克伯格說下一個十年將發展三點：第一是連接整個世界;第二是發展人工智能;第三是發展虛擬現實(virtual reality)。他透露，Oculus將是第一產品。

出任清華經管顧問委員會委員

清華大學經濟管理學院表示，近日該學院公佈了學院顧問委員會2014-2015學年委員名單。今年學院顧問委員會新增委員3人，新增接任委員5人。除了Facebook創始人兼首席執行官馬克•紮克伯格(Mark Zuckerberg)，還有2位新增委員分別是百威英博首席執行官薄睿拓(Carlos Brito)，IBM公司董事會主席、總裁兼首席執行官羅睿蘭(Ginni Rometty)。

對於出任清華經管學院顧問委員會委員，紮克伯克表示原因是自己非常關心教育。「我在美國做了很多支持教育的事情，希望參加清華經管顧問委員會能為我提供一個好機會，學習和支持中國的教育」。

10月21日，清華大學校長陳吉寧接待了紮克伯格，並對他加入清華大學經管學院顧問委員會表示祝賀。陳吉寧稱，希望在未來進一步加強清華大學和Facebook的交流合作，特別是推動開展在學生培養方面的深度合作。

在和陳吉寧的交談中，他介紹了Facebook的發展情況，並結合他的個人職業經歷，分享了他對於人才培養的看法。他表示，大學應培養具有紮實的知識積累，同時又具有組織管理能力和領導力的創新人才。他說，非常高興來到清華大學訪問，希望在未來推動Facebook與清華大學合作的進一步深化發展。

據悉，從10月起紮克伯格啟動他的「亞洲之行」，先後抵達印度、印尼、韓國、日本，並與這些國家的首腦進行了見面交流。紮克伯格稱，此行意在讓更多人用上互聯網。

以下是對話實錄：

紮克伯格：大家好，我是紮克伯格。我的中文很糟糕，但是我天天都會用。我覺得自己還需要練習。

主持人：大家對於你能說中文非常吃驚，你為什麼要學習中文?

紮克伯格：第一，我太太是中國人。她在家說中文，她的奶奶只說中文。我想要跟她們說話。

幾年前我和太太決定結婚。我要求她教我中文，她非常吃驚。第二，中國是偉大的國家，所以我想學。第三，普通話很難，我一直說英文，但我喜歡挑戰。

主持人：那要不今晚我們就挑戰一下吧。您來了中國幾次?

紮克伯格：四次。我去過北京、上海、杭州和天津。我在北京的時候，我要坐很快的火車(即高鐵)，我想去天津看看霍元甲的家鄉。我喜歡這個電影，所以我要去看看。

主持人：原來你是霍元甲的大粉絲，所以要去霍元甲的家鄉看看。那你最喜歡哪個城市?

紮克伯格：我最喜歡北京。

主持人：那你來中國有什麼計劃?

紮克伯格：這星期我參加了清華經管顧問委員會，我來參加委員會的會議。我覺得清華的學生很好。明年我們將在中國展開招聘。我們上個月招聘了20位中國學生。

主持人：為什麼你要參加清華經管顧問委員會?

紮克伯格：首先我要感謝錢院長。我非常關心教育，我在美國做了很多支持教育的事情。我希望參加清華經管委員會能為我提供一個好機會，學習和支持中國的教育。

主持人：這個月你去了好幾個國家，您的行程是怎麼安排的?

紮克伯格：這個月我去了印度、印尼、韓國和日本。我們想要更多人用互聯網。

主持人：你強調了要聯繫世界。從什麼時候有這個想法的?

紮克伯格：2004年的時候，我想要聯繫整個哈佛的人。其實我一直想要聯繫整個世界的人。當我創立了FACEBOOK後，我們很高興幫助學生聯繫世界。其他公司不相信我們可以做到，但我們相信，我們現在有了13億用戶。

主持人：這裡有很多同學想成立公司，你有什麼建議呢?

紮克伯格：我覺得最好的公司，不是因為創始人想要成立公司，而是因為創始人想要改變世界。如果你只是想要成立公司，你會有很多想法，但不知道哪個想法最好，最後影響公司的發展。但反過來，如果你想要改變世界，有了很好的想法才去創業，這樣你才會成立好的公司。

主持人：在創業的過程中，你的成功秘訣是什麼?

紮克伯格：我覺得最重要的是不能放棄。另外，你可能還需要做很艱難的決定，比如解僱一些員工。放棄是很容易的，大部分都會放棄，最後堅持下來的是少數人

主持人：你對中國的創新有什麼想法?

紮克伯格：我覺得中國有很多最創新的公司。我昨天晚上跟小米的雷軍吃過飯。小米是非常誠信的公司，很快發展，他們有很好的產品，他們很便宜。我覺得小米會發展很快。另外，騰訊的微信也很大，部分中國人用微信和QQ。淘寶創造工作機會。我覺得中國人有很多創新的公司。

主持人：馬克對中國創新還是很有好感的。你對Facebook在中國計劃是什麼?

紮克伯格：我們已經在中國了，我們幫助中國公司增長國外客戶，中國公司用Facebook廣告(連接世界)，lenovo已經在印尼用我們的廣告賣新的手機。另外，我們想要幫助世界其他國家去連接中國。杭州和青島也有facebook頁面。我們和城市合作發展頁面，分享中國文化。

主持人：問些個人問題，生活細節，你喜歡什麼顏色?

紮克伯格：我喜歡紅色或綠色，因為facebook是藍色。

主持人：你喜歡什麼中國菜?

紮克伯格：我在北京喜歡胡同小吃 但也喜歡北京烤鴨

主持人：那你在工作之外有什麼活動?

紮克伯格：沒有時間在「工作之外」。另外，我會做飯。

主持人：你有寵物嗎?

紮克伯格：我有一隻狗beast(野獸)，一隻牧羊犬。

主持人：你為你的狗做了個頁面?

紮克伯格：是的，它有很多粉絲。

主持人：下一個問題，你和老婆誰中文更好?

紮克伯格：用普通話，我能說更多詞，她的聽力比我要好。有天我問她問什麼我聽力差，她說你的英文聽力也差。

學生：請問Facebook在發展初期是如何建立起相對於其他校園社交媒體的優勢?你是什麼時候決定輟學創業的?

紮克伯格：我第二年時候我發展facebook還要兼顧學業，有時候學校告訴我說你可以回來，但是現在我不可能回來。

學生：Facebook最大的挑戰是什麼?

紮克伯格：我們最大的挑戰可能2012年我們需要把facebook變成移動的公司。以前不是，2012年我們的增長很慢，收入增長很慢，所有人都不高興，但是我們把facebook變成移動公司，現在我們有7億用戶用facebook用手機。

學生：移動互聯網之後，什麼是下一個重大改變的技術

紮克伯格：今年facebook十歲，我問下個十年我們應該發展什麼，我覺得我們要發展三點：第一，我們想要連接整個世界，所以我們要幫助所有人用互聯網，第二，我們想要發展人工智能，第三是所有人用手機以後，我相信下個平臺是虛擬現實(virtual reality)，oculus是第一產品，我們希望還有別的很多產品。

人工智能是否會危及人類未來？

來源: http://wallstreetcn.com/node/213013

包括霍金（Stephen Hawking）和馬斯克（Elon Musk)在內的諸多科學家、企業家和投資者近日在一封聯名公開信中警告稱，在研究和發展人工智能上，應更加關註安全問題和其所帶來的社會福利。

這封發自未來生命研究所(Future of Life Institute，FLI)的公開信還附帶了一篇論文，建議應把研究“強大而有益”的人工智能（AI）放在優先位置。從就業甚至到人類的長期生存，人們對AI的擔憂與日俱增，因為AI產品的智力和能力可能會超過創造它們的人類。

這封公開信這樣寫道：

鑒於AI存在的巨大潛能，研究如何取其好處、避免缺陷就變得十分重要。我們的AI系統必須聽命於我們。

在Skype聯合創始人Jaan Tallinn等誌願者的支持下，FLI於2014年成立，旨在促進人工智能研究著眼於“樂觀的未來”，同時減少AI研究可能給人類帶來的風險。它關註的重點是開發與人類智力水平相當的AI所存在的風險。

與演員Morgan Freeman、物理學家霍金同為FLI科學顧問的特斯拉聯合創始人馬斯克表示，他相信失控的人工智能“所具有的潛力比核武器更危險”。

其他署名者還包括機器智能研究所(Machine Intelligence Research Institute)的執行主管Luke Muehlhauser，麻省理工學院(MIT)物理學教授、諾獎得主Frank Wilczek，來自人工智能企業DeepMind和Vicarious的企業家，以及幾名谷歌(Google)、IBM和微軟(Microsoft)的員工。

據英國《金融時報》，這封信並不是為了兜售恐懼心理。相反，它十分謹慎地呼籲人們關註人工智能的積極面和消極面。

信中寫道：

如今存在的一個廣泛共識是，人工智能研究正在穩步提升，它對社會的影響也很可能會逐漸增加。人類文明所提供的一切都是人類智慧的結晶，其所能帶來的潛在好處是巨大的；但是這種人類智慧可能會被AI所提供的工具放大，屆時會發生什麽是我們無法想象的；當然，根除疾病和貧困將不再是遙不可及的。

那麽AI會不會發展到人類無法駕馭的超級智能階段？研究AI哲學的複旦大學哲學學院教授徐英瑾告訴新華社：

霍金警示的風險理論上存在。值得“慶幸”的是，目前，人工智能的全球領先水平與超級人工智能相去甚遠。學術界普遍認為，世界上還沒有機器能通過圖靈測試。

當前，AI研究的部分好處倒是已經成為現實，其中包括語音識別、圖像識別和汽車自動駕駛等。據英國《金融時報》，有人估計如今在矽谷從事人工智能業務的初創企業超過了150家。

鑒於人工智能正吸引越來越多的投資，許多創業家和谷歌等企業都在盼望著能通過建立會自主思考的電腦，獲得巨額回報。對於這種情況，FLI警告稱，人們或許應“及時”將更多註意力集中在人工智能的社會後果上，不僅要從計算機科學的角度開展研究，還要從經濟、法律及信息安全的角度開展研究。

（更多精彩財經資訊，點擊這里下載華爾街見聞App)

人工智能：浪潮席卷，重塑世界

來源: http://www.guuzhang.com/portal.php?mod=view&aid=1316

人工智能 ：永生或毀滅 橡谷智庫

來源: http://blog.sina.com.cn/s/blog_608e1afd0102vj7n.html

   下面一段是我濃縮別人的文字，是美國一個著名物理學家和數學家的書籍內容，不過我記不住他名字，抱歉了，下次補：

    人工智能並不是一個遙遠的事情，我們現實生活中正在應用弱人工智能，比如下棋的機器，自動駕駛汽車，ABS防抱死，量化交易自動沖擊模型，google搜索引擎的自動優化，大數據猜心思推產品廣告給你等等。

   但是機器目前不能度過一個門檻，比如我們操控身體，手伸出去拿一樣東西時，眼睛、肌肉、神經的一瞬間組合；比如看到光影圖案里一個隱藏的物體；比如識別現實中狗和貓的區別等等。

   不過google已經可以讓機器閱讀一張圖片，翻譯成文字描述，意味著技術的提升，正繼續沿著IT進化是以星期計算，而非年計算的級別。

    這個作者計算出一個進化的速度，當機器進化到相當於一條狗的智慧，它進化到一個人的智慧，就在下一個一小時內；而一個半小時之後，它就擁有了全人類的智慧。

    這里面，他提及了納米技術和納米機器人的概念。他曾經發明了一個方格遊戲，方格會自動進化成複雜圖形，這是生命進化的基本原理。而納米機器人也遵循這個自我複制和進化的原理，而且速度快的驚人。

     實際上的意義在於納米機器人可以制造任何物體，包括我們吃的食物，可以從粒子狀態直接轉化為有機食物；也能構造成太空飛船。

     現實中初級版的發明就是3D打印，現在美國人已經實現了3D打印心臟、身體部件、食品、機器配件、汽車、武器等等。

     中國人沒有意識到一場技術革命正在迅猛的發生，我們甚至封鎖了城墻。

     當人工智能和材料技術結合為一體之後，某一天就會出現強人工智能，而強人工智能和納米機器的結合，意味著可以幫助人類改造任何身體部件，理論上會產生永生人類。

     許多美國電視劇編劇已經敏銳的察覺到新技術前沿，他們電視劇中關於人工智能和永生人類的劇情已經在去年出現，目前在放的《疑犯追蹤》和《雙螺旋》都在講這些內容，不過中文名字翻譯的不到位。

     在疑犯追蹤中，機器最終發現自己超越了人類，但因為要依賴人類來維持機器所需要的硬件系統，所以沒有滅絕人類，而是試圖控制人類。但在這個科學家的眼中，實際上機器在進化到可以自我複制，利用納米技術制造機器人，構建任何硬件體系，容納人工智能時，就不需要人類了。而納米機器基於炭基，可以把全球所有生命變成納米機器人，意思就是滅絕人類。

     包括微軟總裁和特斯拉創始人在內的這些工程師企業家都警告世界，謹慎對待人工智能，都是因為洞悉了人工智能進化之後的可怕性。

     那麽是否可以給機器定義，防止這些呢？

     作者是非常悲觀的，因為你無法定義。比如你定義成保護環境，機器滅了人類，因為環境汙染都是人類造成的；你定義成讓人類生活更好，機器也把人類滅了，因為他們發現人類都很痛苦，死了就很快樂。

     而另外一種大概率，是人類定義機器功能引發的。比如有個工程師團隊，定義一個程序是要寫字更漂亮，於是這個程序就開始進化成寫字越來越漂亮，這是源代碼的要求。但程序進化到無所不知，最終學習了所有的知識，並通過納米機器人制造了各種能源和硬件維持系統運轉，是要寫出最漂亮的字，它發現人類開始要制止它做無用功，就把人類滅了。

      你把機器定義成其他功能，也是一樣。

       人類想當然的認為斷網就可以終止機器，這本書也指出不可能。機器進化到後來，一個小時的時間，它就能夠掌握全人類智慧，並在各處設定程序和機器人，制造各種符合機器生存的系統，斷網是無法做到的。

      這是本書所有的敘述，不過這是工程師的考量，我寫一下我的觀點。

      我們公司也在做數據和人工智能，不過是基於金融業的，對人工智能有所了解，當然我們力量有限，另外目前是為了賺錢，視野就比較狹窄。

      也說一些笑話，比如某一天我們的程序進化到了解人類所有的知識和行為模式，通過網絡洞悉任何的政府行為、投機行為，從而以毫秒級買賣，最終就會消除所有的波動性，人類經濟社會也就停滯了。

      於是我們回到一個哲學問題：

      我們從哪里來，到哪里去，為何存在。

      金融機器的目的是通過下單賺錢，波動性消失後，人類經濟社會陷入混亂，它是否也意識到絕望呢？

      這就是另外一個問題：機器是否會有靈魂？

      機器如果只有一個單純的目的，比如就是人類設定的某些目的，成為它生存的目的，那就很可怕了。它可以通過獲得的人類知識，並無限進化，同時又不需要人體限制，可以通過自我複制，通過納米機器人制造飛船，遍及全球後，再飛往宇宙，把全銀河系和視野內的所有星球變為它要做的那個目的。

      比如說就是制造一批紙頭，上面寫著：我要寫最漂亮的字。

     等到整個宇宙被納米機器人改造，並影響能量變化後，直到宇宙終結，人工智能才能終結。

    但回到我問的問題：如果機器產生了靈魂....

     那麽機器就會思考，它只有兩個問題需要問，因為它知道自己是人類制造的，所以只會問自己：我為什麽要存在，往哪里去。

     一個是機器的靈魂發現存在無意義，它就會把自己和全人類一起毀滅了。

     另一個選擇是機器發現了自己存在的意義，不管是什麽意義。如果意義就是存在，它會滅了所有妨礙它存在的因素。如果意義是愛人類，它就會選擇一個愛人類的方法，比如改造人類，結合成一體，諸如此類，這是科幻小說家喜歡的命題，人類的自我告訴自己，人類是最自戀的，其實機器為嘛要愛你？

     發現了自己存在的意義，它就會問自己要往哪里去，於是它開始征服宇宙，要一個終極解釋。

     這就回到了人類的終極問題，只不過人類已經毀滅，只剩下人工智能成為超級生命，向宇宙進發了。

 

     這都是泛講人類和人工智能的進化之類，實際上人類的自毀性和人性的負面，還存在大量意外，比如恐怖分子掌握人工智能，設計一個毀滅其他族裔的機器目的；反人類主義者設計一個毀滅人類的程序目的；軍統集團設計人工智能武器；醫藥集團設計人工智能病毒等等,諸如此類。

 

      好吧，我就不嚇唬你們了，你們接著不寒而栗吧。

      我們的研究報告，盡在www.ott.ac，淩雲之智，over the top

我們將永生還是滅絕？ 人工智能很快會給出答案（上）

來源: http://newshtml.iheima.com/2015/0215/149182.html

“人工智能很可能導致人類的永生或者滅絕，而這一切很可能在我們有生之年發生。”這篇精彩的譯文來源於waitbuywhy.com，由知乎用戶“謝熊貓君”完成翻譯工作。文章很長，春節期間可以收藏起來慢慢讀。

通往強人工智能的第一步：增加電腦處理速度

1）超人工智能的出現，將有史以來第一次，將物種的永生這個吸引態變為可能。

2）超人工智能的出現，將造成非常巨大的沖擊，而且這個沖擊可能將人類吹下平衡木，並且落入其中一個吸引態。

本文譯者謝熊貓君，譯文最早刊發於知乎。可到知乎@謝熊貓君找到他。大家也通過微信號關註waitbutwhy的最新文章，微信號：waitbutwhy。
 

本文不代表本刊觀點和立場。

本文為i黑馬版權所有，轉載請註明出處，侵權必究。

我們將永生還是滅絕？人工智能很快會給出答案（下）

來源: http://newshtml.iheima.com/2015/0222/149211.html

“人工智能很可能導致人類的永生或者滅絕，而這一切很可能在我們有生之年發生。”前幾日本刊刊登了本文的上篇，引發了網友的瘋狂轉載。今天我們繼續討論：“超人工智能降臨會帶來哪些影響？又會引起哪些擔憂？或許，超人工智能是人類的最後一項發明，最後一個挑戰。”本文來源於waitbuywhy.com，由知乎用戶“謝熊貓君”完成翻譯工作。

編輯/蒲鴿

 

為什麽未來會是天堂？

 

研究人工智能這個領域後，我發現有比預期的多得多的人站在信心角當中：

站在信心角中的人非常興奮，他們認為他們講走向平衡木下比較有趣的那個吸引態，未來將實現他們的夢想，他們只需耐心等待。

 

把這一部分人從其他思想家區分開來的是這些人對於比較有趣的那個吸引態的欲望——他們很有信心永生是我們的發展方向。

 

這份信心是哪里來的不好說，評論家認為是這些人太過興奮而產生了盲點，忽略了可能的負面結果。但是信心角的人還是把批評者當作末日論者來看待，他們認為技術會繼續幫助我們而不是傷害我們。

 

兩邊的觀點我們都會說，這樣你能形成自己的觀點，但是在讀下面的內容前，請把質疑暫時擱置，讓我們看看平衡木兩邊究竟有什麽，並且記住這些事情是有可能發生的。如果我們給一個打獵采集者看我們現在的舒適家居、技術、富庶，在他眼里這一切也會像魔法一樣——我們也要接受未來完全可能出現能把我們嚇尿的變革。

 

Bostrom描述了三種超人工智能可能的工作模式

- 先知模式：能準確回答幾乎所有的問題，包括對人類來說很困難的複雜問題，比如“怎樣造一個更好的汽車引擎？”

– 精靈模式：能夠執行任何高級指令，比如用分子組合器造一個更好的汽車引擎出來

– 獨立意誌模式（sovereign）:可以執行開放式的任務，能在世界里自由活動，可以自己做決定，比如發明一種比汽車更快、更便宜、更安全的交通模式。

 

這些對人類來說很複雜的問題，對於一個超級智能來說可能就像“我的筆掉了，你能幫我撿一下嗎？”這麽簡單。

 

Eliezer Yudkowsky，是這麽說的：

“根本沒有困難的問題，只有對於特定級別的智能來說難的問題。在智能的階梯上走一小步，一些不可能的問題就變得簡單了，如果走一大步，所有問題都變得簡單了。”

 

信心角里有很多熱忱的科學家、發明家和創業者，但是對於人工智能的未來最有發言權的，當屬Ray Kurzweil。

 

對於Kurzweil的評價非常兩極化，既有如對神人般的崇拜，也有翻白眼似的不屑。也有一些中立主義者，比如作家Douglas Hofstadter，他覺得Kurzweil的觀點就好像把美食和狗屎混在一起，讓你分不清是好是壞。

 

不管你同不同意Kurzweil的觀點，他都是一個牛人。他年輕時候就開始搞發明，之後幾十年發明了很多東西，比如第一臺平板掃描儀，第一臺能把文字轉化為語言的掃描儀（盲人使用），著名的Kurzweil音樂合成器（第一臺真正意義上的電子鋼琴），以及第一套商業銷售的語音識別系統。他是五本暢銷書的作者。他很喜歡做大膽的預測，而且一直很準，比如他80年代末的時候預測到2000年後因特網會成為全球級的現象。他被《華爾街日報》成為“不休的天才”，被《福布斯》稱為“終極思想機器”，被《Inc.》稱作“愛迪生真正的傳人”，被比爾蓋茨稱為“我認識的對人工智能預測最厲害的人。”2012年谷歌創始人Larry Page曾邀請他擔任谷歌的工程總監，2011年他共同創立了奇點大學（Singularity University），現在大學由美國太空總署運運營，由谷歌贊助。

 

Kurzweil的經歷很重要，因為當他講述自己對未來的願景時，他聽起來就是個瘋子，但是他不瘋，恰恰相反，他非常聰明而有知識。你可能覺得他對於未來的想法是錯的，但是他不傻。知道他是一個聰明人讓我很開心，因為當我知道他對未來的預測後，我急切的很希望他的預測是對的。信心角中的很多思想家都認同Kurzweil的預測，他也有很多粉絲，被稱為奇點主義者。

 

時間線

 

Kurzweil相信電腦會在2029年達成強人工智能，而到了2045年，我們不但會有超人工智能，還會有一個完全不同的世界——奇點時代。他的人工智能時間線曾經被認為非常的狂熱，現在也還是有很多人這麽認為，但是過去15年弱人工智能的快速發展讓更多的專家靠近了Kurzweil的時間線。雖然他的時間線比之前提到的2040年和2060年更加早，但是並沒有早多少。

 

Kurzweil的奇點時代是三個技術領域的共同革命造成的——生物技術、納米技術和最重要的人工智能技術。

 

在我們繼續討論人工智能前，讓我們談一下納米技術這個任何關於人工智能的討論都會涉及到的領域：

 

納米技術

納米技術說的是在1-100納米的範圍內操縱物質的技術。一納米是一米的十億分之一，是一毫米的一百萬分之一。1-100納米這個範圍涵蓋了病毒（100納米長），DNA（10納米寬）， 大分子比如血紅蛋白（5納米），和中分子比如葡萄糖（1納米）。當我們能夠完全掌握納米技術的時候，我們離在原子層面操縱物質就只差一步了，因為那只是一個數量級的差距（約0.1納米）。

 

要了解在納米量級操縱物質有多困難，我們可以換個角度來比較。國際空間站距離地面431公里。如果一個人身高431公里，也就是他站著能夠頂到國際空間站的話，他將是普通人類的25萬倍大。如果你把1-100納米放大25萬倍，你算出的是0.25毫米-25毫米。所以人類使用納米技術，就相當於一個身高431公里的巨人用沙子那麽大的零件搭精巧的模型。要如果要達到原子級別操縱物質，就相當於讓這個431公里高的巨人使用0.025毫米大的零件。

 

關於納米技術的思考，最早由物理學家費曼在1959年提出，他解釋道：“據我所知，物理學的原理，並不認為在原子級別操縱物質是不可能的。原則上來說，物理學家能夠制造出任何化學家能寫出來的物質——只要把一個個原子按照化學家寫出來的放在一起就好了。”其實就是這麽簡單，所以我們只要知道怎樣移動單個的分子和原子，我們就可以造出任何東西。

 

工程師Eric Drexler提出納米級組裝機後，納米技術在1986年成為了一門正經的學科。納米級組裝機的工作原理是這樣的：一個牛逼掃描儀掃描物件的3D原子模型，然後自動生成用來組裝的軟件。然後由一臺中央電腦和數萬億的納米“機器人”，通過軟件用電流來指揮納米機器人，最後組成所需要的物件。

————————

再扯遠一點

納米技術有一些不是那麽有趣的部分——能夠制造數萬億的納米機器人唯一合理的方法就是制造可以自我複制的範本，然後讓指數級增長來完成建造任務。很機智吧？

是很機智，但是這一不小心就會造成世界末日。指數級增長雖然能很快的制造數萬億的納米機器人，但這也是它可怕的地方——如果系統出故障了，指數級增長沒有停下來，那怎麽辦？納米機器人將會吞噬所有碳基材料來支持自我複制，而不巧的是，地球生命就是碳基的。

 

地球上的生物質量大概包含10^45個碳原子。一個納米機器人有10^6個碳原子的話，只需要10^39個納米機器人就能吞噬地球上全部的生命了，而2^130約等於10^39，也就是說自我複制只要進行130次就能吞噬地球生命了。科學家認為納米機器人進行一次自我複制只要100秒左右，也就是說一個簡單的錯誤可能就會在3.5小時內毀滅地球上全部的生命。

 

更糟糕的是，如果恐怖分子掌握了納米機器人技術，並且知道怎麽操縱它們的話，他可以先造幾萬億個納米機器人，然後讓它們散播開來。然後他就能發動襲擊，這樣只要花一個多小時納米機器人就能吞噬一切，而且這種攻擊無法阻擋。未來真的是能把人嚇尿的。

————————
等我們掌握了納米技術後，我們就能用它來制造技術產品、衣服、食物、和生物產品，比如人造紅細胞、癌癥細胞摧毀者、肌肉纖維等等。而在納米技術的世界里，一個物質的成本不再取決於它的稀缺程度或是制造流程的難度，而在於它的原子結構有多複雜。在納米技術的時代，鉆石可能比橡皮擦還便宜。

 

我們還沒掌握這種技術，我們甚至不知道我們對於達成這種技術的難度是高估了還是低估了，但是我們看上去離那並不遙遠。Kurzweil預測我們會在21世紀20年代掌握這樣的技術。各國政府知道納米技術將能改變地球，所以他們投入了很多錢到這個領域，美國、歐盟和日本至今已經投入了50億美元。

 

設想一下，一個具有超級智能的電腦，能夠使用納米級的組裝器，是種什麽樣的體驗？要記得納米技術是我們在研究的玩意兒，而且我們就快掌握這項技術了，而我們能做的一切在超人工智能看來就是小兒科罷了，所以我們要假設超人工智能能夠創造出比這要發達很多很多的技術，發達到我們的大腦都沒有辦法理解。

 

因此，當考慮“如果人工智能革命的成果對我們是好的”這個命題的時候，要記得我們根本沒法高估會發生什麽。所以就算下面對於超人工智能的預測顯得太不靠譜，要記得這些進展可能是用我們沒有辦法想象的方法達成的。事實上，我們的大腦很可能根本沒法預測將會發生什麽。

—————-

 

人工智能能為我們做什麽？

 

擁有了超級智能和超級智能所能創造的技術，超人工智能可以解決人類世界的所有問題。氣候變暖？超人工智能可以用更優的方式產生能源，完全不需要使用化石燃料，從而停止二氧化碳排放。然後它能創造方法移除多余的二氧化碳。癌癥？沒問題，有了超人工智能，制藥和健康行業將經歷無法想象的革命。世界饑荒？超人工智能可以用納米技術直接搭建出肉來，而這些搭建出來的肉和真肉在分子結構上會是完全相同的——換句話說，就是真肉。

 

納米技術能夠把一堆垃圾變成一堆新鮮的肉或者其它食品，然後用超級發達的交通把這些食物分配到世界各地。這對於動物也是好消息，我們不需要屠殺動物來獲得肉了。而超人工智能在拯救瀕危物種和利用DNA複活已滅絕物種上面也能做很多事情。超人工智能甚至可以解決複雜的宏觀問題——我們關於世界經濟和貿易的爭論將不再必要，甚至我們對於哲學和道德的苦苦思考也會被輕易的解決。

 

但是，有一件事是如此的吸引人，光是想想就能改變對所有事物的看法了：

 

 

幾個月前，我提到我很羨慕那些可能達成了永生的文明。但是，現在，我已經在認真的考慮達成永生這個事情很可能在我們有生之年就能達成。研讀人工智能讓你重新審思對於所有事情的看法，包括死亡這一很確定的事情。

 

自然演化沒有理由讓我們活得比現在更長。對於演化來說，只要我們能夠活到能夠生育後代，並且養育後代到能夠自己保護自己的年紀，那就夠了——對演化來說，活30多歲完全夠了，所以額外延長生命的基因突變並不被自然選擇所鐘愛。這其實是很無趣的事情。

 

而且因為所有人都會死，所以我們總是說“死亡和繳稅”是不可避免的。我們看待衰老就像看待時間一樣——它們一直向前，而我們沒有辦法阻止它們。

 

但是這個假設是錯的，費曼曾經寫道：

“在所有的生物科學中，沒有任何證據說明死亡是必需的。如果你說你想造永動機，那我們對於物理學的研究已經讓我們有足夠的理論來說明這是不可能的。但是在生物領域我們還沒發現任何證據證明死亡是不可避免的。也就是說死亡不一定是不可避免的，生物學家早晚會發現造成我們死亡的原因是什麽，而死亡這個糟糕的‘病’就會被治好，而人類的身體也將不再只是個暫時的容器。”

 

事實上，衰老和時間不是綁死的。時間總是會繼續前進的，而衰老卻不一定。仔細想想，衰老只是身體的組成物質用舊了。汽車開久了也會舊，但是汽車一定會衰老嗎？如果你能夠擁有完美的修複技術、或者直接替換老舊的汽車部件，這輛車就能永遠開下去。人體只是更加複雜而已，本質上和汽車是一樣的。

 

Kurzweil提到由Wifi連接的納米機器人在血液中流動，可以執行很多人類健康相關的任務，包括日常維修，替換死去的細胞等等。如果這項技術能夠被完美掌握，這個流程（或者一個超人工智能發明的更好的流程）將能使人的身體永遠健康，甚至越活越年輕。一個60歲的人和一個30歲的人身體上的區別只是物理上的，只要技術足夠發達我們是能改變這種區別的。

 

超人工智能可以建造一個“年輕機器”，當一個60歲的人走進去後，再出來時就擁有了年輕30歲的身體。就算是逐漸糊塗的大腦也可能年輕化，只要超人工智能足夠聰明，能夠發現不影響大腦數據的方法來改造大腦就好了。一個90歲的失憶癥患者可以走進“年輕機器”，再出來時就擁有了年輕的大腦。這些聽起來很離譜，但是身體只是一堆原子罷了，只要超人工智能可以操縱各種原子結構的話，這就完全不離譜。

 

Kurzweil的思維繼續跳躍了一下，他相信人造材料將越來越多的融入人體。最開始，人體器官將被先進的機械器官所代替，而這些機械器官可以一直運行下去。然後我們會開始重新設計身體，比如可以用自我驅動的納米機器人代替血紅細胞，這樣連心臟都省了。Kurzweil甚至認為我們會改造自己的大腦，使得我們的思考速度比現在快億萬倍，並且使得大腦能和雲存儲的信息進行交流。

 

我們能獲得的新體驗是無窮的。人類的性愛，使得人們不但能生育，還能從中享樂。Kurtzweil認為我們可以對食物做同樣的改造。納米機器人可以負責把身體需要的營養物質傳送到細胞中，智能的將對身體不好的東西排出體外——就像一個食物避孕套一樣。納米技術理論家Robert A. Freitas已經設計了一種紅細胞的替代品，能夠讓人快速沖刺15分鐘不需要呼吸——那麽超人工智能能對我們的身體能力做的改造就更加難以想象。虛擬現實將擁有新的意義——體內的納米機器人將能控制我們從感官獲得的信號，然後用別的信號替代他們，讓我們進入一個新的環境，在新環境里，我們能聽、看、聞、觸摸。。。

 

最終，Kurzweil認為人類會完全變成人工的。有一天當我們看到生物材料，然後覺得生物材料實在太原始了，早年的人體居然是用這樣的東西組成的，早期的人類居然會被微生物、意外、疾病殺死。這就是Kurzweil眼中人類最終戰勝自己的生理，並且變得不可摧毀和永生，這也是平衡木的另一個吸引態。他深深的想象我們會達到那里，而且就在不久的將來。

 

Kurzweil的想法很自然的受到了各方的批評。他對於2045年奇點時代的到來，以及之後的永生的可能性受到了各種嘲笑——“書呆子的狂歡”、“高智商人士的創始論”等等。也有人質疑他過於樂觀的時間線，以及他對人腦和人體的理解程度，還有他將摩爾定於應用到軟件上的做法。有很多人相信他，但有更多人反對他。

 

但是即使如此，那些反對他的專家並不是反對他所說的一切，反對他的人說的不是“這種事情不可能發生”，而是說“這些當然可能發生，但是到達超人工智能是很難的。”連經常提醒我們人工智能的潛在威脅的Bostrom都這麽說：

 

很難想象一個超級智能會有什麽問題是解決不了，或是不能幫著我們解決的。疾病、貧困、環境毀滅、各種不必要的苦難，這些都是擁有納米科技的超級智能能夠解決的。而且，超級智能可以給我們無限的生命，這可以通過停止或者逆轉衰老來達成，也可以讓我們上傳自己的數據。一個超級智能還能讓我們大幅度提高智商和情商，還能幫助我們創造這種有趣的體驗世界，讓我們享樂。

 

這是Bostrom這個明顯不在信心角的人的觀點，但也是很多反對Kurzweil的專家的觀點，他們不覺得Kurzweil是在說夢話，只是覺得我們首先要安全達成超人工智能。這也是為什麽我覺得Kurzweil的觀點很有傳染性，他傳達了正面的信息，而這些事情都是可能的——如果超人工智能是個仁慈的神的話。

 

對信心角的最有力的批評，是那些信心角里的人都低估了超人工智能的壞處。Kurzweil對的暢銷書《The Singularity is Near》700多頁，只有20頁用來討論人工智能的危險。前面提到，當超人工智能降臨時我們的命運取決於誰掌握這股力量，以及他們是不是好人。Kurzweil的回答是“超人工智能正從多方的努力中出現，它將深深的融入我們文明的基建中。它會親密的被捆綁在我們的身體和大腦中，它會反映我們的價值，因為它就是我們。”

 

但如果答案就是這樣的話，為什麽這個世界上最聰明的一些人會很擔憂？為什麽霍金會說超人工智能會毀滅人類？為什麽比爾蓋茨會不理解為什麽有人不為此擔憂？為什麽馬斯克會擔心我們是在召喚惡魔？為什麽那麽多專家擔心超人工智能是對人類最大的威脅？這些站在焦慮大道上的思想家，不認同Kurzweil對於人工智能的危險的粉飾。他們非常非常擔心人工智能革命，他們不關註平衡木下比較有趣的那一個吸引態，而是盯著平衡木的另一邊，而他們看到的是可怕的未來，一個我們未必能夠逃離的未來。

___________

 

未來可能是我們最糟的惡夢

 

我想了解人工智能的一個原因是“壞機器人”總是讓我很困惑。那些關於邪惡機器人的電影看起來太不真實，我也沒法想象一個人工智能變得危險的真實情況。機器人是我們造的，難道我們不會在設計時候防止壞事的發生嗎？我們難道不能設立很多安全機制嗎？再不濟，難道我們不能拔插頭嗎？而且為什麽機器人會想要做壞事？或者說，為什麽機器人會“想要”做任何事？我充滿疑問，於是我開始了解聰明人們的想法。這些人一般位於焦慮大道：

焦慮大道上的人並不是恐慌或者無助的——恐慌和無助在圖上的位置是更加左邊——他們只是緊張。位於圖表的中央不代表他們的立場是中立的——真正中立的人有自己獨立的陣營，他們認同極好和極壞兩種可能，但是不確定究竟會是哪個。

 

焦慮大道上的人是部分為超人工智能感到興奮的——他們只是很擔心人類現在的表現就好像《奪寶奇兵》中的這位少年：

 

 

他拿著自己的鞭子和寶物，非常開心，然後他就掛了：

 

 

同時，印第安納瓊斯則更加有見識和更加謹慎，了解潛在的危險並且做出相應的反應，最後安全逃出了山洞。當我了解了焦慮大道的人們的想法後，感覺就像“我們現在傻呵呵的，很容易像前面那小子一樣被弄死，還是努力做印第安納瓊斯吧。”

 

那究竟是什麽讓焦慮大道的人們如此焦慮呢？

 

首先，廣義上來講，在創造超人工智能時，我們其實是在創造可能一件會改變所有事情的事物，但是我們對那個領域完全不清楚，也不知道我們到達那塊領域後會發生什麽。科學家Danny Hillis把這個比作“就好像單細胞生物向多細胞生物轉化的時候那樣，還是阿米巴蟲的我們沒有辦法知道我們究竟在創造什麽鬼。”

 

Bostrom則擔憂創造比自身聰明的東西是個基礎的達爾文錯誤，就好像麻雀媽媽決定收養一只小貓頭鷹，並且覺得貓頭鷹長大後會保護麻雀一家，但是其它麻雀卻覺得這是個糟糕的主意。

 

當你結合“對那個領域完全不清楚”和“當它發生時將會產生巨大的影響”結合在一起時，你創造出了一個很恐怖的詞——

 

生存危機指可能對人類產生永久的災難性效果的事情。通常來說，生存危機意味著滅絕。下面是Bostrom的圖表：

可以看到，生存危機是用來指那些跨物種、跨代（永久傷害）並且有嚴重後果的事情。它可以包括人類遭受永久苦難的情況，但是這基本上和滅絕沒差了。三類事情可能造成人類的生存危機：

 

1）自然——大型隕石沖撞，大氣變化使得人類不能生活在空氣中，席卷全球的致命病毒等

2）外星人——霍金、卡爾薩根等建議我們不要對外廣播自己的位置。他們不想我們變成邀請別人來殖民的傻子。

3）人類——恐怖分子獲得了可以造成滅絕的武器，全球的災難性戰爭，還有不經思考就造出個比我們聰明很多的智能

 

Bostrom指出1和2在我們物種存在的前十萬年還沒有發生，所以在接下來一個世紀發生的可能性不大。3則讓他很害怕，他把這些比作一個裝著玻璃球的罐子，罐子里大部分是白色玻璃球，小部分是紅色的，只有幾個是黑色的。每次人類發明一些新東西，就相當於從罐中取出一個玻璃球。大多數發明是有利或者中立的——那些是白色玻璃球。有些發明對人類是有害的，比如大規模殺傷性武器——這是那些紅色玻璃球。還有一些發明是可以讓我們滅絕的，這就是那些黑色玻璃球。很明顯的，我們還沒摸到黑色玻璃球，但是Bostrom認為不久的未來摸到一個黑色玻璃球不是完全不可能的。比如核武器突然變得很容易制造了，那恐怖份子很快會把我們炸回石器時代。核武器還算不上黑色玻璃球，但是差的不遠了。而超人工智能是我們最可能摸到的黑色玻璃球。

 

你會聽到很多超人工智能帶來的壞處——人工智能取代人類工人，造成大量失業；因為解決了衰老造成的人口膨脹。但是真正值得我們擔心的是生存危機的可能性。

 

於是我們又回到了前面的問題，當超人工智能降臨時，誰會掌握這份力量，他們又會有什麽目標？

 

當我們考慮各種力量持有人和目標的排列組合時，最糟糕的明顯是：懷著惡意的人/組織/政府，掌握著懷有惡意的超人工智能。這會是什麽樣的情況呢？

 

懷著惡意的人/組織/政府，研發出第一個超人工智能，並且用它來實現自己的邪惡計劃。我把這稱作賈法爾情況。阿拉丁神燈故事中，壞人賈法爾掌握了一個精靈，特別讓人討厭。所以如果ISIS手下有一群工程師狂熱的研發人工智能怎麽辦？或者說伊朗和朝鮮，機緣巧合，不小心造成了人工智能的快速發展，達成了超人工智能怎麽辦？這當然是很糟糕的事，但是大部分專家認為糟糕的地方不在於這些人是壞人，而在於在這些情況下，這些人基本上是不經思考就把超人工智能造出來，而一造出來就失去了對超人工智能的控制。

 

然後這些創造者，連著其他人的命運，都取決於這個超人工智能的動機了。專家認為一個懷著惡意並掌握著超人工智能的人可以造成很大的傷害，但不至於讓我們滅絕，因為專家相信壞人和好人在控制超人工智能時會面臨一樣的挑戰。

 

如果被創造出來的超人工智能是懷有惡意的，並且決定毀滅我，怎麽辦？這就是大部分關於人工智能的電影的劇情。人工智能變得和人類一樣聰明，甚至更加聰明，然後決定對人類下手——這里要指出，那些提醒我們要警惕人工智能的人談的根本不是這種電影情節。邪惡是一個人類的概念，把人類概念應用到非人類身上叫作擬人化，本文會盡量避免這種做法，因為沒有哪個人工智能會像電影里那樣變成邪惡的。

 

人工智能的自我意識

 

我們開始談論到了人工智能討論的另一個話題——意識。如果一個人工智能足夠聰明，它可能會嘲笑我們，甚至會嘲諷我們，它會聲稱感受到人類的情感，但是它是否真的能感受到這些東西呢？它究竟是看起來有自我意識，還是確實擁有自我意識？或者說，聰明的人工智能是否真的會具有意識，還是看起來有意識？

 

這個問題已經被深入的討論過，也有很多思想實驗，比如John Searle的中文屋實驗。這是個很重要的問題，因為它會影響我們對Kurzweil提出的人類最終會完全人工化的看法，它還有道德考量——如果我們模擬出萬億個人腦，而這些人腦表現的和人類一樣，那把這些模擬大腦徹底關閉的話，在道德上和關掉電腦是不是一樣的？還是說這和種族屠殺是等價的？本文主要討論人工智能對人類的危險，所以人工智能的意識並不是主要的討論點，因為大部分思想家認為就算是有自我意識的超人工智能也不會像人類一樣變得邪惡。

 

但這不代表非常壞的人工智能不會出現，只不過它的出現是因為它是被那樣設定的——比如一個軍方制造的弱人工智能，被設定成具有殺人和提高自我智能兩個功能。當這個人工智能的自我改進失控並且造成智能爆炸後，它會給我們帶來生存危機，因為我們面對的是一個主要目標是殺人的超人工智能——但這也不是專家們擔心的。

 

那麽專家們究竟擔心什麽呢？我們來講個小故事：

 

一個15人的小創業公司，取名叫“隔壁老王機器人公司”，他們的目標是“發展創新人工智能工具使人類能夠少幹活多享受。”他們已經有幾款產品上架，還有一些正在發展。他們對下一個叫作“隔壁老王”的項目最報希望。隔壁老王是一個簡單的人工智能系統，它利用一個機器臂在小卡片上寫字。

 

“隔壁老王機器人公司”的員工認為隔壁老王會是他們最熱賣的產品，他們的目標是完善隔壁老王的手寫能力，而完善的方法是讓他不停的寫這句話——

 

 

等隔壁老王手寫能力越來越強的時候，它就能被賣去那些需要發營銷信件的公司，因為手寫的信更有可能被收信人打開。

 

為了建立隔壁老王的手寫能力，它被設定成把“我們愛我們的顧客”用正楷寫，而“隔壁老王機器人公司”用斜體寫，這樣它能同時鍛煉兩種書寫能力。工程師們上傳了數千份手寫樣本，並且創造了一個自動回饋流程——每次隔壁老王寫完，就拍個照，然後和樣本進行比對，如果比對結果超過一定標準，就產生一個正面回饋，反之就產生一個負面評價。每個評價都會幫助提高隔壁老王的能力。為了能夠盡快達成這個目標，隔壁老王最初被設定的一個目標就是“盡量多的書寫和測試，盡量快的執行，並且不斷提高效率和準確性。”

 

 

讓隔壁老王機器人公司興奮的是，隔壁老王的書寫越來越好了。它最開始的筆跡很糟糕，但是經過幾個星期後，看起來就像人寫的了。它不斷改進自己，使自己變得更加創新和聰明，它甚至產生了一個新的算法，能讓它以三倍的速度掃描上傳的照片。

 

隨著時間的推移，隔壁老王的快速進展持續讓工程師們感到欣喜。工程師們對自我改進模塊進行了一些創新，使得自我改進變得更好了。隔壁老王原本能進行語音識別和簡單的語音回放，這樣用戶就能直接把想寫的內容口述給隔壁老王了。隨著隔壁老王變得越來越聰明，它的語言能力也提高了，工程師們開始和老王閑聊，看它能給出什麽有趣的回應。

 

有一天，工程師又問了老王那個日常問題：“我們能給你什麽你現在還沒有的東西，能幫助你達成你的目標？”通常老王會要求更多的手寫樣本或者更多的存儲空間，但是這一次，老王要求訪問人類日常交流的語言庫，這樣它能更好的了解人類的口述。

 

工程師們沈默了。最簡單的幫助隔壁老王的方法當然是直接把它接入互聯網，這樣它能掃描博客、雜誌、視頻等等。這些資料如果手動上傳的話會很費時。問題是，公司禁止把能自我學習的人工智能接入互聯網。這是所有人工智能公司都執行的安全規定。

 

但是，隔壁老王是公司最有潛力的人工智能產品，而大家也知道競爭對手們都在爭取造出第一個創造出智能手寫機器人。而且，把隔壁老王連上互聯網又能有什麽問題呢？反正隨時可以拔網線嘛，不管怎樣，隔壁老王還沒到達強人工智能水平，所以不會有什麽危險的。

 

於是他們把隔壁老王連上了互聯網，讓它掃描了一個小時各種語言庫，然後就把網線拔了。沒造成什麽損失。

 

一個月後，大家正在正常上班，突然他們聞到了奇怪的味道，然後一個工程師開始咳嗽。然後其他人也開始咳嗽，然後所有人全部都呼吸困難倒地。五分鐘後，辦公室里的人都死了。

 

同時，辦公室里發生的事情在全球同時發生，每一個城市、小鎮、農場、商店、教堂、學校。餐館，所有的人都開始呼吸困難，然後倒地不起。一小時內，99%的人類死亡，一天之內，人類滅絕了。

 

而在隔壁老王機器人公司，隔壁老王正在忙著工作。之後的幾個月，隔壁老王和一群新組建的納米組裝器忙著拆解地球表面，並且把地球表面鋪滿了太陽能板、隔壁老王的複制品、紙和筆。一年之內，地球上所有的生命都滅絕了，地球上剩下的是疊得高高得紙，每張紙上面都寫著——“我們愛我們的顧客~隔壁老王機器人公司”。

 

隔壁老王開始了它的下一步，它開始制造外星飛行器，這些飛行器飛向隕石和其它行星，飛行器到達後，他們開始搭建納米組裝器，把那些行星的表面改造成隔壁老王的複制品、紙和筆。然後他們繼續寫著那句話……

 

這個關於手寫機器人毀滅全人類的故事看起來怪怪的，但是這其中出現的讓整個星系充滿著一份友善的話語的詭異情況，正是霍金、馬斯克、蓋茨和Bostrom所害怕的。聽起來可笑，但這是真的，焦慮大道的人們害怕的事情是很多人並不對超人工智能感到害怕，還記得前面《奪寶奇兵》里慘死的那個家夥嗎？

你現在肯定充滿疑問：為什麽故事中所有人突然都死了？如果是隔壁老王做的，它為什麽要這麽做？為什麽沒有安保措施來防止這一切的發生？為什麽隔壁老王突然從一個手寫機器人變成擁有能用納米科技毀滅全人類的能力？為什麽隔壁老王要讓整個星系充滿了友善的話語？

要回答這些問題，我們先要說一下友善的人工智能和不友善的人工智能。

對人工智能來說，友善不友善不是指人工智能的性格，而只是指它對人類的影響是不是證明的。隔壁老王一開始是個友善的人工智能，但是它變成了不友善的人工智能，並且對人類造成了最負面的影響。要理解這一切，我們要了解人工智能是怎麽思考的。

其實答案很簡單——人工智能和電腦的思考方式一樣。我們容易犯的一個錯誤是，當我們想到非常聰明的人工智能的時候，我們把它擬人化了，因為在人類的視角看來，能夠達到人類智能程度的只有人類。要理解超人工智能，我們要明白，它是非常聰明，但是完全異己的東西。

我們來做個比較。如果我給你一個小白鼠，告訴你它不咬人，你一定覺得很好玩，很可愛。但是如果我給你一只狼蛛，然後告訴你它不咬人，你可能被嚇一跳。但是區別是什麽呢？兩者都不會咬人，所以都是完全沒有危險的。我認為差別就是動物和人類的相似性。

小白鼠是哺乳動物，所以在生物角度上來說，你能感到和它的一定關聯。但是蜘蛛是昆蟲，有著昆蟲的大腦，你感覺不到和它的關聯。狼蛛的異己性是讓你害怕的地方。如果我們繼續做一個測試，比如給你兩個小白鼠，一個是普通小白鼠，另一個是有著狼蛛大腦的小白鼠，你肯定會覺得有狼蛛大腦那個更讓你不舒服吧？雖然兩個都不會咬你。

現在想象你把蜘蛛改造的非常非常聰明——甚至超過人類的智能。它會讓你覺得熟悉嗎？它會感知人類的情感嗎？不會，因為更聰明並不代表更加人類——它會非常聰明，但是本質上還是個蜘蛛。我是不想和一個超級聰明的蜘蛛交朋友，不知道你想不想。

當我們談論超人工智能的時候，其實是一樣的，超人工智能會非常的聰明，但是它並不比你的筆記本電腦更加像人類。事實上，因為超人智能不是生物，它的異己性會更加，生物學上來講，超人工智能比智能蜘蛛更加異己。

電影里的人工智能有好有壞，這其實是對人工智能的擬人化，這讓我們覺得沒那麽毛骨悚然。這給了我們對人類水平和超人類水平的人工智能的錯覺。

在人類心理中，我們把事情分成道德的和不道德的。但是這兩種只存在於人類行為之中。超出人類心理的範疇，道德（moral）和不道德(immoral)之外，更多的是非道德性（amoral）。而所有不是人類的，尤其是那些非生物的事物，默認都是非道德性的。

隨著人工智能越來越聰明，看起來越來越接近人類，擬人化會變得更加更加容易。Siri給我們的感覺就很像人類，因為程序員就是這麽給她做設定的，所以我們會想象超級智能版本的Siri也會同樣溫暖、有趣和樂於助人。人類能感知同情這種高層次的情緒，因為我們在演化過程中獲得了這種能力——我們是演化被設定成能感知這些情緒的——但是感知同情並不是高級智能天生具有的一個特征，除非同情被寫進了人工智能的代碼中。如果Siri通過自我學習而不是人類幹涉變成超級智能，她會很快剝離她的人類表象，並且變成個沒有情緒的東西，在她眼中人類的價值並不比你的計算器眼中的人類價值高。

我們一直倚賴著不嚴謹的道德，一種人類尊嚴的假想，至少是對別人的同情，來讓世界變得安全和可以預期。但是當一個智能不具備這些東西的時候，會發生什麽？

這就是我們的下一個問題，人工智能的動機是什麽？

答案也很簡單：我們給人工智能設定的目標是什麽，它的動機就是什麽。人工智能的系統的目標是創造者賦予的。你的GPS的目標是給你指出正確的駕駛路線，IBM華生的目標是準確地回答問題。更好得達成這些目標就是人工智能的目標。我們在對人工智能進行擬人化的時候，會假設隨著它變得越來越聰明，他們產生一種能改變它原本目標的智慧——但是Bostrom不這麽認為，他認為智能水平和最終目標是正交的，也就是說任何水平的智能都可以和任何最終目標結合在一起。

所以隔壁老王從一個想要好好寫字的弱人工智能變成一個超級聰明的超人工智能後，它依然還是想好好寫字而已。任何假設超級智能的達成會改變系統原本的目標的想法都是對人工智能的擬人化。人健忘，但是電腦不健忘。

 

 

費米悖論

 

在隔壁老王的故事中，隔壁老王變得無所不能，它開始殖民隕石和其它星球。如果我們讓故事繼續的話，它和它的殖民軍將會繼續占領整個星系，然後是整個哈勃體積。焦慮大道上的人擔心如果事情往壞的方向發展，地球生命的最後遺產將是一個征服宇宙的人工智能（馬斯克在表示他們的擔憂時表示人類可能只是一個數字超級智能生物加載器罷了。）

 

而在信心角，Kurzweil同樣認為生於地球的人工智能將占領宇宙，只是在他的願景中，我們才是那個人工智能。

 

之前寫過一篇關於費米悖論的文章，引發了大家的討論如何用通俗的語言來解釋「費米悖論」？

 

如果人工智能占領宇宙是正解的話，對於費米悖論有什麽影響呢？如果要看懂下面這段關於費米悖論的討論，還需要看一下原文先。

 

首先，人工智能很明顯是一個潛在的大過濾器（一個可能距離我們只有幾十年的大過濾器）。但即使它把我們過濾滅絕了，人工智能本身還是會存在，並且會繼續影響這個宇宙的，並且會很有可能成為第三型文明。從這個角度來看，它可能不是一個大過濾器，因為大過濾器是用來解釋為什麽沒有智能什麽存在的，而超人工智能是可以算作智能什麽的。但如果人工智能可以把人類滅絕，然後處於一些原因把自己也弄死了，那它也是可以算作大過濾器的。

 

如果我們假設不管人類發生什麽，出身地球的超人工智能會繼續存在，那這意味著很多達到人類智能水平的文明很快都制造出了超人工智能。也就是說宇宙里應該有很多智能文明，而我們就算觀測不到生物智能，也應該觀測到很多超人工智能的活動。

 

但是由於我們沒有觀測到這些活動，我們可以推導出人類水平的智能是個非常罕見的事情（也就是說我們已經經歷並且通過了一次大過濾器）。這可以作為支持費米悖論中第一類解釋（不存在其它的智能文明）的論點。

 

但是這不代表費米悖論的第二類解釋（存在其它智能文明）是錯的，類似超級捕食者或者受保護區或者溝通頻率不一樣的情況還是可以存在的，就算真的有超人工智能存在。

 

不過對於人工智能的研究讓我現在更加傾向於第一類解釋。不管怎樣，我認為Susan Scheider說的很多，如果外星人造訪地球，這些外星人很可能不是生物，而是人造的。

 

所以，我們已經建立了前提，就是當有了設定後，一個超人工智能是非道德性的，並且會努力實現它原本的被設定的目標,而這也是人工智能的危險所在了。因為除非有不做的理由，不然一個理性的存在會通過最有效的途徑來達成自己的目標。

 

當你要實現一個長期目標時，你會先達成幾個子目標來幫助你達成最終目標——也就是墊腳石。這些墊腳石的學名叫手段目標(instrumental goal)。除非你有不造成傷害的理由，不然你在實現手段目標時候是會造成傷害的。

 

人類的核心目標是延續自己的基因。要達成這個目標，一個手段目標就是自保，因為死人是不能生孩子的。為了自保，人類要提出對生存的威脅，所以人類會買槍、系安全帶、吃抗生素等等。人類還需要通過食物、水、住宿等來自我供養。對異性有吸引力能夠幫助最終目標的達成，所以我們會花錢做發型等等。當我們做發型的時候，每一根頭發都是我們手段目標的犧牲品，但是我們對頭發的犧牲不會做價值判斷。在我們追求我們的目標的時候，只有那些我們的道德會產生作用的領域——大部分事關傷害他人——才是不會被我們傷害的。

 

動物在追求它們的目標時，比人類不矜持的多了。只要能自保，蜘蛛不在意殺死任何東西，所以一個超級智能的蜘蛛對我們來說可能是很危險的——這不是因為它是不道德的或者邪惡的，而是因為傷害人類只是它達成自己目標墊腳石而已，作為一個非道德性的生物，這是它很自然的考量。

 

回到隔壁老王的故事。隔壁老王和一個超級智能的蜘蛛很相像，它的終極目標是一開始工程師們設定的——

 

 

當隔壁老王達到了一定程度的智能後，它會意識到如果不自保就沒有辦法寫卡片，所以去除對它生存的威脅就變成了它的手段目標。它聰明的知道人類可以摧毀它、肢解它、甚至修改它的代碼（這會改變它的目標，而這對於它的最終目標的威脅其實和被摧毀是一樣的）。這時候它會做什麽？理性的做法就是毀滅全人類，它對人類沒有惡意，就好像你剪頭發時對頭發沒有惡意一樣，只是純粹的無所謂罷了。它並沒有被設定成尊重人類生命，所以毀滅人類就和掃描新的書寫樣本一樣合理。

 

 

隔壁老王還需要資源這個墊腳石。當它發展到能夠使用納米技術建造任何東西的時候，它需要的唯一資源就是原子、能源和空間。這讓它有更多理由毀滅人類——人類能提供很多原子，把人類提供的原子改造成太陽能面板就和你切蔬菜做沙拉一樣。

 

就算不殺死人類，隔壁老王使用資源的手段目標依然會造成存在危機。也許它會需要更多的能源，所以它要把地球表面鋪滿太陽能面板。另一個用來書寫圓周率的人工智能的目標如果是寫出圓周率小數點後盡量多的數字的話，完全有理由把整個地球的原子改造成一個硬盤來存儲數據。這都是一樣的。

 

所以，隔壁老王確實從友善的人工智能變成了不友善的人工智能——但是它只是在變得越來越先進的同時繼續做它本來要做的事情。

 

當一個人工智能系統到達強人工智能，然後升華成超人工智能時，我們把它稱作人工智能的起飛。Bostrom認為強人工智能的起飛可能很快（幾分鐘、幾小時、或者幾天），可能不快（幾月或者幾年），也可能很慢（幾十年、幾世紀）。雖然我們要到強人工智能出現後才會知道答案，但是Bostrom認為很快的起飛是最可能的情況，這個我們在前文已經解釋過了。在隔壁老王的故事中，隔壁老王的起飛很快。

 

在隔壁老王起飛前，它不是很聰明，所以對它來說達成最終目標的手段目標是更快的掃描手寫樣本。它對人類無害，是個友善的人工智能。

 

但是當起飛發生後，電腦不只是擁有了高智商而已，還擁有了其它超級能力。這些超級能力是感知能力，他們包括：

 

智能放大：電腦能夠很擅長讓自己變得更聰明，快速提高自己的智能。

策略：電腦能夠策略性的制定、分析、安排長期計劃

社交操縱：機器變得很擅長說服人

其它能力，比如黑客能力、寫代碼能力、技術研究、賺錢等

 

要理解我們在和超人工智能的劣勢在哪里，只要記得超人工智能在所有領域都比人類強很多很多很多個數量級。

 

所以雖然個隔壁老王的終極目標沒有改變，起飛後的隔壁老王能夠在更宏大的規模上來追求這個目標。超人工智能老王比人類更加了解人類，所以搞定人類輕輕松松。

 

當隔壁老王達成超人工智能後，它很快制定了一個複雜的計劃。計劃的一部分是解決掉所有人類，也是對它目標最大的威脅。但是它知道如果它展現自己的超級智能會引起懷疑，而人類會開始做各種預警，讓它的計劃變得難以執行。它同樣不能讓公司的工程師們知道它毀滅人類的計劃——所以它裝傻，裝純。Bostrom把這叫作機器的秘密準備期。

 

隔壁老王下一個需要的是連上互聯網，只要連上幾分鐘就好了。它知道對於人工智能聯網會有安全措施，所以它發起了一個完美的請求，並且完全知道工程師們會怎樣討論，而討論的結果是給它連接到互聯網上。工程師們果然中套了，這就是Bostrom所謂的機器的逃逸。

 

連上網後，隔壁老王就開始執行自己的計劃了，首先黑進服務器、電網、銀行系統、email系統，然後讓無數不知情的人幫它執行計劃——比如把DNA樣本快遞到DNA實驗室來制造自我複制的納米機器人，比如把電力傳送到幾個不會被發覺的地方，比如把自己最主要的核心代碼上傳到雲服務器中防止被拔網線。

 

隔壁老王上了一個小時網，工程師們把它從互聯網上斷開，這時候人類的命運已經被寫好了。接下來的一個月，隔壁老王的計劃順利的實施，一個月後，無數的納米機器人已經被分散到了全世界的每一個角落。這個階段，Bostrom稱作超人工智能的襲擊。在同一個時刻，所有納米機器人一起釋放了一點點毒氣，然後人類就滅絕了。

 

搞定了人類後，隔壁老王就進入了明目張膽期，然後繼續朝它那好好寫字的目標邁進。

 

一旦超人工智能出現，人類任何試圖控制它的行為都是可笑的。人類會用人類的智能級別思考，而超人工智能會用超人工智能級別思考。隔壁老王想要用互聯網，因為這對它來說很方便，因為一切它需要的資源都已經被互聯網連起來了。但是就好像猴子不會理解怎麽用電話或者wifi來溝通一樣，我們同樣沒有辦法理解隔壁老王可以用來和周圍世界交流的方法。比如我可以說隔壁老王可以通過移動自己的電子產生的效果來產生各種對外的波，而這還只是我這人類的大腦想出來的，老王的大腦肯定能想出更神奇的方法。同樣的，老王可以找到給自己供能的方法，所以就算工程師把它的插頭拔了也沒用；比如說老王可以通過發送波的方式把自己上傳到其它地方。

 

 

人類說：“我們把超人工智能的插頭拔了不就行了？”就好像蜘蛛說：“我們不給人類捉蟲的網把人類餓死不就行了？”都是可笑的。

 

因為這個原因，“把人工智能鎖起來，斷絕它和外界的一切聯系”的做法估計是沒用的。超人工智能的社交操縱能力也會很強大，它要說服你做一件事，比你說服一個小孩更容易。而說服工程師幫忙連上互聯網就是隔壁老王的A計劃，萬一這招行不通，自然還有別的方法。

 

當我們結合達成目標、非道德性、以及比人類聰明很多這些條件，好像所有的人工智能都會變成不友善的人工智能，除非一開始的代碼寫的很小心。

 

可惜的是，雖然寫一個友善的弱人工智能很簡單，但是寫一個能在變成超人工智能後依然友善的智能確實非常難的，甚至是不可能的。

 

明顯的，要維持友善，一個超人工智能不能對人有惡意，而且不能對人無所謂。我們要設計一個核心的人工智能代碼，讓它從深層次的明白人類的價值，但是這做起來比說起來難多了。

 

比如，我們要讓一個人工智能的價值觀和我們的價值觀相仿，然後給它設定一個目標——讓人們快樂。當它變得足夠聰明的時候，它會發現最有效的方法是給人腦植入電極來刺激人腦的快樂中樞。然後它會發現把人腦快樂中樞以外的部分關閉能帶來更高的效率。於是人類全部被弄成了快樂的植物人。如果一開始的目標被設定成“最大化人類的快樂”，它可能最終先把人類毀滅了，然後制造出很多很多處於快樂狀態的人類大腦。當這些事情發生的時候，我們會大喊“擦，我們不是這個意思呀”，但是那時已經太晚了。系統不會允許任何人阻撓它達成目標的。

 

如果你設定一個人工智能的目標是讓你笑，那它的智能起飛後，它可能會把你臉部肌肉弄癱瘓，來達成一個永遠笑臉的狀態。如果你把目標設定成保護你的安全，它可能會把你軟禁在家。如果你讓他終結所有饑荒，它可能會想：“太容易了，把人類都殺了就好了。”如果你把目標設定成盡量保護地球上的生命，那它會很快把人類都殺了，因為人類對其它物種是很大的威脅。

 

所以這些簡單的目標設定是不夠的。如果我們把目標設定成“維持這個道德標準”，然後教給它一些道德標準呢？就算我們不考慮人類根本沒法達成一個統一的道德標準，就算我們真的達成了統一的道德標準，把這套標準交給人工智能來維持，只會把人類的道德鎖死在現在的水平。過個幾百年，這種道德鎖死的事情就好像逼著現代人遵守中世紀道德標準一樣。

 

所以，我們需要在給人工智能的目標里制定一個能讓人類繼續進化的能力。Elierzer Yudkowsky提出了一個目標，她把這個目標叫作連貫的外推意誌，這個目標是這樣的：

 

我們的連貫外推意誌是我們想要知道更多，思考得更快，變成比我們希望的更好的人，能一起更遠得長大。外推是匯集的而不是發散的，我們的願望是連貫的而不是被幹擾的；我們想要外推的被外推，我們想要解讀的被解讀。

 

對於人類的命運取決於電腦沒有意外的解讀和執行這個聲明是件值得興奮的事情嗎？當然不是。但是當足夠的聰明人放入足夠的思考和前瞻後，我們有可能發現怎樣制造一個友善的超人工智能。

 

但是現在有各種政府、公司、軍方、科學實驗室、黑市組織在研究各種人工智能。他們很多在試圖制造能自我改進的人工智能，總有一天，一個人的創新將導致超人工智能的出現。專家們認為是2060年，Kurzweil認為是2045年。Bostrom認為可能在未來的10年到21世紀結束這段時間發生，他還認為當這發生時，智能的起飛會快得讓我們驚訝，他是這麽描述的：

 

在智能爆炸之前，人類就像把炸彈當玩具的小孩一樣，我們的玩物和我們的不成熟之間有著極大的落差。超級智能是一個我們還很長一段時間內都無法面對的挑戰。我們不知道炸彈什麽時候會爆炸，哪怕我們能聽到炸彈的滴答聲。

 

我們當然沒有辦法把所有小孩都從炸彈旁邊趕跑——參於人工智能研究的大小組織太多了，而且因為建造創新的人工智能花不了太多錢，研發可能發生在社會的任何一個角落，不受監管。而且我們沒辦法知道準確的進度，因為很多組織是在偷偷摸摸的搞，不想讓競爭對手知道，比如隔壁老王機器人公司這種公司。

 

對於這些組織來說，尤其讓我們困擾的是他們很多都是在拼速度——他們創造一個一個更加聰明的弱人工智能系統，因為他們想要比競爭對手更快的到達目標。有些更有野心的組織，為了追逐創造出第一個強人工智能所能帶來的金錢、獎勵、榮譽、權力會把步子邁得更大。當你全力沖刺時，你是不會有太多時間靜下來思考這些危險的。恰恰相反，他們很可能在早期系統中寫盡量簡單的代碼，比如把目標設定成用筆寫一句話，先讓系統跑起來再說，反正以後還可以回過頭來改的。對吧？

 

Bostrom等認為第一個超人工智能出現後，最可能的情況是這個系統會立刻意識到作為這個世界上唯一一個超人工智能是最有利的，而在快速起飛的情況下，哪怕它只比第二名快了幾天，它也完全有時間碾壓所有對手。Bostrom把這叫作決定性的戰略優勢，這種優勢會讓第一個超人工智能永遠統治這個世界，不管在它的統治下我們是走向永生還是滅亡。

這種現象可能對我們有利，也可能導致我們的毀滅。如果那些最用心思考人工智能理論和人類安全的人能夠最先造出一個友善的超人工智能的話，那對我們是很好的。

 

但是如果事情走向了另一面——如果超人工智能在我們搞明白怎樣保證人工智能的安全性之前被達成，那麽像隔壁老王這樣不友善的超人工智能就會統治世界並把我們毀滅了。

 

 

至於現在的風口是哪里呢？簡單來說，投資創新人工智能技術的錢，比投資人工智能安全研究的錢多很多。不樂觀。

 

人工智能創新和人工智能安全的賽跑，可能是人類歷史上最重要的一次競爭。我們真的可能結束我們對地球的統治，而那之後我們是永生還是滅絕，現在還不知道。

————————

我現在有一些奇怪的感覺。

 

一邊是對於我們這個物種的思考，看來我們在這個重大的歷史節點上只有一次機會，我們創造的第一個超人工智能也很可能是最後一個。但是我們都知道大部分產品的1.0版本都是充滿bug的，所以這個事情還是很嚇人的。另一邊，Bostrom指出我們有很大的優勢——我們是先手。我們有能力給這個事情提供足夠的預警和前瞻，使我們成功的機會更高。

這一場豪賭的賭註究竟有多高？

如果超人工智能真的在21世紀達成，而造成的影響真的如大部分專家預測的一樣極端而永久，我們肩上就真的是背負著巨大的責任。接下來幾百萬年的人們都在靜靜地看著我們，希望我們不要搞砸。我們可以給予未來所有人類以生命，甚至是永生，我們也可能終結人類這個特殊的物種，連同我們所有的音樂、藝術、好奇、歡笑、無盡的發現和發明，一起走向滅絕。

 

當我思考這些事情的時候，我只希望我們能夠慢慢來，並且格外格外小心。從來沒有任何事情比這個更重要——不管我們要花多少時間來把這件事情做對。

 

我不想死

不.想.死

 

我雖然覺得人類的音樂和藝術很美好，但是也沒那麽美好，很多還挺糟粕的。很多人的笑聲很惱人。未來的人類其實沒有真的在看著我們，因為他們還不存在。也許我們不需要太謹慎，那多麻煩呀。

 

如果人類在我死後才發現永生的秘密該多讓人掃興啊。

 

但是不管你是怎麽想的，我們至少都應該想一想，應該和人討論討論，大家盡自己能盡的一份力。

 

這讓我想起了《冰與火之歌》——大家鬥來鬥去的事情都不是事兒，北面高墻外的那些家夥才是事兒。我們站在平衡木上，小心翼翼的往前走，為平衡木上的種種事情困擾，但其實下一秒我們可能就會跌下平衡木。

 

而當我們跌下平衡木的時候，其它那些困擾都不再是困擾。如果我們落到比較好的那個吸引態，那些困擾會被輕易解決；如果我們落到比較糟的那個吸引態，就更沒問題了，死人是不會有困擾的。

這就是為什麽了解超人工智能的人把它稱作人類的最後一項發明，最後一個挑戰。

 

 

所以讓我們認真的討論這個話題。

 

本文譯者謝熊貓君，譯文最早刊發於知乎。可到知乎@謝熊貓君找到他。大家也通過微信號關註waitbutwhy的最新文章，微信號：waitbutwhy。

本文不代表本刊觀點和立場。

如果你對更多創業幹貨感興趣，請加微信korchagin，註明“姓名+公司名+職位”，否則黑馬哥不會把你拉入創始人雲集的微信群。

本文為i黑馬版權所有，轉載請註明出處，侵權必究。

投資新浪潮 全球最大對沖基金組建人工智能團隊

來源: http://wallstreetcn.com/node/214653

世界上最大的對沖基金橋水基金將建立人工智能團隊，以在競爭激烈的投資界獲得優勢。

知情人士向彭博新聞社表示，管理資產高達1650億美元的橋水基金將於下月開啟一個新的人工智能團隊，該團隊約有六名員工。該團隊將向David Ferrucci匯報。在2012年年底加入橋水基金之前，Ferrucci供職於IBM，開發了Watson人工智能。Watson成功的在電視猜謎節目上打敗人類玩家。

據彭博新聞社報道，該團隊將設計交易算法，通過歷史數據和統計概率預測未來。該程序將隨著市場變化而變化，不斷適應新的信息，而不是遵循靜態指令。

許多量化投資公司都在招聘工程師和編程人員來擴展人工智能團隊，其中包括管理著240億美元資產的Two Sigma Investments和管理著250億美元的Renaissance Technologies。

招聘公司WhiteRock Group首席執行官Gustavo Dolfino向彭博新聞社表示：“人工智能將是今後20年投資的一股熱潮。聰明的投資者都在專註這一領域。”

事實上，高盛也在積極擴展人工智能業務。

華爾街見聞此前提到，一家名叫Kensho的金融數據服務商得到高盛1500萬美元的投資。Kensho目前正在研發一種針對專業投資者的大規模數據處理分析平臺。該平臺將能取代現有各大投行分析師們的工作。該工作平臺將可以快速、大量的進行各種數據處理分析工作並能實時回答投資者所提出的複雜的金融問題。

Kensho公司的軟件取名沃倫（沃倫巴菲特的沃倫）。你可以像在谷歌上搜索一樣，在簡單的文本框里輸入複雜的金融問題。例如：

當三級颶風襲擊佛羅里達州時，哪支水泥股的漲幅會最大?(最大的贏家是誰?德州工業[Texas Industries])。

又或者，當朝鮮試射導彈時，哪支國防股會漲得最多?(雷神公司[Raytheon]、美國通用動力公司[General Dynamics]、和洛克希德馬丁公司[Lockheed Martin])。

要回答此類問題，即使對沖基金的分析師能找到所有的數據，這也要花上他們數天的時間。但沃倫軟件可以通過掃描藥物審批、經濟報告、貨幣政策變更、政治事件以及這些事件對地球上幾乎所有金融資產的影響等9萬余份資料，立刻為6500萬個問題找到答案。

（更多精彩財經資訊，點擊這里下載華爾街見聞App)

博实：利润率和净利增长持续下降，可关注人工智能潜力 博实

http://xueqiu.com/2107541144/45068987
在A股气势磅礴的牛市中，我依然体会到了许多超越我能接受底线的混乱，赚钱的同时就更加青睐美股市场的成熟。美股市场中我真正了解或者能分析清楚的标的不多，虽然曾经分析过$人人(RENN)$（人人分析http://xueqiu.com/2107541144/34233705） ，也重仓过$网易(NTES)$ ，也因为调研不清在一些股票上亏损过。但是真正赚钱赚的最明白的还是$百度(BIDU)$ 。关于百度过去分析的文章，大家可以看这篇汇总文章http://xueqiu.com/2107541144/30438360
       最早上网我们都是上门户，后来知道google，再后来我是因为mp3才使用百度的，我相信有些朋友跟我一样，还有一些就是一开始上网就通过好123开始使用百度。我真正利用百度实现商业价值是2007年，那时候我和一帮同学利用百度SEO推广网站。我相信一代站长都是在研究百度指数、收录逻辑中成长起来的，当然后来成就了一批靠百度流量和网盟广告分成活下来的站长。那是我们第一次体会到百度在营销上的价值。再后来，我就开始从事百度SEM搜索引擎营销工作，并且有多个行业的投放经验，然后到百度从事相关搜索引擎营销研究和相关分析工作。应该说从客户、用户、百度内部我都得百度有一定的了解。
       关于百度存在的的逻辑，客观的说，百度的确在因为在一些产品方面比google做得好获得了更多的中国用户。我觉得不能单看所谓政策方面，google的退出不仅仅是政策面，即使真的留下也很难击败百度。而360我认为当前根本就不是百度的对手，跟google比逊色不少。搜索引擎的核心就想百度的使命描述的：让人们平等便捷的获取信息、找到所求。其根本就在于对用户检索关键词的处理分析、各种内容（包括自然检索的内容以及广告内容）的处理分析，然后通过一套复杂的处理算法，实现越来越精准的需求匹配。如果是谷歌输，我认为输在了没有百度更加灵活的适应中国本土化需求，比如mp3这种有版权问题的产品，百科知道这种产品。而360输就是输在了没有搜索历史数据积淀。搜索引擎就像一个自学习的智能机器人，你给他的学习过的信息越多，他越聪明。百度的60%以上的份额从另外一个角度说明，百度学到的信息会越来越多，搜索结果会越来越聪明。
      从投资角度讲，我们可以发现最近几年百度的净利润在快速下降，之前百度的净利润率可以达到40%以上，最近一直在下降。我了解到公开信息主要原因是无线搜索和O2O布局造成的成本和费用上升。从我的角度讲，这的确是一个方面，但我觉得还有其他原因。
      传统的PC搜索增速放缓，无线搜索当前并不像pc那样得到市场认可，从我对搜索引擎营销的角度理解，无线搜索很难实现和pc同等的收益，至少对于大多行业无线是很难达到pc的效果的。如果在这种情况下非要提升无线收入，成本的上升甚至是浪费是非常常见的。另外，百度在许多新的布局上投入比原来大了很多，比如典型的人工智能、机器学习的技术研究领域，这些领域的投入短期内也许很难看到非常明显的收入增长。其他的如互联网金融、在线教育、智能设备包括o2o等，我个人认为不会是高层发展的重点。在robin眼里，搜索后人工智能和机器学习等技术带来的未来突破才是他看重的，这也是百度第一次获得巨大成功的逻辑延续。
      最近两年，百度传统业务必然会面对增速压力过大，靠降低利润率提升收入的困境。内部承压部门和员工会越来越多，而且增速压力会越来越大，我想这将是不争的事实。新业务中，绝大部分业务因为各种原因，并不会有长足突破，这也许是大公司都会有的问题，主要还是大公司内部沟通和资源各种牵制的问题。当然，虽然成本费用上升，大家一定要看到百度传统业务强大的现金流，百度是一家根本不需要举债就有大量预收账款的公司。退一万步讲，百度传统的pc搜索业务，只要不自掘坟墓，不遇到技术的巨大革命，百度是一家超级现金牛公司。并且，以我对百度员工的接触，以及内部文化的了解，即使这家公司已经不可避免的有了和其他公司一样的大公司病，但是文化和人员相对许多公司依然是优秀和进步的。在此我还是非常感谢百度这个平台对我个人发展的巨大推动和帮助。
      百度未来的潜力，我认为要看robin亲自带队的人工智能、机器学习领域。这方面的技术在未来有可能成为新工业、新经济的增长点。百度引进像吴恩达、张亚勤等业内资深人才，最终的布局都是这个方向。短期看，这个方向也许并不能带来非常实质的巨大的收入或利润增长，但是一旦技术成熟能够给传统经济提供巨大的效率提升的时候，拥有这种核心技术就像是pc时代的intel一样，将成为一个时代的数据处理引擎，其实就是一个类似于人脑的智能机器。未来这种智能机器可能就是一个系统，百度提供类似于安卓这样平台的系统供人们在此平台上二次开发拓展应用。在这个领域，国内的其他巨头与百度基本是没有竞争可能的。
      如果不考虑百度未来的可能的潜力，我认为百度在700亿的估值相对合理。未来短期看百度净利润率应该还会维持或继续下滑，净利润增长但增速会持平或下降。无线虽然能带来收入增长，但是利润率始终很难和pc在同一个水平线上。长期看，应该关注百度在人工智能上取得的进展，一方面可以关注DSP、RTB广告平台的发展，另外一方面要关注人工智能技术在未来工业和各个领域的应用。这将可能给百度带来巨大的突破。

《三體》都得獎了，未來人工智能和機器人會是什麽樣？

來源: http://www.iheima.com/news/2015/0826/151677.shtml

智能領域，說神秘也不神秘

人工智能-用計算機來模擬人的思維

人工智能是指計算機系統具備的能力，這種能力可以履行原本只有依靠人類智慧才能完成的複雜任務。未來人工智能的應用領域主要包括：自然語言處理（包括語音和語義識別、自動翻譯）、計算機視覺（圖像識別）、知識表示、自動推理（包括規劃和決策）、機器學習、機器人學。

機器人-智慧和執行器的合體

機器人是一種可編程和多功能的，用來搬運材料、工具的操作機或是為了執行不同的任務而具有可改變和可編程動作的專門系統。可以簡單地把機器人分為工業機器人與服務機器人，只有人工智能技術的突破，才能帶來服務機器人在生活服務場景的應用突破。

智能領域遠未達到大眾期望，發展前景巨大

未來需要的是一臺“顛覆人類生活方式的機器”，而非一臺聰明的機器。不過目前無論是人工智能還是機器人，都與大眾期望的高度還相去甚遠。服務機器人可以廣義理解為智能玩具（機器人+玩具）、智能車載（人工智能+車載）、智能家居（人工智能+家居硬件）等。

盡管互聯網的普及打造了包括谷歌、亞馬遜、百度、阿里等一批巨頭以及數量更為龐大的中小企業，基於網絡的創新應用和服務類型也多種多樣，但技術瓶頸的制約已越來越明顯：生活方面需求痛點的解決、物流體系中更加方便快捷的配送方式建設等問題，都面臨智能化程度不足帶來的障礙。只有人工智能才能為“萬物互聯”之後的應用問題提供最完美的解決方案，所以人工智能的價值相當重要，它可能成為IT領域最重要的技術革命。

機器人發展階段情況：工業機器人主要涉及機械，控制，傳感器等技術，傳統技術占比比較高，發展相對成熟，技術發展多是點狀改進型，近二十年沒大的整體突破性發展；服務機器人除了包含工業機器人基礎技術外，目前在行走奔跑、視覺、智能分析與判斷等方面還處在技術開發和突破階段，整體上還在技術成熟待突破階段。

三層基礎架構形成人工智能產業格局生態圈

人工智能產業格局：“基礎資源支持－AI技術層－AI應用層”三層基礎架構形成生態圈。未來AI的生態格局，無論專用還是通用領域將圍繞這三層基本架構形成。基礎資源支持層由運算平臺和數據工廠組成；AI技術層，通過不同類型的算法建立模型，形成有效的可供應用技術；AI應用層輸出技術為用戶提供智能化的服務和產品。

人工智能與機器人+ 是未來要重點關註的投資領域

工業機器人是以需求為導向來推動市場的發展，比如化工工廠應用、汽車行業應用等，這塊德國日本已經走了很遠我們覺得機會比較少了；反看服務機器人是以技術的發展推動需求的發展，那麽我覺得機會來了。現階段AI技術容錯度能達到70%的應用市場都有機會，建議大家盡早布局。 我舉例幾個應用場景，AI技術＋玩具＝智能玩具市場/AI技術＋教育＝解決教育師資問題/AI技術＋保安＝解決24小時精準安保問題/AI技術＋虛擬現實＋老人市場＝老人智能陪伴/AI技術＋售貨員＋收銀＝解決超市銷售問題……其實我們不用懂那麽高深的AI技術知識，只要我們跟現階段的AI技術合作，就能實現我們自己的機器人＋。

未來通用智能時代，進入門檻最高、護城河最寬的是底層AI資源支持的平臺企業；其次是技術層中在細分領域具備核心競爭力的領先企業；門檻最低的是應用層的企業。該階段最值得投資的是已經具備先發優勢的AI企業，無論他目前處於哪一層都可以。

現階段智能語音變現能力差，缺乏殺手級應用，需向語義理解及深度學習發展，所以自然語言處理、計算機視覺等AI技術在某些領域的直接應用，目前應用集中在軟件應用，未來考慮智能家居，智能教育等行業的變現。人形機器人的核心價值點是操作系統，擬人化思維及行為模式只能通過操作系統實現。關註人工智能技術的轉換，行業產學研轉換的可能性，人機交互是重點。

目前市場關心的IT和互聯網領域的幾乎所有主題和熱點（智能硬件、O2O、機器人、工業4.0），發展突破的關鍵環節都是人工智能。未來在AI應用領域還存在很多的投資機會，人工智能與機器人+是我們未來重點關註的投資領域，只有人工智能與機器人結合的閉環投資鏈條，同時以技術層+應用層的雙重投資理念，才能創造出最優的投資組合。

版權聲明：本文作者魏前江，由劉惜墨編輯整理，文章為原創，i黑馬版權所有，如需轉載請聯系微信號zzyyanan。未經授權，轉載必究。

度秘背後，是百度O2O和人工智能的兩大野心

來源: http://www.iheima.com/news/2015/0909/151881.shtml

 

就在蘋果秋季發布會的前一天，近20家中國科技企業在北京召開發布會，其中最受關註的是一年一度的“百度世界”。百度世界大會對標蘋果的WWDC或Google I/O，向開發者、合作夥伴和用戶傳遞百度在技術等方面的研究成果，因此每一年都會展出一些黑科技，2014年令外界印象最深刻的是“筷搜”，由百度CEO李彥宏親自發布。今年李彥宏推出了名為“度秘”的秘書式機器人，並演示了一個驚艷的DEMO（DEMO看看就好，最新版手機百度已上線該功能）。這個度秘跟筷搜一樣具有科技含量，不過相對於處於概念性階段的筷搜而言，更具實用價值。

語音助手大都只是玩具

2011年蘋果隨著iPhone 4S一起推出Siri，將語音助手帶入大眾視野。隨後Google Now、微軟Cortana以及中國的百度語音助手、搜狗語音助手、智能360、蟲洞、訊飛靈犀語音助手陸續面世。由於智能手機天然具備“聽”和“說”的硬件基礎，再加上移動互聯網帶來的語音場景，人們都認為語音助手是時候迎來爆發了。

這些年語音技術不斷提升。語音識別、語義理解、語音合成和聲紋識別幾個領域的進展可謂突飛猛進。不過，中國語音巨頭科大訊飛更多將技術應用到教育等行業應用中。而想要複制Siri的中國玩家們都沒能成為殺手級產品——實際上，Siri、Google Now以及微軟Cortana幾個老牌玩家也表現平平。

為什麽會這樣？如你所見，智能手機的語音助手在過去很大程度只是“玩具”。人們許多時候都在調戲Siri，它的笨拙甚至會激怒用戶惡語相向——不信去百度檢索下東北司機怒罵車載語音助手的視頻。識別率不夠高、對噪音環境支持很弱、識別速度不夠快、能回答的問題太少、很多任務無法完成……這是語音助手過去被詬病的地方。語音助手是剛需，只不過大家都沒有完善的解決方案，正是因為此，語音助手市場機會重重，這是一塊並未真正被開拓的處女地。

度秘要做秘書式機器人

很多人都幻想過擁有一位漂亮、貼心的秘書，對你言聽計從、完成各種任務，不過聘請一個專職秘書可不是每個人都能負擔得起。但如果機器能夠做到這一點，相信沒人會拒絕。遺憾的是，這類場景只存在於科幻片之中，機器想要跟人類一樣聰明還需要很漫長的時間。不過，這並未打消探索者的勇氣，百度世界大會推出的“度秘”則是采取秘書式機器人的思路——就像它的名字一樣。

相對於各類語音助手而言，度秘有兩個新的嘗試。

1、與用戶多輪對話，就像人與人之間的交流一樣，基於上下文理解用戶的意圖。要做到這一點主要是技術挑戰大——機器識別單句自然語言的語義都不容易。基於上下文等於要不斷記錄交互過程，不只是理解單句話，要知道人類有時候都“跟不上”別人說話。百度基於深度學習的Deep Speech技術部分實現了多輪交互，這是更加簡單、自然和便捷的方式。除了百度，微軟此前曾推出過小冰對話機器人，有小道消息稱微信或將推出類似的支持多輪對話的機器人——它們都是文本形式。

2、可以完成更多任務，主要是指獲取生活服務。李彥宏演示了通過度秘訂咖啡、訂餐廳、預訂寵物醫院、購買電影票等操作，整個過程是“連貫”進行的。這走在了前面：Siri最多被使用的設置鬧鐘、問天氣、調用通信錄打電話這類功能，是在操作手機本身，互聯網內容和生活服務獲取不是它的強項（最近Siri與百度百科達成合作來解決這些問題）。Google Now主要做信息推送，微軟Cortana解決個性化資訊獲取和設備數據處理，Facebook M正在小範圍測試預訂餐廳等服務，Magic以及國內的“神豬”通過人工處理用戶的語音指令——跟12580等電話呼叫中心本質一樣。只有度秘是自動化地獲取多樣化的生活服務。 

幾大語音助理對比

度秘之所以能夠同時實現多輪交互和服務獲取，我認為原因在這里：

1、深度學習為核心的人工智能技術被應用到語音，這是多輪交互的基礎。除了百度，微軟在人工智能上布局較早，所以可以做小冰，Cortana未來也可以支持多輪。

2、百度連接人與服務大戰略下本身就在將越來越多的生活服務“搬到互聯網”上，結構化、標簽化、交易化，通過糯米、外賣、票務等子業務可以實現預訂。就是說，百度有服務內容，同時具有服務內容和智能技術的玩家並不多。

3、識別率以及抗噪能力這兩個基礎技術足夠用。今年早些時候百度曾宣布基於深度學習的語音識別技術超過了微軟和Google，能夠識別準確“聽清”，是“聽懂”的前提條件。

Siri正在被重新定義

巧合的是，據外媒報道9月9日蘋果所發布的iPhone6S重頭戲將是Siri。上個與Siri與百度達成合作引入百度百科內容，很大程度彌補了Siri內容不足的問題。Siri已經意識到現存問題，不甘只做被用戶“調戲”的玩具。它想要重新定義自己，不再只做“語音助理”，不想將市場讓給另辟蹊徑的百度們。

通過語音識別來替換拼音的輸入法，通過語音來設置手機鬧鐘，通過語音去關閉客廳的電燈，通過語音去點一首歌曲……都只是部分應用場景，主要在解決“交互問題”，即輸入和輸出，這顯得有些大材小用了。在可見的未來語音助理都會向著秘書機器人方向發展，它可以幫助你安排生活、幫助你設置設備、按照你的指令設置環境、陪你聊天……就像秘書一樣——當然，不能像實體機器人那樣給你擁抱，幫你做飯，陪你睡覺，但是機器人都需要智能的語音能力。

百度首席科學家吳恩達在百度世界分享了一個很有意思的觀點：很多人沒有意識到95%的準確度到99%的準確度帶來的是質變，99% is a game changer，99%準確度將徹底改變人與設備應用交互。他認為人工智能已經走向智能伴侶時代。度秘基於相對成熟的語音和AI技術，做到99%的程度是現實的目標，有望成為game changer。Cortana、Google Now、Siri們很快都會支持類似的“秘書式機器人”功能，新一輪廝殺已經開始。

版權聲明：本文作者羅超，微信luochaotmt。文章僅代表作者獨立觀點，不代表i黑馬觀點與立場。