ZKIZ Archives

專訪奧巴馬：隨著人工智能進入生活，我們必須做很多艱難的決定

將門創業 2016-10-14 14:46

很難想象除人工智能外還有哪項單一技術更能夠如此有力地幫助我們構築未來的世界。深度學習使我們的電腦可以進行自主的學習，隨後從醫療診斷到自動駕駛汽車，一大波的技術突破不斷湧現。當然，人們的擔心也隨之而來：這些技術掌握在哪些人手里？它會讓我們失業麽？它的危險性怎麽樣？

美國現任總統奧巴馬正努力希望能夠解決這些來自人們的疑慮。近日，奧巴馬就和MIT媒體實驗室的主任——伊藤穰一（Joi Ito）一起在白宮接受了WIRED的獨家專訪，就人工智能所帶來的希望、恐慌以及存在的泡沫發表了自己的觀點。

將門編譯了問答環節的內容，與你分享。

Q：你大概是在什麽時候開始意識到人工智能的時代正在降臨？

奧馬巴：我自己的觀察是人工智能已經以各種方式進入了我們的生活中，只是可能我們還沒有覺察到。當然，還有一部分原因是，我們很多人所理解的AI其實是被流行文化所著色過的。或者很多WIRED的讀者已經很熟悉這方面的問題了，我說的是有關於通用人工智能（generalized AI）和專用人工智能(specialized AI)之間的區別。

在科幻小說中，我們應該都聽說過通用人工智能。計算機開始變得比我們人還聰明，最終讓我們知道人類並非我們想像的那樣無所不能。甚至還有可能它們會控制我們。根據我和我最頂級的科學顧問進行的交流，我自己的感受是距離計算機比我們人類還聰明這還有很長的一段距離。

當然，上面我們說的也還是值得去深思的，因為這能夠延展我們的想象力，那我們不斷地思考關於有可能面臨的問題，以及我們應該如果去使用算法和計算機來進行專用人工智能的開發，以解決不斷出現的複雜性難題。

在我們生活的方方面面，我們已經可以看到很多的專用人工智能的應用，從醫療到交通，再到電力供應。它們的出現讓我們看到了一個更具生產力和高效的經濟體系。如果這些都能夠被妥善的利用，將會產生催生出巨大的繁榮和機會。與此同時，我們也不得不面對一些隨之而來的，像人員失業這樣的問題。它們有可能加劇社會的不平等。

伊藤穰一：這可能會讓很多我在MIT的學生們感到壓力山大。但我自己在當中的一個擔心是：男性，尤其是白人男性，正統治著AI的核心技術。並且，比起和人類交流，他們和計算機交流時顯得更輕車熟路。他們中的很多人認為，如果他們可以達到科幻小說中描繪的藍圖，能夠實現通用人工智能，我們將不用去擔心像政治和社會這些將會一團糟的事情。他們認為機器會幫我們把一切都摟清楚。

但是他們低估了其中的困難。我感覺如今人工智能已經變成了不僅僅是一個計算機科學難題的問題。每個人都需要去理解AI的行為，這是十分重要的。在我們的MIT媒體實驗室，我們為這個定義了一個詞語叫做“延伸智能(extended intelligence)”。這其中的問題是，我們如何將社會的價值觀構建到AI中去？

奧馬巴：剛剛我和伊藤在吃午飯的時候，伊藤就用了駕駛汽車來舉例。有了這樣的可以做一籮筐快速決策的機器，我們能急劇的減少交通死亡事故，提升我們交通路界的效率，幫助減少二氧化碳的排放以及全球變暖的問題。

但是伊藤也同樣提到了，我們將在這些自動駕駛的汽車中植入怎樣的價值觀呢？這些意味著我們面臨多種多樣的選擇。傳統的問題有：如果汽車行駛在馬路上，你可以選擇來一個急轉彎避開將要撞上的行人，但你自己就有可能撞到墻上至死。這是一個道德的決策，誰將會來制定這些一準則呢。

伊藤穰一：當我們做電車問題實驗的時候，我們發現大部分的人會選擇犧牲乘客和電車司機，而去拯救更多的人。他們還說他們永遠也不會去買一輛自動駕駛的汽車。（笑）

Q：對於人工智能的道德問題，政府會在其中扮演什麽樣的角色呢？

奧馬巴：隨著人工智能的捷報頻傳，我們已經在思考監管結構。政府應該相對少幹預其中，投入大量的經費在科研中，確保基礎研究和應用研究之間的相互溝通。隨著技術的發展和成熟，之後再找出如何將他們並入現有的監管結構的方法。當然這會變成一個越來越棘手的問題。到那時，政府將會多一些的參與其中。不要老想著迫使新的技術進行現有的體系中，而要確保監管能反映出更廣泛的價值觀。

伊藤穰一：我不知道你是不是聽說過“運動神經的多樣性”，但Temple Grandin經常提到這個詞。她認為莫紮特和愛因斯坦，還有特斯拉會認為是自閉癥患者，如果他們身處於現在的世界。如果我們消滅了自閉癥，讓每個人的神經都正常，我相信很多MIT的學生都將不會是今天的樣子。這其中的一個問題是，不管我們談論的是自閉癥還是多樣性，我們交給市場自己去決策的時間點是什麽時候。或者你不會希望愛因斯坦是你的孩子，但是只要一般正常的孩子是不會帶來社會利益的最大化的。

奧馬巴：如果我們總是對AI嚴陣以待，這將會導致更大的問題的出現。我們之所以為人，一部分原因就是我們的奇思妙想。正是一些突變、不合群、甚至是缺陷才帶來的新的藝術和發明的出現。如果一個系統是完美的，那麽它也將是靜止的。當然，這其中的一個挑戰是，在什麽地點、什麽時間，我們需要插手去讓事情照我們想象的去發展，不再帶有驚喜出現？

Q：關於將延展智能用於政府、民營行業和學術界，研究中心在哪里，或者說是否有這樣的中心？

伊藤穰一：當你問一個MIT的人的時候，那他一定是會說將會是在MIT嘍。（笑）從過去的歷史來看，很有可能會是一組擁有來自政府幫助的科研人士。但是目前來看，很多十億美元級別的實驗室都在商業界。

奧巴馬：那些為新技術投入大量資金的踐行者，比如Larry Page等，他們普遍的態度是，“在我們追尋獨角獸的過程中，最不想看到的就是一系列官僚主義導致研究進度放慢。”當然，這也是情理之中。

然而我們看到的其中一部分問題是，社會對基礎研究的關註和投入在減少。意識形態和言過其實在一定程度上削弱了人們對集體行動的自信。

50年過去了，登月計劃卻仍是一項我們可以用來類比現在的偉大技術成就。有人和我提過，太空計劃占到了美國GDP的0.5%。這可能看起來沒有多少，但在今天意味著對於人工智能的投入，每年將會高達800億美元。現在我們的投入可能還不到10億。無疑未來我們會加速AI的投入。但我們也需要意識到，如果我們希望賦予技術突破所代表的多元化人群巨大價值，政府投資可以成為其中的一部分。如果政府沒有參與其中，伊藤穰一所提出的那些有關技術價值的問題將無法得到解答，甚至可能不會被考量。

Q：你提到的正是伊藤穰一的那個有趣的矛盾——個體小眾的創新與類似太空計劃的創新是不同的。那我們如何保證這些想法最終都能落地呢？

奧巴馬：有一點是我一直在強調的，政府的資金支持和幫助收集數據，這並不意味著我們要私藏起來，或者只能用於軍用。一個具體的例子：精準醫療（precision medicine）項目的一部分內容是從各類美國人身上收集足夠大的人類基因組數據庫。我們沒有給Stanford或Harvard一筆錢，讓他們把樣本私吞，相反地，現在人人都可以訪問全部的基因數據庫內容。這是一項全民共有的價值和架構，我們要保證這項研究會分享給大家，而不是只有個別組織從中獲利。

Q：但這也的確會面臨一些風險。Elon Musk和Nick Bostrom都表示過對有朝一日AI可能會超出我們人類理解能力的擔心。隨著我們繼續研究，你認為應如何看待這些顧慮，因為我們所保護的不僅僅是我們自己，而是全部人類？

奧巴馬：讓我先從一個我認為更緊迫的問題開始——目前它是AI領域可以解決的，所以我們要提上日程。很快，可能就會出現一個可以陪你下國際象棋的計算機，或者開發出一套可以使你的紐交所收益最大化的算法。如果誰或公司率先實現了，那他們很快就能控制股票市場。

之後，很有可能一套算法跳出來說，“去破解核武器的代碼，看看那些導彈是怎麽發射的。”如果這僅僅是它的任務，它可以自我學習，並自我保持高效，那問題就來了……因此我要告訴我們國家安全局的是，在擔心機器會占領世界之前，先要擔心的應該是那些無政府成員或恐怖分子對國家系統的窺伺。這和我們現在的電腦安全工作完全不是一個概念，這意味著居心叵測的壞人已經比過去強大了許多，因此我們要更加牛才行。

伊藤穰一：我基本統一你的說法。還有一點補充是對一些相信強人工智能在未來十年就會實現的人們，在監控這件事是否發生之前，我們還得先突破十幾、二十幾項技術難關。最重要的是找到一個會將AI善用的人。

奧巴馬：以前，我們一說安全和自我保護，首先想到的是盔甲或城墻那些。慢慢地，我發現自己越來越多的去關心醫療、病毒、抗生素那些。電腦和網絡安全不是像一列坦克那樣轟隆隆出現在你面前，一個小bug就可能導致系統的癱瘓。因此，我們要對重新看待“安全”。

比如令我一直很鬧心的傳染病。你不能真的建一道墻把空氣中彌漫的傳染病毒和我們隔離，因此我們能做的是建立起世界範圍的公共醫療系統，可以更快洞察到病毒的出現，快速應對，並開發出更加智能的疫苗系統。當你想到這些問題，以及我們可以應對的措施，AI恐慌也就沒這麽可怕了。

伊藤穰一：另外一件我特別感興趣的話題是微生物組（microbiome）。許多證據表明，用一個好細菌去攻破一個壞細菌，而不是我們去殺掉它，不失為一個辦法。這開始讓我們重新思考“幹凈”的定義，（OBAMA：哈哈是的，盡管我現在仍不想讓我家狗狗舔我…）這和你所說的網絡安全和國家安全的概念類似，制定嚴格的規定或者消滅每一個潛在的病原體是很困難的。

Q：這是否會導致新一輪的軍備競賽？

奧巴馬：目前，開發國際標準、協議和網絡安全的確認機構，以及AI的開發， 現在毫無疑問普遍都在最早期階段。這個件事有趣的一點是攻擊和防守之間的分界線非常模糊。尤其在現有階段，大家對政府的不信任度越來越高，這更加大了難度。其他國家會認為美國具有最厲害的網絡力量，但我們必須要說，“如果你限制你們自己的話，那我們也只能限制我們自己。”這里的挑戰是其他幾個大國，俄羅斯、中國、伊朗等，他們和我們對標準和價值的看法不同。我們必須把這件事提到國際問題才會讓我們有效。

伊藤穰一：我認為我們正處在一個黃金的時代，人們都願意相互交流和分享。你無法在一個真空的環境中獲得成功，我們需要的是一個全球的社區。

奧馬巴：伊藤說得對。這也是我們已經和對人工智能相關的人召開了一系列的會議。有一件我們談論的不是很多，但我在這里想提一下的事就是經濟意義。因為目前大部分的人將不是在擔心奇點的來臨，而只是在擔心“如果我的工作被機器取代了該怎麽辦？”。

我自己是傾向於樂觀的來看待。從過去的歷史來看，我們吸引了很多新的技術，人們也找到了新的工作。我當然理解今天可以是一個不同的時代，因為今天我們有了大規模的AI應用和其他的新技術。擁有高技能的人在這其中可能會如魚得水，他們將利用他們的聰明才智，和機器進行交互以擴展他們的人脈，他們的產品、銷售和服務。

不掌高技能的這些人可能會變得越來變冗余。他們的工作可能還不會被取代，但是工資會越來越低。如果我們要成功的渡過這一轉變的過程，我們需要一個全社會的對話。如果來開展培訓，確保我們的經濟是包容的，當越來越多的生產技術掌握在一小部分最頂尖的人手里時？我們又如何確保其他的人獲得生存的資本？對於藝術和文化這些支撐性的事物來說，這些又意味著什麽？社會必須要接受這些新的技術，而我們的經濟模型也必須接受它們。

伊藤穰一：其實我們並不明確的知道哪些工作會被取代。因為如果一臺電腦可以理解醫療的系統，可以來進行診斷，那麽醫生要比護士和藥劑師看上去更容易失業，因為後兩者的工資水平更低。像律師和審計師這些的高技能工作，也有可能會消失。不過，像服務業和藝術這樣子計算機無法很好的掌握的行業可能還不會被取代。

我不知道你怎麽看普通的工資水平，但當人類的工作不斷的被代替的時候，我們正好可以借此機會去重新認識，像學術界和藝術界這種不太追求金錢的行業。我相信這其中大家一個很根深蒂固的觀念是，當你沒有錢的時候，你怎麽變得聰明？但是，在學術界，很多聰明的人都是貧窮的。

奧馬巴：我同意你的觀點。就當下而言，普通的工資水平是不是一個正確的模型，它是不是將會被廣泛的人接受呢？這是一個我們在接下來的10年到20年，將會一直爭論的問題。不僅是低技術的服務類工作將會被AI取代，高技術但重複性的工作也有可能會被取代。

存在爭議的是，有可能隨著AI進入人們的生活，社會的財富有可能反面會增加：生產和分配之間的聯系，工作和收入之間的關系將會變得越來越弱。計算機就可以做很多的工作。因此，我們必須做很多艱難的決定。目前教師的待遇過低，因為這是一份很不容易的工作，計算機也很難勝任。

所以，當我們重新審視我們的價值觀的時候，我們會更願意去向教師、護士、護工、母親或父親這些呆在家里的人、藝術家和所有那些對我們來說無比重要，但是目前卻待遇不高的人支持更高的工資。

Q：你現在在尋找什麽樣的技術以解決目前你在政府中所看到的問題？

奧馬巴：在使政府變得更友善以及在改善納稅申報這些方面，我們還有大量的工作要做，因為現在這些還不像訂一個外賣或者一張機票那樣方便。需要讓聯邦政府、州政府和當地政府一起來進行改變，我們還有很多事要做。其實聯邦政府和私營企業之間人才上的差距還不是那麽大。但是在技術上的差距卻是巨大的。

在我剛上任的時候，我總是在想，要是有一個像Tom Cruise在《Minority Report》里那樣能夠把東西隨便移來移去的情況室（Situation Room），那該是多麽酷的一件事啊。但是，現在你看，完全不是這樣的。（笑）

談及圍繞著技術更廣泛的問題，我堅定的相信我們能解決氣候變暖問題。我們已經做了很多的工作，但還和很多未盡的事。另外，關於網絡問題，如何能一方面確實我們的互聯網是有責可詢、透明和安全的，能及時抓住壞人，但又確認政府不過多的擁有權力，這也是我們還在努力解決的問題。有一些是技術上的問題，加密就是一個很多的方法。我見了很多次公民自由主義者和國家安全的人。這確實是一個很棘手的問題，因為沒有人能給我一個很好的回答，如果去和緩這些問題。

最近一個我想要提到的東西，和太空有關。探尋如何進行下一代的太空旅行是目前我們重要經費支持的領域。私營的企業已經做了很多很好的工作。

Q：我知道你是一個《星際迷航》迷。它是如何影響你對未來的想象的呢？

奧馬巴：從小時候開始，我就超級迷這部電影了。那時候覺得太有趣了！我認為使這部劇長青的原因不在於技術，而在於它所傳達出的價值觀和人們之間的關系。它講述的是關於人性，和我們通過自己的能力解決問題的自信。

近年上映的《火星救援》也同樣傳達出了這種精神。它之所以吸引人，不是因為劇情有多複雜，而是在於許多了在不斷的努力解決問題。只要擁有創造力，毅力、勤奮、還有自信，我們就能解決它們。我也是我熱愛美國的原因，這也是為什麽我們能吸引到那麽多世界各地的人來一起面對挑戰的原因。

文章評論

匿名用戶

發布

全部評論：10

發布