📖 ZKIZ Archives

人工智能——人類最後的挑戰和戰爭

黑君 2016-06-24 12:49

文 | 黑君

人工智能一直是一個熱議的話題。

但最近，因為“阿爾法狗”發明者的一篇論文，再次將人工智能是否會對人類造成威脅的話題成為熱點。

人工智能一直在我們身邊 

不要一提到人工智就想到機器人。這只是人工智能的硬件，而人工智能自身則是機器人體內的“大腦”。

人工智能是“大腦”，機器人是身體，但有時身體並不一定必需。比如Siri只有大腦，並沒有身體，它背後的軟件和數據是人工智能，Siri說話的聲音是這個人工智能的人格化體現。

可能有些人一直以來把人工智能當做科幻小說，但最近卻一直聽到很多人嚴肅的討論這個問題，你可能會感到困惑。人工智能跟我有什麽關系？

常人總是把人工智能和電影聯想到一起。如星球大戰、鋼鐵俠、終結者等，但電影是虛構的，所以人們總是覺得人工智能缺乏真實感。

其實，人工智能說起來是個很寬泛的話題。從手機到無人駕駛汽車，到未來可能改變世界的重大變革，人工智能可以用來描述很多東西。

但你可能未曾發覺，人工智能技術已經來到眾人身邊，甚至每天都在使用，只是我們沒意識到而已。在生活中我們就在使用著這一項技術，例如智能搜索、siri或語音助手軟件。

但這些技術從嚴格意義上來說卻並不屬於人工智能範疇，絕大部分人工智能系統都相對比較狹隘，預先編程完畢的初級機器人只能處理特定領域的任務，對其他領域則並不擅長。

可能，在將來具備超高智能的機器人將會和人類的專家聯手解決所有的難題。

人工智能安全初創企業Spark Cognition公司CEO阿米爾•侯賽因表示，當今，軟件正在吞噬整個世界，未來，人工智能也會對軟件做同樣的事情。

人機圍棋世紀大戰後，人類是否遭受威脅？

今年3月，一場舉世矚目的“人機圍棋大戰”開戰，谷歌旗下的人工智能硬件AlphaGo挑戰世界圍棋冠軍李世石。最終，人類代表李世石總比分0-3輸給了阿爾法狗，“人機世紀大戰”以人類完敗而告終。

媒體給這次人機大戰一個特別燃的口號，“方寸之間，世紀之戰”。其實回顧人機之間的“恩怨”可以推到上個世紀。

19年前，俄羅斯棋王、國際象棋世界冠軍卡斯帕羅夫在與IBM公司的深藍計算機在第6次交手時，誓要捍衛人類尊嚴的卡斯帕羅夫在僅走了19步的情況下就眉頭緊鎖，向深藍“拱手”稱臣。

來自IBM的“深藍”計算機在國際象棋場上首次擊敗人類，這成為AI戰勝人類的第一個標誌性事件，但賽後，IBM宣布“深藍”退役。

“人類還會說，幸好還有圍棋。他們說，圍棋是‘人類智慧最後一塊高地’。”不同於國際象棋，圍棋每回合的可能性更多，共有250種可能，一盤棋可以長達150回合。同時，圍棋局面多變，無法被算法窮舉。

在科大訊飛董事長劉慶峰看來，在這場“人機大戰”，谷歌贏是理所應當。因為未來五到十年，可以說最能深刻影響和改變我們目前生活方式和生產工作方式的就是人工智能。可以說人工智能將像水和空氣一樣，進入我們日常生活每一個角落。

而這場“世紀之戰”之後，不乏聽到越來越多的聲音，人工智能是否會威脅人類甚至取代人類？這一討論再度成為人工智能領域的熱門話題。

最近，百度CEO李彥宏在百度聯盟大會上就人工智能領域展開探討。

李彥宏認為，人工智能是無法毀滅人類的，因為人類有最總的控制權力，去制定相應的功能。

同時，他指出互聯網的下一幕是人工智能，人工智能是移動互聯網後更激動的時代。

而人工智能再往後發展，會取代人類簡單的勞動，未來很多簡單重複的勞動可以通過人工智能的方式實現，人工智能會重構傳統產業。

最近，開發“阿爾法狗”的深度思維公司發表最新論文中，Deep Mind提出了給機器人安裝“切斷開關”的想法，為的是阻止AI學會如何阻止人類對某項活動的幹預，以預防科幻影片中機器人崛起、毀滅人類等類似情況的發生。用專業術語來說，叫做“安全可中斷性”。

研究人員表示，“一鍵終止”按鈕的核心在於如何讓機器人認為這一次人類控制者終止自己的行動只是一次性的，將人類控制者的終止指令看做是無害中性的，人類的“關機”行為不會在人工智能的強化學習過程中產生任何印記。

牛津大學人類未來研究所專家斯圖爾特-阿姆斯特朗曾表示，人類語言如此微妙，很有可能被人工智能誤讀。

一條“阻止人類繼續承受痛苦”的指令，可能會被人工智能解讀為“殺掉所有的人類”，而“保證人類安全”的指令也可能讓機器人把所有人禁閉起來。人類處在一場致力於打造安全人工智能機器的競賽中，必須爭分奪秒，以免為時過晚。

人類創造的最後一個互聯網作品——人工智能

天生具備拯救人類使命感的 Elon Musk 以及地球最聰明的大腦之一霍金都認為，機器對人類的威脅並非杞人憂天。

微軟聯合創始人比爾·蓋茨在接受媒體訪時曾表示，人工智能變得太過聰明的風險還“遠得很”。他認為，在未來10到20年時間里，人工智能對於管理人們的生活來說將是“非常有用的”。

在這里，人類更應該擔心的是，一旦當機器供養著人類，人類達到了一定的基本需求，那麽，人類真的還會有動力去追求更宏偉的目標嗎？還是醉生夢死、無所事事？

創新工廠創始人李開複覺得，未來十年，大部分的人類工作將被機器人所取代。雖然機器在邏輯分析推算方面，能力會遠超人類，但是依然是屬於人類操控的工具。

而基於深度學習的人工智能將可能為我們帶來更大的好處，它能夠解決問題、拯救生命、甚至產生巨大的商業和用戶價值。

人工智能時代的到來最大的益處在於，各種人工智能將幫助我們定義人性。我們需要人工智能告訴我們——我們是誰？

《連線》雜誌創始主編、《失控》作者凱文·凱利(KevinKelly)不僅絲毫不擔心人工智能會對人類產生威脅，反而沈浸於智能技術所蘊含的無窮想象之中、並為此興奮不已。

他表示，人工智能的應用無處不在，它帶來的影響力是巨大的。

因為這意味著一切物體均可擬人化，意味著我們可以加速新事物發展，雲端人工智能技術意味著，兩雙智能鞋的數據可以彼此分享，這就是綜合人工智能的表現。這的確大大加快了發明新事物的進程。

這些似乎都是極其看好人工智能領域發展與未來前景的人，但有支持就會有反對。

馬克斯則是擔憂者之一，他覺得人工智能的出現，雖實現了科技迷們的兒時夢想，但它們可能對未來產生負面影響，並非所有人工智能功能都是良性的。

如果人類創造出超越人類智慧很多的超級人工智能，確保其處於良性狀態非常重要。

因此，馬斯克特別強調，人工智能可能落入少數人之手，而對於他所說的少數人並沒有明確指明。

iRobot和Rethink Robotic兩家機器人公司的聯合創始人羅德尼•布魯克反駁了馬斯克和霍金曾對人工智能的擔憂。

“有一些不從事人工智能行業的科學家和工程師曲解了AI，而且普遍的說，很多人對人工智能都存在誤解。有些人太激動了，說我們已經需要擔心超級智能機器人，但實際上，我們距離‘弱智能’機器人都還很遙遠。”

王小川也認同看好人工智能未來的學者們，人工智能現在還不能完成自我的進化，現在深度學習的方法只是對已知的數據去重複，泛化它，其實解決的還是已經有的問題。只是可能做得更好，但不能創造新的問題，它還沒有創造力。

人工智能未來還很遙遠

看到了這麽多觀點，肯能有人會說，遇到威脅時，我們把超人工智能的插頭拔了不就行了？其實這就好比蜘蛛說，我們不給人類捉蟲的網把人類餓死不就行了？實質上都是可笑的。

把人工智能藏起來，或鎖起來，甚至斷絕它和外界的一切聯系的做法是沒用的，因為當人工智能的社交操縱能力變得強大之時，你是無法阻擋的。

在人工智能的代碼編程上，寫一個友善的弱人工智能很簡單，但寫一個能在變成超人工智能後依然友善的智能確實非常難的，甚至是不可能的。

其實，人工智能領域的概念很寬泛的，而人工智能領域的種類則分三種：弱人工智能、強人工智能和超人工智能。

我們現在所謂的人工智能研發領域還僅停留在弱人工智能領域之上，這個系統並非那麽嚇人，一般出現故障無非是代碼造成的程序死機等。

目前，人類已基本掌握了弱人工智能領域，弱人工領域作為人工智能革命的最基礎一環是必不可缺的。它的鏈條是從弱人工智能，通過強人工智能，最終到達超人工智能的旅途。

每一個弱人工智能的創新，都在給通往強人工智能和超人工智能的旅途添磚加瓦。

雖然現在的弱人工智能沒有威脅我們生存的能力，但還是要懷著警惕的觀點看待正在變得更加龐大和複雜的弱人工智能的生態。

現在，世界上的各階層都在研究著這一項世紀矚目的浩大工程，總有一天，一個人的創新將導致超人工智能的出現。

當他們思考，甚至去做這些事情的時候，只能夠慢慢來，並且格外格外小心。因為，人工智能創新和人工智能安全的賽跑，可能是人類歷史上最重要的一次競爭。

結果究竟如何，誰也無法預料。其實，即便不去想結果我們也都知道無非是兩種，一個是人類戰勝機器，另外一個是機器戰勝人類。

人工智能，可能是人類的最後一大挑戰和戰爭。

文章評論

匿名用戶

發布

全部評論：10

發布