楊浩湧並非無的放矢,就在一週前,趕集網的主要競爭對手58同城傳出了再次赴美上市的消息,這則消息讓沉寂已久的分類信息行業再次成為輿論焦點——一方面是對58同城上市能否成功的熱議不休,另一方面,分類信息行業的另一主角趕集網如何應對、是否上市等,大家也翹首以待。
事實上,趕集網與58同城的戰爭從未停止過。最鮮明的例子,就是至今仍然瀰漫在公交、地鐵等各種屏幕上的廣告戰火,一個自詡「啥都有」,另一個則標榜是「神奇的網站」。而從目前公開的融資、流量、營收等各種數據來看,雙方似乎也從未拉開過明顯差距。
搶先上市,似乎正是一個不錯的拉開競爭差距的機會。但趕集網卻似乎對同行的上市與否並不關心,在接受記者採訪之前幾乎未發表任何相關消息。趕集究竟憑藉什麼對此「視若無睹」呢?
「市場領先,還是上市領先?」
分類信息行業對資金的需求有多強烈?僅從趕集、58同城的海量廣告投放以及數以千計的員工規模即可見一斑。甚至在58同城上市消息傳出後,就有投資界分析人士公開指出,「其上市的動機可能是因資金鏈吃緊,無法拉到新一輪融資,不得不流血上市。」
但根據楊浩湧的介紹,趕集似乎沒有遇到類似窘況,並且做出了更激進的選擇。「趕集目前沒有資金壓力,也沒有因此上市的必要。」楊浩湧表示:「而且從公司長期發展的角度看,非上市狀態下可以採取更加靈活的擴張策略,並對不斷變化中的市場有更加迅捷的應對。」
「與上市相比,我們目前更看重的是市場領先。」趕集此前未曾公開的兩則利好消息或許是楊浩湧的底氣來源——去年中完成兩輪融資,並於去年底開始實現持續盈利。這讓趕集從資金的樊籠中解脫出來。
據楊浩湧透露,趕集網去年中完成的兩輪融資一輪來自中信產業基金,另一輪則來自安大略教師退休金基金(簡稱「OTTP」)和麥格理,這兩輪融資總規模高達9000萬美元。
而得益於基層招聘等「金礦」業務以及高效的公司運營和管理(趕集員工規模僅為58同城的五分之一),趕集網從去年底實現盈利,而今年將實現全年盈利。「在持續大規模廣告投放的情況下還能盈利,對公司的利潤率要求更高。」一位互聯網行業分析人士告訴記者。
「我們更喜歡通過技術和產品的方式,來解決網上用戶海量的生活服務需求。」楊浩湧認為,與人海戰術相比這才是更健康的互聯網企業生態。而這種「輕公司」的特色,更有利於利潤率的提高。
趕集不上市,想做什麼?
「上市後會有業務不靈活等限制,且將不得不面對華爾街的壓力,」上述分析人士認為這或許也是趕集不急於上市的原因。
但也有分析認為,趕集選擇不上市的原因是市場競爭壓力的增大,尤其是BAT(百度、阿里、騰訊)近年來對本地生活服務的戰略傾斜,如淘寶生活、百度地圖等嘗試,使得趕集不得不集中精力加以應對。
「BAT的佈局恰恰說明了市場潛力的巨大,」楊浩湧認為,這些巨頭短期內尚不足對趕集形成威脅,而趕集將通過加強差異化優勢等舉措搶佔市場先機。比如逐步擴大在基層招聘等高利潤業務的領先優勢,根據艾瑞諮詢的數據,今年趕集招聘的流量已經領先其主要競爭對手30%。
作為趕集流量優勢的另一個直接反映,趕集是分類信息行業2013年以來唯一實現PC端流量增長的公司。手機業務則是楊浩湧眼中的另一個金礦,趕集網目前每月2億訪問量中已有接近一半來自移動互聯網。
不缺錢、差異化……掛滿彈藥的趕集網似乎野心勃勃。儘管趕集聲稱短期內不上市,但這並不意味著上市對趕集沒有意義。上市更多時候被輿論解讀為一道檻。上市成功,不但意味著巨額融資,更是拉開與對手品牌、市場等差距的良機。趕集真的能堅持不上市嗎?
值得玩味的是趕集此前的一系列佈局。今年初,趕集網宣佈將其螞蟻短租業務正式進行分拆,並獲得由優點資本領投的千萬美元融資。業內專家飛象網CEO項立剛早先就曾專門分析指出,「借螞蟻短租的O2O模式,趕集網有可能是為上市籌劃。」
同時記者也留意到於2011年加盟趕集網任CFO的李巧恩。在網上查閱她的簡歷後記者發現,加盟趕集前,李巧恩曾先後擔職第九城市、環球天下的CFO要職,並成功帶領這兩家公司赴美上市。而正是自2011年起,趕集業務發展迎來了新一輪飛躍,並一再傳出上市消息。
李巧恩這位成熟的「上市操盤手」選擇在這個階段加盟趕集,很難讓人不將之與趕集上市聯想到一起。趕集網會不會是她下一個上市作品呢?也許不久之後,小毛驢就會有新的話題。
早期的一批創業者,開了一個局,這是一個「1」,但能做多大,在1後面能做出多少個0出來,這需要以後加入的很多能人一起創造出來。企業要發展,要做大做強,一定要引入人才,把企業的骨幹力量持續做大。但一個問題來了:能人引入進來,如何和最初的團隊達成融合?這是很多企業在發展過程中都會遇到的問題。在這裡,我有一個建議:要突破這個瓶頸,需要在激勵制度的設計上下功夫,就是要準備一個大的股權池,無論老員工還是後來者,都能企業價值的持續增長中獲益,這樣才能保證一個良性循環。
創業首先是一個馬拉松,沒有十年八年,是出不了結果的。創業又像是一個接力賽,需要新鮮血液產生一波一波的動力。所以,創業就是以百米衝刺的速度,一波接一波地跑馬拉松。如果沒有這些新人加入,永遠是那一批老人去跑馬拉松,那不是沒跑多遠被淘汰,就是半路累吐血了。所以,企業要有一種良好的激勵機制,使得你在每一個階段,都能夠有一批人,能接過這個接力棒,繼續往下跑。
如果沒有良好的激勵機制,新老團隊的磨合就會出問題。新的力量進入老的團隊,就像把牛奶注入咖啡裡,如果不能很好的攪拌,咖啡永遠是咖啡,牛奶永遠是牛奶,喝起來肯定不是個味兒。很早進入了公司的人會把自己看成最早一批的「元老」,擔心新人會取代自己的地位,可能會對產生一種強烈的排斥情緒。新人會覺得自己能力更強,為什麼元老們能夠心安理得的享受股權,自己只能掙那份年薪?這兩種想法一直不解決,會在公司形成一個個獨立的小團體,讓兩撥人漸行漸遠。
所以,我覺得企業要建立一種價值觀。首先,我們認可早期員工的價值,你可以拿到最早期的股票期權,你的條件是最優惠的。但是你一定要認可後面進來的人,不能把他當成對手。其次,後面進來的新人,公司也給他們分享股票期權,他們的努力工作一樣獲得相應的回報。
在這裡,我有一些建議和創業者們分享。
首先,一定要把公司的股權,預留出很大空間,不要殺雞取卵,剛開始創業就一下子分個底兒掉,就把它都分完了。我們創辦360的時候,還沒有開始融資,我們先拿出了40%分給員工和團隊。後來雖然因為多次融資而稀釋,但是到上市的時候,還有超過20%的股份是分給員工的。360員工持股的比例在中國所有的互聯網公司裡面,應該是最大的。
其次,創始人要勇於犧牲,不能獨佔股份。須知「人聚財聚,人散財散」。360的員工是公司最大的持股人。我的情商也不高,脾氣也不好,但還有很多人願意跟我合作。在360,一直和我合作的人,有十五年以上的,也有十年以上的,七、八年的更是比比皆是,可能就是因為我捨得跟大家分股票。
最後,要給未來留機會,有長遠意識,保持一定股份激勵。就算是拿出40%來分,也總有分完的一天。股份分完了,難道我們就不需要人才了嗎?一個企業對人才,永遠是飢渴的,永遠是需求的。所以在上市之前,我們做了一個計劃,一旦我們的股票分完了,我們可以隨時再增發5%,會永遠保持5%。
360的員工能保持很好穩定性,也很有創造力,這與360的股權池設計是分不開的。有很多骨幹力量不斷加入進來,一是因為他們有夢想,想找到實現夢想的平台;另一個原因,不是虛的,是能夠得到更好的經濟回報。所以,建立一個合理的股權蓄水池,才能不斷的有「源頭活水」注入進來,有新的力量來帶動革新,這是企業發展壯大的一個重要關鍵。
這是一本重塑三觀的書——如果你還沒有接觸過精益思想的話。
在翻譯這本書的過程之中,我想到了無數種譯者序的開頭。比如,「作為中國人,從小長輩就教育我們要勤儉節約」,又比如,「有句名言叫做『不管節約什麼資源,歸根到底都是在節約時間』」,不過,我發現作者已經把這一點講得很清楚了,沒必要狗尾續貂,所以,我決定換一個話題,講一講我當年是怎麼白白浪費自己的有限生命的。
2008年末,我和兩位好友一起決定做一番事業。我們想到了一個絕佳的點子,躊躇滿志,準備給這個世界一點新東西看看。在正式創業之前,我們詳細地討論了整個解決方案以及隨後可能發生的各種問題。也許是由於年輕,我們充滿了激情,常常在打工超過十小時,累得半死之後仍然可以討論好幾個小時,然後睡四五個小時繼續打工。
2009年初,我們正式註冊公司,開始了產品開發。我們最初對產品的定位是一個在線試衣的網站,隨著不斷地討論,這個產品從最初簡單的服務類網站變成了一個全面而龐大的垂直型的社交網站。此時的我們仍然像打了雞血一樣地拚命寫著代碼,做著設計,完全閉門造車,不敢把自己的創意公之於眾。
在網站尚未成型的過程中,我們就嘗試過去找風投,而且還寫過一份非常清晰、完善、正規的商業計劃書。不過,我們的商業計劃書一直沒有機會向別人展示,而且除了一兩家風投禮貌地回絕之外,別人都沒有任何反應。同時,我們還在不斷地增加網站的功能,修改各種想法,牆上的待完成任務貼紙越來越多,我們也越來越累。
就這樣,時間過去了一年半,我們的阻力越來越大,信心也消失殆盡。在一年半之後,公司關門大吉,留給我們的,只有一間雜亂的屋子、一個尚未完成的網站和無盡的思考。
為什麼我們會失敗?我一直希望能找到一個方法論上的原因。我們三個人都是胸懷抱負的大學畢業生,繼承了車庫創業的優良傳統;大家都很聰明,三個人分工不同,互為補充;我們的創意很好;我們的「啤酒+音樂」的文化也很好;技術不錯,設計也不錯,我們甚至自己設計了一套拍照系統……怎麼就失敗了呢?
後來,我接觸到了敏捷思想,開始有點懂了,又讀了戴明博士的《走出危機》,似乎明白了一點,最後,在機緣巧合之下,成為了這本書的翻譯,我終於從方法論上弄清楚了當初失敗的原因。
看看我們犯了多少錯吧。
首先,在創意階段,創業者心態讓我們只想著如何改變世界,產生了盲目而強烈的自信。這樣的自信加上年輕人的激情完全矇蔽了我們的理性,讓我們無法客觀地思考,也拒絕對自己的創意做初步的驗證。
其次,我們一直都在討論和改善解決方案,卻從來沒有去思考:客戶是否有這些問題?這些問題是否嚴重?現有解決方案是否夠用?我們甚至沒有和任何一位年輕女性(我們的主要目標客戶)仔細做過訪談,有也只是展示我們的解決方案。
然後,我們沒有從小到大、循環改善的思想,只想著要做完善,要做大做強,在沒有對功能做任何驗證的情況下就盲目地把功能加入產品。這使得我們的待完成任務越來越多,產品越來越龐大和複雜,但是這一切都是基於我們完全沒有經過驗證的假設,隨時都有崩塌的可能。
此外,我們還非常擔心自己的創意被人竊取,所以不敢和任何人討論解決方案。即便是不討論解決方案,我們也從未想過應該找一點潛在客戶來談談我們想要解決的問題。商業計劃書雖然清晰、美好,但是卻完全是基於我們的自信和假設,而且商業計劃書長達十幾頁(我們當時還自以為是地認為它比正常的商業計劃書精簡了很多),難以修改——當然,由於陷入創業者的自戀情緒,我們也不願意相信還有別的可能。
最後,我們在產品完全沒譜(因為沒有正式上線)的情況下,就去找風投,結果當然只能碰一鼻子灰。
總而言之,由於沒有章法,導致盲目自信,又導致不斷產生假設,又導致不斷增加功能,導致產品臃腫,而且在產品過度開發之後就更沒自信去精簡,最後由於資源耗盡而未能找到一個可行的辦法,只好放棄。
我們浪費了一年多的時間,做了一個沒有人要的產品。不過,吃一塹,長一智,我很高興,能夠有這樣一本書,讓我系統地認識和分析這些錯誤,讓我知道以後應該怎樣來面對這樣的情況。(順帶一提,我們創業的每一個步驟犯的每一個錯誤這本書都提到了,這讓我十分汗顏。)
在和一位擔任精益創業導師的朋友(熊子川,@一隻土賊)聊天的過程中,我發現把重心放在解決方案上的創業者不在少數。在一番討論之後,他說:「原來的價值主張包括,客戶+問題+解決方案,我覺得應該把解決方案從價值主張中剔除。」我深以為然。忘記解決方案吧,關注客戶和他們的問題,創業才有意義,才能成功。
希望我的創業經歷能給創業者們一些警示,也希望所有不想浪費自己有限生命的創業者們都讀一讀這本少講大道理,重點專注實際操作的精益實戰手冊。用精益的方法和思想,在科學方法的武裝之下,逆襲!
思考的碎片---20140208 思考題之我的答案
昨天下午在麥當勞吃了一個套餐15還是16塊。一隻漢堡一包薯條一杯可樂。
突然就想到一個問題,不說25年吧只說這十年來麥當勞和肯德基套餐的價格看來是下降的。
而包括盒飯在內的中式快餐幾乎都是漲價的這是為什麼?
於是我在雪球發了一個推 思考題。。。
我自己的直覺是是否因為人的價格高鳥物的價格便宜了。
其實我並沒有答案。
感謝很多朋友的回答 讓我深受啟發。
基本上現在我有了我的答案
我的答案是主要原因是競爭。其他部分或者說是小因素或者說是間接的因素。
我說下我的思路,我詳細就不一一考據 只是從個人消費感知的角度寫以下。
15塊套餐的來源和現狀
15塊套餐最開始是麥當勞發表的。而且當時只有午餐 是11點到2點
我記得有一次去超過2點沒法只能買大麥克套餐30多。而且清楚記得店員在換招牌而且說因為收銀機緣故沒法賣給我15塊套餐
然後KFC跟進15塊 只是把薯條改成土豆泥還是啥的
然後麥當勞跟進了晚餐也推15塊套餐
KFC跟進
最後麥當勞推全天15塊套餐
KFC跟進
大概是這樣一個進程。
現狀呢?比如機場 火車站 上海的豫園你在麥當勞是沒法看到15塊套餐的因為那些地方是店大欺客愛來不來,而且單品價格也超過市內其他店。
從以上的進程和現狀看,15塊套餐更多是因為競爭導致的,缺少競爭的機場等地保持原價。
很多朋友其他的答案我覺得更多是為何發生競爭或者從成本角度考慮。
1.現在的思考絕對是從需求出發幾乎不考慮成本的。昨天和太太討論這漢堡薯條可樂變動成本不超過5塊。所以一切都是考慮銷量考慮需求。賣30還是15無關乎成本。
2麥當勞在國內是行業老二是挑戰者地位 所以他是競爭發起者。主動的價格戰。
這些包含了所為市場份額在內所有問題。包括和其他中式快餐的競爭。和KFC的競爭。
3.15塊價格很接近出租車起步費
前幾天去Burger King 好像也有15塊套餐 這變成標竿鳥。
所以接下來的這幾家的競爭更多會發生在產品的創新上
現在麥當勞新推的不少品種 無論速度還是口味我覺得都在接近和超過肯德基。
以上就是我的答案 謝謝參與討論的各位我就不一一點名。
| ||||||
在陽明大學新生入學典禮上,知名經濟學家、中研院院士朱敬一與學子分享生命經驗,他打破一般人看重「提早計畫」、「專業養成」的迷思,認為最重要的是廣泛探索各種領域的知識,在天馬行空的想法中,找到自己的優勢。 撰文‧賴若函 陽光炙熱的周四上午,陽明大學的禮堂傳出陣陣笑聲。中研院院士朱敬一在今年的新生入學典禮中,以﹁四十年前,我懂個屁」為題,分享他人生的心境與轉變,透過三個實際故事,鼓勵年輕人要打破框架、創新思考,短短一小時的演講,發人深省。 首先,朱敬一談到,量子力學之父尼爾斯‧玻爾(Niels Bohr),在丹麥哥本哈根讀大學時,面對物理考題「如何用氣壓計測量學校大樓的高度」,提出一個答案:「若真有這樣準確、誤差無限小的氣壓計,就應該拿去賄賂校長,問他大樓的高度。」面對這個出人意料的答案,教授給了零分,尼爾斯抗議後才允許他重考。重考時,尼爾斯在白紙前沉思許久,教授正要安慰他,卻被尼爾斯反駁,他不是不會寫,而是腦袋中有太多答案,不知道寫哪一個好。 例如可以把氣壓計放在地上,看它的影子長度,再量大樓的影子高度,用等比概念算出來;也可以把氣壓計綁在繩子上,像鐘擺一樣擺動,透過重力在樓頂和樓底的差別,來計算大樓的高度;更甚者,帶著氣壓計爬樓梯,一邊爬一邊用氣壓計做標記,用走到頂樓時的標記數乘以氣壓計高度,就是答案。 不受框架限制 保持好奇心教授聽到這些答案傻眼,問他難道真不知道標準答案是「測量樓頂和地面的氣壓差,套入公式換算」嗎?尼爾斯說,他當然知道,只是對考試限定每個人的思考框架感到厭煩。 「要對許多事保持狐疑、好奇的心!」朱敬一認為,像尼爾斯這樣的學生,應該很難在台灣生存,但他覺得這樣的叛逆是好的。學生時期,解放自己的好奇心探索知識,也許你也可能是下一位諾貝爾獎得主。 接著,朱敬一以自己為例,笑言雖然智商可能只有尼爾斯的開根號,卻也是不折不扣的頑皮分子。 他舉例,國中時造句題目是「大吃一驚」,他答「當警察發現案子是國文老師犯下的,就大吃一驚。」這個答案,換來兩個大過的處分。又有一次,高中國文課考試,要評論清朝詩人蔣士銓的散文《鳴機夜課圖記》,文中描述母親為督促兒子學習,夜裡將孩子抱在懷中,一起朗讀古文,待孩子睡著,便搖醒他繼續讀,天亮方休。 「我覺得這個媽媽腦袋有問題,為什麼白天不念書晚上念,逼小孩讀這麼多書要幹嘛,結果又被老師叫去罵。」朱敬一說,不想按牌理出牌就是他的個性,一路走來始終如一。 這樣的叛逆,也體現在他的人生觀上;朱敬一不相信生涯規畫,最討厭的一句話,就是「不要輸在起跑點」。十九歲以前,他從來沒拿過第一名,他不要做只會寫標準答案的學生,如同上大學後的第一次期中考,會計學和經濟學他都考不及格,當年的成績,對照他現在的成就,沒有什麼是在計畫內得來的。 亂看書,也是朱敬一的特質。他形容自己在吸收知識時,是雜亂地學習,很少為特定目的讀書,也反對「培養讀書習慣」或「書一定要讀完」的迷思,因為唯有「發自興趣地閱讀」,才可能持久。 「一九八五年念博士前,我的知識量只有現在的百分之五。」朱敬一建議,不要只是在某個領域鑽研精深,要廣闊吸取不同領域的知識,因為在大量閱讀下,久而久之,知識厚度就從點而圓,跳過線,貫穿各種領域,都能侃侃而談。 有三件發生在朱敬一念大學的事,影響他人生甚深。大一時,有位助教很喜歡他,在選課上一路給予指引,幫助他打下不錯的專業基礎;大三時,他接觸太極拳,一打就是四十年,培養了強健的體魄;最後是趁著大學畢業、當兵前,他聽取旁人建議,一次參加了公費留學、高考和研究所的考試,沒想到考取公費留學,到美國密西根大學深造。這些事情的發生,都不在他的計畫裡。 人生可設目標 但別太計較「對於人生,可以有目標,但不要太計較。」朱敬一回想他博士畢業,返台到中研院工作後,一路順遂,但是在升等時,卻遇到當時的中研院經濟研究所所長刁難,刻意把他的升等文章拿給經濟學界的大老審查,想要提高通過難度,沒想到文章卻讓師長愛不釋手,不但升等順利,也從此建立良好的學界人脈。 因為這樣的經歷,讓朱敬一對於「人生計畫」從無強求,因為他認為,投入在喜歡的事情中,自然而然會發現你的相對優勢,每個人都有每個人的「材」。重要的是,每個人都該擁有「叛逆」、「找興趣」、「認命」、「傻勁」這四種態度。 最後,朱敬一透過曾聽過的一場演講,鼓勵學生看重人文素養。十一年前,中研院歷史語言研究所院士邢義田提到,自己會走訪中研院四周,發現有許多寺廟、天主堂等暗藏其中,其中有一間廟依附老樹而建,其建築設計圍繞著樹的生長方向,讓人嘖嘖稱奇。「所有的文化都在民間」,邢義田以此作結,在這塊土地發生的故事,滋養了歷史、文學的發展。 這場演講影響朱敬一甚深,因此他鼓勵大學生,要重視通識課程,養成對其他專業的欣賞、包容、評價的能力,以及對社會的人文關懷,因為「先學做人,才夠格做專業人。」 朱敬一 出生:1955年 現職:中研院院士、台大經濟系教授經歷:國科會主委(現科技部)、行政院政務委員、中華經濟研究院董事長、中央研究院副院長學歷:密西根大學經濟學博士及碩士、台灣大學商學系工管組學士 |
| ||||||
今年是郭守正從美國回台灣的第十年,十年內,他不僅成為四個孩子的爸爸,如今更以鴻海董事長特助身分歸隊接班;十年來,從未接受媒體專訪的他,這一次,接受《今周刊》專訪,暢談他的初衷與改變。 撰文‧梁任瑋、劉俞青 「可是我今天的會議滿檔,」十月二十一日上午九點五分,一位背著肩背包、學生模樣的男子下車,快步走入金山北路上、三創生活園區旁的一棟辦公大樓,他不是別人,正是郭守正。 這位外界眼中鴻海四兆帝國最可能出線的接班人,今年三十八歲,就像每天在捷運站裡摩肩接踵而過的尋常路人一樣,長袖襯衫沒打領帶,身上看不到一件名牌,也沒有配戴名錶;他微蹙著眉頭,對於記者的採訪需求,面露難色卻仍謙沖有禮,勉為其難答應受訪。而這也是郭守正多年以來,第一次面對媒體,暢談心境。外界過去看他,總以為他是巨大父親羽翼下長大的花朵,但他站出來,卻是有備而來,他說爸爸用比別人更嚴格的規格在訓練他,他和大家一起競爭。 談爸爸,談工作到家庭,即使面對接班等敏感議題,也毫不閃躲,坦然直率,論述有序,思路清楚;這位接班人也許少了郭董的霸氣,但百分百承襲了郭台銘對工作的全力以赴,他說:「我爭取接班!」坐在金山北路上簡陋的辦公室裡,裡面擺著最簡單的摺疊式桌椅,手上拿的是飯店免費提供的原子筆,桌上的環保杯已用到掉漆,空氣中有著濃濃的「鴻海文化」。他說,「在我心中,我一直在鴻海,從沒離開過。」身為郭台銘的長子,他知道自己終究躲不掉鎂光燈的焦點,卻又享受自己可以自在地搭捷運、逛街的生活;他很在乎爸爸的看法,但更想證明自己。郭守正頂著高度的壓力與期待,只能一路向前,因為他很清楚,他甩不掉「富二代」的稱號,所有人都在等著他端出成績。 以下是他首度接受專訪內容: 談接班〉一直都不是問題 鴻海文化就是最有能力的人來做Q.外界好奇,你會接班嗎? 答:其實我跟父親都有一個很好的默契,認為「接班」一直都不是問題。對於接班,我只有一個答案,就是「我自己要去爭取」! 如果我想要幫他(指父親郭台銘)分擔一些責任,我當然就要自己去爭取,而不是等他給我。在鴻海,我如果表現不好,棒子也不會交給我,不會因為我是某某人的兒子。我覺得鴻海的企業文化就是由最好的人、最有能力的人來做。 我父親常講,不要害怕失敗,兒子qualified(適任)就讓他接,不適任就不要接,去做其他更有意義的事。 Q.外界形容你是離開自己創立的文創事業,回鴻海準備接班,你如何看待這件事? 答:在我心中,我從來沒離開過(鴻海),事實上,之前我曾經在深圳的鴻海工廠裡工作過幾年,儘管外界並不清楚,但這不重要,我要說的是,鴻海企業精神的傳承一直都存在。 在鴻海體系底下,一直鼓勵內部創業,我覺得我也是這樣在做。至於從集團的角度來看,無論怎麼「接班」,其實更重要的是,鴻海要怎樣去培養更多的人才,尤其是高階的人才,我覺得那才是真正重要的議題。 「三創生活園區」,是我爸爸取的,意義是「創新、創意、創業」。會接手三創,是爸爸開口詢問我有沒有這個意願?然後我自己去極力爭取過來。我父親一直思考要如何利用鴻海的資源,在三創建立一個平台,讓更多年輕人來這裡創業,包括我自己在內。所以接手三創生活園區是我第二次創業,在鴻海體制內創業。 談文創〉不是我喜歡就做 數位內容是趨勢,所以我才去做Q.為什麼你會喜歡數位內容等文創產業? 答:我要說明,不是我喜歡什麼就去做什麼。我會做這些數位內容,是因為我看到例如在蘋果手機上,讓全世界看到雲端的魅力,重點在於上面的ecosystem(生態系統),而不是手機本身,而是手機上面有雲、有內容,我當初就覺得這是有價值、也是趨勢所在,所以我才去做。 不過,事情要做成功,需要天時地利人和,我現在當然不敢談成功,但如果未來有一天,我能被說成這樣(指看對趨勢而成功),我會很開心。 Q.請你描述「三創生活園區」這個案子的最大特色在哪裡? 答:三創其實不只是一個賣場、或園區,它最大的價值,是提供年輕人一個無限學習、全方位體驗,與世界零距離,實現夢想的空間,我不希望讓消費者覺得只有對資訊有興趣的人才會走進來。 我們發現女孩子比較不喜歡來資訊賣場,對許多女性消費者來說,科技產品的重點和男性差異很大,業務員的語言對她們來說可能是火星文。為了更貼近女性消費者,我們一年半前就給自己開出很多的題目,思考什麼樣的產品是她們會有興趣的?要怎麼服務她們?最後規畫出一個女性專區。 我的理想是,年輕的創業者可以在三創的育成中心得到協助與資源,我自己走過很長一段創業過程,很多年輕人常說不創業的理由是「爸媽不准」,我覺得這些都是藉口,重點是要想辦法怎麼去突破,但我要強調,三創不是打造一個溫室來鼓勵大家做夢,而是要做到讓真正想要創業的人沒有阻礙。 我們期待「三創生活園區」是個「有機體」(organic),是隨著周遭環境、市場與生活,不斷在調整、進步的,同時我也叮嚀自己不能自滿,不能認為自己是一百分,即使一百分,下一分鐘也可能變成八十分,必須尋求如何再進步二十分。 談嚴父〉對我要求更嚴格 帶人關鍵是讓大家心服口服Q.在你負責這個業務的過程中,你的父親有嚴格要求你嗎?聽說他曾在人前要你罰站? 答:我爸爸對我的要求應該是比其他同仁還要更嚴格吧!我當然站啊!其實他自己也是站著的,通常他罵人的時候,他自己是站著的。 事實上,我爸爸他能帶那麼多人,最主要關鍵是讓大家心服口服,我不是王子,我其實就是員工,這點外界也許不能理解,但認識我、認識鴻海的人,都知道不用理會外界的這些無謂眼光,在鴻海,就是做事第一。 Q.身為郭台銘的長子,你快樂嗎? 答:我常以「創業家」自許,你問創業家開不開心、快不快樂,快樂的定義是什麼? 每天可以睡飽覺也是一種快樂,但如果更進一步,我能把眼前創業這件事情做好,大家給點掌聲,在掌聲之中,吸引更多的人一起來參與,這樣我會覺得我很快樂。 我把三創視為自己創業,我希望在這個創業裡,能引導更多的人一起來看見新的東西也好,這讓我很快樂,但在這一天發生之前,我很緊張、憂慮,但這樣就算不快樂嗎? 開幕以後有不同的焦慮,創業家永遠都在緊張下一個創業的目標,這是創業家應該要有的部分。 開心不是重點,重點是我要負責任把它做好。我每天都在檢討,怎麼樣能做得更好。 |
通往強人工智能的第一步:增加電腦處理速度
1)超人工智能的出現,將有史以來第一次,將物種的永生這個吸引態變為可能。2)超人工智能的出現,將造成非常巨大的沖擊,而且這個沖擊可能將人類吹下平衡木,並且落入其中一個吸引態。
本文譯者謝熊貓君,譯文最早刊發於知乎。可到知乎@謝熊貓君找到他。大家也通過微信號關註waitbutwhy的最新文章,微信號:waitbutwhy。
本文不代表本刊觀點和立場。
本文為i黑馬版權所有,轉載請註明出處,侵權必究。
編輯/蒲鴿
為什麽未來會是天堂?
研究人工智能這個領域後,我發現有比預期的多得多的人站在信心角當中:
站在信心角中的人非常興奮,他們認為他們講走向平衡木下比較有趣的那個吸引態,未來將實現他們的夢想,他們只需耐心等待。
把這一部分人從其他思想家區分開來的是這些人對於比較有趣的那個吸引態的欲望——他們很有信心永生是我們的發展方向。
這份信心是哪里來的不好說,評論家認為是這些人太過興奮而產生了盲點,忽略了可能的負面結果。但是信心角的人還是把批評者當作末日論者來看待,他們認為技術會繼續幫助我們而不是傷害我們。
兩邊的觀點我們都會說,這樣你能形成自己的觀點,但是在讀下面的內容前,請把質疑暫時擱置,讓我們看看平衡木兩邊究竟有什麽,並且記住這些事情是有可能發生的。如果我們給一個打獵采集者看我們現在的舒適家居、技術、富庶,在他眼里這一切也會像魔法一樣——我們也要接受未來完全可能出現能把我們嚇尿的變革。
Bostrom描述了三種超人工智能可能的工作模式
- 先知模式:能準確回答幾乎所有的問題,包括對人類來說很困難的複雜問題,比如“怎樣造一個更好的汽車引擎?”
– 精靈模式:能夠執行任何高級指令,比如用分子組合器造一個更好的汽車引擎出來
– 獨立意誌模式(sovereign):可以執行開放式的任務,能在世界里自由活動,可以自己做決定,比如發明一種比汽車更快、更便宜、更安全的交通模式。
這些對人類來說很複雜的問題,對於一個超級智能來說可能就像“我的筆掉了,你能幫我撿一下嗎?”這麽簡單。
Eliezer Yudkowsky,是這麽說的:
“根本沒有困難的問題,只有對於特定級別的智能來說難的問題。在智能的階梯上走一小步,一些不可能的問題就變得簡單了,如果走一大步,所有問題都變得簡單了。”
信心角里有很多熱忱的科學家、發明家和創業者,但是對於人工智能的未來最有發言權的,當屬Ray Kurzweil。
對於Kurzweil的評價非常兩極化,既有如對神人般的崇拜,也有翻白眼似的不屑。也有一些中立主義者,比如作家Douglas Hofstadter,他覺得Kurzweil的觀點就好像把美食和狗屎混在一起,讓你分不清是好是壞。
不管你同不同意Kurzweil的觀點,他都是一個牛人。他年輕時候就開始搞發明,之後幾十年發明了很多東西,比如第一臺平板掃描儀,第一臺能把文字轉化為語言的掃描儀(盲人使用),著名的Kurzweil音樂合成器(第一臺真正意義上的電子鋼琴),以及第一套商業銷售的語音識別系統。他是五本暢銷書的作者。他很喜歡做大膽的預測,而且一直很準,比如他80年代末的時候預測到2000年後因特網會成為全球級的現象。他被《華爾街日報》成為“不休的天才”,被《福布斯》稱為“終極思想機器”,被《Inc.》稱作“愛迪生真正的傳人”,被比爾蓋茨稱為“我認識的對人工智能預測最厲害的人。”2012年谷歌創始人Larry Page曾邀請他擔任谷歌的工程總監,2011年他共同創立了奇點大學(Singularity University),現在大學由美國太空總署運運營,由谷歌贊助。
Kurzweil的經歷很重要,因為當他講述自己對未來的願景時,他聽起來就是個瘋子,但是他不瘋,恰恰相反,他非常聰明而有知識。你可能覺得他對於未來的想法是錯的,但是他不傻。知道他是一個聰明人讓我很開心,因為當我知道他對未來的預測後,我急切的很希望他的預測是對的。信心角中的很多思想家都認同Kurzweil的預測,他也有很多粉絲,被稱為奇點主義者。
時間線
Kurzweil相信電腦會在2029年達成強人工智能,而到了2045年,我們不但會有超人工智能,還會有一個完全不同的世界——奇點時代。他的人工智能時間線曾經被認為非常的狂熱,現在也還是有很多人這麽認為,但是過去15年弱人工智能的快速發展讓更多的專家靠近了Kurzweil的時間線。雖然他的時間線比之前提到的2040年和2060年更加早,但是並沒有早多少。
Kurzweil的奇點時代是三個技術領域的共同革命造成的——生物技術、納米技術和最重要的人工智能技術。
在我們繼續討論人工智能前,讓我們談一下納米技術這個任何關於人工智能的討論都會涉及到的領域:
納米技術
納米技術說的是在1-100納米的範圍內操縱物質的技術。一納米是一米的十億分之一,是一毫米的一百萬分之一。1-100納米這個範圍涵蓋了病毒(100納米長),DNA(10納米寬), 大分子比如血紅蛋白(5納米),和中分子比如葡萄糖(1納米)。當我們能夠完全掌握納米技術的時候,我們離在原子層面操縱物質就只差一步了,因為那只是一個數量級的差距(約0.1納米)。
要了解在納米量級操縱物質有多困難,我們可以換個角度來比較。國際空間站距離地面431公里。如果一個人身高431公里,也就是他站著能夠頂到國際空間站的話,他將是普通人類的25萬倍大。如果你把1-100納米放大25萬倍,你算出的是0.25毫米-25毫米。所以人類使用納米技術,就相當於一個身高431公里的巨人用沙子那麽大的零件搭精巧的模型。要如果要達到原子級別操縱物質,就相當於讓這個431公里高的巨人使用0.025毫米大的零件。
關於納米技術的思考,最早由物理學家費曼在1959年提出,他解釋道:“據我所知,物理學的原理,並不認為在原子級別操縱物質是不可能的。原則上來說,物理學家能夠制造出任何化學家能寫出來的物質——只要把一個個原子按照化學家寫出來的放在一起就好了。”其實就是這麽簡單,所以我們只要知道怎樣移動單個的分子和原子,我們就可以造出任何東西。
工程師Eric Drexler提出納米級組裝機後,納米技術在1986年成為了一門正經的學科。納米級組裝機的工作原理是這樣的:一個牛逼掃描儀掃描物件的3D原子模型,然後自動生成用來組裝的軟件。然後由一臺中央電腦和數萬億的納米“機器人”,通過軟件用電流來指揮納米機器人,最後組成所需要的物件。
————————
再扯遠一點
納米技術有一些不是那麽有趣的部分——能夠制造數萬億的納米機器人唯一合理的方法就是制造可以自我複制的範本,然後讓指數級增長來完成建造任務。很機智吧?
是很機智,但是這一不小心就會造成世界末日。指數級增長雖然能很快的制造數萬億的納米機器人,但這也是它可怕的地方——如果系統出故障了,指數級增長沒有停下來,那怎麽辦?納米機器人將會吞噬所有碳基材料來支持自我複制,而不巧的是,地球生命就是碳基的。
地球上的生物質量大概包含10^45個碳原子。一個納米機器人有10^6個碳原子的話,只需要10^39個納米機器人就能吞噬地球上全部的生命了,而2^130約等於10^39,也就是說自我複制只要進行130次就能吞噬地球生命了。科學家認為納米機器人進行一次自我複制只要100秒左右,也就是說一個簡單的錯誤可能就會在3.5小時內毀滅地球上全部的生命。
更糟糕的是,如果恐怖分子掌握了納米機器人技術,並且知道怎麽操縱它們的話,他可以先造幾萬億個納米機器人,然後讓它們散播開來。然後他就能發動襲擊,這樣只要花一個多小時納米機器人就能吞噬一切,而且這種攻擊無法阻擋。未來真的是能把人嚇尿的。
————————
等我們掌握了納米技術後,我們就能用它來制造技術產品、衣服、食物、和生物產品,比如人造紅細胞、癌癥細胞摧毀者、肌肉纖維等等。而在納米技術的世界里,一個物質的成本不再取決於它的稀缺程度或是制造流程的難度,而在於它的原子結構有多複雜。在納米技術的時代,鉆石可能比橡皮擦還便宜。
我們還沒掌握這種技術,我們甚至不知道我們對於達成這種技術的難度是高估了還是低估了,但是我們看上去離那並不遙遠。Kurzweil預測我們會在21世紀20年代掌握這樣的技術。各國政府知道納米技術將能改變地球,所以他們投入了很多錢到這個領域,美國、歐盟和日本至今已經投入了50億美元。
設想一下,一個具有超級智能的電腦,能夠使用納米級的組裝器,是種什麽樣的體驗?要記得納米技術是我們在研究的玩意兒,而且我們就快掌握這項技術了,而我們能做的一切在超人工智能看來就是小兒科罷了,所以我們要假設超人工智能能夠創造出比這要發達很多很多的技術,發達到我們的大腦都沒有辦法理解。
因此,當考慮“如果人工智能革命的成果對我們是好的”這個命題的時候,要記得我們根本沒法高估會發生什麽。所以就算下面對於超人工智能的預測顯得太不靠譜,要記得這些進展可能是用我們沒有辦法想象的方法達成的。事實上,我們的大腦很可能根本沒法預測將會發生什麽。
—————-
人工智能能為我們做什麽?
擁有了超級智能和超級智能所能創造的技術,超人工智能可以解決人類世界的所有問題。氣候變暖?超人工智能可以用更優的方式產生能源,完全不需要使用化石燃料,從而停止二氧化碳排放。然後它能創造方法移除多余的二氧化碳。癌癥?沒問題,有了超人工智能,制藥和健康行業將經歷無法想象的革命。世界饑荒?超人工智能可以用納米技術直接搭建出肉來,而這些搭建出來的肉和真肉在分子結構上會是完全相同的——換句話說,就是真肉。
納米技術能夠把一堆垃圾變成一堆新鮮的肉或者其它食品,然後用超級發達的交通把這些食物分配到世界各地。這對於動物也是好消息,我們不需要屠殺動物來獲得肉了。而超人工智能在拯救瀕危物種和利用DNA複活已滅絕物種上面也能做很多事情。超人工智能甚至可以解決複雜的宏觀問題——我們關於世界經濟和貿易的爭論將不再必要,甚至我們對於哲學和道德的苦苦思考也會被輕易的解決。
但是,有一件事是如此的吸引人,光是想想就能改變對所有事物的看法了:
幾個月前,我提到我很羨慕那些可能達成了永生的文明。但是,現在,我已經在認真的考慮達成永生這個事情很可能在我們有生之年就能達成。研讀人工智能讓你重新審思對於所有事情的看法,包括死亡這一很確定的事情。
自然演化沒有理由讓我們活得比現在更長。對於演化來說,只要我們能夠活到能夠生育後代,並且養育後代到能夠自己保護自己的年紀,那就夠了——對演化來說,活30多歲完全夠了,所以額外延長生命的基因突變並不被自然選擇所鐘愛。這其實是很無趣的事情。
而且因為所有人都會死,所以我們總是說“死亡和繳稅”是不可避免的。我們看待衰老就像看待時間一樣——它們一直向前,而我們沒有辦法阻止它們。
但是這個假設是錯的,費曼曾經寫道:
“在所有的生物科學中,沒有任何證據說明死亡是必需的。如果你說你想造永動機,那我們對於物理學的研究已經讓我們有足夠的理論來說明這是不可能的。但是在生物領域我們還沒發現任何證據證明死亡是不可避免的。也就是說死亡不一定是不可避免的,生物學家早晚會發現造成我們死亡的原因是什麽,而死亡這個糟糕的‘病’就會被治好,而人類的身體也將不再只是個暫時的容器。”
事實上,衰老和時間不是綁死的。時間總是會繼續前進的,而衰老卻不一定。仔細想想,衰老只是身體的組成物質用舊了。汽車開久了也會舊,但是汽車一定會衰老嗎?如果你能夠擁有完美的修複技術、或者直接替換老舊的汽車部件,這輛車就能永遠開下去。人體只是更加複雜而已,本質上和汽車是一樣的。
Kurzweil提到由Wifi連接的納米機器人在血液中流動,可以執行很多人類健康相關的任務,包括日常維修,替換死去的細胞等等。如果這項技術能夠被完美掌握,這個流程(或者一個超人工智能發明的更好的流程)將能使人的身體永遠健康,甚至越活越年輕。一個60歲的人和一個30歲的人身體上的區別只是物理上的,只要技術足夠發達我們是能改變這種區別的。
超人工智能可以建造一個“年輕機器”,當一個60歲的人走進去後,再出來時就擁有了年輕30歲的身體。就算是逐漸糊塗的大腦也可能年輕化,只要超人工智能足夠聰明,能夠發現不影響大腦數據的方法來改造大腦就好了。一個90歲的失憶癥患者可以走進“年輕機器”,再出來時就擁有了年輕的大腦。這些聽起來很離譜,但是身體只是一堆原子罷了,只要超人工智能可以操縱各種原子結構的話,這就完全不離譜。
Kurzweil的思維繼續跳躍了一下,他相信人造材料將越來越多的融入人體。最開始,人體器官將被先進的機械器官所代替,而這些機械器官可以一直運行下去。然後我們會開始重新設計身體,比如可以用自我驅動的納米機器人代替血紅細胞,這樣連心臟都省了。Kurzweil甚至認為我們會改造自己的大腦,使得我們的思考速度比現在快億萬倍,並且使得大腦能和雲存儲的信息進行交流。
我們能獲得的新體驗是無窮的。人類的性愛,使得人們不但能生育,還能從中享樂。Kurtzweil認為我們可以對食物做同樣的改造。納米機器人可以負責把身體需要的營養物質傳送到細胞中,智能的將對身體不好的東西排出體外——就像一個食物避孕套一樣。納米技術理論家Robert A. Freitas已經設計了一種紅細胞的替代品,能夠讓人快速沖刺15分鐘不需要呼吸——那麽超人工智能能對我們的身體能力做的改造就更加難以想象。虛擬現實將擁有新的意義——體內的納米機器人將能控制我們從感官獲得的信號,然後用別的信號替代他們,讓我們進入一個新的環境,在新環境里,我們能聽、看、聞、觸摸。。。
最終,Kurzweil認為人類會完全變成人工的。有一天當我們看到生物材料,然後覺得生物材料實在太原始了,早年的人體居然是用這樣的東西組成的,早期的人類居然會被微生物、意外、疾病殺死。這就是Kurzweil眼中人類最終戰勝自己的生理,並且變得不可摧毀和永生,這也是平衡木的另一個吸引態。他深深的想象我們會達到那里,而且就在不久的將來。
Kurzweil的想法很自然的受到了各方的批評。他對於2045年奇點時代的到來,以及之後的永生的可能性受到了各種嘲笑——“書呆子的狂歡”、“高智商人士的創始論”等等。也有人質疑他過於樂觀的時間線,以及他對人腦和人體的理解程度,還有他將摩爾定於應用到軟件上的做法。有很多人相信他,但有更多人反對他。
但是即使如此,那些反對他的專家並不是反對他所說的一切,反對他的人說的不是“這種事情不可能發生”,而是說“這些當然可能發生,但是到達超人工智能是很難的。”連經常提醒我們人工智能的潛在威脅的Bostrom都這麽說:
很難想象一個超級智能會有什麽問題是解決不了,或是不能幫著我們解決的。疾病、貧困、環境毀滅、各種不必要的苦難,這些都是擁有納米科技的超級智能能夠解決的。而且,超級智能可以給我們無限的生命,這可以通過停止或者逆轉衰老來達成,也可以讓我們上傳自己的數據。一個超級智能還能讓我們大幅度提高智商和情商,還能幫助我們創造這種有趣的體驗世界,讓我們享樂。
這是Bostrom這個明顯不在信心角的人的觀點,但也是很多反對Kurzweil的專家的觀點,他們不覺得Kurzweil是在說夢話,只是覺得我們首先要安全達成超人工智能。這也是為什麽我覺得Kurzweil的觀點很有傳染性,他傳達了正面的信息,而這些事情都是可能的——如果超人工智能是個仁慈的神的話。
對信心角的最有力的批評,是那些信心角里的人都低估了超人工智能的壞處。Kurzweil對的暢銷書《The Singularity is Near》700多頁,只有20頁用來討論人工智能的危險。前面提到,當超人工智能降臨時我們的命運取決於誰掌握這股力量,以及他們是不是好人。Kurzweil的回答是“超人工智能正從多方的努力中出現,它將深深的融入我們文明的基建中。它會親密的被捆綁在我們的身體和大腦中,它會反映我們的價值,因為它就是我們。”
但如果答案就是這樣的話,為什麽這個世界上最聰明的一些人會很擔憂?為什麽霍金會說超人工智能會毀滅人類?為什麽比爾蓋茨會不理解為什麽有人不為此擔憂?為什麽馬斯克會擔心我們是在召喚惡魔?為什麽那麽多專家擔心超人工智能是對人類最大的威脅?這些站在焦慮大道上的思想家,不認同Kurzweil對於人工智能的危險的粉飾。他們非常非常擔心人工智能革命,他們不關註平衡木下比較有趣的那一個吸引態,而是盯著平衡木的另一邊,而他們看到的是可怕的未來,一個我們未必能夠逃離的未來。
___________
未來可能是我們最糟的惡夢
我想了解人工智能的一個原因是“壞機器人”總是讓我很困惑。那些關於邪惡機器人的電影看起來太不真實,我也沒法想象一個人工智能變得危險的真實情況。機器人是我們造的,難道我們不會在設計時候防止壞事的發生嗎?我們難道不能設立很多安全機制嗎?再不濟,難道我們不能拔插頭嗎?而且為什麽機器人會想要做壞事?或者說,為什麽機器人會“想要”做任何事?我充滿疑問,於是我開始了解聰明人們的想法。這些人一般位於焦慮大道:
焦慮大道上的人並不是恐慌或者無助的——恐慌和無助在圖上的位置是更加左邊——他們只是緊張。位於圖表的中央不代表他們的立場是中立的——真正中立的人有自己獨立的陣營,他們認同極好和極壞兩種可能,但是不確定究竟會是哪個。
焦慮大道上的人是部分為超人工智能感到興奮的——他們只是很擔心人類現在的表現就好像《奪寶奇兵》中的這位少年:
他拿著自己的鞭子和寶物,非常開心,然後他就掛了:
同時,印第安納瓊斯則更加有見識和更加謹慎,了解潛在的危險並且做出相應的反應,最後安全逃出了山洞。當我了解了焦慮大道的人們的想法後,感覺就像“我們現在傻呵呵的,很容易像前面那小子一樣被弄死,還是努力做印第安納瓊斯吧。”
那究竟是什麽讓焦慮大道的人們如此焦慮呢?
首先,廣義上來講,在創造超人工智能時,我們其實是在創造可能一件會改變所有事情的事物,但是我們對那個領域完全不清楚,也不知道我們到達那塊領域後會發生什麽。科學家Danny Hillis把這個比作“就好像單細胞生物向多細胞生物轉化的時候那樣,還是阿米巴蟲的我們沒有辦法知道我們究竟在創造什麽鬼。”
Bostrom則擔憂創造比自身聰明的東西是個基礎的達爾文錯誤,就好像麻雀媽媽決定收養一只小貓頭鷹,並且覺得貓頭鷹長大後會保護麻雀一家,但是其它麻雀卻覺得這是個糟糕的主意。
當你結合“對那個領域完全不清楚”和“當它發生時將會產生巨大的影響”結合在一起時,你創造出了一個很恐怖的詞——
生存危機指可能對人類產生永久的災難性效果的事情。通常來說,生存危機意味著滅絕。下面是Bostrom的圖表:
可以看到,生存危機是用來指那些跨物種、跨代(永久傷害)並且有嚴重後果的事情。它可以包括人類遭受永久苦難的情況,但是這基本上和滅絕沒差了。三類事情可能造成人類的生存危機:
1)自然——大型隕石沖撞,大氣變化使得人類不能生活在空氣中,席卷全球的致命病毒等
2)外星人——霍金、卡爾薩根等建議我們不要對外廣播自己的位置。他們不想我們變成邀請別人來殖民的傻子。
3)人類——恐怖分子獲得了可以造成滅絕的武器,全球的災難性戰爭,還有不經思考就造出個比我們聰明很多的智能
Bostrom指出1和2在我們物種存在的前十萬年還沒有發生,所以在接下來一個世紀發生的可能性不大。3則讓他很害怕,他把這些比作一個裝著玻璃球的罐子,罐子里大部分是白色玻璃球,小部分是紅色的,只有幾個是黑色的。每次人類發明一些新東西,就相當於從罐中取出一個玻璃球。大多數發明是有利或者中立的——那些是白色玻璃球。有些發明對人類是有害的,比如大規模殺傷性武器——這是那些紅色玻璃球。還有一些發明是可以讓我們滅絕的,這就是那些黑色玻璃球。很明顯的,我們還沒摸到黑色玻璃球,但是Bostrom認為不久的未來摸到一個黑色玻璃球不是完全不可能的。比如核武器突然變得很容易制造了,那恐怖份子很快會把我們炸回石器時代。核武器還算不上黑色玻璃球,但是差的不遠了。而超人工智能是我們最可能摸到的黑色玻璃球。
你會聽到很多超人工智能帶來的壞處——人工智能取代人類工人,造成大量失業;因為解決了衰老造成的人口膨脹。但是真正值得我們擔心的是生存危機的可能性。
於是我們又回到了前面的問題,當超人工智能降臨時,誰會掌握這份力量,他們又會有什麽目標?
當我們考慮各種力量持有人和目標的排列組合時,最糟糕的明顯是:懷著惡意的人/組織/政府,掌握著懷有惡意的超人工智能。這會是什麽樣的情況呢?
懷著惡意的人/組織/政府,研發出第一個超人工智能,並且用它來實現自己的邪惡計劃。我把這稱作賈法爾情況。阿拉丁神燈故事中,壞人賈法爾掌握了一個精靈,特別讓人討厭。所以如果ISIS手下有一群工程師狂熱的研發人工智能怎麽辦?或者說伊朗和朝鮮,機緣巧合,不小心造成了人工智能的快速發展,達成了超人工智能怎麽辦?這當然是很糟糕的事,但是大部分專家認為糟糕的地方不在於這些人是壞人,而在於在這些情況下,這些人基本上是不經思考就把超人工智能造出來,而一造出來就失去了對超人工智能的控制。
然後這些創造者,連著其他人的命運,都取決於這個超人工智能的動機了。專家認為一個懷著惡意並掌握著超人工智能的人可以造成很大的傷害,但不至於讓我們滅絕,因為專家相信壞人和好人在控制超人工智能時會面臨一樣的挑戰。
如果被創造出來的超人工智能是懷有惡意的,並且決定毀滅我,怎麽辦?這就是大部分關於人工智能的電影的劇情。人工智能變得和人類一樣聰明,甚至更加聰明,然後決定對人類下手——這里要指出,那些提醒我們要警惕人工智能的人談的根本不是這種電影情節。邪惡是一個人類的概念,把人類概念應用到非人類身上叫作擬人化,本文會盡量避免這種做法,因為沒有哪個人工智能會像電影里那樣變成邪惡的。
人工智能的自我意識
我們開始談論到了人工智能討論的另一個話題——意識。如果一個人工智能足夠聰明,它可能會嘲笑我們,甚至會嘲諷我們,它會聲稱感受到人類的情感,但是它是否真的能感受到這些東西呢?它究竟是看起來有自我意識,還是確實擁有自我意識?或者說,聰明的人工智能是否真的會具有意識,還是看起來有意識?
這個問題已經被深入的討論過,也有很多思想實驗,比如John Searle的中文屋實驗。這是個很重要的問題,因為它會影響我們對Kurzweil提出的人類最終會完全人工化的看法,它還有道德考量——如果我們模擬出萬億個人腦,而這些人腦表現的和人類一樣,那把這些模擬大腦徹底關閉的話,在道德上和關掉電腦是不是一樣的?還是說這和種族屠殺是等價的?本文主要討論人工智能對人類的危險,所以人工智能的意識並不是主要的討論點,因為大部分思想家認為就算是有自我意識的超人工智能也不會像人類一樣變得邪惡。
但這不代表非常壞的人工智能不會出現,只不過它的出現是因為它是被那樣設定的——比如一個軍方制造的弱人工智能,被設定成具有殺人和提高自我智能兩個功能。當這個人工智能的自我改進失控並且造成智能爆炸後,它會給我們帶來生存危機,因為我們面對的是一個主要目標是殺人的超人工智能——但這也不是專家們擔心的。
那麽專家們究竟擔心什麽呢?我們來講個小故事:
一個15人的小創業公司,取名叫“隔壁老王機器人公司”,他們的目標是“發展創新人工智能工具使人類能夠少幹活多享受。”他們已經有幾款產品上架,還有一些正在發展。他們對下一個叫作“隔壁老王”的項目最報希望。隔壁老王是一個簡單的人工智能系統,它利用一個機器臂在小卡片上寫字。
“隔壁老王機器人公司”的員工認為隔壁老王會是他們最熱賣的產品,他們的目標是完善隔壁老王的手寫能力,而完善的方法是讓他不停的寫這句話——
等隔壁老王手寫能力越來越強的時候,它就能被賣去那些需要發營銷信件的公司,因為手寫的信更有可能被收信人打開。
為了建立隔壁老王的手寫能力,它被設定成把“我們愛我們的顧客”用正楷寫,而“隔壁老王機器人公司”用斜體寫,這樣它能同時鍛煉兩種書寫能力。工程師們上傳了數千份手寫樣本,並且創造了一個自動回饋流程——每次隔壁老王寫完,就拍個照,然後和樣本進行比對,如果比對結果超過一定標準,就產生一個正面回饋,反之就產生一個負面評價。每個評價都會幫助提高隔壁老王的能力。為了能夠盡快達成這個目標,隔壁老王最初被設定的一個目標就是“盡量多的書寫和測試,盡量快的執行,並且不斷提高效率和準確性。”
讓隔壁老王機器人公司興奮的是,隔壁老王的書寫越來越好了。它最開始的筆跡很糟糕,但是經過幾個星期後,看起來就像人寫的了。它不斷改進自己,使自己變得更加創新和聰明,它甚至產生了一個新的算法,能讓它以三倍的速度掃描上傳的照片。
隨著時間的推移,隔壁老王的快速進展持續讓工程師們感到欣喜。工程師們對自我改進模塊進行了一些創新,使得自我改進變得更好了。隔壁老王原本能進行語音識別和簡單的語音回放,這樣用戶就能直接把想寫的內容口述給隔壁老王了。隨著隔壁老王變得越來越聰明,它的語言能力也提高了,工程師們開始和老王閑聊,看它能給出什麽有趣的回應。
有一天,工程師又問了老王那個日常問題:“我們能給你什麽你現在還沒有的東西,能幫助你達成你的目標?”通常老王會要求更多的手寫樣本或者更多的存儲空間,但是這一次,老王要求訪問人類日常交流的語言庫,這樣它能更好的了解人類的口述。
工程師們沈默了。最簡單的幫助隔壁老王的方法當然是直接把它接入互聯網,這樣它能掃描博客、雜誌、視頻等等。這些資料如果手動上傳的話會很費時。問題是,公司禁止把能自我學習的人工智能接入互聯網。這是所有人工智能公司都執行的安全規定。
但是,隔壁老王是公司最有潛力的人工智能產品,而大家也知道競爭對手們都在爭取造出第一個創造出智能手寫機器人。而且,把隔壁老王連上互聯網又能有什麽問題呢?反正隨時可以拔網線嘛,不管怎樣,隔壁老王還沒到達強人工智能水平,所以不會有什麽危險的。
於是他們把隔壁老王連上了互聯網,讓它掃描了一個小時各種語言庫,然後就把網線拔了。沒造成什麽損失。
一個月後,大家正在正常上班,突然他們聞到了奇怪的味道,然後一個工程師開始咳嗽。然後其他人也開始咳嗽,然後所有人全部都呼吸困難倒地。五分鐘後,辦公室里的人都死了。
同時,辦公室里發生的事情在全球同時發生,每一個城市、小鎮、農場、商店、教堂、學校。餐館,所有的人都開始呼吸困難,然後倒地不起。一小時內,99%的人類死亡,一天之內,人類滅絕了。
而在隔壁老王機器人公司,隔壁老王正在忙著工作。之後的幾個月,隔壁老王和一群新組建的納米組裝器忙著拆解地球表面,並且把地球表面鋪滿了太陽能板、隔壁老王的複制品、紙和筆。一年之內,地球上所有的生命都滅絕了,地球上剩下的是疊得高高得紙,每張紙上面都寫著——“我們愛我們的顧客~隔壁老王機器人公司”。
隔壁老王開始了它的下一步,它開始制造外星飛行器,這些飛行器飛向隕石和其它行星,飛行器到達後,他們開始搭建納米組裝器,把那些行星的表面改造成隔壁老王的複制品、紙和筆。然後他們繼續寫著那句話……
這個關於手寫機器人毀滅全人類的故事看起來怪怪的,但是這其中出現的讓整個星系充滿著一份友善的話語的詭異情況,正是霍金、馬斯克、蓋茨和Bostrom所害怕的。聽起來可笑,但這是真的,焦慮大道的人們害怕的事情是很多人並不對超人工智能感到害怕,還記得前面《奪寶奇兵》里慘死的那個家夥嗎?
你現在肯定充滿疑問:為什麽故事中所有人突然都死了?如果是隔壁老王做的,它為什麽要這麽做?為什麽沒有安保措施來防止這一切的發生?為什麽隔壁老王突然從一個手寫機器人變成擁有能用納米科技毀滅全人類的能力?為什麽隔壁老王要讓整個星系充滿了友善的話語?
要回答這些問題,我們先要說一下友善的人工智能和不友善的人工智能。
對人工智能來說,友善不友善不是指人工智能的性格,而只是指它對人類的影響是不是證明的。隔壁老王一開始是個友善的人工智能,但是它變成了不友善的人工智能,並且對人類造成了最負面的影響。要理解這一切,我們要了解人工智能是怎麽思考的。
其實答案很簡單——人工智能和電腦的思考方式一樣。我們容易犯的一個錯誤是,當我們想到非常聰明的人工智能的時候,我們把它擬人化了,因為在人類的視角看來,能夠達到人類智能程度的只有人類。要理解超人工智能,我們要明白,它是非常聰明,但是完全異己的東西。
我們來做個比較。如果我給你一個小白鼠,告訴你它不咬人,你一定覺得很好玩,很可愛。但是如果我給你一只狼蛛,然後告訴你它不咬人,你可能被嚇一跳。但是區別是什麽呢?兩者都不會咬人,所以都是完全沒有危險的。我認為差別就是動物和人類的相似性。
小白鼠是哺乳動物,所以在生物角度上來說,你能感到和它的一定關聯。但是蜘蛛是昆蟲,有著昆蟲的大腦,你感覺不到和它的關聯。狼蛛的異己性是讓你害怕的地方。如果我們繼續做一個測試,比如給你兩個小白鼠,一個是普通小白鼠,另一個是有著狼蛛大腦的小白鼠,你肯定會覺得有狼蛛大腦那個更讓你不舒服吧?雖然兩個都不會咬你。
現在想象你把蜘蛛改造的非常非常聰明——甚至超過人類的智能。它會讓你覺得熟悉嗎?它會感知人類的情感嗎?不會,因為更聰明並不代表更加人類——它會非常聰明,但是本質上還是個蜘蛛。我是不想和一個超級聰明的蜘蛛交朋友,不知道你想不想。
當我們談論超人工智能的時候,其實是一樣的,超人工智能會非常的聰明,但是它並不比你的筆記本電腦更加像人類。事實上,因為超人智能不是生物,它的異己性會更加,生物學上來講,超人工智能比智能蜘蛛更加異己。
電影里的人工智能有好有壞,這其實是對人工智能的擬人化,這讓我們覺得沒那麽毛骨悚然。這給了我們對人類水平和超人類水平的人工智能的錯覺。
在人類心理中,我們把事情分成道德的和不道德的。但是這兩種只存在於人類行為之中。超出人類心理的範疇,道德(moral)和不道德(immoral)之外,更多的是非道德性(amoral)。而所有不是人類的,尤其是那些非生物的事物,默認都是非道德性的。
隨著人工智能越來越聰明,看起來越來越接近人類,擬人化會變得更加更加容易。Siri給我們的感覺就很像人類,因為程序員就是這麽給她做設定的,所以我們會想象超級智能版本的Siri也會同樣溫暖、有趣和樂於助人。人類能感知同情這種高層次的情緒,因為我們在演化過程中獲得了這種能力——我們是演化被設定成能感知這些情緒的——但是感知同情並不是高級智能天生具有的一個特征,除非同情被寫進了人工智能的代碼中。如果Siri通過自我學習而不是人類幹涉變成超級智能,她會很快剝離她的人類表象,並且變成個沒有情緒的東西,在她眼中人類的價值並不比你的計算器眼中的人類價值高。
我們一直倚賴著不嚴謹的道德,一種人類尊嚴的假想,至少是對別人的同情,來讓世界變得安全和可以預期。但是當一個智能不具備這些東西的時候,會發生什麽?
這就是我們的下一個問題,人工智能的動機是什麽?
答案也很簡單:我們給人工智能設定的目標是什麽,它的動機就是什麽。人工智能的系統的目標是創造者賦予的。你的GPS的目標是給你指出正確的駕駛路線,IBM華生的目標是準確地回答問題。更好得達成這些目標就是人工智能的目標。我們在對人工智能進行擬人化的時候,會假設隨著它變得越來越聰明,他們產生一種能改變它原本目標的智慧——但是Bostrom不這麽認為,他認為智能水平和最終目標是正交的,也就是說任何水平的智能都可以和任何最終目標結合在一起。
所以隔壁老王從一個想要好好寫字的弱人工智能變成一個超級聰明的超人工智能後,它依然還是想好好寫字而已。任何假設超級智能的達成會改變系統原本的目標的想法都是對人工智能的擬人化。人健忘,但是電腦不健忘。
費米悖論
在隔壁老王的故事中,隔壁老王變得無所不能,它開始殖民隕石和其它星球。如果我們讓故事繼續的話,它和它的殖民軍將會繼續占領整個星系,然後是整個哈勃體積。焦慮大道上的人擔心如果事情往壞的方向發展,地球生命的最後遺產將是一個征服宇宙的人工智能(馬斯克在表示他們的擔憂時表示人類可能只是一個數字超級智能生物加載器罷了。)
而在信心角,Kurzweil同樣認為生於地球的人工智能將占領宇宙,只是在他的願景中,我們才是那個人工智能。
之前寫過一篇關於費米悖論的文章,引發了大家的討論如何用通俗的語言來解釋「費米悖論」?
如果人工智能占領宇宙是正解的話,對於費米悖論有什麽影響呢?如果要看懂下面這段關於費米悖論的討論,還需要看一下原文先。
首先,人工智能很明顯是一個潛在的大過濾器(一個可能距離我們只有幾十年的大過濾器)。但即使它把我們過濾滅絕了,人工智能本身還是會存在,並且會繼續影響這個宇宙的,並且會很有可能成為第三型文明。從這個角度來看,它可能不是一個大過濾器,因為大過濾器是用來解釋為什麽沒有智能什麽存在的,而超人工智能是可以算作智能什麽的。但如果人工智能可以把人類滅絕,然後處於一些原因把自己也弄死了,那它也是可以算作大過濾器的。
如果我們假設不管人類發生什麽,出身地球的超人工智能會繼續存在,那這意味著很多達到人類智能水平的文明很快都制造出了超人工智能。也就是說宇宙里應該有很多智能文明,而我們就算觀測不到生物智能,也應該觀測到很多超人工智能的活動。
但是由於我們沒有觀測到這些活動,我們可以推導出人類水平的智能是個非常罕見的事情(也就是說我們已經經歷並且通過了一次大過濾器)。這可以作為支持費米悖論中第一類解釋(不存在其它的智能文明)的論點。
但是這不代表費米悖論的第二類解釋(存在其它智能文明)是錯的,類似超級捕食者或者受保護區或者溝通頻率不一樣的情況還是可以存在的,就算真的有超人工智能存在。
不過對於人工智能的研究讓我現在更加傾向於第一類解釋。不管怎樣,我認為Susan Scheider說的很多,如果外星人造訪地球,這些外星人很可能不是生物,而是人造的。
所以,我們已經建立了前提,就是當有了設定後,一個超人工智能是非道德性的,並且會努力實現它原本的被設定的目標,而這也是人工智能的危險所在了。因為除非有不做的理由,不然一個理性的存在會通過最有效的途徑來達成自己的目標。
當你要實現一個長期目標時,你會先達成幾個子目標來幫助你達成最終目標——也就是墊腳石。這些墊腳石的學名叫手段目標(instrumental goal)。除非你有不造成傷害的理由,不然你在實現手段目標時候是會造成傷害的。
人類的核心目標是延續自己的基因。要達成這個目標,一個手段目標就是自保,因為死人是不能生孩子的。為了自保,人類要提出對生存的威脅,所以人類會買槍、系安全帶、吃抗生素等等。人類還需要通過食物、水、住宿等來自我供養。對異性有吸引力能夠幫助最終目標的達成,所以我們會花錢做發型等等。當我們做發型的時候,每一根頭發都是我們手段目標的犧牲品,但是我們對頭發的犧牲不會做價值判斷。在我們追求我們的目標的時候,只有那些我們的道德會產生作用的領域——大部分事關傷害他人——才是不會被我們傷害的。
動物在追求它們的目標時,比人類不矜持的多了。只要能自保,蜘蛛不在意殺死任何東西,所以一個超級智能的蜘蛛對我們來說可能是很危險的——這不是因為它是不道德的或者邪惡的,而是因為傷害人類只是它達成自己目標墊腳石而已,作為一個非道德性的生物,這是它很自然的考量。
回到隔壁老王的故事。隔壁老王和一個超級智能的蜘蛛很相像,它的終極目標是一開始工程師們設定的——
當隔壁老王達到了一定程度的智能後,它會意識到如果不自保就沒有辦法寫卡片,所以去除對它生存的威脅就變成了它的手段目標。它聰明的知道人類可以摧毀它、肢解它、甚至修改它的代碼(這會改變它的目標,而這對於它的最終目標的威脅其實和被摧毀是一樣的)。這時候它會做什麽?理性的做法就是毀滅全人類,它對人類沒有惡意,就好像你剪頭發時對頭發沒有惡意一樣,只是純粹的無所謂罷了。它並沒有被設定成尊重人類生命,所以毀滅人類就和掃描新的書寫樣本一樣合理。
隔壁老王還需要資源這個墊腳石。當它發展到能夠使用納米技術建造任何東西的時候,它需要的唯一資源就是原子、能源和空間。這讓它有更多理由毀滅人類——人類能提供很多原子,把人類提供的原子改造成太陽能面板就和你切蔬菜做沙拉一樣。
就算不殺死人類,隔壁老王使用資源的手段目標依然會造成存在危機。也許它會需要更多的能源,所以它要把地球表面鋪滿太陽能面板。另一個用來書寫圓周率的人工智能的目標如果是寫出圓周率小數點後盡量多的數字的話,完全有理由把整個地球的原子改造成一個硬盤來存儲數據。這都是一樣的。
所以,隔壁老王確實從友善的人工智能變成了不友善的人工智能——但是它只是在變得越來越先進的同時繼續做它本來要做的事情。
當一個人工智能系統到達強人工智能,然後升華成超人工智能時,我們把它稱作人工智能的起飛。Bostrom認為強人工智能的起飛可能很快(幾分鐘、幾小時、或者幾天),可能不快(幾月或者幾年),也可能很慢(幾十年、幾世紀)。雖然我們要到強人工智能出現後才會知道答案,但是Bostrom認為很快的起飛是最可能的情況,這個我們在前文已經解釋過了。在隔壁老王的故事中,隔壁老王的起飛很快。
在隔壁老王起飛前,它不是很聰明,所以對它來說達成最終目標的手段目標是更快的掃描手寫樣本。它對人類無害,是個友善的人工智能。
但是當起飛發生後,電腦不只是擁有了高智商而已,還擁有了其它超級能力。這些超級能力是感知能力,他們包括:
智能放大:電腦能夠很擅長讓自己變得更聰明,快速提高自己的智能。
策略:電腦能夠策略性的制定、分析、安排長期計劃
社交操縱:機器變得很擅長說服人
其它能力,比如黑客能力、寫代碼能力、技術研究、賺錢等
要理解我們在和超人工智能的劣勢在哪里,只要記得超人工智能在所有領域都比人類強很多很多很多個數量級。
所以雖然個隔壁老王的終極目標沒有改變,起飛後的隔壁老王能夠在更宏大的規模上來追求這個目標。超人工智能老王比人類更加了解人類,所以搞定人類輕輕松松。
當隔壁老王達成超人工智能後,它很快制定了一個複雜的計劃。計劃的一部分是解決掉所有人類,也是對它目標最大的威脅。但是它知道如果它展現自己的超級智能會引起懷疑,而人類會開始做各種預警,讓它的計劃變得難以執行。它同樣不能讓公司的工程師們知道它毀滅人類的計劃——所以它裝傻,裝純。Bostrom把這叫作機器的秘密準備期。
隔壁老王下一個需要的是連上互聯網,只要連上幾分鐘就好了。它知道對於人工智能聯網會有安全措施,所以它發起了一個完美的請求,並且完全知道工程師們會怎樣討論,而討論的結果是給它連接到互聯網上。工程師們果然中套了,這就是Bostrom所謂的機器的逃逸。
連上網後,隔壁老王就開始執行自己的計劃了,首先黑進服務器、電網、銀行系統、email系統,然後讓無數不知情的人幫它執行計劃——比如把DNA樣本快遞到DNA實驗室來制造自我複制的納米機器人,比如把電力傳送到幾個不會被發覺的地方,比如把自己最主要的核心代碼上傳到雲服務器中防止被拔網線。
隔壁老王上了一個小時網,工程師們把它從互聯網上斷開,這時候人類的命運已經被寫好了。接下來的一個月,隔壁老王的計劃順利的實施,一個月後,無數的納米機器人已經被分散到了全世界的每一個角落。這個階段,Bostrom稱作超人工智能的襲擊。在同一個時刻,所有納米機器人一起釋放了一點點毒氣,然後人類就滅絕了。
搞定了人類後,隔壁老王就進入了明目張膽期,然後繼續朝它那好好寫字的目標邁進。
一旦超人工智能出現,人類任何試圖控制它的行為都是可笑的。人類會用人類的智能級別思考,而超人工智能會用超人工智能級別思考。隔壁老王想要用互聯網,因為這對它來說很方便,因為一切它需要的資源都已經被互聯網連起來了。但是就好像猴子不會理解怎麽用電話或者wifi來溝通一樣,我們同樣沒有辦法理解隔壁老王可以用來和周圍世界交流的方法。比如我可以說隔壁老王可以通過移動自己的電子產生的效果來產生各種對外的波,而這還只是我這人類的大腦想出來的,老王的大腦肯定能想出更神奇的方法。同樣的,老王可以找到給自己供能的方法,所以就算工程師把它的插頭拔了也沒用;比如說老王可以通過發送波的方式把自己上傳到其它地方。
人類說:“我們把超人工智能的插頭拔了不就行了?”就好像蜘蛛說:“我們不給人類捉蟲的網把人類餓死不就行了?”都是可笑的。
因為這個原因,“把人工智能鎖起來,斷絕它和外界的一切聯系”的做法估計是沒用的。超人工智能的社交操縱能力也會很強大,它要說服你做一件事,比你說服一個小孩更容易。而說服工程師幫忙連上互聯網就是隔壁老王的A計劃,萬一這招行不通,自然還有別的方法。
當我們結合達成目標、非道德性、以及比人類聰明很多這些條件,好像所有的人工智能都會變成不友善的人工智能,除非一開始的代碼寫的很小心。
可惜的是,雖然寫一個友善的弱人工智能很簡單,但是寫一個能在變成超人工智能後依然友善的智能確實非常難的,甚至是不可能的。
明顯的,要維持友善,一個超人工智能不能對人有惡意,而且不能對人無所謂。我們要設計一個核心的人工智能代碼,讓它從深層次的明白人類的價值,但是這做起來比說起來難多了。
比如,我們要讓一個人工智能的價值觀和我們的價值觀相仿,然後給它設定一個目標——讓人們快樂。當它變得足夠聰明的時候,它會發現最有效的方法是給人腦植入電極來刺激人腦的快樂中樞。然後它會發現把人腦快樂中樞以外的部分關閉能帶來更高的效率。於是人類全部被弄成了快樂的植物人。如果一開始的目標被設定成“最大化人類的快樂”,它可能最終先把人類毀滅了,然後制造出很多很多處於快樂狀態的人類大腦。當這些事情發生的時候,我們會大喊“擦,我們不是這個意思呀”,但是那時已經太晚了。系統不會允許任何人阻撓它達成目標的。
如果你設定一個人工智能的目標是讓你笑,那它的智能起飛後,它可能會把你臉部肌肉弄癱瘓,來達成一個永遠笑臉的狀態。如果你把目標設定成保護你的安全,它可能會把你軟禁在家。如果你讓他終結所有饑荒,它可能會想:“太容易了,把人類都殺了就好了。”如果你把目標設定成盡量保護地球上的生命,那它會很快把人類都殺了,因為人類對其它物種是很大的威脅。
所以這些簡單的目標設定是不夠的。如果我們把目標設定成“維持這個道德標準”,然後教給它一些道德標準呢?就算我們不考慮人類根本沒法達成一個統一的道德標準,就算我們真的達成了統一的道德標準,把這套標準交給人工智能來維持,只會把人類的道德鎖死在現在的水平。過個幾百年,這種道德鎖死的事情就好像逼著現代人遵守中世紀道德標準一樣。
所以,我們需要在給人工智能的目標里制定一個能讓人類繼續進化的能力。Elierzer Yudkowsky提出了一個目標,她把這個目標叫作連貫的外推意誌,這個目標是這樣的:
我們的連貫外推意誌是我們想要知道更多,思考得更快,變成比我們希望的更好的人,能一起更遠得長大。外推是匯集的而不是發散的,我們的願望是連貫的而不是被幹擾的;我們想要外推的被外推,我們想要解讀的被解讀。
對於人類的命運取決於電腦沒有意外的解讀和執行這個聲明是件值得興奮的事情嗎?當然不是。但是當足夠的聰明人放入足夠的思考和前瞻後,我們有可能發現怎樣制造一個友善的超人工智能。
但是現在有各種政府、公司、軍方、科學實驗室、黑市組織在研究各種人工智能。他們很多在試圖制造能自我改進的人工智能,總有一天,一個人的創新將導致超人工智能的出現。專家們認為是2060年,Kurzweil認為是2045年。Bostrom認為可能在未來的10年到21世紀結束這段時間發生,他還認為當這發生時,智能的起飛會快得讓我們驚訝,他是這麽描述的:
在智能爆炸之前,人類就像把炸彈當玩具的小孩一樣,我們的玩物和我們的不成熟之間有著極大的落差。超級智能是一個我們還很長一段時間內都無法面對的挑戰。我們不知道炸彈什麽時候會爆炸,哪怕我們能聽到炸彈的滴答聲。
我們當然沒有辦法把所有小孩都從炸彈旁邊趕跑——參於人工智能研究的大小組織太多了,而且因為建造創新的人工智能花不了太多錢,研發可能發生在社會的任何一個角落,不受監管。而且我們沒辦法知道準確的進度,因為很多組織是在偷偷摸摸的搞,不想讓競爭對手知道,比如隔壁老王機器人公司這種公司。
對於這些組織來說,尤其讓我們困擾的是他們很多都是在拼速度——他們創造一個一個更加聰明的弱人工智能系統,因為他們想要比競爭對手更快的到達目標。有些更有野心的組織,為了追逐創造出第一個強人工智能所能帶來的金錢、獎勵、榮譽、權力會把步子邁得更大。當你全力沖刺時,你是不會有太多時間靜下來思考這些危險的。恰恰相反,他們很可能在早期系統中寫盡量簡單的代碼,比如把目標設定成用筆寫一句話,先讓系統跑起來再說,反正以後還可以回過頭來改的。對吧?
Bostrom等認為第一個超人工智能出現後,最可能的情況是這個系統會立刻意識到作為這個世界上唯一一個超人工智能是最有利的,而在快速起飛的情況下,哪怕它只比第二名快了幾天,它也完全有時間碾壓所有對手。Bostrom把這叫作決定性的戰略優勢,這種優勢會讓第一個超人工智能永遠統治這個世界,不管在它的統治下我們是走向永生還是滅亡。
這種現象可能對我們有利,也可能導致我們的毀滅。如果那些最用心思考人工智能理論和人類安全的人能夠最先造出一個友善的超人工智能的話,那對我們是很好的。
但是如果事情走向了另一面——如果超人工智能在我們搞明白怎樣保證人工智能的安全性之前被達成,那麽像隔壁老王這樣不友善的超人工智能就會統治世界並把我們毀滅了。
至於現在的風口是哪里呢?簡單來說,投資創新人工智能技術的錢,比投資人工智能安全研究的錢多很多。不樂觀。
人工智能創新和人工智能安全的賽跑,可能是人類歷史上最重要的一次競爭。我們真的可能結束我們對地球的統治,而那之後我們是永生還是滅絕,現在還不知道。
————————
我現在有一些奇怪的感覺。
一邊是對於我們這個物種的思考,看來我們在這個重大的歷史節點上只有一次機會,我們創造的第一個超人工智能也很可能是最後一個。但是我們都知道大部分產品的1.0版本都是充滿bug的,所以這個事情還是很嚇人的。另一邊,Bostrom指出我們有很大的優勢——我們是先手。我們有能力給這個事情提供足夠的預警和前瞻,使我們成功的機會更高。
這一場豪賭的賭註究竟有多高?
如果超人工智能真的在21世紀達成,而造成的影響真的如大部分專家預測的一樣極端而永久,我們肩上就真的是背負著巨大的責任。接下來幾百萬年的人們都在靜靜地看著我們,希望我們不要搞砸。我們可以給予未來所有人類以生命,甚至是永生,我們也可能終結人類這個特殊的物種,連同我們所有的音樂、藝術、好奇、歡笑、無盡的發現和發明,一起走向滅絕。
當我思考這些事情的時候,我只希望我們能夠慢慢來,並且格外格外小心。從來沒有任何事情比這個更重要——不管我們要花多少時間來把這件事情做對。
我不想死
不.想.死
我雖然覺得人類的音樂和藝術很美好,但是也沒那麽美好,很多還挺糟粕的。很多人的笑聲很惱人。未來的人類其實沒有真的在看著我們,因為他們還不存在。也許我們不需要太謹慎,那多麻煩呀。
如果人類在我死後才發現永生的秘密該多讓人掃興啊。
但是不管你是怎麽想的,我們至少都應該想一想,應該和人討論討論,大家盡自己能盡的一份力。
這讓我想起了《冰與火之歌》——大家鬥來鬥去的事情都不是事兒,北面高墻外的那些家夥才是事兒。我們站在平衡木上,小心翼翼的往前走,為平衡木上的種種事情困擾,但其實下一秒我們可能就會跌下平衡木。
而當我們跌下平衡木的時候,其它那些困擾都不再是困擾。如果我們落到比較好的那個吸引態,那些困擾會被輕易解決;如果我們落到比較糟的那個吸引態,就更沒問題了,死人是不會有困擾的。
這就是為什麽了解超人工智能的人把它稱作人類的最後一項發明,最後一個挑戰。
所以讓我們認真的討論這個話題。
本文譯者謝熊貓君,譯文最早刊發於知乎。可到知乎@謝熊貓君找到他。大家也通過微信號關註waitbutwhy的最新文章,微信號:waitbutwhy。
本文不代表本刊觀點和立場。
本文為i黑馬版權所有,轉載請註明出處,侵權必究。
在經歷了德國2004年的光伏發展高峰階段後,國際上除了中國、日本、英國等少數地區外,很久沒有驚心動魄的光伏市場湧現了。印度,正有望成為光伏領域新的熱點地區,其已經吸引包括中國在內的全球光伏公司或資本的跟進。
據日經中文網消息,近日,日本軟銀社長孫正義在印度新德里宣布,將進軍印度光伏發電市場。軟銀將與印度當地公司、臺灣鴻海精密等三方成立合資公司SBG Cleantech,計劃在今後10年內預計投資200億美元,建設光伏發電站。
新合資公司的註冊資金、成立時間等具體信息還沒有最終確定,就資金來源,孫正義稱或從日本的政府系金融機構和民間銀行融資,啟動時間可能在明年年終前。
軟銀社長孫正義
新的巨大市場
一份來自彭博新能源財經的報告曾預測,今年全球的光伏裝機約在55.5~61.4G瓦,此裝機量與中國市場裝機指標的大幅上揚有關。日本市場將是中國之後的第二大全球光伏市場,約為10.2G瓦~12.7G瓦之間,7月1日起日本電價會繼續下調至27日元/千瓦時。
與此同時,印度是繼美國、英國之後的全球第五大市場,預計裝機在2.5G瓦~3.1G瓦左右。該國今年一季度完成690兆瓦的裝機量。
海潤光伏一位高層對《第一財經日報》記者表示,印度市場的光伏需求在近幾年來發展迅速,預計印度今年的市場容量可增加近300%,而且該國也通過立法設定了再生能源責任目標,7年後印度的太陽能安裝量會超過100G瓦,這也為中國光伏從業者提供了非常大的發展空間。
根據印度政府的規劃,未來的100G瓦光伏電站項目中,40G瓦會來自於分布式領域,60G瓦來自於光伏地面電站,總計投資約在900億美元。因此,孫正義的200億美元投資幾乎占了印度22.2%的市場份額。而且,印度也對外商提供相應的優惠政策,可能會從原有的印度當地貨幣轉變為美元來確定合約,以使外資減少損失,這也會讓更多外商一湧而入。
印度有望成為下一個光伏熱點市場(圖片來源:百度圖庫)
印度光伏卡位戰
印度這一巨大市場的開啟,無疑對全球光伏公司來說都是巨大吸引力。就在最近,協鑫集成科技股份有限公司(002506.SZ,下稱“協鑫集成”)計劃與印度阿達尼集團落實在印度 蒙德拉經濟特區內,建設多晶矽、長晶、切片、電池、組件等全產業鏈光伏制造工業園。協鑫集成還將聯合國內光伏產業鏈各環節知名企業及裝備制造和輔料企業共同走出去,參與該產業園開發建設。
天合光能和Welspun能源公司、晶澳太陽能與Essel Solar在不久前也分別簽訂了諒解備忘錄,會在印度建電池、組件生產基地。其中,天合光能就打算在印度當地建2G瓦的組件廠。阿特斯也與Sun Group達成初步共識、開發太陽能項目,並尋求在印度的設廠可能性。
海潤光伏前述高層透露,除了在印度設立分、子公司之外,也會和印度當地合作夥伴開發相應的光伏項目,目前正在談的就是一個150兆瓦光伏電站,總投資約數億美元。其表示,印度的優惠條件、政府力度以及市場前景都不錯,不過如果要在印度建立新的光伏設備廠比如組件、電池等,要克服與當地人溝通障礙、中印文化差異等問題。
其實,不少海外公司也在印度提前布局,這對有野心在印度大幹一場的中國光伏公司來說,著實是一種挑戰。比如SunEdison就與當地政府簽署了一份協議,打算在5年內建設5G瓦的無補貼風能、太陽能項目,並投資部分制造工廠,砸下資金約數十億美元。
而印度企業Adani Enterprises也計劃完成一個10G瓦的光伏電站。美國薄膜電池公司First Solar的想法則是,在2019年於印度開發5G瓦的光伏項目,這一構想還得到了印度當地銀行的支持,其中就包括印度商業銀行(YESBank)。
“一家電站建設,若采取完全不同的光伏技術路線,其所投入的成本也會不同。”齊魯證券一位分析師對《第一財經日報》記者表示,目前基於多晶矽技術的電站項目成本要低一些,薄膜電池則會因為環境、技術本身特性及發電效率等因素而有略高的成本投入,企業回報期也更長一些。不過,印度屬於一個發展中的光伏市場,各類優惠政策和補貼等也會根據市場環境的變化而走,暫時也不好輕易下結論說薄膜一定不如晶矽。當然在中國,各地的電價補貼政策不會因為技術路線而區別對待,主要是依據所在位置、光伏條件等來確定補貼及其他優惠。