Rex Wu 的部落格 資訊分享 Enrich Your Life

337愛的鼓勵 154訂閱站台

本文為《人類大歷史：從野獸到扮演上帝》一書作者哈拉瑞（Yuval Noah Harari）的演講逐字稿。在這場演講裡，第一次有了如此明確的描述 – 人工智慧的時代，我們下一代的時代中，「生活」將變得如何?

哈拉瑞整個演講裡，最令我震撼的一番話是，他說「人類社會會分成兩大階層，一個是非常少的精英階層，就像上帝一樣，他們在創造大量的人工智慧，絕大部分人將變成沒有任何經濟價值任何無用的階層。這是 21 世紀最大的風險。」（責任編輯：劉庭瑋）

原創  2017-07-06 尤瓦爾 ·赫拉利  筆記俠　

尤瓦爾 · 赫拉利 | 耶路撒冷希伯來大學歷史系教授，現象級暢銷書《人類簡史》、《未來簡史》作者。

活動來源：7 月 6 日，『未來進化』首屆 XWorld 大會，由中信出版集團、百分點主辦。筆記俠作為合作方，經審閱授權發佈。中信出版集團供圖，攝影師：朱方剛 。

責編 | Even

完整筆記 ·人工智慧

今天我要跟大家介紹的可能是我們這個時代最著名、重要的科學發現，或者可以說是整個 21 世紀人類歷史上最重要的一個演變，我們稱之為「人工智慧」。

一、有機生命會逐步被無機生命所替代

人工智慧不僅僅是 21 世紀最重要的科學進化，也不只是我們人類歷史上最重要的科學進化，甚至是整個生命創始以來最重要的原則。有機生命根本的規則沒有發生變化，與過去的 40 億年當中都是保持一致的。過去 40 億年當中，所有生命都是按照優勝劣汰的原則進行演變，所有的生命完全按照有有機化學的規則進行了演化。

因為我們的生命是有機化合物組成，不管你是巨大的恐龍還是一個阿米巴蟲，還是一個土豆，還是一個人，都是按照物競天擇的規則，都是有機化合物組成的，我們完全遵守過去 40 億年有機化學規律的演變。

這樣一個 40 億年的規則將會隨著人工智慧出現而發生根本變化， 人工智慧將替代物競天擇自然選擇的結果終止。 我們的生命將根據計算機智能設計 ，脫離原先有機化合物的限制，脫離原先有機化學的限制，突破原先的限制而進入一個無機的世界。

在我們有生之年，有可能看到有機生命會逐步被無機生命所替代。我們會逐步看到有機化學規律和無機智慧性的生命形式並存。原先我們是碳基的，未來生命形式當中，矽基會成為主要的生命形式。這是我們有生命以來的 40 億年當中第一次出現的一個重大變局。

二、選擇權將逐步讓渡給人工智慧

在過去的 40 億年當中，大家想像一下，所有生命都是局限在地球這樣一個行星上面，沒有一個生命、阿米巴蟲或者任何一種生命形式有能力突破我們這樣一個行星（地球），去其他的星系進行殖民。這是因為自然選擇規律讓所有有機物、有機體局限在地球中，一個非常獨特的環境——溫度、氣候、陽光、重力。

一旦我們從原先有機的生命形態轉變成為無機的生命形態，比如機器人，人工智慧電腦等，那麼環境就沒有限制了。機器人在火星上面也可以生存，而人類不可以。我們在科幻小說或者電影當中看到的一些場景，現在對於人類來說仍然是非常困難的。因為我們這樣一個有機生命體在地球以外的外太空是很難生存的，但是電腦機器人、人工智慧相對而言，比較容易能夠在地球以外的其他星球和星系中生存。

因此，在地球出現生命以來的 40 億年， 我們有可能突破地球的限制而進入到其它星系，不是人類，而是人工智慧可以做到這一點。 另外一個重大突破性的演變，也是在我們有生之年可以看到的，事實上大家已經從某種程度上經歷了這樣一種變革。

什麼樣的變革呢？我們人類上萬年以來在演變過程當中獲得了越來越多的力量，在 21 世紀的時候人類將會失去這些力量，這些力量將逐步從我們這個物種讓渡給人工智慧。比如世界上在發生什麼，甚至我們自己生命在發生什麼， 這些權力或者我們掌控的力量，不管重要的還是不重要的，將會逐步拱手讓給電腦或者人工智慧的這些演算法。

1、人工智慧可以瞭解你的喜好

舉一個很簡單的例子，比如你下一個月讀哪一本書，這是我們生活當中很簡單的決定，我們可以有很多的選擇。以前很多人會依賴自己的感覺、喜好、口味，或者依賴朋友、家人的推薦。選擇哪一本書閱讀，目前取決於我們自己的感覺、喜好、口味，但是 進入 21 世紀以後，我們逐步把閱讀什麼書，購買什麼書這樣的權力讓渡給了電腦、電腦、演算法、讓渡給了亞馬遜網站。

所以當我們進入到亞馬遜未來的書店中，有一個演算法告訴你：我一直在跟蹤你，我一直在收集你的資料，你喜歡什麼書、不喜歡什麼書，我都知道。亞馬遜的演算法會根據它對你的瞭解，以及它對於上千萬讀者的瞭解向你推薦書籍。

但 這個仍然處於初級狀態 ，這只是人工智慧邁出的一小步，亞馬遜網站對你的演算法仍然非常有限。進入到下一個階段，今天已經發生，我們看到這樣的演算法越來越瞭解你。今天越來越多的人看書不是看紙版書，而是閱讀電子書， 在手機看書或者一些電子閱讀器上面看書。當你在這個設備上讀這些書的時候，這個設備也在“讀”你。

這是有史以來第一次不僅僅只是人類在閱讀一本書，當你在讀一本書時，書同時也在“讀”你。你的智慧型電話、智慧平板在跟蹤你，監測你，搜集你的資料，這些設備可以瞭解到哪一頁你會很快地翻過去，哪一頁你是慢慢閱讀的。

這些資料會給出一些結果：哪些對你來說是無趣的章節，哪些是你喜歡的章節，它也知道哪一頁你不讀了。 當我購買了別人推薦的書，讀後雖然不喜歡了，但我還是會告訴每一個人這本書非常好。為什麼？因為我不想丟臉，別人都說這本書很好。要知道這樣只能騙了別人，電腦這個演算法是不會被你騙的，它知道你讀到第五頁不讀了，或者讀到第 42 頁的時候不喜歡了。

2、人工智慧可以體會你的情緒

以上是非常初步的功能，下一步它的設備可以連接面部識別的一個軟體。今天面部識別的演算法很初級，但是慢慢地， 它會學會通過看你臉部的表情判斷你喜好。 這就跟我們看別人一樣，我知道你的表情背後掩蓋著什麼樣的感情，什麼樣的感覺。通過觀察你的面部表情，肌肉的變化就會知道你是在笑還是在生氣，或者只是無聊了。

這是人類用來認知情緒的方式，今天電腦也在學會、提高對於情緒的識別能力 ，甚至比人類做得更好。他們能夠找到面部活動的規律，並且用這種規律來分析和評判一個人目前的情緒狀態是怎樣。我們把這樣的一個軟體和 kindle 這樣的電子閱讀器結合在一起，kindle 能夠判斷你正在閱讀的書對你產生的情緒影響。

你在看書的時候笑了，這時候它知道你笑了；你看到某一章生氣了，它知道你生氣了。我作為一個作者，經常想像書中的哪一章哪一節，讀者會看著看著就笑了，他們會不會理解我埋在文中的笑點，能不能看出我寫這段文字是表達諷刺。我不知道，但是 亞馬遜會知道。如果 87.3%的讀者在讀到這一段的時候，這個笑話沒有笑說明這不是一個有效的笑話。

3、人工智慧可以提出適合你的建議

最後一步把設備和生物識別感測器結合在一起，這些生物識別感測器是植入在體內，這不是科幻小說，已經實實在在用了。 生物特徵感測器能夠持續不斷地監控我身體各種生物指征。我現在給大家做講演，我的血壓心率是多少，血糖水準或者我的激素水準是多少。

但是你不知道，電腦通過剛才講的這樣的技術能夠知道我每一刻血壓的變化。根據這樣的資料，我們大家想像一下你正在讀一本非常長的書，比如托爾斯泰的《戰爭與和平》，當你讀完的時候，實際大部分情節都忘了，但是亞馬遜、騰訊或者百度任何一家公司，它的電子閱讀器通過生物識別感測器記錄了你閱讀這本書的狀況。

在我讀完《戰爭與和平》之後，這個設備就知道我是一個怎樣的人以及性格特點是什麼。 根據這樣的一種知識和瞭解， 設備不光能夠向我推薦書籍，而且也能夠圍繞著我生活中更加重要的決策，向我做出建議。 比方我應該學什麼，該生活在哪，應該在哪兒上班，甚至和誰結婚。

人生當中最重要的決定之一，可能就是你的一生要和誰度過——伴侶的選擇。在選擇伴侶這件事上，很多人犯過糟糕的錯誤，我們主要賴於自己的感覺以及親友家長的建議。現在有對情侶，該結婚還是分手？二三十年以後，你可能可以問亞馬遜、百度、騰訊這樣的問題，今天你得靠自己的感覺和親友的意見。

那時候，亞馬遜等公司對於我個人、和我相處的人已經如此瞭解，你可以問它們的建議。你迄今為止所有的郵件、微信消息、手機通話它都在追蹤，看書、看電影時，它在監控你血壓心率的變化；你每次約會的時候，它也在監控你約會水準的變化。

它對於你個人所有資訊的瞭解以及伴侶的瞭解，對幾百萬人的成功或不成功的伴侶關係的理解， 可以告訴你：現在你和你的男朋友或者女朋友結婚的概率是 90%。因為在你一生當中找不到更好的伴侶了，因為它如此地瞭解你 ，你心裡想的可能是：我有能力找到一個更好的伴侶，更好看更漂亮的伴侶。它會知道你這樣想的錯誤來源所在：你對外表太看重了。

你在選擇的時候，考慮的因素還是五萬年前我們的遠祖祖先在非洲的大草原上擇偶的標準。現在機器會告訴你：根據我的統計資料，即使外表對於關係的成功與否具一定的重要性，但是這個重要性是比較小的，可能只占整體權重的 10%，也就是在一個成功的關係當中只有 10%是取決於外表、美貌。

機器會告訴你：我已經看到了這樣的現實。從長遠來看，你和現在這個人在一起會是最幸福的，你應該和他結婚。

在這樣的一種設想當中，

決策的權威、權力已經轉移了，從人類手中移交給了演算法。

我們在這需要理解的是：做出決定的能力就像一組肌肉一樣，這樣的肌肉你不用的話就會退化，你對電腦信任越多，依靠人工智慧來做決定越多，你就會失去自己做決定的能力。

給大家舉一個簡單的例子：找路。在北京找一條路，去一個地方，比如火車站，過去我們怎麼找路？基於自己的本能知識經驗，到一個十字路口該左轉還是右轉，你會依賴於自己的經驗。今天我們越來越多的人依賴智慧手機、各種各樣的 GPS、地圖的應用。

你的本能告訴你應該右轉，但是智慧手機告訴你左轉，你越來越多地相信智慧手機，而不是直覺。經過一段時間之後，你的認路、找路能力就喪失了，即使你還想這樣做。在北京這樣的空間找路、認路，今天我們靠機器，二十年以後我們在自己的人生當中 碰到了這樣的十字路口要做決策的時候，很多人會用智慧手機、人工智慧來做決定 ，他們會告訴你該怎麼做。

三、人工智慧產生的革命性影響

隨著人工智慧變得越來越好，有可能人工智慧會把人從就業市場當中擠出去，對於整個社會的經濟和政治都產生革命性的影響。

1、減少交通事故

十年前，如果說電腦駕駛的技術比人更好，大家會覺得這是一部科幻小說。但是今天所有專家都達成了共識。可能再過一兩年時間，電腦就能夠比人類駕駛員的平均水準要好得多。屆時數以百萬計的計程車、卡車、公車司機會失業，讓位於自動駕駛汽車。

它不僅開起來好，安全性要高得多。今天世界上汽車事故造成的死亡人數比戰爭暴力還要多一倍。戰爭、恐怖主義犯罪，每年造成 60-70 萬人死亡，汽車每年造成 130 萬人死亡。大部分汽車事故都是由於人為造成的，比如酒駕，開車的時候打電話，或者睡著了，或者發資訊。

今天交通事故當中人是主要的因素，有了人工智慧就不會有這樣的問題。自動駕駛的汽車永遠不會喝酒，自動駕駛的汽車也不會在開車的時候睡著了，也不可能在開車的時候接打電話，這樣自動駕駛汽車就能替代人員駕駛員的作用。

2、解決道德倫理上的難題

除此之外，人工智慧也能做一些關於倫理道德的決定。比方自動駕駛汽車開的過程當中，突然前方有兩個孩子在踢球，這個時候負責自動駕駛的電腦通過演算法可算出避免撞死這兩個孩子的辦法是快速轉向另一條車道；另一個解決方案可能就是讓客戶、車廠來決定。

比方豐田 讓客戶決定自己要選用哪一款車，有一款車碰到這樣的情況會決定讓你死，那麼另外一款車會決定刹車但是仍然會撞死前面兩個孩子，你會買哪一款車，選哪一種演算法？ 世界上最優秀哲學家先把這樣的程式做好，我們在理論上考慮的所有東西有各種各樣的理論，但是這些理論對於遇到危機時的作用甚少。

大家可以說道德的選擇是犧牲自己的生命救前方的孩子，但是一旦你真正上路了，在幾秒內必須做出這個決定時，你就會忘記剛才的結論，會根據你的本能情緒來採取行動。

那些理論哲學上的行為之間和人類實際行為是有巨大差距的，但是有了電腦人工智慧，我們就能解決這個問題。 我們可以把世界上最優秀的哲學家集合在一起，讓他們坐在一個房間，給他們一年時間討論道德上的難題，不管最終拿出了什麼方案，就把這個方案寫到自動駕駛汽車的程式當中。

談到倫理道德決策，人工智慧也有可能是平均意義上比人類更好，因為這意味著這樣的自動駕駛汽車，假設每一輛車裡面駕駛員都是孔子，這樣對於人類駕駛員來說他們被人工智慧替代之後，當然一方面會帶來很多優勢：更加安全、更加便利。

與此同時另一方面會 使決策權從人民大眾手中轉向人數很少的一批精英的手中。 過去這樣的權力和福利是由數以百萬計計程車司機，公交司機，卡車司機來分享，現在不是，現在都交給了人工智慧，他們就掌握了世界上所有的計程車、卡車、公車。

3、做更優秀的醫生

不光是公車司機，甚至是醫生這個工作都會發生變化，在人工智慧當中這樣的事情已經開始發生。人工智慧在疾病診斷方面能夠做得更好，提出治療方案比平均水準的醫生更好，普通醫生的知識和能力是有限的，不可能每天都在更新知識，不可能一個人知道全世界所有的疾病藥物和研發結果。

對於一個醫生來說擁有的資料是有限的，但是對於人工智慧來說這都是無可限量的， 可以收集資訊分析資訊，熟知全世界所有疾病，能夠 24 小時不間斷地跟蹤一個患者。

今天我的私人醫生在以色列每年給我做一次體檢，他和我報告我的健康狀況。有了人工智慧之後相當於你身邊就有一個醫生，隨時追蹤你的血壓，即使我現在在中國，人工智慧應用也會像一個醫生一樣隨時瞭解我的健康狀況，每 0.5 秒瞭解一下我血液的狀態。

這不再是每年做一次體檢，意味著對於癌症這樣的疾病不是等到癌細胞擴散時再去醫院檢查，而是在剛剛出現癌細胞的時候就能夠被發現。即使我沒有不好的感覺，但是人工智慧已經發現了。

因此，人工智慧會發現癌症早期的症狀提出診療方案，一個好醫生不僅僅是瞭解你病情，還需要一些情感方面的瞭解：病人是不是害怕了，或者生氣了，憤怒了等等。所以有人認為人工智慧做不到， 事實上人工智慧比人類醫生還能夠撫慰病人心靈。

活活動現場

人類醫生怎麼判斷呢？可能看你的面部表情，某一個聲音語調的變化，但是 人工智慧可以更加精准地分析你的面部表情，說話的語調變化。它能更加精准地比人類醫生瞭解病人情緒的變化，監控某一個病人內部身體情緒的變化。 有時候病人自己都不知道自己是什麼狀態，但是人工智慧可以，因為他在不斷監控你的心跳血壓狀況等等。當然想要創造出這樣一個人工智慧醫生，還有很多問題需要去解決，很多技術難題需要突破。

我們技術上只要實現一次突破，就可以解決一切的問題。人工醫生怎麼培訓？可能需要八年大學碩博連讀，臨床實習之後才會培訓出一個合格的醫生來。十年之後，我們花了這麼多資源只不過培養出了一名人類醫生，這時候培養第二名又需要花十年時間。

但 人工智慧只要技術上實現一次突破，你拿到的不是一個機器醫生而是無窮多的人工智慧醫生，他們可以被複製。 這個比培訓人類醫生要效率高得多，雖然一開始要花數百萬億美元研發，但是一旦研發出來就可以無窮複製。

隨著技術發展我們可以用機器替代計程車、司機、醫生其他職業，人工智慧逐步都可以替代，這時候出現一個非常大的人類社會學問題。

正如第一次工業革命使得城市無產階級出現，人工智慧的出現會出現一個新的階層，就是無用階層。數以億計的人將找不到工作，他沒有辦法和電腦人工智慧競爭，對這些人來說他已經喪失了經濟的價值，沒有經濟價值也就沒有政治權力，這會對社會、政治、經濟方面產生巨大的問題。

四、人工智慧時代，你該教孩子學會什麼？

當然大家說會出現一些新的職業，但你沒有辦法確定會出現哪些新的職業替代那些正在消失或者被機器搶走的職業。我們可以說人會自己不斷地學習，不再需要卡車司機、計程車司機，會有新的職業設計未來的事業，設計 3D 電腦遊戲。

你想一下一個 50 歲的計程車司機失業之後，他有多大能力去培養自己？對於 50 歲的計程車司機來說，他要重新培養自己的能力，這樣就太晚了。這樣的革命非常危險，它會從根本上改變我們的教育體系。

今天，你會教孩子什麼？今天在學校裡我們應該教孩子什麼？大學裡面應該教孩子什麼？讓他們能夠在二三十年之後適應當時的就業市場。

事實上我們沒有人能夠描述三十年後、二十年後的就業市場，換句話說我們現在的教育系統沒有辦法瞭解今天應該教我們的孩子什麼。

今天我們的孩子在學校裡面學到的所有知識二三十年後完全無用，我們不知道現在應該教他們什麼，才能夠讓他們在二三十年後找到工作。

即使我們會產生新的工作，二三十年後可能產生新的工作，但是今天孩子到那天是不具備那些新工作的就業能力的。那麼這個時候出現了數百萬、數千萬甚至上億失業人口，他們喪失了經濟價值，這會產生進一步威脅。人類未來的精英階層是否還會有動力照顧那些弱勢群體？

現在，世界各地的政府還會投資於那些弱勢群體，為什麼？因為政府精英群體需要這些弱勢群體，即使是德國的納粹希特勒，他也要投資這些弱勢群體。他要變大，需要有強大的軍隊，需要普普通通的數以百萬計的德國人去給他當兵，成為工廠的工人才能支撐他打這樣的戰爭，所以投資大量的資金用於教育和醫療。

但是未來如果人工智慧替代人類，他可以替人去打仗、去做工，這樣國家精英階層就沒有動力去投資醫療教育，幫助弱勢群體。

人類社會會分成兩大階層，一個是非常少的精英階層，就像上帝一樣，他們在創造大量的人工智慧，絕大部分人將變成沒有任何經濟價值任何無用的階層。這是 21 世紀最大的風險。

五、人工智慧毫無疑問會改變我們的未來

最後一點在我結束演講之前，這也是非常重要的一點：有很多關於人工智慧的討論，但是也有很多關於人工智慧究竟意味著什麼的迷惑和疑問。智慧和意識之間究竟有什麼區別，很多人迷惑。

智慧是解決問題的能力 ，比如我們診斷一個疾病，或者找到某一個疾病的治療方法，這是智慧。但是人類的意識是感受某一種外界的能力，你的情緒、你的感情、你的痛苦、愉悅、愛等等。人類和其他的哺乳動物，大猩猩猴子等，他們的意識和感情是合二為一的。

但是電腦不一樣，隨著水準越來越高，他們也能產生意識，很多科學的科幻小說或者其它科幻電影中，我們經常看到人工智慧逐步產生了意識，機器人電腦變得非常智慧，同時獲得了意識和情感，機器人會變得非常憤怒，他想殺掉所有的人類。

我們在科幻小說電影中都看到過，它不是科學只是科幻。科學告訴我們智慧和意識是完全不一樣的兩個東西。到目前為止， 我們電腦或者人工智慧發展到今天，智慧水準在不斷提高，但是人工智慧的意識還是零。

換句話說：我們現在沒有任何指標證明或者任何跡象表明，電腦和人工智慧在未來能獲得這種意識。 電腦只是以一種完全不同的方式在工作，和人類其他的哺乳動物完全不一樣，這是我們面臨的風險，或許是最大的風險。

電腦會比我們智慧得多，比人類水準高好多，他會控制這個世界，開始向宇宙其它星系去擴張，但是他們仍然沒有意識。我們會有一個充滿智慧型機器的宇宙，但它們卻喪失意識和情感。大家可以想像生命過去的演變在逐步向更高的智慧發展（無論是人類或者其他哺乳動物），在演變過程當中是非常慢的。

上億年的生命通過我們的意識不斷摸索，慢慢演變到今天的智慧狀況，速度是非常慢的，演變需要數百萬年的時間。突然有一個電腦突然殺出來，他們用完全不同的路徑、方式，完全不同的發展模式，超級的智慧在趕超有機的生命體。他們智慧的進化和演變速度比我們快得多，他們的發展演變比我們快得多，他們會控制整個世界甚至宇宙，但是沒有意識。

我講的東西不是一個寓言。 沒有人會知道未來是什麼樣，一切還懸而未決，同樣一個技術你可以創造出完全不同的社會和世界。 我們在 21 世紀曾經看到過這一幕，我們的技術、汽車、廣播、電視、電腦，可以利用相同的技術創造出社會主義的國家，資本主義的國家、法西斯國家也都是利用同樣的技術。

同樣，人工智慧的技術毫無疑問會改變我們的世界，但是我們未來的社會究竟怎麼樣？這會有很多選擇，而不是完全由技術來決定的，一切都懸而未決。如果大家不喜歡我剛才描述的這個世界，大家仍然可以用自己的行動去改變決定未來世界的形態，去消除風險，發揮技術好的那一面。

最後我想講的就是：當你作為一個個人，一家企業、政府部門，或者作為精英階層，我們在做人工智慧的時候，做各種各樣決定的時候，一定要注意人工智慧不僅僅是單純的技術問題，同時也要注意到人工智慧以及其它技術的發展，將會對社會、經濟、政治產生深遠的影響。

我們一定要注重人工智慧技術層面的問題，還要嚴密關注人工智慧的發展對社會可能產生的影響。因此，我們在投資與技術發展的時候，還要投入於社會影響的研究 ，謝謝。