十八世紀英國發生了工業革命， 自此人類開始在工業化的道路上狂奔， 不停的生產機器， 機器也變得越來越先進。 AlphaGo等“深度學習”智能機器人的出現， 讓人們開始害怕過于智能的機器會對人類產生威脅。 人工智能究竟在未來扮演什么角色， 科幻電影中那些黑暗的未來會否發生， 人類未來該怎么和機器共存？
江波
科幻作家
以下內容為江波演講實錄：
我今天演講的題目叫賦機器以文明， 科幻一點講一下關于人工智能的自我意識問題。
在科幻電影中， 人工智能是一個很大的母題， 經常會有表現人工智能的電影，
人工智能往往會扮演一個什么樣的角色， 它會扮演一個反叛者的角色， 它會對人類做出傷害， 做出一些不好的事情。 那么從現實的角度來說， 是否這樣的事情會發生呢？
生物智能是我們目前已知的唯一產生了自我意識的智能， 所以它是一個人工智能的唯一的參考。 在生物智能這個環節， 我們用人類和螞蟻來做對比， 人類是智能生物的代表， 螞蟻是本能的生物。 所謂的智能， 無非就是我們用各種各樣的方法想一想， 然后設計出一個方法來適應環境。
所謂本能呢？就是生來就具有的一種能力， 螞蟻天生就能夠筑巢， 就能夠覓食， 諸如此類。 為什么要把這人類和螞蟻放在一起來講，
如果把所有人類的重量和所有螞蟻的重量相比較， 在天平的兩端， 螞蟻和人類的總質量是差不多的。 所以從這個意義上說， 我們把他們當做兩種同樣成功的生物來比較。
人類在分類學上屬于人科， 螞蟻屬于蟻科， 在門科目綱屬種這個分類上面我們用同樣的等級來衡量它。 得出一個什么樣的結論呢？人科有幾種生物， 人科、人屬、人種， 事實上只有一種。 螞蟻有一萬一千七百余種， 從這個意義上來說智能相對于本能， 能帶給生物的好處是什么？以一敵萬。
我用一種智能生物通過行為方式的調整， 適應地球表面上的任何地形地貌， 但螞蟻為了做到這件事情， 它用了一萬一千七百多種，
因為我們的主題是自我意識， 講了生物的本能和智能之后， 我們來看一看生物的自我意識怎么產生的。
生物形形色色、各種各樣， 怎么樣去衡量它的自我意識， 生物學家設計了這么一個實驗， 叫鏡子實驗。 所謂的鏡子實驗也很簡單， 就是讓這個生物照鏡子， 如果它能夠辨認出鏡子中的影像是自己， 就通過了鏡子測試。 我們認為它具有自我意識。
這個實驗本身它有很大的模糊性， 因為它不是一個非常客觀標準的測試， 但是作為我們目前研究自我意識的一個參考， 認為它可以代表自我意識的存在， 那我們就來看看， 在這個鏡子實驗當中，
上圖中紅線上方的生物都是能夠通過鏡子測試的， 包括各種各樣的黑猩猩、鯨魚、大象諸如此類。 紅線下方的生物， 通常來說我們認為它沒有自我意識。 這些生物很簡單。
比如說這個圖片上面， 紅線劃過的兩種生物。 一種是猴子， 一種是銀背大猩猩， 為什么把它拿出來呢？因為這兩種生物在親緣關系上和人類比較接近， 所以我們來看一看， 它們的鏡子實驗是一個什么結果。
這是銀背大猩猩， 非常強壯， 當看到鏡子中的自己認為是另一個對手， 就直接撞上去， 所以它失敗了。
這是一只猴子， 如果你仔細觀察這只猴子的話， 你可以看到它從鏡像中發現了臉上的紅點， 也就是說它已經通過了鏡子測試。
這只猴子它是2015年中科院神經科學研究所的科學家最新的研究成果， 他們通過某些程度的訓練讓原本不具有自我意識的猴子， 最后產生一定的自我意識， 能夠辨認出鏡子中的自己。
這給我們很有力的啟示， 什么啟示？ 自我意識的邊界具有一定模糊性， 也就是說并不存在一個非黑即白的世界。 從沒有自我意識跨入到自我意識， 當中并沒有一條截然的邊界。 更有可能的情形是， 這個過渡是連續而模糊的。 這一點非常重要。
看完了自我意識在生物中的存在， 我們來看一看自我意識的來源， 到底在生物中怎么來的。 首先回顧一下，我們剛才提到了生物的自我意識有兩點。第一點廣泛存在，它存在在黑猩猩當中，黑猩猩是哺乳動物，存在在鯨魚、海豚等海洋哺乳動物。還有大象，距離遠一點的是喜鵲，喜鵲是鴨科動物，其他的鴨科動物也能通過。
甚至是章魚也具有一定的自我意識，章魚屬于軟體動物，距離人類非常非常遙遠。如果章魚都存在自我意識，能夠通過鏡子實驗的話，那表明這種自我意識的存在，在生物界中是非常廣泛的。
第二點就是邊界模糊，猴子通過鏡子實驗的這個啟示，告訴我們原本不能通過鏡子測試的經過訓練之后可以通過。這很明白無誤地告訴我們鏡子測試本身是一個模糊的自我意識的存在。
通過這兩點，我們得到一個什么樣的結論呢？得到的結論是自我意識并不是一個很神秘的東西。它是人的高級智能的一種表現。當人或者說生物智能復雜到一定程度的時候，就能夠自動的產生自我意識。
這個結論，在目前的認識當中，總覺得自我意識是一個神秘的存在，尤其對于人工智能來說，大家認為某一天產生的時候就是人類滅亡之日。但實際上我們仔細考慮生物的情況并不是這樣。它是一個自然而然發展的過程，并不是特別跳躍出來的。
在講生物自我意識的時候，沒有提到一個最重要的點，學習。生物的自我意識是怎么產生的，學習是它的唯一途徑。因為生物受到自己的局限性，它獲取智能的唯一方式就是學習。
講完了對生物智能的分析后，進入人工智能的環節。首先提一個名詞——擬智能。什么是擬智能？先來看幾張照片
這是Google的自動駕駛汽車，工業機器人，然后是亞馬遜的無人機未來小冰。這些我們都可以稱為擬智能。為了定義擬智能，我們首先來定義什么是人工智能的學習。
所謂人工智能的學習，就是通過對外界環境的認識，來改變自己的內在邏輯。注意是內在邏輯，如果這個智能體的設計當中本身有一個變量是二，通過外界的刺激之后，我認識到這個變量實際是六。把二改成六不叫邏輯變換，而叫變量的變換。
邏輯變換就是在我的意識當中，二乘二等于四。如果這個環境很特別，二乘二等于六，通過環境刺激到了你的神經系統，最后你接受了，這個過程就叫學習，對機器來說就是它的學習。
所以有了對學習的定義之后，我們可以定義一下擬智能。所謂的擬智能，就是所有不通過學習而得來的智能。這些智能通過預先編制的程序鎖定了它的智能行為是什么。
雖然它可以很復雜，很強大，但因為它不通過自主學習，所以不會產生自我意識。這就是結論。擬智能很復雜，但是不會產生自我意識。就是因為它不是通過學習得來。不會學習的人是沒前途的，對智能也一樣。
生活中廣泛存在的智能，把它稱為擬智能。如果擬智能不能產生自我意識，它就不是我們擔心的對象。那我們就要討論一下，什么是未來充滿可能性的。
未來可能性第一種是神經網絡。2014年初的時候，Google以四億美元的價格收購了一家，叫做Deepmind的公司。這是一家做算法的公司。這個算法很特別，當然也很復雜。我在這里可以大概描述一下它是做什么的。
這個算法的任務是玩游戲，什么樣的游戲？一個大屏幕，屏幕的上方有方塊，這些方塊會不斷的下落。這個算法控制的也是一個方塊，這個方塊在屏幕的下方前后左右可以移動。游戲的目的是什么，就是延長生存的時間。在這個算法中，如果上方出現了一個方塊，我們叫輸入，引起了我下方一個動作之后，如果游戲失敗了，這個神經網絡，就能夠記住這一點，在游戲當中，它就會盡量避免這樣的動作。
同樣一個輸入，引起了動作之后，游戲延長了時間，它就獲得了獎勵。在下一輪游戲中，它就有可能采用更多同樣的動作。通過這樣的訓練之后，實際上就是一個學習的過程，所以它是對我們神經系統一個很好的模擬，用分層的結構來模擬。
既然它已經能夠自主的進行學習，就在深度學習的過程中，沒有人預先告訴它，該往哪里走，它只是通過不斷地挫折、不斷地試錯，最后得到了一個自己的最佳策略。
未來另一種可能性，人腦芯片，這個會更復雜，我就不詳細說了。大概的意思就是根據我們的神經元結構，組合成大腦皮層，這是一個什么樣的過程，我們在芯片上，用物理的芯片把它實現了。
它達到什么樣的結果呢？用五十億個晶體管，大概模擬了一百萬個神經元，其中有2.56億個突出，所謂突出就是神經元之間的接觸。這樣的人腦芯片，已經是突破性的進展。但是還存在兩個問題。
第一：規模。一百萬個神經元，看起來、聽起來是很多，但對比下面這個數字一百四十億神經元是人腦的神經元數目，同樣人腦的突出以萬億的突出來計，這樣比較一下的話，這個規模實際上只有人腦的萬分之一。
所以從規模上來說，它還差的遠。但是規模未必是個問題，因為就規模來說，可以通過大規模的并行計算，就像現在有的大規模的網絡一樣，用大規模的并行計算來克服它，所以規模問題一旦提出來，未來肯定可以解決。
還有第二個問題：算法。目前的編程還是像原有的編程方法一樣，預先編制好它的行為方式，但是這塊芯片，它需要另一種方式。跟我們認識世界同樣的方式，生物的方式，也就是說通過外界刺激，不斷的修正自己的內在邏輯來編程。目前還沒有很好的方法，所以從這兩個方面說，還有很長的路要走。但是既然已經在路上，我們可以預期終究會變得比較成熟。
再來看一個比較有趣的事情叫未來人工智能，這個藍色箭頭表示目前人工智能復雜度所能達到的程度，這個地方就會帶來一個問題，一旦人工智能和人類可以并存在一個世界上的時候，就會面臨一個問題，什么樣的人工智能，可以融入人類社會，這里就牽扯到圖靈測試。
圖靈測試是這樣的，讓一臺機器和人對話，如果30%的人認為，它是一個人那這臺機器就是人。它實際上是有兩端的。目前都認為人工智能的產生是單向性的，它一旦跨過一個界限以后，我們認為它達到了一定的復雜度，就變成人了。
但實際上并不是這樣，在將來的社會中，如果一旦人工智能和人類并存，是否它是人，這個事情就交給人來判斷。打個比方美國的陪審團制度，一個人殺了人，他是否犯罪，這件事情并不由這個行為本身說了算，他是由陪審團來決定的，是有罪還是無罪，所以圖靈測試將來的拓展就會變成很有趣的社會學問題。
什么樣的機器可以被稱為人，我相信這個將來會變成一個很有趣的話題，把人的判定交給人。
現在總結一下，所說的整個話題當中的重點內容。首先第一點，自我意識并不神秘，它是智能復雜到一定程度之后的自然產物，它是學習的產物。第二點：擬智能，我們日常生活中所運用的智能，把它稱之為擬智能，擬智能不通過學習產生，不用擔心它有自我意識，但它是人類很好的智能工具，很好的幫手。
最后一項，就是深度學習的人工智能，它是非常棒的，它有產生自我意識的潛力。我們的結論是什么呢？人工智能的自我意識，只是一個時間問題。那問題又回來了，科幻電影當中，帶給我們的那些灰暗的現實會有一天變成真的嗎？我們該怎么辦呢？
讓我們把時間推回到十八世紀，從十八世紀工業革命后，人類在做一件什么事情，人類在工業化的道路上狂奔，從來沒有停止過，我們不斷的發明各種各樣的機器來充實我們的文明， 這個過程可以把它稱為賦文明予機器，我們不斷用機器填充我們的文明。
擁有自我意識的機器，必然是能夠學習的機器。因為我們已經得到了結論，學習是自我意識的源泉，如果這樣的話，那就意味著，這個具有自我意識的機器是可以接受教育的，它就像一個孩子，像一張白紙。如果你教給它的是暴力、戰爭、侵害，它學會的也就是暴力、戰爭、侵害。但是如果你教給它是仁慈、和平、愛，那么它學會的也是仁慈、和平、愛。
所以在這一點我們還有機會，賦機器予文明，可以通過一些方法、方式來規范引導將要生產的人工智能，從而避免科幻電影中的灰暗未來。賦機器予文明，當人工智能產生的時候，那將是我們人類最后的使命。謝謝大家。
首先回顧一下，我們剛才提到了生物的自我意識有兩點。第一點廣泛存在，它存在在黑猩猩當中，黑猩猩是哺乳動物，存在在鯨魚、海豚等海洋哺乳動物。還有大象，距離遠一點的是喜鵲，喜鵲是鴨科動物，其他的鴨科動物也能通過。甚至是章魚也具有一定的自我意識，章魚屬于軟體動物，距離人類非常非常遙遠。如果章魚都存在自我意識，能夠通過鏡子實驗的話，那表明這種自我意識的存在，在生物界中是非常廣泛的。
第二點就是邊界模糊，猴子通過鏡子實驗的這個啟示，告訴我們原本不能通過鏡子測試的經過訓練之后可以通過。這很明白無誤地告訴我們鏡子測試本身是一個模糊的自我意識的存在。
通過這兩點，我們得到一個什么樣的結論呢？得到的結論是自我意識并不是一個很神秘的東西。它是人的高級智能的一種表現。當人或者說生物智能復雜到一定程度的時候，就能夠自動的產生自我意識。
這個結論，在目前的認識當中，總覺得自我意識是一個神秘的存在，尤其對于人工智能來說，大家認為某一天產生的時候就是人類滅亡之日。但實際上我們仔細考慮生物的情況并不是這樣。它是一個自然而然發展的過程，并不是特別跳躍出來的。
在講生物自我意識的時候，沒有提到一個最重要的點，學習。生物的自我意識是怎么產生的，學習是它的唯一途徑。因為生物受到自己的局限性，它獲取智能的唯一方式就是學習。
講完了對生物智能的分析后，進入人工智能的環節。首先提一個名詞——擬智能。什么是擬智能？先來看幾張照片
這是Google的自動駕駛汽車，工業機器人，然后是亞馬遜的無人機未來小冰。這些我們都可以稱為擬智能。為了定義擬智能，我們首先來定義什么是人工智能的學習。
所謂人工智能的學習，就是通過對外界環境的認識，來改變自己的內在邏輯。注意是內在邏輯，如果這個智能體的設計當中本身有一個變量是二，通過外界的刺激之后，我認識到這個變量實際是六。把二改成六不叫邏輯變換，而叫變量的變換。
邏輯變換就是在我的意識當中，二乘二等于四。如果這個環境很特別，二乘二等于六，通過環境刺激到了你的神經系統，最后你接受了，這個過程就叫學習，對機器來說就是它的學習。
所以有了對學習的定義之后，我們可以定義一下擬智能。所謂的擬智能，就是所有不通過學習而得來的智能。這些智能通過預先編制的程序鎖定了它的智能行為是什么。
雖然它可以很復雜，很強大，但因為它不通過自主學習，所以不會產生自我意識。這就是結論。擬智能很復雜，但是不會產生自我意識。就是因為它不是通過學習得來。不會學習的人是沒前途的，對智能也一樣。
生活中廣泛存在的智能，把它稱為擬智能。如果擬智能不能產生自我意識，它就不是我們擔心的對象。那我們就要討論一下，什么是未來充滿可能性的。
未來可能性第一種是神經網絡。2014年初的時候，Google以四億美元的價格收購了一家，叫做Deepmind的公司。這是一家做算法的公司。這個算法很特別，當然也很復雜。我在這里可以大概描述一下它是做什么的。
這個算法的任務是玩游戲，什么樣的游戲？一個大屏幕，屏幕的上方有方塊，這些方塊會不斷的下落。這個算法控制的也是一個方塊，這個方塊在屏幕的下方前后左右可以移動。游戲的目的是什么，就是延長生存的時間。在這個算法中，如果上方出現了一個方塊，我們叫輸入，引起了我下方一個動作之后，如果游戲失敗了，這個神經網絡，就能夠記住這一點，在游戲當中，它就會盡量避免這樣的動作。
同樣一個輸入，引起了動作之后，游戲延長了時間，它就獲得了獎勵。在下一輪游戲中，它就有可能采用更多同樣的動作。通過這樣的訓練之后，實際上就是一個學習的過程，所以它是對我們神經系統一個很好的模擬，用分層的結構來模擬。
既然它已經能夠自主的進行學習，就在深度學習的過程中，沒有人預先告訴它，該往哪里走，它只是通過不斷地挫折、不斷地試錯，最后得到了一個自己的最佳策略。
未來另一種可能性，人腦芯片，這個會更復雜，我就不詳細說了。大概的意思就是根據我們的神經元結構，組合成大腦皮層，這是一個什么樣的過程，我們在芯片上，用物理的芯片把它實現了。
它達到什么樣的結果呢？用五十億個晶體管，大概模擬了一百萬個神經元，其中有2.56億個突出，所謂突出就是神經元之間的接觸。這樣的人腦芯片，已經是突破性的進展。但是還存在兩個問題。
第一：規模。一百萬個神經元，看起來、聽起來是很多，但對比下面這個數字一百四十億神經元是人腦的神經元數目，同樣人腦的突出以萬億的突出來計，這樣比較一下的話，這個規模實際上只有人腦的萬分之一。
所以從規模上來說，它還差的遠。但是規模未必是個問題，因為就規模來說，可以通過大規模的并行計算，就像現在有的大規模的網絡一樣，用大規模的并行計算來克服它，所以規模問題一旦提出來，未來肯定可以解決。
還有第二個問題：算法。目前的編程還是像原有的編程方法一樣，預先編制好它的行為方式，但是這塊芯片，它需要另一種方式。跟我們認識世界同樣的方式，生物的方式，也就是說通過外界刺激，不斷的修正自己的內在邏輯來編程。目前還沒有很好的方法，所以從這兩個方面說，還有很長的路要走。但是既然已經在路上，我們可以預期終究會變得比較成熟。
再來看一個比較有趣的事情叫未來人工智能，這個藍色箭頭表示目前人工智能復雜度所能達到的程度，這個地方就會帶來一個問題，一旦人工智能和人類可以并存在一個世界上的時候，就會面臨一個問題，什么樣的人工智能，可以融入人類社會，這里就牽扯到圖靈測試。
圖靈測試是這樣的，讓一臺機器和人對話，如果30%的人認為，它是一個人那這臺機器就是人。它實際上是有兩端的。目前都認為人工智能的產生是單向性的，它一旦跨過一個界限以后，我們認為它達到了一定的復雜度，就變成人了。
但實際上并不是這樣，在將來的社會中，如果一旦人工智能和人類并存，是否它是人，這個事情就交給人來判斷。打個比方美國的陪審團制度，一個人殺了人，他是否犯罪，這件事情并不由這個行為本身說了算，他是由陪審團來決定的，是有罪還是無罪，所以圖靈測試將來的拓展就會變成很有趣的社會學問題。
什么樣的機器可以被稱為人，我相信這個將來會變成一個很有趣的話題，把人的判定交給人。
現在總結一下，所說的整個話題當中的重點內容。首先第一點，自我意識并不神秘，它是智能復雜到一定程度之后的自然產物，它是學習的產物。第二點：擬智能，我們日常生活中所運用的智能，把它稱之為擬智能，擬智能不通過學習產生，不用擔心它有自我意識，但它是人類很好的智能工具，很好的幫手。
最后一項，就是深度學習的人工智能，它是非常棒的，它有產生自我意識的潛力。我們的結論是什么呢？人工智能的自我意識，只是一個時間問題。那問題又回來了，科幻電影當中，帶給我們的那些灰暗的現實會有一天變成真的嗎？我們該怎么辦呢？
讓我們把時間推回到十八世紀，從十八世紀工業革命后，人類在做一件什么事情，人類在工業化的道路上狂奔，從來沒有停止過，我們不斷的發明各種各樣的機器來充實我們的文明， 這個過程可以把它稱為賦文明予機器，我們不斷用機器填充我們的文明。
擁有自我意識的機器，必然是能夠學習的機器。因為我們已經得到了結論，學習是自我意識的源泉，如果這樣的話，那就意味著，這個具有自我意識的機器是可以接受教育的，它就像一個孩子，像一張白紙。如果你教給它的是暴力、戰爭、侵害，它學會的也就是暴力、戰爭、侵害。但是如果你教給它是仁慈、和平、愛，那么它學會的也是仁慈、和平、愛。
所以在這一點我們還有機會，賦機器予文明，可以通過一些方法、方式來規范引導將要生產的人工智能，從而避免科幻電影中的灰暗未來。賦機器予文明，當人工智能產生的時候，那將是我們人類最后的使命。謝謝大家。