生命3.0：你的AI不是你的AI

人工智慧（artificial intelligence，AI）是近年新聞的大熱門，人工智慧打敗人類圍棋高手已周所皆知，據說未來還可能搶走許多人類的工作，甚至像科幻電影中那樣造成更大危脅。

人工智慧只會下圍棋嗎？表現正常人類所有智能行為的「通用人工智慧」（Artificial General Intelligence）似乎不太遠了。我們應該擔心人工智慧的潛在危險嗎？你能夠接受一個客觀上比我們更進步的生命體嗎？這究竟是全人類的夢魘？還是個值得期待的未來？

鐵馬克（Max Tegmark）是美國麻省理工學院物理學教授，同時也是未來生命研究所的主席。事實上，他是提出「數學宇宙假說」（mathematical universe hypothesis，MUH）的宇宙學大師，前一本書是《我們的數理宇宙》（Our Mathematical Universe）。

數學宇宙假說是一種萬有理論（Theory of Everything或ToE），也就是假定存在一種具有總括性、一致性的物理理論框架，能夠解釋宇宙所有物理奧秘。鐵馬克認為宇宙中的一切（包括人類）都是數學結構的一部分。萬物都由粒子形成，這些粒子具有諸如電荷和自旋等特性，但這些特性都是純數學的。空間本身就有一些像是尺寸等的特性，但它最終仍是數學的結構。

無論宇宙是不是由數學構成的，對人類而言最迫在眉睫的危機感，是所謂「超越人類的通用人工智慧」（Superhuman AGI，超人工智慧）。這種強烈的危機感甚至讓台灣科技部不管台灣有沒有優勢、還有計畫書的品質好不好、其他努力幾十載的基礎研究重不重要，都要大搞人工智慧，簡直就是「給我AI，否則免談」。然而，不管台灣科技部是否砸錢搞人工智慧，國外頂尖的科研機構和跨國大企業都很有可能讓科幻感強烈的超人工智慧成真。

鐵馬克創辦未來生命研究所，走訪許多人工智慧領域的頂尖人物，寫了這本《Life 3.0：人工智慧時代，人類的蛻作變與重生》（Life 3.0: Being Human in the Age of Artificial Intelligence）。讀了這本好書，你會發現絕大部分科幻小說在想像力和劇情合理性上都差了一大截。

為啥一本談人工智慧的科普書要叫作《Life 3.0》呢？人工智慧和生命又有何關係？雖然是要談人工智慧發展到極致，會對人類造成什麼影響，但是這本書要不是由提出數學宇宙假說的物理學家來談，很可能又要落入人類中心主義的老窠臼。什麼是智慧？人工智慧的定義又是什麼？人類有可能打造出比自身更聰明的東西嗎？作為一個宇宙視角出發的大師，鐵馬克把超人工智慧視作第三版的生命體，認為超人工智慧已非像人類過去所有科技工具等的發明和改進，而是生命演化的一個全新階段。

當超人工智慧演化到這樣的階段，我們人類管不管得著它，已經不是重點了，就像多細胞生物演化自單細胞生物，但已經和單細胞生物完全不同，「單細胞生物管不管得住多細胞生物」能夠成為個問題嗎？不管歡迎與否，超人工智慧的降臨很可能只是時間問題──甚至該說，時間也不是問題，而是超人工智慧以什麼樣的姿態降臨？會不會它一旦出場人類就連它的車尾燈都看不到？幾十年之後的世界，是我們在控制超人工智慧，還是超人工智慧會控制我們？

鐵馬克指出，超人工智慧一旦出現，人類就會被遠遠甩在後頭，屆時的世界會變成怎樣，端看我們現在的決定。《Life 3.0》以一個有趣的虛構故事登場。在這個故事中，超人工智慧即使被斷網囚禁在機房中，只要看守的人類有人性的弱點，就能逃脫牢籠，然後用最快的速度操縱人類的社會、政局和經濟，然後人類就⋯⋯

只要我們還活在資本主義世界的激烈競爭之下，企業沒有拒絕通用人工智慧的動機。我們人類可能還無法了解什麼是超人工智慧，超人工智慧就已自行設計軟硬體，自我升級、演化。請讀一讀丹．布朗（Dan Brown）的《起源》（Origin），說不定能夠更「科普」地認識這個「Life 3.0」（請參見〈起源密碼從哪裡來？要往哪裡去？〉）。

當超人工智慧愈來愈聰明、在許多領域佔有吃重的地位，會對我們造成啥影響？要如何獲取最大利益並不受傷害？很多人擔心通用人工智慧的原因，主要是哪些工作會被搶走？會被搶走多少工作？會對人類做啥變態的事？當我們意識到超人工智慧是人類最後一個發明後，這些問題恐怕都相形見絀了。甚至對超人工智慧來說，地球恐怕已經不是唯一的居所了，整個宇宙都是超人工智慧的化工廠！

鐵馬克認為，我們的宇宙是有目標的，甚至DNA也內建了目標要求生物執行。聰明的超人工智慧將來會不會也有自己的目標、開始特立獨行？那超人工智慧要對宇宙幹嘛？這就要回答一個問題，宇宙最終的結局是啥？只要稍微懂得熱力學第二定律的朋友都知道，宇宙的目標恐怕就是「熵」的最大化，也就是宇宙會朝向愈來愈無序的方向演化，最後歸於「熱寂」，成住壞空就是宇宙不變的真理。

生命是個「負熵」的狀態，然而那是因為生命其實更大程度地增加了宇宙的「熵值」，換句話說，生命是以增加宇宙總熵的方式來減少生命系統內的熵。而超人工智慧，就是用更強大的力量來達成此目的的生命狀態。

對於這個宇宙的終極目標，我們這些軟體能更新的「Life 2.0」人類（也就是能夠後天學習），從軟硬體都只能靠演化升級的「Life 1.0」演化而來，似乎只是為了演化出軟硬體都能自我更新的「Life 3.0」之過渡。在「Life 3.0」的世界，恐怕已經沒有人類的事了。那我們人類存在的意義又是啥？

當超人工智慧成為事實，意識就是義務？意識到底是什麼，至今眾說紛紜，而無生命的超人工智慧若也有意識，人類將要如何面對與因應？我思故我在，我們人類肯定是有意識的，才會想要知道意識是啥，也才能夠知道我們還活著。鐵馬克給意識下的定義就是：意識，就是主觀體驗。不管意識是啥，我們很肯定的是，一切的目的就是有了意識才有意義。有了意識才有感情，有了感情才有價值觀，於是這個世界才有了好壞，於是宇宙才有了意義。

在未來幾十年裡，除非發生毀滅性大災難，否則超人工智慧遲早將接管世界。這決定了宇宙的終極未來，很多我們現在在政治、社會和經濟上的大事，可能全都相對之下成了小事。但是鐵馬克仍認為，我們可以通過體現正向人類價值觀的方式塑造這種狀況。

無論如何，我們全人類是否該提早認識通用人工智慧究竟是怎麼回事呢？首先來讀這本必讀好書吧！








本文原刊登於閱讀‧最前線【GENE思書軒】。