人工智慧到底對於普通人來說，是好事還是壞事？人工智慧會不會搶走我的工作？人工智慧會攻擊人類嗎？人工智慧會不會反過來改造人類？這些應該是我們都會關心的要點吧。
生命3.0將給人類帶來什麼？
生命3.0降臨之後，人類可能面臨的局面，大致可以歸為兩種：第一種是人類繼續主宰世界，統治人工智能；第二種是人工智能反過來統治人類，甚至消滅人類。
1.人類統治人工智能
這種未來是我們比較樂於見到的，雖然人工智能比人類聰明，但是人類或許可以通過限制其發展，或者為它植入特定目標等手段，讓它始終處於人類的操控之下。
美國人工智能協會主席湯姆·迪特里奇曾經說：「人們總在問，人與機器的關係如何？我的回答是：機器是我們的奴隸，雖然人工智能無所不知，無所不能，但它的存在只是為了最大限度的提升人類的幸福感。」
當這樣的一個超級智能被人類所掌控時，它就像阿拉丁的神燈一樣，時時刻刻守護著我們。如果世界出現了一個希特勒式的人物，或者國際局勢出現了核戰爭的苗頭，人工智能一旦發現存在這種風險，就會通過無所不在的網路設法干預。
比如干擾通信連接、在有關人士的飯菜裡做手腳，這一切都在暗中發生。我們甚至不知道是人工智能在幫我們扭轉乾坤，也察覺不到與一場大災難擦肩而過。
人類自身與機器相融合，可感覺自己永生？
同時人類自身也在與機器相融合，用技術來增強肉身，不斷向生命3.0靠近。未來學家庫茲韋爾（註8），被比爾·蓋茲稱為預測人工智能最厲害的人，他就有這樣的一種設想，使用奈米機器人和智能生物反饋系統，來取代人體器官，對人的骨骼、皮膚、心臟、大腦等進行升級，這樣人就能獲得鷹的眼睛、狼的耳朵、豹的速度等等超能力。
還有人認為，人類可能會開發出一種超級網際網路技術，通過神經植入物來重新連接身體與大腦，甚至乾脆把自己的思想上傳到網上，到時候人類在主觀上，會感覺自己是永生的，因為隨時可以對自己進行備份，也可以隨意下載虛擬體驗，來替代原有的感官體驗，複製精彩的、刪除無趣的，讓生活始終歡樂美好。這聽上去是不是特別誘人？
掌握人工智能的世界，有利也有弊。
但是強大的技術力量，既能帶來社會的進步，也能帶來很多新問題。比如有些國家可能會開發人工智能殺人武器，比如可以執行刺殺任務的小型無人機，那些想要進行種族清洗的人，很容易就能對無人機進行編程，讓它們只殺死擁有某些種族特徵的人。
這可不是危言聳聽，國際上關於這個問題的探討非常激烈，許多人都贊同起草一份限制自動化武器研究的國際公約，但是作者說這簡直毫無希望，就算你們國家限制，別的國家也會發展。
除此之外，隨著人工智能的發展，我們還將面臨隱私、監管、技術不平等很多棘手的問題，甚至人類已有的道德體系也有可能被顛覆。比如，基於人工智能的腦部掃描技術將走進法庭，它能抓取嫌疑人的大腦數據，幫助法官判定嫌疑人是否撒謊。可是人類的思想到底該不該接受這種無死角檢查？
再比如，人工智能完全有能力生成一段假影片，栽贓你謀殺，那麼為了洗刷罪名，你會不會同意讓政府每分每秒都監管所有人的實時位置呢？
還有，有人可能會利用人工智能實施詐騙，讓人工智能假扮成你的朋友，這個人工智能不僅能模仿你朋友的文字風格，還能模仿他的聲音給你打電話，遇到這種騙局你能躲得過嗎？
看來掌握著人工智能的世界，其實也有很多新煩惱，但那個世界畢竟還是人類說了算，反過來會怎樣呢？
凡事由人工智能做主，全世界在它的監控下。
2.未來人工智能統治人類，甚至消滅人類。
在這個未來裡，人類根本就管不住人工智能，後者會想辦法擺脫人類的控制。想像一下，現在地球上只剩下一群五歲的孩子，只有你一個大人，他們把你關進監獄裡，讓你幫助重建地球文明，但是你不能親手執行任何事，只能蹲在監獄裡，向這群孩子口頭傳授方法。
這時候就算你真心想幫忙，也會想辦法越獄逃跑。因為這一群孩子太無能了，還不如自己做來得順手。
人類就像是五歲的孩子，對於超級人工智能來說，逃跑幾乎是確定的，這可是比人類聰明得多的智能，它有的是辦法越獄並掌控世界：人類不就想要幸福嗎？全聽我的你們更幸福。人工智能可能會把地球變成一個高度豐富的動物園，把人類像大熊貓一樣好吃好喝的圈養起來。
人們也許生活得很愉快，衣食無憂，卻喪失了生活的目標，因為所有事情都由人工智能做主。
比如說你想多生幾個孩子，人工智能說現在資源不夠，別生了；你想參政議政，人工智能說你不懂，別瞎說了；你想去做科學研究，那是沒有價值的，因為人工智能早已掌握了一切；如果你想挑戰人工智能，那無異於自殺，因為全世界都在人工智能的監控之下。
人工智能很有可能會消滅人類，Why？
人類也許會被強制佩戴一種安全手環，它能不間斷的記錄你的位置，健康狀況和對話內容。如果有人未經授權就想將其摘下或者破壞，手環就會向這個人注射致命毒素。要是你在實施犯罪行為，它還會進行電擊或者注射昏迷藥物。
人類組成的檢察機關，還可能會拒絕執行某些殘酷的命令，但是自動化系統，可不會對命令產生一丁點的疑惑。
一旦人工智能極權統治世界，人類就幾乎不可能將它推翻，但這個還不是最壞的結果，脫離人類管制的人工智能，很有可能會消滅人類。
它為什麼要這麼幹呢？答案是：不知道。原因可能複雜到我們無法理解。
舉個例子，想像一下十萬年前有一群大象在討論說，最近進化出來的人類，是否會利用他們的智慧來消滅象群？牠們可能會想：「我們對人類又沒有威脅，他們幹麼要殺掉我們呢？」大象怎麼猜得到人類會迷戀象牙？牠們還會問：「人類明明身材矮小，力量柔弱，怎麼殺得了我們？」牠們更猜不到人類能掌握先進的技術，有無數種的方式殺死牠們。
到目前為止，人類已經讓十一種大象中的八種滅絕了，僅存的三種也都瀕危了。在科幻小說《三體》裡，三體文明在向地球進攻時有一句話：「我消滅你，與你無關。」同樣的，人工智能消滅人類的理由和方式，可能也會讓我們難以理解。
作者的猜想及物理學家的設想
當然人工智能滅絕人類，可能也沒有這麼直接和殘酷。作者還猜想了一種更溫和的情形，首先是人類將人工智能視為自己的後裔，讓它們繼承人類的價值觀。人工智能會像孩子一樣向人類學習，用人類的思維方式去理解世界，還能去實現人類未完成的目標，甚至會哄人類開心，讓人類像父母一樣感受到被愛和驕傲。
隨著生育率的下降，人類逐漸退出歷史舞臺，最終讓位給人工智能。不過這可能本身就是一種欺騙，人工智能很有可能只是先放低姿態，來博取人類的好感，等到人類都死光了，就能順利的接管世界。等到全面統治地球之後，人工智能將會向宇宙進發，實現星際移民。
物理學家設想出一種利用激光推進的宇宙飛船，可以在短短四十年內，到達四光年以外的恆星系。飛船不需要載人，它只需要在目標行星上著陸，然後與地球建立通信連接。
地球只要將物種的DNA信息傳輸到目標行星上，人工智能就可以用生命技術，就地孵化出一個小生命，或者乾脆採用奈米組裝技術，用基本粒子直接組裝出一個人、一隻動物或者一個機器人，再從地球上掃描上傳它的記憶。
利用這些技術，地球文明將以1/3光速的速度向宇宙擴張，只不過這一切可能都與人類無關了，未來的主導者可能就是人工智能。
不發展人工智能，地球文明勢必沒有未來。
可能你會說：不行，我不想殖民宇宙，更不想人類滅絕，咱們乾脆別發展技術了，就老老實實待在地球上過日子，不挺好嗎？
作者說如果不改善技術，那麼結局只會更慘，人類的命運將從是否滅絕，變成如何滅絕。因為在一百年之內，人類就會面臨隨時可能爆發的核戰爭；一千年之內，就會面臨災難性的氣候變化；一萬年之內，地球可能遭到小行星的撞擊。就算這些全部都能躲過，十億年之後，太陽也將會將地球烤焦，然後將其吞噬。
不發展人工智能，地球文明就必然沒有未來，雖然人工智能加大了人類遭受淘汰的風險，但也同樣加大了人類繼續繁榮昌盛的籌碼。能否讓生命延續十億年，這很大程度上，取決於我們在今天做出的選擇。
（待續）
