我們來探討一下，人工智慧和人類的相處問題。
2015年，一家德國媒體報導，一位22歲的年輕人，在安裝機器人的過程中，被機器人抓著胸部，然後機器人把他重重的壓向了一塊金屬板，最後導致這名工作人員因傷重不治身亡。不少媒體都用機器人謀殺人類作為標題，來報導這個事情，其實這件事情是人類操作不當造成的。
人工智慧和人類之間，不是簡單的關係。
機器人並不存在殺死人類的意願，本質上跟用菜刀切菜的時候，一不小心把手切破了是一回事。但是不難看出，由於媒體和影視作品的渲染，人們對於人工智慧的擔憂情緒是很高的。
除了這種憂慮派，還有一群人是樂天派。在樂天派的眼裡，人工智慧就是人類的小管家，小秘書存在的意義，就是為人類提供服務，談不上什麼相處問題，但實際上，人工智慧和人類之間，不是簡單的追殺與被追殺，服務與被服務的關係。
舉個例子，很多科技公司現在都在研究無人駕駛技術，比如中國的百度、美國的谷歌、特斯拉等等。關於自動駕駛，大家對它的角色定位很簡單，就是個人的專屬司機，但是不出交通事故的時候還好，一旦出了交通事故，你就會發現其中的複雜性。
在書裡面就舉了這麼一個例子──
如果你開啟了汽車的自動駕駛模式，然後發生了交通事故，那麼在這起事故當中，應該追究誰的責任呢？是乘客，還是汽車製造商，或者汽車本身？
自動駕駛汽車出廠後，記得強制購買一份保險。
因為乘客本身是無辜的，他並沒有駕駛汽車，甚至有可能在車裡睡覺，那麼這個過程他什麼都不知道。讓汽車製造商來承擔責任，也有點說不過去。
實際上，相比於人類駕駛，無人駕駛技術總體上，能夠讓道路交通事故減少90%，無人駕駛的開車水準，實際上要遠遠高於人類，但是有的時候交通事故的原因，不在於技術問題，就好像通過駕照考試的合格司機，也會因為各種不確定的因素而失手，因此，品質和技術都沒有問題的無人駕駛汽車，也沒有可能100%的避免交通事故的發生。
那麼，我們可不可以去追求汽車本身的責任呢？不少法律專家認為，這樣是可以的。但是問題又來了，如果汽車來對車禍負責，那它如何賠償受害者呢？
考慮到這個問題，法律專家就說了，那我們不如要求自動駕駛汽車在出廠以後，強制購買一份保險，如果汽車給自己上了份保險，除了交通事故，以後保險公司會為這輛汽車，支付賠償款和維修這輛車本身的錢。
通俗點說就是，出了車禍以後，賠償款和維修汽車的費用，是保險公司支付給汽車本身的錢，是屬於汽車自己的錢，那就相當於承認了汽車可以擁有私人財產。
人類的本性，讓人類無法拒絕人工智慧。
當然，這個事情還沒有在現實中發生過，你可能覺得一時難以接受，那如果允許人工智慧擁有財產，那麼它們能不能參與金融活動呢？
你可能聽說過，現在很多投資機構都是在用演算法來交易，比普通人類交易員的賺錢能力要強很多，如果人工智慧用自己的錢在金融市場上賺錢，很快就會積累大量的財富，到時候它們會不會反而雇傭人類，來為它們服務？
想想也挺可怕的，好像從一份汽車保險開始，人類就離被人工智慧控制不遠了，而且人工智慧也不是用武力脅迫的方式，逼迫人類為它們服務，反而是用人們廣泛接受的雇傭制度，就可以實現了。
其實作者認為，就算是有種種擔憂，人工智慧的出現是一個必然的趨勢。我們其實沒有探討的餘地，因為人類的本性，讓人類無法拒絕人工智慧。
你看醫療機器人的出現，讓醫療事故的概率大幅度下降，人工智慧法官能夠有效減少冤假錯案，無人駕駛汽車可以減少交通事故，那你真的能夠抵擋應用這些人工智慧的誘惑嗎？顯然很難，但是未來人工智慧和人類，到底會是哪一種相處方式？其實誰也沒有辦法準確預言。
人類能永遠駕馭人工智能嗎？
面對能力越來越強的人工智能，人類能永遠駕馭它們嗎？這個問題的關鍵就在於：賦予人工智能一個正確的目標。目標是人工智能的行為指南，相當於人類給它下了一個指令，它奉旨辦事。
目標有大有小，我們目前能賦予人工智能的目標，都是階段性的小目標，比如下一盤棋或者實施一臺手術。但目標越小越細，就越容易導致人類不想要的結果。
舉個例子，我們給人工智能設定一個小目標：生產儘可能多的迴紋針。你猜結果會怎麼樣？結果世界毀滅了，因為人工智能為了達成這個小目標，會瞄準一切原料來製造、來競爭，包括地球、宇宙和人體中所有的金屬元素，甚至把每一個分子都拉伸成迴紋針的形狀，最後整個宇宙就只有迴紋針了。
而要讓人工智能始終為人類所用，就需要為它設計出一個終極的大目標，例如家裡雇用了一位傭人，我們總希望他不但會掃地煮飯，同時還會處理各種稅款、帳務，最好還會修理水電、瓦斯的維修問題。對於人工智能，我們也是希望它無論做什麼，始終保證要對人類友好，不與人類的利益相矛盾。
設計終極目標，難倒當今人工智能專家。
但要設計這樣的一個終極目標，真是難倒了當今的人工智能專家，因為首先要非常清楚的定義，什麼是對人類友好。這簡直太難了，有人強調物質，有人強調精神，有人強調自由，有人強調秩序。
幾千年來，人類唯一的共識就是沒有共識，從來就不存在一個全人類共同的倫理價值目標。如果連人類自己都不知道自己目標在哪，那麼又如何讓人工智能知道呢？
而且，即使給人工智能定的目標足夠大、足夠終極，比如設定一個目標叫「保護人類」，它也有可能背叛這個目標。當人工智能發展到一定程度，它就可能會覺得，人類給它定的目標十分迂腐。
這就好像大自然在設計人類時，也植入了一個初始程序，那就是繁衍生息，延續種族。生殖與繁衍是寫在人類基因中的，是我們的生物本能。但今天各國的出生率都在持續放緩，很多人選擇單身或者避孕，這是因為人是有自主選擇權的生物。人類理解基因為什麼讓自己產生性慾，但是他們不願意養育一大群孩子，於是就繞過基因編好的程序選擇避孕。
再舉個例子，假設一群螞蟻創造了你，讓你成為一個能自我迭代的機器人。螞蟻給你定的目標是建造更大的蟻穴，但是當你獲得了人類的智力水平，你覺得自己還會把餘生花費在修建蟻穴上嗎？同樣的，人工智能會不會也覺得保護人類這個目標，就像修建蟻穴一樣愚不可及，從而將它推翻了。
人類擁有人工智能尚缺的本領，那就是意識。
對於設立目標這個問題，作者目前並沒有答案，但他認為我們必須從現在就思考解決方案，而且留給我們的時間越來越少，因為人工智能每天都在變得更聰明，一旦它聰明到讓人類無法得手，那麼人類就再也無法植入對我們有利的目標了。
我們也許會想到一個悲觀的問題，如果未來是屬於生命3.0的人工智能，咱們做為生命2.0的人類，對宇宙真的不再有意義了嗎？並不是，人類雖然在智力方面不及人工智能，但是卻擁有一件人工智能尚不具有的本領，那就是意識。
意識是我們對世界的主觀體驗，比如同樣的溫度，有人覺得冷，有人覺得熱；同樣是紅色，有人感受到節日的喜慶，有人感受到鮮血的恐怖。而在人工智能看來，溫度只是一個熱量值，紅色只是一種電磁波。
再比如，當人類望向一輪明月時，有人會吟出「舉頭望明月，低頭思故鄉」，有人會高歌「明月幾時有，把酒問青天」。而在人工智能眼裡，月球也許僅僅是一顆荒涼的衛星。
所以，人類世界有因人而異的感受，是有個性的。一千個人眼裡有一千個哈姆雷特，而人工智能的世界也許是千篇一律的。如果意識隨著人類的滅亡而不復存在，那麼未來將是一個殭屍般的世界，宇宙的恢宏壯麗就再也無人欣賞了。
人區別於機器的價值和尊嚴所在
意義不是宇宙賦予生命的，而是我們這些有意識的生命，將意義賦予了宇宙。作者說人類身為智人，是目前世界上最智慧的存在，當我們做好準備，謙卑的迎接更加智慧的人工智能時，也許我們可以給自己起個新的名字：意人。也許這才是人區別於機器的價值和尊嚴所在。
也許到了最後，自然人和人工智慧之間的界線，會不斷地模糊，也就不存在人類和人工智慧的矛盾。當然，人工智慧的發展到底走向何方？沒有人能夠完全說清楚。本書給與一個溫和樂觀派的視角，提供了一個總結和分析，也許能夠幫助我們更好地思考，關於人工智慧的未來。
人工智能有可能是人類有史以來最美好的事情，也可能成為最糟糕的事情。但是未來並沒有鐫刻在石頭上，它不是必然發生的，而是由我們親手創造。人類依然有巨大的潛力，利用人工智能實現人類的繁榮昌盛，這個時代正在由我們塑造，我們是未來生命的守護者。
（完）
