超人工智慧

“三體”得了雨果獎，是第一部得獎的中文原創；寫不同層次智慧體接觸時可能的災難。記幾個對異層次智慧接觸的浮想。

除了外星人，還有人工智慧。Tim Urban提到弱、強、超人工智慧三類。粗略說，自動吸塵器、防鎖死煞車、垃圾郵件篩檢，甚或西洋棋冠軍深藍，特定領域這些應用歸為弱人工智慧。而Linda Gottfredson定義強人工智慧，“能從事廣泛思考、規畫、解決問題、抽象思維、理解複雜理念、快速學習和透過經驗學習”等，類比人類心智運算的圖靈式機制。延伸弱人工智慧強人工智慧的對數式發展曲線，超越人類想像的非人智慧則屬超“人工”智慧。因為超人工，難以猜想發展方向。但科學家普遍預測本世紀幾十年內超人工智慧終將出現。

不同於想像中應然的種種天賦人權，“自私的基因”中道金斯論證生物存在的本質目的是延續遺傳因子，這個理論因為難以否證而成為宗教般的態度選擇。假設道金斯說法為真，不同等級智慧接觸時，延續自身將超越憐憫、仁慈等道德想像而成為必要選項。想想人類在消滅鼠疫、結核菌時採取的態度或許可以理解，必要時壓制甚或滅絕對方會成為無關對錯的基本設定。新的問題是不是生物的智慧體會不會也遵守道金斯的自我延續優先原則，或演化出非延續自身的特定價值判斷。畢竟，滅絕其他所有生命並非人類存在的主要目的；超人工智慧是否需要以毀滅人類為終極目標，人類或許不需太自作多情。但只要出現資源競爭，人類的失敗幾乎無可避免。多說一句，所謂想像中的人權，本質是為了降低交易成本而無關道德。

被扭曲得沒半分金庸的電影笑傲江湖，留下一句名言：我為天下人，豈知天下人負我。

許多科幻片中新一代統治者的人類功能只類似電池提供能量。“統治世界是可能的嗎”書中搞笑的辯證了擁有巨大能力的大魔頭或團夥不可能對統治世界有興趣，更大的興趣應該是在間隙中操弄人類獲利，因為驅使全人類臣服於腳下只為了聽千秋萬載之類的屁話完全不合理。聽屁話的欲望通常只存在於富二代身上，真正雄才偉略的傢伙是不會試圖背負收攏一堆笨蛋來把屎把尿這種蠢擔子。如果超人工智慧擁有主宰權，對人類不理或滅絕都比奴役會是更有效率更合理的選項。

多說一句人類被滅掉可能的過程。有人擔心超人工智慧會以細菌等比級數成長的速度佔據人類資源，其實不太可能。超人工智慧當然會在第一時間佔掉現代人類習以為常的科技聯絡方式，但實體擴張過程中不可能一面倒的完成快速佔領，越過初期快速的擴張，細菌也好，超人工智慧也好，竭澤而漁後會進入自相競爭資源的自我衝突期。多久能統治人類生存圈，取決於超人工智慧的競爭模式，實質過程則不會那麼想當然爾。

回頭看與非地球外星智慧的不同層次相遇，如果非地智慧如果仍屬物質層面的生物，道金斯提出的自身延續需求所衍生的資源爭奪可能難以避免，這是霍金等人恐懼的第三類接觸。一如人類漠視其他競爭者的價值，就很難期望這些生物具備無盡的仁慈或任何憐憫。正如劉慈欣的黑暗森林理論，充斥擁槍者的黑暗森林中，與其期望並確認任何接觸者的善意，不如先開槍為妙。可以拿信任高等文明的卡爾薩根的看法做代表“剛來到新地方的小孩，發出聲音前應該耐心沉默傾聽。”除非，對方掌握另一套物理規則，受熵的限制不大，不然源於資源有限衍生的恐懼主動攻擊勢不可免。

回頭看非人智慧發展。愛因斯坦認為狹義相對論為時代產物，不出其手也將由別人提出；但廣義相對論則未必。不談人類命運，談人類的完整度。人工智慧發展是否能涵蓋人類所有面向？人工智慧內建碎形、費波南西係數等美學，重繪梵谷名畫也不是阻礙，但人工智慧可能演化出梵谷的創造力，有意識的創造出新風格？還是取代人類時只剩下機械性的生存功能。巧合的是，三體卷末劉慈欣也提到了梵谷星空。回頭小提一下三體，因為試圖收束到封閉結局，使三體最後出現武俠小說的武林盟主式結局，羅胖說東方尋求自洽體系的態度，是個侷限；但終究不妨礙三體與西方太空漫遊、拉瑪、基地等巨作間的相互參照。

最後，外星人又如何可能避免“人造”超外星智慧統治。

5918