有位耶鲁大學的哲學教授說，如果機器有意識，那麼可能從道義的角度來說，我們不該關掉它。也就是說，如果某物有意識，即使是一台機器，它就擁有道義上的權利，關掉它等同於謀殺。天哪！想像一下，你可能會因為拔掉計算機電源而被判入獄。我們應該為此而擔憂嗎？
・第一定律：機器人不得傷害人類，也不得無視人類受到傷害。
・第二定律：機器人必須服從人類的命令，除非這些命令違反了第一定律。
・第三定律：在不違反第一定律和第二定律的前提下，機器人必須保護自己。
在這看似一片光明的科技時代，我們真的能夠確定生活正在變得美好嗎？當 AI 如幽靈般悄然潛入我們的世界，我們仿佛被一隻無形的大手無情地推向了未知的深淵。
我們曾經幻想人工智慧會成為人類的得力助手，引領我們走向星辰大海。然而，如今這更像是一場可怕的噩夢。人類或許最終會淪為人工智慧的附庸，甚至是寵物。那所謂的超級智能機器，極有可能會成為人類文明的終結者，可我們卻還天真地以為能夠掌控它。
生命有著不同的階段
從完全依靠進化來獲取一切的生命 1.0，
到能夠自主設計部分軟體的生命 2.0，
再到暢想中可以完全自主設計硬體和軟體的生命 3.0，我們真的是在進步嗎？
還是在一步步邁向毀滅的深淵？那些數字烏托邦主義者的美好幻想，在殘酷的現實面前顯得如此蒼白與無力；技術懷疑主義者的深深擔憂，卻在一點點變為現實；而人工智慧有益運動支持者的聲音，也被洶湧的科技洪流無情地淹沒。
量子計算機，這個看似神奇的概念，真的能給人類帶來福祉嗎？還是會成為壓垮我們的最後一根稻草？當它與平行宇宙中的 “自己” 進行交流時，我們這些被困在現實世界的人類，又將何去何從？
在這個時代，身為人類，我們的價值究竟體現在哪裡？
我們曾經無比珍視的自我價值，在科技的猛烈衝擊下已支離破碎。那些曾經讓我們獲得工作機會的價值，也在人工智慧控制的機器的轟鳴聲中漸漸消逝得無影無蹤。技術的進步，如同冷酷無情的刽子手，斬斷了我們與過去的緊密聯繫，將我們推向了絕望的懸崖邊緣。語言能力？你猜它為什麼叫 “大語言模型”？
我們根本無法保證人工智慧系統的穩定，它們隨時都有可能崩潰、出現故障，或者被駭客入侵，進而將我們的生活攪得一塌糊塗。現有的法律體系在數字世界的強大衝擊下早已千瘡百孔，根本無法為我們提供有效的保護。智能武器的出現，更是讓戰爭變得愈發殘酷，無辜的平民成為了犧牲品，而我們卻只能束手無策。自動化的發展，讓人們失去了收入來源和生活目標，繁榮昌盛的表象背後，是無數人空洞無神的眼神和絕望無助的心靈。
回顧人類歷史，我們從火與汽車的發明中究竟得到了什麼？是無盡的災難和痛苦。滅火器和安全帶，這些所謂的 “補救措施”，不過是亡羊補牢，根本無法挽回已經失去的寶貴生命和破碎不堪的家庭。而如今，隨著技術的日益強大，我們已經走到了懸崖的邊緣，一次小小的失誤，都有可能導致整個世界的毀滅。
想像馬車如何發展為汽車不是一件難事。但是，自動化帶來的真正的重大影響，其實是汽車這項發明帶來的次生效應。例如交通堵塞，以及由此產生的上下班高峰，還有全新的汽車電影院等，這些都是次生效應。在一個新事物產生之初，我們很難預知它的影響會波及哪些方面。” 假如這時還有一部分人從不使用 AI，他們會過怎樣不同的生活呢？或是同為 AI 使用者，人們之間的交流和現在的我們有什麼不同呢？想必 AI 也會出現不同的層次，不同層次的 AI 之間是否也會產生某種聯繫？我總會在心中饒有興致地想像這些場景，總覺得會發生許多有趣的事。
我們該給孩子們什麼樣的就業建議呢？那些機器不擅長的工作，真的能讓他們在未來的世界中生存下去嗎？社交商、創造力、應對不可預料環境的能力，這些在機器面前真的還有意義嗎？也許有一天，機器會學會一切，而人類將被徹底無情地拋棄。以下三個標準，可能是教育的標準：
◦ 這份工作是否需要與人交互，並使用社交商？
◦ 這份工作是否涉及創造性，並能使你想出聰明的解決辦法？
◦ 這份工作是否需要你在不可預料的環境中工作？
著名奧裔英籍哲學家卡爾・波普爾（Karl Popper）說過一句廣為流傳的格言：“如果一個理論不可證偽，那它就不科學。”
意識，這個曾經讓我們引以為傲的東西，如今也變得模糊不清、難以捉摸。我們在科技的迷宮中迷失了方向，找不到任何出路。哲學家的名言，在這黑暗的時代，也無法照亮我們前行的道路。
我們創造具有人類智能的機器，就像是打開了潘多拉的魔盒。大腦的奧秘，我們還未完全揭開，卻已經陷入了無法自拔的困境。深藍擊敗人類棋手的那一刻，仿佛是對人類智慧的無情嘲諷與踐踏。從現在開始我們要進入 “沉浸式計算”(immersive computing) 的時代。我們身邊的一切都要和計算相關聯，也就是所謂的 “普適計算”(ubiquitous computing) 時代。
第一大平台是互聯網，它將信息數字化，使知識受制於算法的力量；第二大平台是社交媒體，主要在手機上運行，它將人數字化，使人類的行為和關係受制於算法的力量。互聯網和社交媒體，這兩大看似偉大的平台，將我們緊緊地束縛在算法的牢籠之中。我們的信息、行為和關係都被牢牢掌控，成為了科技巨頭的棋子。未來的世界，物體與物理網絡的超鏈接，或許會帶來更多的災難，而我們卻無能為力，只能眼睁睁地看著一切發生。
在這個所謂的 “進托邦” 時代，我們看不到任何希望的曙光。明天不會像我們想像的那樣美好，只會比今天更加糟糕透頂。創新？那不過是少數人的遊戲，而大多數人只能在失敗的泥沼中苦苦掙扎。矽谷的 “積極地失敗”，在我看來，只是一種無奈的自嘲。亞洲國家對失敗的寬容，也無法改變科技對人類的殘酷壓迫。更擔心的是二十幾歲的年輕人要和七八十歲甚至百歲老人一起去求職。我最擔心二十幾歲的年輕人如何從七八十歲甚至百歲老人中勝出並找到工作，也就是如何確保年輕人有工作崗位。
我們體驗貧困生活，又能改變什麼呢？在科技的洶湧浪潮面前，我們的努力顯得如此渺小而微不足道。“不斷提問”？這只是人類最後的掙扎，機器的答案已經佔據了我們的頭腦，我們的思考能力正在逐漸退化，直至消失殆盡。
人類大腦的新皮質，這個神秘的器官，也無法拯救我們。它的功能和結構，我們至今仍未完全理解。而舊腦的短視行為，與新皮質創造的科技相結合，正將人類推向滅絕的邊緣。
我們被困在這具脆弱不堪的肉身中，被無知的舊腦所控制，無法掙脫束縛。如果沒有了肉身的束縛，我們就能獲得自由嗎？也許，那只是另一種形式的囚禁。當太陽系毀滅的那一刻，我們的一切都將化為虛無，那些所謂的遺產，不過是我們最後的自嘲與悲哀。
我不打算和你們贅述所有歷史，我只想描述幾個關鍵時刻，也就是我們對大腦的理解取得大的飛躍時，仿佛大自然在我們耳邊告訴了我們一些之前被忽略了的東西。其中有 3 個這樣的 “頓悟” 時刻，我記憶猶新。我將它們稱為我的 3 個發現。
第一個發現：新皮質學習世界的預測模型
第二個發現：預測發生在神經元內部
第三個發現：新皮質的關鍵是參考系
我認為掌上電腦應該主要用於訪問信息，而不是創建信息，這就是我給出的答案。
在這無盡的黑暗中，我們看不到一絲一毫的曙光。科技的發展，讓人類陷入了前所未有的困境。我們該何去何從？也許，等待我們的只有毀滅，只有無盡的黑暗與絕望。
夜夜工業革命，日日文藝復興
相比一成不變，我倒更喜歡這種快的讓人焦慮的感覺
如果太陽系明天就爆炸了，這些銘牌、照片、唱片將是地球上存在生命的唯一實證。它們將是我們唯一的遺產。
參考文獻：#
《生命 3.0》
《AI3.0》
《5000 天後的世界》
《如何創造可信的 AI》
《千腦智能》
書單：#
Jackywine 的書單「2023 了解 AI 你需要這個書單！」