有位耶鲁大学的哲学教授说，如果机器有意识，那么可能从道义的角度来说，我们不该关掉它。也就是说，如果某物有意识，即使是一台机器，它就拥有道义上的权利，关掉它等同于谋杀。天哪！想象一下，你可能会因为拔掉计算机电源而被判入狱。我们应该为此而担忧吗？
・第一定律：机器人不得伤害人类，也不得无视人类受到伤害。
・第二定律：机器人必须服从人类的命令，除非这些命令违反了第一定律。
・第三定律：在不违反第一定律和第二定律的前提下，机器人必须保护自己。
この一見明るいテクノロジーの時代に、私たちは本当に生活が良くなっていると確信できるのでしょうか？AI が幽霊のように私たちの世界に静かに入り込むとき、私たちは無形の大きな手によって無情に未知の深淵へと押しやられているようです。
私たちはかつて、人工知能が人間の頼もしい助手となり、私たちを星々の海へと導くことを夢見ていました。しかし、今やこれは恐ろしい悪夢のようです。人類は最終的に人工知能の従属者、さらにはペットになるかもしれません。いわゆる超知能機械は、人類文明の終焉者となる可能性が高いですが、私たちはまだそれを制御できると無邪気に思っています。
生命には異なる段階があります。
完全に進化に依存してすべてを得る生命 1.0 から、
部分的にソフトウェアを自主設計できる生命 2.0 へ、
そして完全にハードウェアとソフトウェアを自主設計できる生命 3.0 へ、私たちは本当に進歩しているのでしょうか？
それとも、破滅の深淵に一歩一歩近づいているのでしょうか？デジタルユートピア主義者の美しい幻想は、残酷な現実の前であまりにも無力に見えます。技術懐疑主義者の深い懸念は、少しずつ現実となりつつあります。そして、人工知能の有益運動支持者の声も、押し寄せるテクノロジーの洪水に無情に飲み込まれています。
量子コンピュータ、この一見神秘的な概念は、本当に人類に福祉をもたらすのでしょうか？それとも、私たちを押しつぶす最後の一押しとなるのでしょうか？それが平行宇宙の「自分」と交流する時、現実世界に閉じ込められた私たちは、どこへ行くのでしょうか？
この時代において、人間として私たちの価値はどこにあるのでしょうか？
かつて私たちが非常に大切にしていた自己価値は、テクノロジーの激しい衝撃の下で崩れ去っています。かつて私たちに仕事の機会をもたらした価値も、人工知能が制御する機械の轟音の中で徐々に消え去っています。技術の進歩は、冷酷無情な刽子手のように、私たちと過去の緊密な関係を断ち切り、私たちを絶望の崖の縁に押しやっています。言語能力？なぜそれが「大言語モデル」と呼ばれるのか、あなたは想像できますか？
私たちは人工知能システムの安定性を保証することができず、それらはいつでも崩壊したり、故障したり、ハッカーに侵入されたりする可能性があり、私たちの生活を混乱させることがあります。既存の法律体系は、デジタル世界の強力な衝撃の下で既にボロボロで、私たちに有効な保護を提供することはできません。スマート兵器の出現は、戦争をますます残酷にし、無実の市民が犠牲になり、私たちはただ手をこまねいているだけです。自動化の進展は、人々から収入源と生活の目標を奪い、繁栄の表面の裏には、無数の人々の空虚な目と絶望的な心が隠れています。
人類の歴史を振り返ると、私たちは火と自動車の発明から何を得たのでしょうか？それは無限の災害と苦痛です。消火器やシートベルト、これらのいわゆる「救済措置」は、羊を失った後の修理に過ぎず、既に失われた貴重な命や壊れた家庭を取り戻すことはできません。そして今、技術がますます強力になるにつれて、私たちは崖の縁に立ち、小さなミスが世界の滅亡を引き起こす可能性があります。
馬車が自動車に進化する様子を想像するのは難しいことではありません。しかし、自動化がもたらす真の重大な影響は、実際には自動車という発明がもたらす二次的効果です。例えば、交通渋滞やそれに伴う通勤ラッシュ、新しいドライブインシアターなど、これらはすべて二次的効果です。新しいものが生まれた初期には、その影響がどのような側面に及ぶかを予測するのは非常に難しいです。
もしこの時点で AI を全く使用しない人々がいるとしたら、彼らはどのように異なる生活を送るのでしょうか？あるいは同じ AI ユーザーとして、人々の交流は今の私たちと何が違うのでしょうか？おそらく AI にも異なるレベルがあり、異なるレベルの AI の間にも何らかのつながりが生まれるのでしょうか？私は心の中でこれらのシーンを興味深く想像し、多くの面白いことが起こると感じています。
私たちは子供たちにどのような就職アドバイスをすべきでしょうか？機械が得意でない仕事は、本当に彼らが未来の世界で生き残る助けになるのでしょうか？社交的な知性、創造性、予測不可能な環境に対処する能力、これらは機械の前で本当に意味があるのでしょうか？もしかしたら、いつの日か機械はすべてを学び、人間は完全に無情に捨てられることになるかもしれません。
以下の 3 つの基準は、教育の基準かもしれません：
◦ この仕事は人と交流する必要があり、社交的な知性を使用しますか？
◦ この仕事は創造的であり、あなたが賢い解決策を考え出すことができますか？
◦ この仕事は予測不可能な環境で働く必要がありますか？
著名なオーストリア系イギリス人哲学者カール・ポパー（Karl Popper）は、「もしある理論が反証不可能であれば、それは科学ではない」という広く知られた格言を残しました。
意識、かつて私たちが誇りに思っていたものは、今や曖昧で捉えどころのないものになっています。私たちはテクノロジーの迷宮の中で方向を見失い、出口を見つけられません。哲学者の名言は、この暗い時代においても私たちの前進の道を照らすことはできません。
私たちは人間の知能を持つ機械を創造することは、まるでパンドラの箱を開けるようなものです。脳の神秘はまだ完全には解明されていないのに、私たちはすでに抜け出せない困難に陥っています。ディープブルーが人間のチェスプレイヤーを打ち負かした瞬間は、人間の知恵に対する無情な嘲笑と踏みにじりのように感じられます。これから私たちは「没入型計算」（immersive computing）の時代に入ります。私たちの周りのすべては計算と関連付けられる必要があり、いわゆる「ユビキタス計算」（ubiquitous computing）の時代です。
第一のプラットフォームはインターネットであり、それは情報をデジタル化し、知識をアルゴリズムの力に制約します。第二のプラットフォームはソーシャルメディアであり、主に携帯電話で動作し、人をデジタル化し、人間の行動や関係をアルゴリズムの力に制約します。
インターネットとソーシャルメディア、この二つの一見偉大なプラットフォームは、私たちをアルゴリズムの檻にしっかりと束縛しています。私たちの情報、行動、関係は厳しく管理され、テクノロジーの巨人の駒となっています。未来の世界では、物体と物理ネットワークのハイパーリンクが、さらなる災害をもたらすかもしれませんが、私たちは無力で、ただ見守ることしかできません。
このいわゆる「進トピア」の時代に、私たちは希望の光を見出すことができません。明日は私たちが想像するような美しいものではなく、今日よりもさらにひどいものになるでしょう。革新？それは少数の人々のゲームに過ぎず、大多数の人々は失敗の泥沼で苦しむしかありません。シリコンバレーの「積極的な失敗」は、私にとってはただの無力な自嘲に過ぎません。アジアの国々の失敗に対する寛容さも、テクノロジーが人類に対して残酷に圧迫することを変えることはできません。さらに心配なのは、20 代の若者が 70 代や 80 代、さらには 100 歳の老人と一緒に就職活動をしなければならないことです。私が最も心配しているのは、20 代の若者が 70 代や 80 代、さらには 100 歳の老人の中からどのように勝ち抜いて仕事を見つけるか、つまり若者が職を確保する方法です。
私たちは貧困生活を体験し、何を変えることができるのでしょうか？テクノロジーの激しい波の前で、私たちの努力はあまりにも小さく、取るに足らないものに見えます。「絶えず質問する」？それは人類の最後の抵抗に過ぎず、機械の答えが私たちの頭脳を占拠し、私たちの思考能力は徐々に退化し、消え去るまでに至ります。
人間の脳の新皮質、この神秘的な器官も私たちを救うことはできません。その機能と構造は、私たちが今でも完全には理解していません。そして、古い脳の短視的な行動と新皮質が生み出すテクノロジーが結びつくことで、人類は絶滅の縁に追いやられています。
私たちはこの脆弱な肉体に閉じ込められ、無知な古い脳に支配され、束縛から逃れることができません。肉体の束縛がなければ、私たちは自由を得られるのでしょうか？もしかしたら、それは別の形の監禁に過ぎないかもしれません。太陽系が滅びるその瞬間、私たちのすべては虚無に帰し、いわゆる遺産は私たちの最後の自嘲と悲哀に過ぎません。
私はあなたたちにすべての歴史を詳述するつもりはありません。私はただ、脳に対する理解が大きな飛躍を遂げた数回の重要な瞬間を描写したいのです。まるで自然が私たちの耳元で、以前は無視されていた何かを教えてくれたかのように。その中には、私の記憶に鮮明に残る 3 つの「ひらめき」の瞬間があります。私はそれらを私の 3 つの発見と呼びます。
最初の発見：新皮質が世界を学ぶ予測モデル
二番目の発見：予測は神経細胞内部で起こる
三番目の発見：新皮質の鍵は参照系です
私は、ハンドヘルドコンピュータは主に情報にアクセスするために使用されるべきであり、情報を作成するためではないと考えています。これが私の答えです。
この果てしない暗闇の中で、私たちは一筋の光すら見出せません。テクノロジーの進展は、人類を前例のない困難に陥れています。私たちはどこへ行くべきでしょうか？もしかしたら、私たちを待っているのは滅亡だけで、無限の暗闇と絶望だけかもしれません。
夜夜工業革命、日日文芸復興
変わらないことよりも、私はこの不安を引き起こす速さの方が好きです。
もし太陽系が明日爆発したら、これらの名札、写真、レコードは地球上に存在する生命の唯一の証拠となるでしょう。それらは私たちの唯一の遺産です。
参考文献：#
《生命 3.0》
《AI3.0》
《5000 日後の世界》
《如何にして信頼できる AI を創造するか》
《千脳知能》
書籍リスト：#
Jackywine の書籍リスト「2023 AI を理解するために必要な書籍リスト！」