ユヴァル・ノア・ハラリ 「ホモ・デウス」メモ
ユヴァル・ノア・ハラリ 「ホモ・デウス」メモ
第９章 知能と意識の大いなる分離
----------------------------------------------------------------------------------
【まとめ】
・２１世紀の新テクノロジーは、人間至上主義の革命を逆転させ、人間から権威をはぎ取り、アルゴリズムに権限を与えるかもしれない。
・現実は生化学的アルゴリズムと電子的なアルゴリズムのメッシュとなり、明快な境界も、個人という中枢も持たなくなる。
・人類が大量の無用な人間と少数のアップグレードされた超人エリート層に分割され、権限が知能の高いアルゴリズムに移ったとき、自由主義は崩壊する。
----------------------------------------------------------------------------------
・自由主義者は自由市場と民主的な選挙を擁護する。
・２１世紀には、この信念を時代遅れにする三つの実際的進展が考えられる。
１ 人間は経済的有用性と軍事的有用性を失い、経済と政治の制度は人間にはあまり価値を付与しなくなる。
２ 経済・政治制度は、集合的に見た場合の人間には価値を見いだすが、無類の個人の人間には価値を認めなくなる。
３ 経済・政治制度は、一部の人間にはそれぞれ無類の個人として価値を見いだすが、彼らは人口の大半ではなくアップグレードされた超人という新たなエリート層を構成することになる。
・自由主義の成功は、人間全員に価値を認めることが、政治的・経済的・軍事的に理にかなっていたから。
・２１世紀には人間の大多数が軍事的価値と経済的価値を失いかねない。
・ドローンやサイバーワームから成るハイテク部隊が巨大な軍隊に取って代わりつつある。
・将軍たちは重大な決定をアルゴリズムに委ねるようになっている。
・経済の領域では自由主義と資本主義の重要な提携が危険にさらされている。
・人権と自由を守るのは、道徳的義務であると同時に経済成長のカギだった。
・エリート層と政府は、経済的見返りがなくても一人ひとりの人間の尊重し続けるだろうか
・ロボットとコンピュータの進歩で、ほとんどの仕事で人間を凌ぐかもしれない。
・知能が意識から分離しつつある。
・高度な知能は、発達した意識と密接に結びついていた。
・意識を持たない新しい種類の知能が開発されている。
・意識を持たないアルゴルズムがパターン認識で人間の意識を凌ぐかもしれない。
・非生物であるコンピュータの進化は、生物の進化がたどった意識という隘路を迂回し、スーパーインテリジェンス（人間の能力を越えるＡＩ）へと続く、別の早道をたどるかもしれない。
・軍と企業にとって、知能は必須だが意識はオプションにすぎない。
・能力を強化されていない人間は、完全に無用になるかもしれない。
・２１世紀の経済の最も重要な疑問は、膨大な数の余剰人員をどうするか
・何でも人間より上手にこなす、高知能で意識を持たないアルゴリズムが登場したら、意識のある人間たちはどうすればよいのか？
・機械が肉体労働を引き継いだとき、人間は認知的技能が必要な仕事に的を絞った。
・認知的技能でアルゴリズムが人間を凌いだら、何が起こるのか？
・人間は専門化を進めてきて、それらはＡＩに置き換えやすい。
・ＡＩが人間を求人市場から締め出すには、特定の職業が要求する特別な能力で人間を凌ぎさえすればよい。
・アルゴリズムが人間を求人市場から締め出せば、富と権力は全能のアルゴリズムを所有する、わずかなエリート層に集中し、空前の社会的・政治的不平等を生み出すかもしれない。
・あるいは、アルゴリズム自体が所有者になるかもしれない。
・２１世紀のテクノロジーにより、外部アルゴリズムが人間内部に侵入し、本人よりも本人自身についてよく知ることが可能になるかもしれない。
→個人主義の信仰は崩れ、権威は個々の人間のネットワーク化されたアルゴリズムへと移る。
・人間は、物語る自己が創作する物語に導かれる自律的な存在ではなくなり、巨大なグローバルネットワークの不可分の構成要素となる。
・物語る自己以上に本人のことをよく知るシステムが手に入れば、物語る自己に権限を委ねるのは無謀ということになる。
・民主的な選挙のような自由主義の慣習は時代遅れになる。
・自由主義は、システムが本人自身よりも本人のことをよくしるようになった日に崩壊する。
・グーグルやフェイスブックなどのアルゴリズムは、全知の巫女として信頼されれば、代理人は、最終的には君主へと進化する。
・全知のネットワークから一瞬でも切り離されてはいられなくなる日がくるかもしれない。
・２１世紀の新しいテクノロジーは、人間至上主義の革命を逆転させ、人間から権威をはぎ取り、人間ではないアルゴリズムに権限を与えるかもしれない。
・個人は外から打ち砕かれるのではなく、内から徐々に崩れていく可能性が高い。
・現実は生化学的アルゴリズムと電子的なアルゴリズムのメッシュとなり、明快な境界も、個人という中枢も持たなくなる。
・自由主義に対する第三の脅威は、一部の人は絶対不可欠で解読不能のままであり続けるものの、彼らがアップグレードされた人間の、少数の特権エリート階級となること。
・彼らはその能力と創造性のおかげで、世の中の最も重要な決定の多くを下し続けることができる。
・彼らは社会を支配するシステムのために不可欠な仕事を行うが、システムは彼らを理解し管理することもできない。
・ほとんどの人はアップ・グレードされず、コンピュータアルゴリズムと新しい超人たちの両方に支配される劣等カーストとなる。
・将来は、アップ・グレードされた上流階級と、社会の残りの人々との間に、身体的能力と認知的能力の本物の格差が生じるかもしれない。
・健康な人をアップ・グレードするのはエリート主義の事業。
・一部の人を他の人よりも優位に立たせようとするもの。
→貧しい人と豊かな人々との隔たりはずっと拡大する。
・科学的発見とテクノロジーの発展が、人類を大量の無用な人間と少数のアップグレードされた超人エリート層に分割
・権限が人間から知能の高いアルゴリズムの手に移る
→そのとき自由主義は崩壊
その後の進化を導く、新しい宗教やイデオロギーは？
