2021年8月号掲載
AIは人間を憎まない
Original Title :The AI Does Not Hate You：Superintelligence, Rationality and the Race to Save the World
著者紹介
概要
プログラムに忠実なAI（人工知能）が、人間を滅ぼしかねない ―― 。AIに対し、こうした懸念を抱く人たちを「合理主義者」という。AIが人間並みの知能を得た時、何が起こるのか。もし暴走したら、人間はそれを止められるのか。合理主義者への取材を基に、AIの「可能性」と「リスク」を徹底検証、私たちの未来を見通す。
要約
「合理主義者」とは？
これから100年ほどが、人類にとって大きな分岐点となるだろう ―― 。
「あるグループ」の人々は、こう考えている。人類がこのまま繁栄を続けて宇宙へ進出し、銀河を股にかける神のような存在となるか、それとも自分たちが生みだしたテクノロジーに滅ぼされるか。彼らは、神のような存在になる可能性も、そうならない可能性も十分にあると考えている。
合理主義者と彼らの懸念
こうした人々は「合理主義者（Rationalist）」と呼ばれる。
彼らが懸念しているのは、AI（人工知能）が近い将来、人間と同じくらい賢くなることだ。
そうなった時、人間にできることはAIにもできるようになる。しかも、人間と同じくらい賢いAIということは、急速に自身を改善させていく可能性がある。そしてある時、人間は知能面でAIに大きく遅れをとることになる。
シンギュラリティ（特異点）への視座
合理主義者たちのコミュニティは、現在世界中に広がっている。十数都市に拠点を持ち、オンライン上で存在感を放っている。
彼らは、テクノロジーを使って身体機能の拡張を目指す「トランスヒューマニズム」や「人体冷凍保存」に関心を持ち、この世界はシミュレーションにすぎないという仮説を主張する。
合理主義コミュニティ誕生の萌芽は、1996年11月18日付けのエリエゼル・ユドカウスキーの投稿に遡ることができる。タイトルは「Staring into the Singularity（シンギュラリティヘの視座）」。それは、こう始まる。
「コンピュータの処理速度が2年で2倍になるとして、コンピュータベースのAIが研究に取り組んでいたら何が起きる？」
これはムーアの法則に対する言及で、コンピュータの性能が2年で2倍になると言われている。そうして性能が倍になっていった結果、コンピュータにおける「2年」は、人間界の2年とは異なっていくはずだとユドカウスキーは指摘する。
人工知能が人間と同等の性能を持ってから2年後、処理速度は倍になる。1年後、処理速度は再び倍になる…シンギュラリティだ。
