2021年8月号掲載

AIは人間を憎まない

Original Title :The AI Does Not Hate You:Superintelligence, Rationality and the Race to Save the World

IT・インターネット科学・技術・環境

※『TOPPOINT』にお申し込み頂き「月刊誌会員」にご登録いただくと、ご利用いただけます。

※最新号以前に掲載の要約をご覧いただくには、別途「月刊誌プラス会員」のお申し込みが必要です。

著者紹介

概要

プログラムに忠実なAI(人工知能)が、人間を滅ぼしかねない ―― 。AIに対し、こうした懸念を抱く人たちを「合理主義者」という。AIが人間並みの知能を得た時、何が起こるのか。もし暴走したら、人間はそれを止められるのか。合理主義者への取材を基に、AIの「可能性」と「リスク」を徹底検証、私たちの未来を見通す。

要約

「合理主義者」とは?

 これから100年ほどが、人類にとって大きな分岐点となるだろう ―― 。

 「あるグループ」の人々は、こう考えている。人類がこのまま繁栄を続けて宇宙へ進出し、銀河を股にかける神のような存在となるか、それとも自分たちが生みだしたテクノロジーに滅ぼされるか。彼らは、神のような存在になる可能性も、そうならない可能性も十分にあると考えている。

合理主義者と彼らの懸念

 こうした人々は「合理主義者(Rationalist)」と呼ばれる。

 彼らが懸念しているのは、AI(人工知能)が近い将来、人間と同じくらい賢くなることだ。

 そうなった時、人間にできることはAIにもできるようになる。しかも、人間と同じくらい賢いAIということは、急速に自身を改善させていく可能性がある。そしてある時、人間は知能面でAIに大きく遅れをとることになる。

シンギュラリティ(特異点)への視座

 合理主義者たちのコミュニティは、現在世界中に広がっている。十数都市に拠点を持ち、オンライン上で存在感を放っている。

 彼らは、テクノロジーを使って身体機能の拡張を目指す「トランスヒューマニズム」や「人体冷凍保存」に関心を持ち、この世界はシミュレーションにすぎないという仮説を主張する。

 合理主義コミュニティ誕生の萌芽は、1996年11月18日付けのエリエゼル・ユドカウスキーの投稿に遡ることができる。タイトルは「Staring into the Singularity(シンギュラリティヘの視座)」。それは、こう始まる。

 これはムーアの法則に対する言及で、コンピュータの性能が2年で2倍になると言われている。そうして性能が倍になっていった結果、コンピュータにおける「2年」は、人間界の2年とは異なっていくはずだとユドカウスキーは指摘する。

 人工知能が人間と同等の性能を持ってから2年後、処理速度は倍になる。1年後、処理速度は再び倍になる…シンギュラリティだ。

この要約を読んだ方は、
他にこんな要約も読んでいます。

沈黙の春

レイチェル・カーソン 新潮社(新潮文庫)

スマホ脳

アンデシュ・ハンセン 新潮社(新潮新書)

スモール・イズ・ビューティフル 人間中心の経済学

E・F・シューマッハー 講談社(講談社学術文庫)

データでわかる 2030年 地球のすがた

夫馬賢治 日経BP・日本経済新聞出版本部(日経プレミアシリーズ)