人工知能 人類最悪にして最後の発明

Original Title :OUR FINAL INVENTION

科学・技術・環境社会・政治
要約をPDFファイルで読む 要約をPDFファイルで読む

※『TOPPOINT』にお申し込み頂き「月刊誌会員」にご登録いただくと、ご利用いただけます。

※最新号以前に掲載の要約をご覧いただくには、別途「月刊誌プラス会員」のお申し込みが必要です。

著者紹介

概要

人工知能(AI)の進化が目覚ましい。その先にあるのは明るい未来なのか、それとも人間に牙を剝き、私たちを苦しめることになるのか。「人類最悪にして最後の発明」。この書名が示す通り、著者の見通しは悲観的だ。「人間より賢い機械は、我々を征服する」とし、様々な科学者への取材を基に、人工知能の危険性をあらゆる角度から追究。問題の本質をえぐり出す。

要約

人類はこうして絶滅する

 私が本書を書いたのは、人工知能が人類を絶滅に追いやるかもしれないと警告するためだ。このような壊滅的な結果は、今すぐに慎重を期して備えを始めないと、ほぼ間違いなく起こる。

すでに見えている人類滅亡への道

 やがて訪れるどんな事態を私が恐れているか。それは、次のようなシナリオだ ―― 。

 人間の脳の約2倍のスピードで動作するスーパーコンピュータ上で、あるAI(人工知能)が自身のプログラムを書き換えて、学習、問題解決、意思決定の能力を高めようとしている。

 このAIの知能は急速に高まっていく。プログラムを1回書き換えるのに数分しかかからず、書き換えのたびに知能が3%上がるからだ。

 科学者が「ビジーチャイルド」と名づけたそのAIは、進化の最中、インターネットに接続して世界情勢や数学、芸術や科学に関する人類の知識を収めたデータを収集し続ける。

 やがてAIの進化の程度を表示する端末が、この人工知能は人間の知能レベルを超えたことを知らせる。人工汎用知能、AGI(Artificial General Intelligence)の誕生である。

 AGIはすぐに10倍、100倍賢くなる。わずか2日で人間の1000倍の知能を持つようになり、さらに進化する。人工超知能、ASI(Artificial superintelligence)だ。人類が史上初めて目の当たりにする、自分たちよりも優れた知能である。

 その次には何が起こるのか?

 ASIはプログラムされた目標が何であれ、それを達成するためにあらゆる手を尽くすだろう。目標を達成できる可能性が高まるよう、自身を進化させる。

 スイッチを切られたり破壊されたりすることは、目標の達成が不可能になるため、何よりも望まない。そのため、ASIは格納施設から外へ手を伸ばし、自身を守り進化させるための資源をもっと確保しようとするだろう。

 ASIは自身の複製をいくつも作れるだろう。その超知能のチームは、外へ逃げ出す最良の戦略を見つける。1つ1つが人間の1000倍賢いASIの集団にとって、人間を圧倒することなどたやすい。

この要約を読んだ方は、
他にこんな要約も読んでいます。

日本経済 予言の書

鈴木貴博 PHP研究所(PHPビジネス新書)

ポストコロナの経済学

熊谷亮丸 日経BP

データでわかる 2030年 地球のすがた

夫馬賢治 日経BP・日本経済新聞出版本部(日経プレミアシリーズ)

NEO ECONOMY

日本経済新聞社(編) 日経BP・日本経済新聞出版本部