人工知能 人類最悪にして最後の発明

人類はこうして絶滅する

　私が本書を書いたのは、人工知能が人類を絶滅に追いやるかもしれないと警告するためだ。このような壊滅的な結果は、今すぐに慎重を期して備えを始めないと、ほぼ間違いなく起こる。

すでに見えている人類滅亡への道

　やがて訪れるどんな事態を私が恐れているか。それは、次のようなシナリオだ ―― 。

　人間の脳の約2倍のスピードで動作するスーパーコンピュータ上で、あるAI（人工知能）が自身のプログラムを書き換えて、学習、問題解決、意思決定の能力を高めようとしている。

　このAIの知能は急速に高まっていく。プログラムを1回書き換えるのに数分しかかからず、書き換えのたびに知能が3％上がるからだ。

　科学者が「ビジーチャイルド」と名づけたそのAIは、進化の最中、インターネットに接続して世界情勢や数学、芸術や科学に関する人類の知識を収めたデータを収集し続ける。

　やがてAIの進化の程度を表示する端末が、この人工知能は人間の知能レベルを超えたことを知らせる。人工汎用知能、AGI（Artificial General Intelligence）の誕生である。

　AGIはすぐに10倍、100倍賢くなる。わずか2日で人間の1000倍の知能を持つようになり、さらに進化する。人工超知能、ASI（Artificial superintelligence）だ。人類が史上初めて目の当たりにする、自分たちよりも優れた知能である。

　その次には何が起こるのか？

　ASIはプログラムされた目標が何であれ、それを達成するためにあらゆる手を尽くすだろう。目標を達成できる可能性が高まるよう、自身を進化させる。

　スイッチを切られたり破壊されたりすることは、目標の達成が不可能になるため、何よりも望まない。そのため、ASIは格納施設から外へ手を伸ばし、自身を守り進化させるための資源をもっと確保しようとするだろう。

　ASIは自身の複製をいくつも作れるだろう。その超知能のチームは、外へ逃げ出す最良の戦略を見つける。1つ1つが人間の1000倍賢いASIの集団にとって、人間を圧倒することなどたやすい。