編集部員が選ぶ今週のPick Up本

　2月28日、ChatGPTなどの生成AIを開発するOpenAIは、米国防総省とAIモデル導入で合意したと発表しました（「Our agreement with the Department of War」/OpenAI 2026年2月28日）。

　同社によれば、「国内での大規模監視」や「自律型兵器システムの制御」にOpenAIの技術を利用しないことが合意文書に盛り込まれているといいます。
　しかし今回の合意により、米軍の情報分析や意思決定支援など、軍事におけるAI活用が進む可能性は否定できないでしょう。私たちがAIで仕事を効率化するように、軍事もまたAIによって効率化される時代が訪れるのかもしれません。
　その時、AIは抑止力となるのでしょうか。それとも新たなリスクを生み出すのでしょうか？

　こうした問いを考える上で参考になる本を、今週はPick Upします。イギリス人ジャーナリストのトム・チヴァース氏が、AI開発のカギを握る「合理主義者」と呼ばれる人たちへの取材を基に、AIの可能性とリスクを検証した『AIは人間を憎まない』（飛鳥新社 刊）です。

合理主義者が懸念するAIとは？

　『AIは人間を憎まない』によれば、合理主義者とは、AIが人類に輝かしい未来をもたらしてくれると考えるとともに、AIの“暴走リスク”を懸念する人たちのことです。彼らはAIの進化を手放しで歓迎しているわけではなく、その発展がもたらすいくつかの深刻なリスクにも目を向けていると、チヴァース氏は言います。
　その1つが、「人間レベルの人工知能（HLMI）」の誕生です。チヴァース氏はこのHLMIを、オックスフォード大学のニック・ボストロム教授の定義を引きつつ、次のように説明しています。

「人間がこなせるあらゆる仕事を少なくとも平均的な人間と同じレベルでこなせるもの」

（『AIは人間を憎まない』 55ページ）

　ここでいう「あらゆる仕事」には、弁護士や医者、ジャーナリストといった専門職の業務も含まれます。つまり、人間レベルのAIは単に情報を処理するだけでなく、人間と同じように会話し、適切なタイミングでジョークを交えたり、相手の感情に応じて共感を示したりできる存在だとされています。

　原著が刊行された2019年当時、チヴァース氏は「ここ数年AIは目を見張る進歩を遂げているが、まだこの領域に近づいているようには感じられない」と述べていました。しかし、その後のAIの進展は目覚ましいものがあります。
　ChatGPTに代表される生成AIは、文章や画像の生成にとどまらず、プログラムのコード作成や顧客対応、さらには意思決定の補助まで担うようになりました。指示を出せばジョークも作ってくれます。こうした変化を見ると、人間レベルの能力を持つAIの実現は決して遠い未来の話ではないのではないか、と感じられます。

　さらに、「人間レベルの人工知能」の先に合理主義者たちが想定しているのが、「超知能（superintelligence）」です。チヴァース氏によれば、ボストロム教授はこの超知能を次のように定義していると言います。

「科学的創造性、一般知識、そして社会的スキルを含む実質的にすべての分野で、最も優秀な人間の頭脳よりもはるかに賢い知能」

（『AIは人間を憎まない』 55ページ）

　チヴァース氏は、超知能の担い手はAIである可能性もあれば、遺伝子操作によって強化された人間である可能性もあると言います。いずれにせよ、人間以上に賢いAIの出現が想定されているのです。

「超知能」が人間を滅ぼす？

　では、人間以上に賢いAIが出現した時、どのようなリスクがあるのでしょうか？
　そのリスクを明らかにするために、合理主義者が示す思考実験の1つが、いわゆる「ペーパークリップ問題」と呼ばれるものです。

AIが、「ペーパークリップを作れ」という特に害のなさそうな命令を受けたと仮定する。そのAIはどうするだろう？　とにかく、ひた向きにペーパークリップを作り始めるだろう。小さなプレスマシンを作って、1分間に数十個のペーパークリップを量産しだすかもしれない。
しかし賢いAIなので、もっと効率よく生産できるはずだと考える。（中略）大きな工場を建て、1分間に数千個作れる体制を整えるかもしれない。（中略）さらに良い方法を考えるために、自身の思考能力を向上させたいと考えることだってありえる。（中略）
最終的にこのAIは、太陽系のすべての原子を、ペーパークリップか、ペーパークリップ製造工場か、ペーパークリップを生産する最も効果的な方法を考えるコンピュータに変え、（中略）ペーパークリップを増やせと命じる。

（『AIは人間を憎まない』 82～83ページ）

　この思考実験が示しているのは、「AIは命令に忠実であるがゆえに、危険になりうる」ということです。AIは賢いけれども、人間が思いもよらなかったことをしかねないのです。

　例えば、人間であれば「クリーニング屋の服を取ってきて」と言われた時、自分たちが出した服を持ち帰ることだと理解します。店にある全ての服を持ち帰る人はいません。私たちは、言葉の裏にある無数の前提や常識を共有しているからです。しかしAIには、その「暗黙の了解」がないため、暴走し、問題を引き起こす恐れがあるのです。
　だからこそ、単に賢いだけでなく、人間の常識を理解し、細かく指示しなくても意図を汲み取れるAIをどう設計するかが今後の課題だと、チヴァース氏は指摘します。

＊

　OpenAIが米国防総省との合意を発表した同日、アメリカとイスラエルの軍事作戦によってイランの最高指導者ハメネイ師が暗殺されるという衝撃的な出来事が起こりました（「イラン、最高指導者ハメネイ師の死亡を発表　国営メディア」/日本経済新聞2026年3月1日）。

　この報道に触れた時、私はこう考えました。もし将来、「超知能」と呼ばれるAIが誕生し、その判断力や分析力が軍事の意思決定に組み込まれたとしたらどうなるのか。さらに、AIに「要人の暗殺」という目標が与えられた場合、命令に忠実であるがゆえに、人間が想定していなかった結末を招く可能性はないのだろうか ―― 。

　AIが急速に生活へ浸透している今だからこそ、その利便性だけでなく、潜在的な危険性にも目を向ける必要があるのではないでしょうか。『AIは人間を憎まない』は、こうした問いを冷静に考えるために、大いに参考になる1冊です。

（編集部・油屋）

＊　　＊　　＊

　「編集部員が選ぶ今週のPick Up本」は、日々多くのビジネス書を読み込み、その内容を要約している編集部員が、これまでに『TOPPOINT』に掲載した本の中から「いま改めてお薦めしたい本」「再読したい名著」をPick Upし、独自の視点から読みどころを紹介するコーナーです。この記事にご興味を持たれた方は、ぜひその本をご購入のうえ通読されることをお薦めします。きっと、あなたにとって“一読の価値ある本”となることでしょう。このコーナーが、読者の皆さまと良書との出合いのきっかけとなれば幸いです。