編集部員が選ぶ今週のPick Up本

　「巨大なAI実験を一時停止せよ」
　2023年3月22日、米非営利団体フューチャー・オブ・ライフ・インスティチュートは、こう題した書簡を公開しました。その内容は、優れた言語能力などをもった「強力な」AIの開発を6カ月間停止するよう呼びかけるものです。念頭にあるのは、2022年11月に公開された対話型AI「ChatGPT（チャットGPT）」のような技術。同団体は、こうした技術の進化と普及のスピードに対して、懸念を示しています。
　公開書簡には、影響力のある人々が続々と賛同しています。そこには、起業家のイーロン・マスク氏、米アップル共同創業者のスティーブ・ウォズニアック氏などの名前もあります（「高度なAIの開発中断、マスク氏ら要求　慎重論の背景は？」/日本経済新聞電子版2023年3月30日）。

　公開書簡に賛同した1人、イーロン・マスク氏は日頃から「AIが人類の脅威になる」と、警告を発しています。そのマスク氏に大きな影響を与えた人物が、英オックスフォード大学の哲学科教授、ニック・ボストロム氏です。氏は分析哲学を軸に、物理学、計算論的神経科学、数理論理学など、学際的で多彩な研究を行っている人物です。

　今週Pick Upする本は、そのボストロム氏が「人類はAIを制御できるか」という難問に取り組んだ、『スーパーインテリジェンス　超絶AIと人類の命運』（ニック・ボストロム/日本経済新聞出版社）です。原著は2014年9月に刊行されると、すぐにアメリカでベストセラーとなりました。

　本書の「原著まえがき」において、ボストロム氏は人類の未来について次のように語ります。

人類がいつの日か、汎用知能（一般知能）において人間の頭脳を超越する人工知能を構築することができたなら、それは非常にパワフルなスーパーインテリジェンス（超絶知能）となりうる。そのとき、われわれ人類の運命は、機械（マシン）のスーパーインテリジェンスに依存することになるだろう。野生のゴリラの運命がゴリラ自身ではなく人類に依存するように。

（『スーパーインテリジェンス』 5ページ）

　AIに私たちの生殺与奪の権が握られる――。戦慄するような前書きで始まる本書は、ボストロム氏の壮大な“思考実験”の成果です。訳者の倉骨彰氏は、「訳者あとがき」で次のように述べています。

この思考実験の仮説は次のようなものである――「もし、近未来にスーパーインテリジェンス（超絶知能）が出現することが現実的に可能であれば、われわれ人類は存在論的リスク（滅亡リスク）に直面する可能性があり、そのリスクを回避するためには、コントロール問題を解決しなければならない」。（中略）
スーパーインテリジェンスは、汎用的な能力においても思考能力においても、そしてもちろん、専門的な知識・能力においても、人類の叡智を結集した知力よりもはるかにすぐれたスーパー知能、というような意味で使用される。また、コントロール問題は、集団的かつ総合的な知能において、超絶知能エージェントにはるかに劣る人類が、いかにすれば、そのようなエージェントの振る舞いをコントロールすることができるか、という問題を示す意味で使用される。

（『スーパーインテリジェンス』 559～560ページ）

　倉骨氏の簡にして要を得た解説の通り、思考実験の仮説を検証していく形で本書は展開します。AIは、どの時点からスーパーインテリジェンスへと変化するのか。もし、スーパーインテリジェンスが世界を乗っ取ろうとした場合、どのようなシナリオが考えられるのか。そして、人類が滅亡の危機に立たされる可能性は…。こうした様々な問題について、ボストロム氏は大胆でありながらも、きわめて冷静、緻密に論じていきます。

　本書の内容を、非現実的だと一笑に付すこともできるかもしれません。しかし、先述のChatGPTや画像を自動作成するステーブル・ディフュージョンなど、生成AI（人の指示に従って文章や画像、動画を自動生成するAI）の進化を目の当たりにしている現在、AIコントロール問題は、これから起こり得ることの1つとして、対策が真剣に討議されるべきではないでしょうか。
　とはいえ、本書を読み進めると、対策をとることの困難さを思い知らされます。ボストロム氏は、スーパーインテリジェンスが世界を乗っ取ろうとする時、自分の能力を人類に悟られないよう従順な「ふり」をし続けるかもしれない、と述べています。そして力を蓄え、準備が整ったある日、突如人類を攻撃し始める、というまさにSF小説のようなシナリオを想定しているのです。今、ChatGPTのような生成AIが私たちの他愛ない質問に答えていますが、その裏で何を考えているのか。どこまで人類は理解しているのでしょうか？

　ビジネスパーソンにとって、この本の内容は遠い未来の話のように思えるかもしれません。しかし、生成AIは文書作成や対話などの生産性を大きく向上させるツールとして、今後、ビジネスの現場で活用が広がっていくことが予想されます。今やスーパーインテリジェンスの危険性は、私たちの身近に存在しているのです。

　『スーパーインテリジェンス』は本文だけでも500ページを超える大著です。少し早いですが、ゴールデンウィークの読書リストに追加し、休暇中に読まれてみてはいかがでしょうか。

（編集部・小村）

＊　　＊　　＊

　「編集部員が選ぶ今週のPick Up本」は、日々多くのビジネス書を読み込み、その内容を要約している編集部員が、これまでに『TOPPOINT』に掲載した本の中から「いま改めてお薦めしたい本」「再読したい名著」をPick Upし、独自の視点から読みどころを紹介するコーナーです。この記事にご興味を持たれた方は、ぜひその本をご購入のうえ通読されることをお薦めします。きっと、あなたにとって“一読の価値ある本”となることでしょう。このコーナーが、読者の皆さまと良書との出合いのきっかけとなれば幸いです。