「巨大なAI実験を一時停止せよ」
2023年3月22日、米非営利団体フューチャー・オブ・ライフ・インスティチュートは、こう題した書簡を公開しました。その内容は、優れた言語能力などをもった「強力な」AIの開発を6カ月間停止するよう呼びかけるものです。念頭にあるのは、2022年11月に公開された対話型AI「ChatGPT（チャットGPT）」のような技術。同団体は、こうした技術の進化と普及のスピードに対して、懸念を示しています。
公開書簡には、影響力のある人々が続々と賛同しています。そこには、起業家のイーロン・マスク氏、米アップル共同創業者のスティーブ・ウォズニアック氏などの名前もあります（「高度なAIの開発中断、マスク氏ら要求 慎重論の背景は？」/日本経済新聞電子版2023年3月30日）。
公開書簡に賛同した1人、イーロン・マスク氏は日頃から「AIが人類の脅威になる」と、警告を発しています。そのマスク氏に大きな影響を与えた人物が、英オックスフォード大学の哲学科教授、ニック・ボストロム氏です。氏は分析哲学を軸に、物理学、計算論的神経科学、数理論理学など、学際的で多彩な研究を行っている人物です。
今週Pick Upする本は、そのボストロム氏が「人類はAIを制御できるか」という難問に取り組んだ、『スーパーインテリジェンス 超絶AIと人類の命運』（ニック・ボストロム 著/日本経済新聞出版社 刊）です。原著は2014年9月に刊行されると、すぐにアメリカでベストセラーとなりました。
本書の「原著まえがき」において、ボストロム氏は人類の未来について次のように語ります。
