2019年4月号掲載

悪のAI論

IT・インターネット科学・技術・環境社会・政治
要約をPDFファイルで読む 要約をPDFファイルで読む

※『TOPPOINT』にお申し込み頂き「月刊誌会員」にご登録いただくと、ご利用いただけます。

※最新号以前に掲載の要約をご覧いただくには、別途「月刊誌プラス会員」のお申し込みが必要です。

著者紹介

概要

お掃除ロボットから医療診断の支援まで、今、AI(人工知能)を使ったサービスが広がりつつある。それは便利な反面、様々な問題も引き起こしている。無実の人を「犯罪者」に仕立て上げる、性別や人種で差別する、あるいは、人の命を狙う可能性も。国内外で噴出する事件をIT専門記者が報告し、AI依存社会に警鐘を鳴らす。

要約

監視される

 AI(人工知能)社会が到来した。掃除ロボットから将棋のソフト、医療診断の支援まで、様々な場面でAIを使ったサービスが広がり始めている。

 その恩恵を受ける一方で、AIが人間に不幸をもたらすのでは、という懸念も消えない。

28人の議員を犯罪者と誤認

 AIは人間をはるかに上回る分析能力を持つ。監視カメラにつなげれば、街角を行き交う人々の顔を認識し、犯罪者を見つけ出すことも可能だ。

 ただ、AIが常に正しいわけではない。間違いも犯す。データの読み違い、顔の取り違い。それが、どんな事態を引き起こすのか。例えば、あなたが犯罪者だと認定されてしまったら?

 このような懸念が現実のものとなった。

 28人の米連邦議会議員の顔を、アマゾンのAIが逮捕歴のある人物として誤認識した ―― 2018年7月、人権保護団体の「米自由人権協会(ACLU)」が、そんな実験結果を明らかにした。

 ACLUが実験に使ったのは、アマゾンの画像認識AI「レコグニション」だ。ネットで入手した2万5000人分の逮捕写真をレコグニションに入力して「犯罪者データベース」を構築。その上で、535人の上下両院の議員の顔写真を判定させたところ、28人が「犯罪者」と認識されたのだ。

 同年5月、ACLUはアマゾンがレコグニションの提供について、フロリダ州オーランド市などと契約を締結していたと報告。これが人権侵害に当たるとして、41の人権保護団体が連名で、アマゾンのジェフ・ベゾスCEOに対し、提供をやめるよう求める公開書簡を送っていた。

 これらの団体は、「人々は、政府に監視されずに通りを歩く自由が保障されるべきだ。顔認識テクノロジーは、米国のコミュニティにおけるこの自由を脅かすものだ」と指摘している。

FBIの顔写真データベース

 米連邦捜査局(FBI)は、顔認識のテクノロジーを使った顔写真データベースを2015年から本格運用している。だが、様々な問題もある。

 米会計検査院は2016年と17年に、この顔写真データベースを調査した上院への報告書を公開している。16年の報告書のサブタイトルは「FBIはプライバシーと精度の確保を改善せよ」、その対応を検証した翌年のサブタイトルも「司法省とFBIはプライバシーと精度の確保のための追加措置を講ぜよ」。いずれも、FBIの対応の不十分さを指摘している。

この要約を読んだ方は、
他にこんな要約も読んでいます。

日本経済 予言の書

鈴木貴博 PHP研究所(PHPビジネス新書)

ポストコロナの経済学

熊谷亮丸 日経BP

人新世の「資本論」

斎藤幸平 集英社(集英社新書)

データでわかる 2030年 地球のすがた

夫馬賢治 日経BP・日本経済新聞出版本部(日経プレミアシリーズ)