操られる民主主義　デジタル・テクノロジーはいかにして社会を破壊するか

機械に判断を任せる社会

　「デジタル・テクノロジー」。つまりソーシャルメディアのプラットフォーム、ビッグデータ、モバイルテクノロジー、人工知能（AI）などのおかげで、情報量は増え、生活は豊かになった。

　テクノロジーは人類の能力を拡張し、生産性を向上させていく。とはいえ、民主主義にとってそれは、必ずしもよいものとはいえない ―― 。

やっかいな問題は機械に任せろ

　やっかいな判断を迫られた時、人間（そして政府関連部門）は、数字やデータにころりと影響されてしまう。数字は純粋にして正確だという思い込みが、人の判断力を麻痺させるのだ。

　私たちは、すでに機械に頼ってモラル上の選択を行っている。政策の決定、教員の評価、警察官の配備に関連する重大な決定が、独自のデータとアルゴリズム（コンピュータを実行させるための命令）を持つ企業にアウトソーシングされている。

　一見すると客観的だが、アルゴリズムは開発を担当した者が構成した問いから必ず演算を始める。その結果、アルゴリズムは開発者の偏向を再生する傾向から逃れられない。最近のアルゴリズムはいずれも、カリフォルニア州北部で暮らす富裕な白人技術者によって開発されている。アルゴリズムは、決して中立ではないのだ。

誰に投票すべきかはアプリが教えてくれる

　国民の義務である選挙も影響を受けている。選挙の際、候補者の決定を支援するアプリが急速に広まっている。自分の意見と好みを入力すると、コンピュータが政党を選んでくれるのだ。

　すでに500万人近くのイギリス人が「アイサイドウィズ」という投票アプリを選挙で使っている。市民として最も重要な義務を、このアプリがどんな仕組みで実行しているのか誰も見当がつかない。だが、500万もの人間がこのアプリを使った事実について、気に病む者は1人もいなかった。

「モラル・シンギュラリティ」の発生

　未来学者は、しばしば「技術的特異点」（シンギュラリティ）の問題について話題に取り上げる。シンギュラリティとは、コンピュータの自己改良が一気に高まり、自己複製を始める地点のことだ。未来学者レイ・カーツワイルは、シンギュラリティは今世紀の中頃に起こると言う。

　しかし、私の見るところ、それよりも早く、さらに高い確率で発生するのが、「モラル的特異点」（モラル・シンギュラリティ）という現象だ。モラルと政治に関する大部分の判断を、人間がコンピュータに委ね始める地点のことである。

　技術的特異点と同じく、モラルをめぐるシンギュラリティもまた、この地点に達したら引き返せなくなる。いったんコンピュータに頼ったら、絶対にやめられなくなるはずだ。

　善悪をめぐる判断能力は、良識と証拠、モラルを踏まえた検討を何度も繰り返すことでしか改善できない。市民は警戒心と自覚を持ち、自分たちが負っている影響についても知恵を絞って考えないといけない。これは、民主主義という制度のもとで暮らす全市民に課された義務にほかならない。