人工知能と民主主義の関係は直線的でも一方向的でもなく、むしろ、民主的プロセスの基盤を強化すると同時に弱体化させる相反する力が織り成すものである。

‍

パブリック・アゴラの変貌

AIは、民主的な議論が行われる公共空間を大きく変えた。この変化は、単なる偽情報の問題にとどまらない。私たちは、歴史的に近代民主主義国家の基本的な前提条件であった、集合的な情報体験の分断化を目の当たりにしているのだ。

‍

異なる市民が、推薦アルゴリズムによって構造化された、根本的に異なる情報の現実の中で生活するとき、民主的対話に必要な共通の基盤は失われる。

‍

逆説的だが、AIは利用可能な情報源を増大させる一方で、民主主義社会が「事実」を構成するものについてのコンセンサスを得る能力を低下させている。この認識論の侵食は、単にフェイクニュースを広めることよりも深く、より陰湿な課題を突きつけている。

‍

権力と実力のジレンマ

民主主義国家は根本的なジレンマに直面している。AIに関する決定は極めて特殊な技術的専門知識を必要とするが、こうした決定を専門家だけに委ねることは、民主的プロセスから専門家を排除することを意味する。このように、民主主義の原則（市民による、市民のための決定）と専門家の必要性との間には、未解決の緊張関係がある。

‍

この緊張は、ますます複雑化するAIシステムが、一般市民にとってだけでなく、時にはそれを開発する専門家にとっても不透明であるという事実によって、さらに複雑になっている。統治されるはずの手段が人間の理解力を超えているとき、民主的な統制はどのように機能するのだろうか？

‍

政治的マイクロターゲティングと選挙プロセス

AIによる政治的マイクロターゲティングは、現代のキャンペーンにおいてますます洗練されてきている。AIシステムは有権者に関する膨大なデータセットを分析し、高度にパーソナライズされた政治的メッセージを作成する。ジャスト・セキュリティ

‍

パーソナリティをターゲットにしたAI生成の政治広告は、一般的なコンテンツよりも有意に説得力があるという研究結果が発表された。PubMedNih

‍

AIのスケールと効率性により、キャンペーンは数百万人の有権者向けにカスタマイズされたコンテンツを同時に生成することが可能になり、マイクロターゲティングはこれまでよりもはるかに実現可能で、費用対効果も高くなります。ポリティカルマーケターCSET

‍

最近の研究によると、AIを活用したキャンペーンツールは、有権者の心理的脆弱性を特定し、その特性を利用したメッセージを作成することができる。OUPアカデミックテックインフォームド

‍

民主主義への懸念は大きい：

• マイクロターゲティングがどのように心理的脆弱性を利用するかを示す研究によって、操作の可能性が示されている。
• AIは、有権者の既存の意見に沿ったコンテンツに主に触れることで、二極化を助長する可能性がある。
• 有権者は通常、カスタマイズされた政治コンテンツを受け取っていることに気づかないままである。
• 資金力のあるキャンペーンは、より洗練されたAIツールを使うことができ、不平等な政治的影響力を生み出す可能性がある。

投票システムや選挙インフラも、良い意味でも悪い意味でもAIの影響を受けている：

• AIは、異常を検知し、干渉の可能性のあるインフラを監視することで、選挙の安全性を向上させることができる。
• 有権者登録確認などのプロセスを簡素化するAIのおかげで、選挙管理はより効率的になるCisaBrookings
• しかし、AIは、より巧妙なフィッシング攻撃、選挙偽情報のディープフェイク、大規模な自動偽情報キャンペーンなどのリスクももたらすソフォス ニュース + 3

‍

民主主義への参加と市民参加

AIは民主主義への参加にチャンスも課題ももたらす：

ポジティブな影響

• 市民情報へのアクセス向上：AIツールは複雑な政府情報を簡素化できるIeeeBrookings
• より良い公共サービスの提供：AI対応システムで市民データを分析し、行政が市民のニーズに効率的に対応できるようにするNextcity + 2
• 参加型ツールの拡充：Pol.isのようなプラットフォームは、AIを使って大規模に一般市民の意見を分析するECNLBrookings
• 参加への障壁を減らす：AI翻訳サービスは多言語での市民参加を可能にするECNLBrookings

マイナスの影響

• 情報操作：AIが生成したコンテンツは偽情報の拡散に利用できるBrennancenterBrookings
• 既存のバイアスの増幅：偏ったデータに基づいて訓練されたAIシステムは、市民参加における不平等を永続化させ、増幅させる可能性があるBrennancenterBrookings
• 人間の主体性の低下：ガバナンスにおけるアルゴリズムによる意思決定への過度の依存は、人間の判断力と説明責任を低下させる可能性がある。
• デジタルデバイドを悪化させる：AIを活用した市民技術への不平等なアクセスは、既存の参加格差を深める可能性があるAiworldtoday + 2

‍

力関係の再構築

AIは単に民主的な議論のあり方を変えるだけでなく、社会内の力関係を大きく再構築している。AIインフラの管理は今や、議会などの民主的機関が伝統的に行使してきた権力に匹敵する、いやそれ以上の権力形態となっている。

‍

私たちは、民主的な統制を受ける公的機関から、異なる論理に従って運営される民間団体へと、意思決定権が移行するのを目の当たりにしている。この権力の移動は、常に透明性があるわけでも、民主的に確立されたわけでもないパラメーターに従って作動する自動化されたシステムへの意思決定の漸進的な委譲を通じて、しばしば目に見えない形で起こっている。

‍

民主的参加の再定義

AIは民主的参加の概念そのものを変えつつある。一方では、より直接的で参加型の民主主義のためのツールを提供し、他方では、アクセスに対する新たな認知的・技術的障壁をもたらす。この過程で、個人の意見の価値もまた再定義されつつある。アルゴリズムによるパーソナライゼーションが進む中で、真に個人的な嗜好と、推薦システムによって誘導された嗜好をどのように区別できるのだろうか。

‍

この両義性は、AIによる熟議システムにも現れている。複雑な意思決定プロセスをより身近なものにするかもしれないが、より深い国民的考察を必要とする問題を単純化しすぎる危険性もある。

‍

民主主義制度の変容

デジタル化以前の時代に構想された伝統的な民主主義制度は、技術革新がもたらすスピードへの適応に苦慮している。AIの急速な進化と民主的プロセスの遅いペースとの間のこの時間的な非同期性は、非民主的な意思決定メカニズムによって埋められる危険性のあるガバナンスの空白を生み出す。

‍

課題は、単に既存の制度を通じてAIを規制することではなく、人工知能が社会的、経済的、政治的プロセスの中心的存在となりつつある時代にふさわしい制度となるよう、これらの制度を再考することである。

‍

AI時代の新しいシティズンシップの概念

こうした課題に対処するためには、AIの役割を認識した上で、民主的市民権の新たな概念を構築しなければならない。これは、AIを民主主義向上の機会としてのみ捉えるナイーブな技術楽観主義と、脅威としてのみ捉える悲観主義の両方を克服することを意味する。

‍

その代わりに、アルゴリズムの影響力を批判的に評価する能力、複雑な技術的問題に関する議論に意識的に参加する能力、社会的に大きな影響を与えるAIシステムを開発・導入する人々に透明性と説明責任を求める能力を含む、市民的リテラシーの育成が必要となる。

‍

最終的には、AIと民主主義の関係は、技術そのものによって決まるのではなく、技術開発が民主主義の基本的価値を侵食するのではなく、むしろ強化する方向に向けられるような制度、規範、慣行を想像し、構築する我々の集団的能力にかかっている。

‍

人工知能と民主主義に関するFAQ

‍

AIはどのようにして民主主義への参加を強化できるのか？

AIは、政府情報をよりアクセスしやすくし、多言語での参加を可能にし、大規模な市民意見を分析し、市民参加体験をパーソナライズすることによって、民主的参加を強化することができる。IeeeOECDのイベント例えば、AIによって強化された翻訳サービスは、言語的マイノリティが民主的プロセスにより完全に参加することを可能にし、ECNLは、データ分析ツールは、政府が公共サービス提供における不平等を特定し、対処するのを助けることができる。ネクストシティ＋2

‍

AIが民主主義システムにもたらす最も懸念されるリスクとは？

最も重大なリスクとしては、共有された事実を損なう説得力のある誤報やディープフェイクの拡散、マイクロターゲット化された政治コンテンツによる操作、民主的プロセスから特定のグループを排除するOUPAcademicMediaengagementのアルゴリズムによる偏見、選挙インフラにおけるセキュリティの脆弱性などが挙げられる。Sage Journals + 5研究は、これらのリスクが単に理論的なものではないことを示している。個人の心理的プロファイルに合わせてカスタマイズされたAIが生成する政治的コンテンツの説得力を実証した研究がある。PubMed + 2

‍

政府は政治運動におけるAIをどのように規制できるのか？

効果的な規制的アプローチとしては、AIが生成する政治的コンテンツに対する情報開示の義務付け、政治的マイクロターゲティングに使用できる個人データの種類の制限、選挙運動のAIシステムを監視する独立した監視機構、AIを活用した説得手法に対する有権者の認識を高めるための公教育イニシアチブなどがある。PBS + 4EUのAI法は、民主的プロセスにおけるAIの利用に特化したリスクベースの規制枠組みの一例を示している。欧州＋2

‍

AIガバナンスにおいて市民はどのような役割を果たすべきか？

市民は、市民集会、公開協議、継続的なステークホルダー参画プロセスなどの参加型メカニズムを通じて、IAガバナンスを形成する重要な機会を持つべきである。ブルッキングスの調査によると、AIのライフサイクルを通じて多様なステークホルダーを参加させることが、社会的価値をよりよく反映した、より信頼性の高いシステムにつながることが示されている。Adalovelaceinstitute + 13カムデンデータ憲章のような成功モデルは、市民参加によって公共サービスにおけるAI利用の倫理的枠組みを確立できることを示している。Oecd

‍

AIを活用した脅威から選挙インフラを守るには？

保護戦略には、多要素認証などの強固なサイバーセキュリティ対策の導入、AIを利用したフィッシングの試みを認識するための選挙関係者の訓練、AIが生成した投票に関する誤情報を特定し、それに対抗するシステムの開発、ソフォスニュースは、選挙の公式通信の検証プロセスの確立、重要な選挙インフラの冗長システムの構築などが含まれる。ABC News + 2サイバーセキュリティとインフラセキュリティ機構（CISA）は、AIリスクを軽減するための選挙当局向けの具体的なガイドラインを提供しています。CISACisa

‍

AIは市民と政府の関係をどのように変えることができるのか？

AIは、よりパーソナライズされた公共サービスを可能にし、市民参加のための新たなチャネルを創出し、Nextcityによって特定の政府機能を自動化し、民主主義システムにおけるパワー・ダイナミクスを潜在的に変化させることによって、市民と政府の関係を変革する可能性がある。EffOECDこの変革の方向性は、AIが民主的な説明責任を強化する形で導入されるのか、それとも監視が限定された技術的システムに権力が集中するのか、ガバナンスの選択に大きく依存する。サイエンスダイレクト＋2

民主的な文脈におけるIAガバナンスには、どのような国際協力が必要なのか？

国際協力は、共通の基準を確立し、規制の分断を防ぎ、AIの国境を越えた影響に対処し、AIの開発における民主的価値観に基づく調整を促進するために不可欠である。Oecd + 2OECDのAI原則は、国際協調のモデルを示すものであり、各国の実施に柔軟性を持たせながら、世界の47の管轄区域で採用されている共通の枠組みを提供するものである。OecdBrookings

‍

AIが民主主義を弱体化させるのではなく、民主主義に利益をもたらすようにするにはどうすればいいのか？

AIが民主主義に利益をもたらすようにするには、積極的な価値観に基づくガバナンスの枠組み、有意義な透明性と説明責任の要件、AI開発と規制への参加型アプローチ、デジタルリテラシーへの投資、AIアプリケーションにおける基本的権利の保護、AIシステムとその開発者に説明責任を負わせるメカニズムが必要である。エフ＋4

予見的ガバナンス・アプローチは事後的規制よりも効果的であることを示す証拠。OecdBrookings

‍

結論

AIは、グローバルな民主主義システムにとって大きなチャンスであると同時に課題でもある。我々の包括的なレビューは、いくつかの重要な結論を示唆している：

1. 技術的進化は続いている。偽情報を作成し拡散するためのAIツールはより洗練され、利用しやすくなっており、継続的な警戒と適応的な対応が必要となっている。対話政治
2. AIによる偽情報の影響は、社会的、政治的、メディア的文脈によって大きく異なり、ある社会は他の社会よりも回復力がある。ワシントン・ポスト＋2
3. 解決策には協力が必要：AI誤情報への効果的な対応には、テクノロジー企業、政府、市民社会、市民のマルチステークホルダーによる協力が必要である。Acigjournal + 4
4. AI検知システムの進歩にもかかわらず、人間の批判的思考とメディアリテラシーは、巧妙な偽情報に対する究極の防御策であり続ける。VtAARP
5. 技術的な解決策に加え、AIによる偽情報に取り組むには、根底にある社会的偏向、メディア・エコシステムの課題、市民教育の格差に対処する必要がある。テイラー＆フランシスネイチャー