人工知能と民主主義の関係は直線的でも一方向的でもなく、むしろ、民主的プロセスの基盤を強化すると同時に弱体化させる相反する力が織り成すものである。
AIは、民主的な議論が行われる公共空間を大きく変えた。この変化は、単なる偽情報の問題にとどまらない。私たちは、歴史的に近代民主主義国家の基本的な前提条件であった、集合的な情報体験の分断化を目の当たりにしているのだ。
異なる市民が、推薦アルゴリズムによって構造化された、根本的に異なる情報の現実の中で生活するとき、民主的対話に必要な共通の基盤は失われる。
逆説的だが、AIは利用可能な情報源を増大させる一方で、民主主義社会が「事実」を構成するものについてのコンセンサスを得る能力を低下させている。この認識論の侵食は、単にフェイクニュースを広めることよりも深く、より陰湿な課題を突きつけている。
民主主義国家は根本的なジレンマに直面している。AIに関する決定は極めて特殊な技術的専門知識を必要とするが、こうした決定を専門家だけに委ねることは、民主的プロセスから専門家を排除することを意味する。このように、民主主義の原則（市民による、市民のための決定）と専門家の必要性との間には、未解決の緊張関係がある。
この緊張は、ますます複雑化するAIシステムが、一般市民にとってだけでなく、時にはそれを開発する専門家にとっても不透明であるという事実によって、さらに複雑になっている。統治されるはずの手段が人間の理解力を超えているとき、民主的な統制はどのように機能するのだろうか？
AIによる政治的マイクロターゲティングは、現代のキャンペーンにおいてますます洗練されてきている。AIシステムは有権者に関する膨大なデータセットを分析し、高度にパーソナライズされた政治的メッセージを作成する。ジャスト・セキュリティ
パーソナリティをターゲットにしたAI生成の政治広告は、一般的なコンテンツよりも有意に説得力があるという研究結果が発表された。PubMedNih
AIのスケールと効率性により、キャンペーンは数百万人の有権者向けにカスタマイズされたコンテンツを同時に生成することが可能になり、マイクロターゲティングはこれまでよりもはるかに実現可能で、費用対効果も高くなります。ポリティカルマーケターCSET
最近の研究によると、AIを活用したキャンペーンツールは、有権者の心理的脆弱性を特定し、その特性を利用したメッセージを作成することができる。OUPアカデミックテックインフォームド
民主主義への懸念は大きい：
投票システムや選挙インフラも、良い意味でも悪い意味でもAIの影響を受けている：
AIは民主主義への参加にチャンスも課題ももたらす：
AIは単に民主的な議論のあり方を変えるだけでなく、社会内の力関係を大きく再構築している。AIインフラの管理は今や、議会などの民主的機関が伝統的に行使してきた権力に匹敵する、いやそれ以上の権力形態となっている。
私たちは、民主的な統制を受ける公的機関から、異なる論理に従って運営される民間団体へと、意思決定権が移行するのを目の当たりにしている。この権力の移動は、常に透明性があるわけでも、民主的に確立されたわけでもないパラメーターに従って作動する自動化されたシステムへの意思決定の漸進的な委譲を通じて、しばしば目に見えない形で起こっている。
AIは民主的参加の概念そのものを変えつつある。一方では、より直接的で参加型の民主主義のためのツールを提供し、他方では、アクセスに対する新たな認知的・技術的障壁をもたらす。この過程で、個人の意見の価値もまた再定義されつつある。アルゴリズムによるパーソナライゼーションが進む中で、真に個人的な嗜好と、推薦システムによって誘導された嗜好をどのように区別できるのだろうか。
この両義性は、AIによる熟議システムにも現れている。複雑な意思決定プロセスをより身近なものにするかもしれないが、より深い国民的考察を必要とする問題を単純化しすぎる危険性もある。
デジタル化以前の時代に構想された伝統的な民主主義制度は、技術革新がもたらすスピードへの適応に苦慮している。AIの急速な進化と民主的プロセスの遅いペースとの間のこの時間的な非同期性は、非民主的な意思決定メカニズムによって埋められる危険性のあるガバナンスの空白を生み出す。
課題は、単に既存の制度を通じてAIを規制することではなく、人工知能が社会的、経済的、政治的プロセスの中心的存在となりつつある時代にふさわしい制度となるよう、これらの制度を再考することである。
こうした課題に対処するためには、AIの役割を認識した上で、民主的市民権の新たな概念を構築しなければならない。これは、AIを民主主義向上の機会としてのみ捉えるナイーブな技術楽観主義と、脅威としてのみ捉える悲観主義の両方を克服することを意味する。
その代わりに、アルゴリズムの影響力を批判的に評価する能力、複雑な技術的問題に関する議論に意識的に参加する能力、社会的に大きな影響を与えるAIシステムを開発・導入する人々に透明性と説明責任を求める能力を含む、市民的リテラシーの育成が必要となる。
最終的には、AIと民主主義の関係は、技術そのものによって決まるのではなく、技術開発が民主主義の基本的価値を侵食するのではなく、むしろ強化する方向に向けられるような制度、規範、慣行を想像し、構築する我々の集団的能力にかかっている。
AIは、政府情報をよりアクセスしやすくし、多言語での参加を可能にし、大規模な市民意見を分析し、市民参加体験をパーソナライズすることによって、民主的参加を強化することができる。IeeeOECDのイベント例えば、AIによって強化された翻訳サービスは、言語的マイノリティが民主的プロセスにより完全に参加することを可能にし、ECNLは、データ分析ツールは、政府が公共サービス提供における不平等を特定し、対処するのを助けることができる。ネクストシティ＋2
最も重大なリスクとしては、共有された事実を損なう説得力のある誤報やディープフェイクの拡散、マイクロターゲット化された政治コンテンツによる操作、民主的プロセスから特定のグループを排除するOUPAcademicMediaengagementのアルゴリズムによる偏見、選挙インフラにおけるセキュリティの脆弱性などが挙げられる。Sage Journals + 5研究は、これらのリスクが単に理論的なものではないことを示している。個人の心理的プロファイルに合わせてカスタマイズされたAIが生成する政治的コンテンツの説得力を実証した研究がある。PubMed + 2
効果的な規制的アプローチとしては、AIが生成する政治的コンテンツに対する情報開示の義務付け、政治的マイクロターゲティングに使用できる個人データの種類の制限、選挙運動のAIシステムを監視する独立した監視機構、AIを活用した説得手法に対する有権者の認識を高めるための公教育イニシアチブなどがある。PBS + 4EUのAI法は、民主的プロセスにおけるAIの利用に特化したリスクベースの規制枠組みの一例を示している。欧州＋2
市民は、市民集会、公開協議、継続的なステークホルダー参画プロセスなどの参加型メカニズムを通じて、IAガバナンスを形成する重要な機会を持つべきである。ブルッキングスの調査によると、AIのライフサイクルを通じて多様なステークホルダーを参加させることが、社会的価値をよりよく反映した、より信頼性の高いシステムにつながることが示されている。Adalovelaceinstitute + 13カムデンデータ憲章のような成功モデルは、市民参加によって公共サービスにおけるAI利用の倫理的枠組みを確立できることを示している。Oecd
保護戦略には、多要素認証などの強固なサイバーセキュリティ対策の導入、AIを利用したフィッシングの試みを認識するための選挙関係者の訓練、AIが生成した投票に関する誤情報を特定し、それに対抗するシステムの開発、ソフォスニュースは、選挙の公式通信の検証プロセスの確立、重要な選挙インフラの冗長システムの構築などが含まれる。ABC News + 2サイバーセキュリティとインフラセキュリティ機構（CISA）は、AIリスクを軽減するための選挙当局向けの具体的なガイドラインを提供しています。CISACisa
AIは、よりパーソナライズされた公共サービスを可能にし、市民参加のための新たなチャネルを創出し、Nextcityによって特定の政府機能を自動化し、民主主義システムにおけるパワー・ダイナミクスを潜在的に変化させることによって、市民と政府の関係を変革する可能性がある。EffOECDこの変革の方向性は、AIが民主的な説明責任を強化する形で導入されるのか、それとも監視が限定された技術的システムに権力が集中するのか、ガバナンスの選択に大きく依存する。サイエンスダイレクト＋2
国際協力は、共通の基準を確立し、規制の分断を防ぎ、AIの国境を越えた影響に対処し、AIの開発における民主的価値観に基づく調整を促進するために不可欠である。Oecd + 2OECDのAI原則は、国際協調のモデルを示すものであり、各国の実施に柔軟性を持たせながら、世界の47の管轄区域で採用されている共通の枠組みを提供するものである。OecdBrookings
AIが民主主義に利益をもたらすようにするには、積極的な価値観に基づくガバナンスの枠組み、有意義な透明性と説明責任の要件、AI開発と規制への参加型アプローチ、デジタルリテラシーへの投資、AIアプリケーションにおける基本的権利の保護、AIシステムとその開発者に説明責任を負わせるメカニズムが必要である。エフ＋4
予見的ガバナンス・アプローチは事後的規制よりも効果的であることを示す証拠。OecdBrookings
AIは、グローバルな民主主義システムにとって大きなチャンスであると同時に課題でもある。我々の包括的なレビューは、いくつかの重要な結論を示唆している：
.svg)
.svg)
.svg)
.jpeg)
.jpeg)