というNBER論文をアセモグルらが上げている（ungated版）。原題は「AI and Social Media: A Political Economy Perspective」で、著者はDaron Acemoglu（MIT）、Asuman Ozdaglar（同）、James Siderius（ダートマス大）。
以下はその要旨。
We consider the political consequences of the use of artificial intelligence (AI) by online platforms engaged in social media content dissemination, entertainment, or electronic commerce. We identify two distinct but complementary mechanisms, the social media channel and the digital ads channel, which together and separately contribute to the polarization of voters and consequently the polarization of parties. First, AI-driven recommendations aimed at maximizing user engagement on platforms create echo chambers (or “filter bubbles”) that increase the likelihood that individuals are not confronted with counter-attitudinal content. Consequently, social media engagement makes voters more polarized, and then parties respond by becoming more polarized themselves. Second, we show that party competition can encourage platforms to rely more on targeted digital ads for monetization (as opposed to a subscription-based business model), and such ads in turn make the electorate more polarized, further contributing to the polarization of parties. These effects do not arise when one party is dominant, in which case the profit-maximizing business model of the platform is subscription-based. We discuss the impact regulations can have on the polarizing effects of AI-powered online platforms.
（拙訳）
我々は、ソーシャルメディアのコンテンツ配信、娯楽、もしくは電子商取引に携わるオンラインプラットフォームによる人工知能（AI）利用の政治的帰結を検討する。我々は2つの独立しているが補完的なメカニズムを識別する。ソーシャルメディア経路とデジタル広告経路で、それらは共に、および別々に、有権者の分極化に貢献し、それによって政党の分極化に貢献する。第一に、ユーザーのプラットフォーム利用を最大化することを目的としたAIによる推奨は、エコーチェンバー（ないし「フィルターバブル」）を作り出し、それは個人が自分の意見に反するコンテンツに直面しない可能性を高める。従って、ソーシャルメディアは有権者をより分極化させ、それに対し政党も自らをより分極化させるという反応を取る。第二に、政党間の競争は、マネタイズのためにプラットフォームが（サブスクリプションに基づくビジネスモデルではなく）ターゲットデジタル広告により依存することを促す可能性があり、そうした広告が有権者をより分極化させ、それがさらに政党の分極化に貢献することを我々は示す。こうした効果は一つの政党が支配的な場合は生じない。その場合、プラットフォームの利益を最大化するビジネスモデルはサブスクリプションベースとなる。我々はAIをベースとしたオンラインプラットフォームの分極化効果に規制が及ぼし得る影響を論じる。
論文で効果が分析されている規制は、多様性基準とデジタル広告の透明化で、いずれも幾ばくかの効果が見い出されている（デジタル広告税などそれ以外の規制にも触れているが、それらについては自分たちの以前の論文など関連論文を紹介するにとどまっている）。
また結論部では、今回検討した以外にAIが政治に影響し得る経路として以下が挙げられている。
- AIツールは、政党、および市民社会団体や過激派のような政党以外の団体が、民主主義社会においてユーザーに到達できる新たな方法を作り出し得る。過激派への「ラビットホール」が例。
- 同様に、AIは、非民主体制が教化や誤情報拡散に使える新たな能力を提供する。
- AIは反対派を調べて抑圧するのに既に使われており、これは非民主主義、民主主義の両方のシステムにおいて政治を転換し得る。
- AIによって生み出された大量のコンテンツは、人々の政治への関心と関与を減じ得る。このことは、大いに不確実だが多岐に亘る社会的・政治的な意味合いを持つ。ハンナ・アーレントは「皆があなたに嘘をつくことの帰結は、あなたが嘘を信じることではなく、もはや誰も何も信じない、ということである」という言葉で一つの帰結を予期した。
- AIツールは、ユーザーがソーシャルメディアにおける主張とメッセージの正しさと信頼性を確認するのに使える。また、より信頼できる政治的コミュニケーションのプラットフォームを作ることや、コンセンサスや妥協案を生み出す新たな方法を作るのにも使える。
- AIはまた、自動化、職の喪失、所得格差、生産性向上を通じて様々な効果を政治にもたらす。
