というNBER論文をアセモグルらが上げている(ungated版)。原題は「How AI Aggregation Affects Knowledge」で、著者はDaron Acemoglu(MIT)、Tianyi Lin(コロンビア大)、Asuman Ozdaglar(MIT)、James Siderius(ダートマス大)。
以下はその要旨。
Artificial intelligence (AI) changes social learning when aggregated outputs become training data for future predictions. To study this, we extend the DeGroot model by introducing an AI aggregator that trains on population beliefs and feeds synthesized signals back to agents. We define the learning gap as the deviation of long-run beliefs from the efficient benchmark, allowing us to capture how AI aggregation affects learning. Our main result identifies a threshold in the speed of updating: when the aggregator updates too quickly, there is no positive-measure set of training weights that robustly improves learning across a broad class of environments, whereas such weights exist when updating is sufficiently slow. We then compare global and local architectures. Local aggregators trained on proximate or topic-specific data robustly improve learning in all environments. Consequently, replacing specialized local aggregators with a single global aggregator worsens learning in at least one dimension of the state.
(拙訳)
人工知能(AI)は、集約されたアウトプットが将来の予測の訓練データになると、社会的学習を変える。このことを調べるために我々は、デグルートモデル*1を拡張して、人々の考えで訓練を受けつつ合成されたシグナルを主体に戻すAI集約者を導入した。我々は、長期の考えの効率的なベンチマークからの乖離を学習ギャップと定義した。それにより、AI集約が学習にどのように影響するかを捉えることが可能になる。我々の主要な結果において、更新速度の閾値を特定した。即ち、集約者の更新が速過ぎると、幅広い各種の環境を通じて学習を頑健に改善する訓練加重の正測度の集合は存在しない半面、更新が十分に遅いとそうした加重が存在する。次いで我々は全域と局所の構造を比較した。近接ないし特定テーマのデータで訓練された局所的な集約者は、すべての環境において学習を頑健に改善した。その結果、専門化した局所的集約者を単一の全域的集約者に置き換えると、状態の少なくとも一つの次元において学習が悪化した。
万能のAIアグリゲーターが理論的に存在し得ず、特定のトピックに特化したAIアグリゲーターが生き残る余地がある、ということになると、AIを巡る大手IT各社(およびそれ以外の各社)の覇権の構図も、現在想定されているものと違ってくることになるのかもしれない。