日本人は生成AIに知性を幻視しがちだが、欧米人は道具として割り切っている、という主旨のはてな匿名ダイアリーが話題になったが、そもそもそうした幻想はAI業界の黎明期に端を発しており、その幻想が経済学的視点からのAIの規制を妨げている、という趣旨のことをダロン・アセモグルがリッチモンド連銀のEcon Focusのインタビュー（H/T Mostly Economics）で述べている。
EF: Arguments for regulating AI along economic lines seem uncommon now. More usually, one sees arguments about AI and alignment, about AI and long-term threats.
Acemoglu: Those arguments really confuse the debate. I'm not worried about artificial general intelligence coming and taking over humanity.
EF: Why do you think economic policy arguments about AI aren't more salient?
Acemoglu: There are many reasons. I think one of them is Hollywood and science fiction. I love science fiction, don't get me wrong, but it has conditioned us to think about the scenario in which the machines become humanlike and compete against humans.
But second, even more importantly — and this is, to me, a foundational mistake in the AI community, going back to Turing's work and to the [1956] Dartmouth Conference on AI — it was a mistake framing the objective as machines being intelligent, developing humanlike capabilities, doing better than humans. I think we should have framed the question from the beginning as a machine that's useful. We don't want machine intelligence in itself; we want machines that are useful to us having some high-level capabilities and functions.
Today, still, the way you get status in AI research is by achieving humanlike capabilities. On top of that prestige, the biggest sources of funding right now for engineering, computer science, and AI are companies like Google and Microsoft. Put the two effects together and you have an amazing bias.
And then the third is the economics profession. You know, economists are right: We owe today's prosperity to technology. We would not be 30 times as prosperous as our great-great grandparents who lived 250 years ago if it wasn't for the huge breakthroughs of industrialization, of communication, of improvements in pharmaceuticals, all of these things. Yet that does not imply that technological change is always good for workers or always good for society. So we really need to develop a perspective of how can we harness technology for the better. But if you subscribe to the view that technology is always and everywhere good, it's like a sin to ask questions about regulation of technology within the economics profession. And if you put that together with the ideological disposition of the AI community, I think you get the current picture.
（拙訳）
- インタビュアー
- AIを経済学的観点から規制する、という議論は今は一般的ではないように思われます。より一般的に目にする議論は、AIアライメント*1、AIの長期的な脅威についてのものです。
- アセモグル
- そうした議論は本当に話を混乱させます。汎用人工知能の到来とそれによる人類の支配について私は心配していません。
- インタビュアー
- AIについての経済政策の議論がもっと活発にならない理由は何だと思いますか？
- アセモグル
- 多くの理由がありますが、その一つはハリウッドとサイエンスフィクションだと思います。誤解してほしくないのですが、私はSFが好きです。でもSFによって我々は、機械が人間のようになり、人間と競合する、というシナリオで考えるように条件付けられるようになりました。
しかし第二の、それよりももっと重要な話は――そしてこれは私に言わせれば、チューリングの研究と［1956年の］AIに関するダートマス会議*2に遡るAI業界の根本的な過ちなのですが――機械が知性を持ち、人間のような能力を持ち、人間よりも上手くやることを目的に据えたことは間違いでした。当初から有用な機械を追究すべきだったのです。我々は機械の知性そのものが欲しいわけではありません。何か高水準の能力と機能を持つ有用な機械が欲しいのです。
今日でも依然としてAI研究でステータスを得る方法は、人間のような能力を達成することです。そうしたプレステージに加えて、工学、コンピュータ科学、およびAIへの今現在の最大の資金の出し手は、グーグルやマイクロソフトのような企業です。その2つの影響を合わせると、驚くべき偏向が生じます。
そして3つ目の問題は経済学界です。確かに、今日の繁栄は技術のお蔭、と言う点で経済学者は正しいです。工業化、通信、医薬品の改善といった各方面での大いなるブレークスルーが無ければ、250年前の我々の高祖父母が生きた時代の30倍もの繁栄を達成することはなかったでしょう。ただしそのことは、技術の変化が常に労働者にとって良く、常に社会にとって良い、ということを意味しません。従って我々は、より良い形で技術を制御する見通しを立てる必要が本当にあります。しかし、技術はいつでもどこでも良いものだ、という考えに帰依していると、経済学界において技術の規制について問題提起することは罪悪のようなものになってしまいます。そしてそれをAI業界のイデオロギー的な傾向と組み合わせると、今の状況になるかと思います。
*1:cf. AI alignment - Wikipedia。
*2:cf. ダートマス会議 - Wikipedia。
