アルゴリズムの不合理な有効性

というNBER論文が上がっているungated版)。原題は「The Unreasonable Effectiveness of Algorithms」で、著者はJens Ludwig(シカゴ大)、Sendhil Mullainathan(同)、Ashesh Rambachan(MIT)。
以下はその要旨。

We calculate the social return on algorithmic interventions (specifically their Marginal Value of Public Funds) across multiple domains of interest to economists—regulation, criminal justice, medicine, and education. Though these algorithms are different, the results are similar and striking. Each one has an MVPF of infinity: not only does it produce large benefits, it provides a “free lunch.” We do not take these numbers to mean these interventions ought to be necessarily scaled, but rather that much more R&D should be devoted to developing and carefully evaluating algorithmic solutions to policy problems.
(拙訳)
我々は、規制、刑事裁判、医療、および教育という経済学者にとって興味のある様々な分野におけるアルゴリズム介入の社会的リターン(具体的には公的資金の限界価値)を計算した。アルゴリズムはそれぞれに異なるが、結果は同様で驚くべきものだった。すべてが無限大のMVPFを有していた。即ち、大きな便益をもたらすだけでなく、「フリーランチ」を提供するのである。我々は、これらの数字がそうした介入を大規模に行うべきことを意味するものとは捉えず、政策問題へのアルゴリズム的解決の開発と慎重な評価にもっと研究開発を費やすべきことを意味するものと捉える。

本文で提示しているMVPFの式は単純で、 MVPF = ΔW / (ΔE - ΔC) である。ここでΔWは影響を受ける人々にとっての政策の価値(支払っても良いと考える金額)、ΔEは政府支出の直接的な変化(例えば新たなアルゴリズムの開発と展開の費用)、ΔCは政府支出の節約効果である。

例えば刑事裁判の手続きを効率化して拘留が1000人少なくなった場合、自由の価値と労働所得から得られる価値の合計を一人当たり3200ドルと見積もれば、ΔWは320万ドル+ΔWPとなる(ここでΔWPは一般の人々にとっての価値)。またΔCは3450万ドル、ΔEは400万ドルと見積もられるため、MVPFは無限大となる。論文の他の例でも ΔE - ΔC がマイナスになり、MVPFが無限大となっている。

単純に考えれば、最近問題になった富士通の会計システムの「英国郵便局冤罪事件」のようにアルゴリズムが誤った時の悪影響は莫大なものとなるので、ΔWからはそのリスク分を差し引く(もしくはΔEにそれを上乗せする)必要があるように思われる。