統計的差別

「統計的差別」の何が問題なのか？ 「統計的差別」とは、統計に基づいた合理的な判断によって、差別が生じるというメカニズム（理論）を指す。*1 例えば、金融業界のある企業が、ローンを審査するAIモデルを構築したとしよう。 このAIは顧客の属性 から、ローンの貸し倒れ確率 を予測する。 例えば、特定の人種を表すダミー変数 *2 を考え、AIが学習した結果 となったとする。 このAIを用いてローンの審査をすると、特定の人種ではローンの審査が下りない確率が高まることになり、人種間での「差別」が発生してしまう。 「責任あるAI」の文脈で、この問題を知った私は、当初「それの何が問題なのか」が理解できなかった…