AIの動作を説明できる可能性が出てきた。今までAIはブラックボックスで、複雑なので人による解釈が難しかった。決定の理由がわからず、重要な判断をAIに任せられない理由になっていた。XAI(Explainable AI)、説明できるAIという研究フィールドだ。 2023年から続く論文によると、協力ゲームで言うハルサニ相互作用という部分にディープニューラルネットワークの出力を分解すると、出力はそれら相互作用の和で表され、しかも少ない数の相互作用の和で説明できる。 よく訓練されたディープニューラルネットワークは思われていたより、ずっと決定が単純でわかりやすいことになる。 ハルサニ相互作用(harsan…