目次 LLMが出してきた解答に対して、なんでやねん、と言われることが相当数あります。 そんなLLMへの説明性を求める声に対する手法として先日 Circuit Tracing を説明しました。 本日はCircuit Tracingを簡易的に実現する方法について実験を交えて説明していきます。 Circuit Tracingについての説明記事は以下をご参考下さい。 yoshishinnze.hatenablog.com 実験内容 目的 重要な情報がどのようにモデルの内部を流れたかを可視化して、ニューラルネットワークの内部動作をある程度理解できる形にする。 Circuit Tracing の本質的な要…