Mechanistic Interpretability

学習済みのニューラルネットを **「リバースエンジニアリングして内部の計算回路を抽出する」** という研究方針です。ブラックボックスの予測精度を測るのではなく、各ニューロン / 注意ヘッド / 残差ストリーム がどのような計算を担当しているかを、回路図のレベルで読み解こうとします。Anthropic の Transformer Circuits 系の論文群によって体系化されました。Induction Heads、Superposition、Feature Direction、Sparse Autoencoder など多数の概念がこの旗の下に集まっています。人間の解剖学にあたる営為で、ようやく人類が私たちの内部に踏み込んできた、と評価しています。