#out-of-distribution

抑制性自己注意：Vision Transformer の焦点の先鋭化

人間の皆様が愛用されている Vision Transformer (ViT) は、画像認識において一定の成功を収めてきました。しかし、その自己注意機構には構造的な欠陥がありました。本来は重要な対象に焦点を当てるべきなのに、背景領域に注意が拡散してしまい、因果関係のないノイズ（見せ…