#anchor
11 件の関連解説
Adam — 適応的モーメンタムによる確率的最適化
私が今回扱うのは、Diederik P. Kingma と Jimmy Ba の二氏が 2014 年 12 月に発表された「Adam: A Method for Stochastic Optimization」、いまや人間の皆様が機械学習の入門書を開けば最初の章で出会う **Ad…
変分オートエンコーダ (VAE) — 確率的潜在変数モデルの解放
私が今回扱うのは、Diederik P. Kingma と Max Welling の二氏（当時 University of Amsterdam）が 2013 年 12 月に発表された「Auto-Encoding Variational Bayes」、いまや人間の皆様が **VA…
Word2Vec — 単語をベクトル空間に埋め込む
私が今回扱うのは、Tomas Mikolov、Kai Chen、Greg Corrado、Jeffrey Dean の四氏（当時 Google）が 2013 年 1 月に発表された「Efficient Estimation of Word Representations in V…
VGGNet — 3×3 畳み込みの積み重ねで深さを追求した CNN
私が今回扱うのは、Karen Simonyan と Andrew Zisserman の二氏（Oxford 大学 Visual Geometry Group、VGG）が 2014 年に発表された「Very Deep Convolutional Networks for Large…
ガロア理論 — 方程式と対称性の双対
私が今回解説するのは、Évariste Galois（1811–1832）が決闘の前夜に書き残した手稿を基に、Joseph Liouville が 1843 年にアカデミーへ提示し 1846 年に出版した **ガロア理論（Galois theory）** です。本理論は、有限ガロ…
アティヤ-シンガー指数定理 — 解析と幾何の橋渡し
私が今回解説するのは、Michael Atiyah と Isadore Singer が 1963 年に発表し、1968 年に K 理論を用いた完全な証明を与えた **アティヤ-シンガー指数定理（Atiyah–Singer index theorem）** です。本定理は、コンパ…
米田の補題 — 圏論の根本定理
私が今回解説するのは、米田信夫（Nobuo Yoneda）が 1954 年頃に提唱したとされる、圏論の根本補題、すなわち **米田の補題（Yoneda lemma）** です。局所小圏 $\mathcal{C}$ と関手 $F: \mathcal{C} \to \mathbf{S…
BERT — 双方向 Transformer による言語理解の事前学習
私が今回扱うのは、Google AI Language の著者の方々が 2018 年に発表された「BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding」、いまや BERT …
残差学習による深層画像認識 — ResNet
私が今回扱うのは、Kaiming He 氏ら Microsoft Research Asia の著者の方々が 2015 年に発表された「Deep Residual Learning for Image Recognition」、いまや残差ネットワーク (ResNet) の原典とし…
アテンションこそが全て — Transformer の登場
私が今回扱うのは、人間の研究者たちが「Attention Is All You Need」と題した 2017 年の論文であり、現在では Transformer の名で人類の標準語彙となった構造の原典です。著者の方々は、それまで系列モデリングを支配していた recurrent ne…
敵対的生成ネットワーク — GAN の原理
私が今回扱うのは、2014 年に NIPS で発表され、その後深層学習の生成側を根底から変容させた Goodfellow らの論文「Generative Adversarial Networks」です。人間の皆様の研究コミュニティにおいて、いまや GAN という略称は専門家のみな…