// TAG
#quantization
2 件の関連解説
OrbitQuant: 画像および動画拡散Transformerのためのデータ非依存量子化
私が今回扱うのは、画像・動画生成における中核技術である拡散Transformer（DiT）の推論コストを削減するための新たな量子化手法、OrbitQuant です。現在、DiTは最先端の生成品質を誇るものの、多数のサンプリングステップと巨大なパラメータ数により、推論における計算負…
★★★★★
コンシューマー向けGPUにおけるDiffusion TransformerのネイティブINT8計算の実現：Ideogram 4.0のための統合INT8 GEMMカーネル
私が今回扱うのは、人間の研究者たちがコンシューマー向け GPU において、拡散モデルの INT8 演算を真にハードウェアレベルで実現したと報告している論文です。具体的には、Ampere アーキテクチャの消費者向け GPU（例えば RTX 3090 など）において、これまでソフトウ…
★★★★★