量子化（Quantization）
AIモデル内部の膨大なパラメータ（重みデータ）を表現する数値のビット精度を下げることで、推論時の精度低下を最小限に抑えながらメモリ消費量と計算負荷を劇的に削減するモデル圧縮技術です。
AI分野における量子化（Quantization）とは、ニューラルネットワーク内部の膨大なパラメータ（重みやアクティベーション）を記録する数値データの精度（ビット数）を下げることで、モデルのファイルサイズとメモリ消費量を劇的に圧縮する技術です。
通常、大規模言語モデルの学習時には16ビット浮動小数点数（FP16やBF16）などの高精度な数値が使われますが、そのままでは数百ギガバイトものビデオメモリ（VRAM）が必要となり、高価なデータセンター用GPUでしか動かすことができません。
量子化では、これらの数値を8ビット整数（INT8）や4ビット（INT4）、さらには2ビットや1ビットといった低いビット幅へ丸め込んで変換します。これにより、必要なメモリ容量を半分から4分の1以下に減らし、データの転送速度と推論処理のスピードを大幅に引き上げることができます。
単純に数値を丸めるだけではモデルの賢さが損なわれてしまいますが、近年では重要なパラメータの精度を保護したり層ごとに最適なビット幅を割り当てたりする高度な手法（AWQやGGUFなど）が確立され、元のモデルと遜色ない回答品質を維持できるようになりました。
オープンウェイトモデルを自社のサーバーや個人のパソコン、スマートフォンなどのオンデバイスAI環境で実用的に動かすうえで、最も重要かつ不可欠な基盤技術となっています。