Unsloth Dynamic Quantization

「モデルの各レイヤーやパーツごとに異なるビット数・精度で量子化する方式です。重要な部分は高精度（例：4bitや6bit）、それ以外は低精度（例：1.58bitなど）で量子化」