Qwen3.8 27Bが驚異の6.2GBに!? Unslothが新量子化技術で実現

小型のUD-1bit量子化モデルも作成しており、MTPなしの「UD-IQ1_S」の容量はわずか6.2GBだ。上位1%の精度を約72%維持。一般知識は保持されるため、ごく短い事実確認の質問であれば利用できる／チャットにしか使えないのか