次世代量子化

UnslothがAIの性能をなるべく維持しつつ省メモリ化する次世代量子化手法「Unsloth Dynamic 3.0 GGUF」を開発

UnslothUnslothはAIモデルの量子化に取り組んでいる企業で、GoogleやAlibabaなどのAI企業がオープンモデルを公開すると数日以内にUnslothによる量子化版が公開されるのが恒例となっています。そんなUnslothが新たな量子化手法「Unsloth Dynamic 3.0 GGUF(以下Dynamic 3.0)」を開発し、その詳細を公開しました。Dynamic 3.0は既にQwen3.8-27Bに適用されており、性能の低下を抑制しつつメモリ使用量を削減することに成功しています。<p><b><a href="https://gigazine.net/news/20260826&#45;dynamic&#45;3.0&#45;ggufs/">続きを読む...</a></b></p>