Wanabi Gemma4 31B GGUF 概要 Wanabi Gemma4 31B は、Google Gemma 4 31B IT をベースに、専用デスクトップアプリ Project Wannabe の執筆ワークフローに最適化したファインチューニングモデルです。 本モデルの主な目的は、 Project Wannabe が生成する専用のプロンプトフォーマットにモデルを適応させる ことです。Project Wannabe は、小説本文の生成（GEN）、続き生成（CONT）、アイデア生成（IDEA）といったタスクごとに、タイトル・あらすじ・プロット・本文・レーティングなどの情報を独自の構造化フォーマットで組み立てて送信します。本モデルは、この入力形式を正しく理解し、各タスクの意図に沿った応答を返せるよう学習しています。 加えて、日本語の思考過程（CoT）データを学習に組み込むことで、創作タスクにおける語彙選択や文体の自然さなど、日本語の創作表現の向上も目指しています。 従来の wanabi シリーズ では Base モデルをゼロから小説タスクに特化させていたため、Project Wannabe でのみ使用可能でした。本モデルでは Instruct モデルをベースに採用する アプローチに転換し、ベースモデルが持つ汎用的な対話能力・推論能力を維持したまま、創作能力を付与しています。これにより、 Project Wannabe はもちろん、OpenWebUI や SillyTavern など一般的なチャット UI でも利用可能 になりました。 元モデル: Wanabi Gemma4 31B GGUF 量子化版について このリポジトリは、Wanabi Gemma4 31B の GGUF 量子化版です。 本モデルは、専用デスクトップアプリ Project Wannabe と KoboldCpp を組み合わせて使用することを強く推奨します。特に Project Wannabe で使用する場合は、Gemma 4 のチャットテンプレートに対応したバージョンを使用してください。 BF16 GGUF はファイルサイズが大きいため、llama.cpp の分割 GGUF 形式で提供しています。利用時は先頭ファイル（例: BF16 00001 of 00002.gguf ）を指定してください。必要に応じて llama gguf split merge で単一ファイルに戻すこともできます。 実験的に imatrix 量子化版もあわせて提供しています。imatrix 量子化は、主に低量子化環境での理論上の性能向上が期待されますが、キャリブレーションデータに強く依存します。不適切なデータで量子化を行った場合、実性能が悪化したという報告もあります。今回のモデルにおいては最低限のテストしか行って…
We use cookies for essential functionality and analytics. You can accept or reject analytics cookies.Cookie policy