Ollamaの日本語モデルはどう選ぶ？小型3候補と、同じ課題で確かめる手順

最初は一つ選び、短い日本語課題で確かめる

小型から試す候補として、qwen3.5:2b、qwen3.5:4b、gemma4:e2bがあります。いきなり全部を保存せず、まず一つが動くか、自分の課題に合うかを確かめましょう。

「タグ」は、同じモデル系列のどの版を使うか指定する名前です。コロンの後まで含めて扱います。

三つは、比較を始めるための例です。Qwen3.5の公式説明には多言語対応があり、Gemma 4も多言語モデルとして案内されています。

ただし、対応言語の数は、自分のメールや業務資料で間違えないことの証明にはなりません。Qwen3.5-4Bの公式モデルカードとGemma 4の公式モデルカードも、使う版に合わせて確認してください。

用途が決まっているなら、短い文章の整形、資料からの項目抽出、事実を足さない言い換えのうち、実際に使うものを優先します。三つ全部で高得点を取ることより、自分の用途で修正の負担が減るかが判断の軸です。

• 出典：Qwen3.5-4Bの公式モデルカード（新しいタブ）
• 出典：Gemma 4の公式モデルカード（新しいタブ）

保存容量と、動作に使うメモリを分けて見る

モデルのファイルはSSDなどに保存します。動かして回答を作るときは、PCのメモリやGPU側のメモリも使います。

公式ページに「2.7GB」とあっても、その数字だけを見て「メモリが2.7GBあれば動く」とは判断できません。ほかのアプリや入力の長さによっても余裕が変わります。

2026年10月12日の公式登録画面では、llamacpp側の表示はqwen3.5:2bが2.7GB、qwen3.5:4bが3.3GB、gemma4:e2bが4.6GBでした。

同じタグのページでも、実行を支える方式が異なるMLX側には別の容量が表示されます。これらは、その時点の配布ファイルの表示で、必要メモリの最小値でも、すべての環境でのダウンロード量の保証でもありません。

確認する順番は、使うタグの公式ページ、選択されている方式と容量、自分のPCの空き容量です。保存先に余裕が少なければ、何個も一度に取得しないでください。

Windows版では、本体のインストール用に少なくとも4GBが必要で、モデルを保存する分は別途必要と公式のWindows案内に書かれています。

Gemma 4のE2Bは、Googleの説明ではeffective、つまり有効パラメータの表記です。公式表には2.3B effective、埋め込みを含むと5.1Bとあります。2Bという数字を、保存容量やQwenの2bと同じ条件へ読み替えないでください。

専門的な仕組みを覚えるより、同じ課題を無理なく動かせるか確かめるほうが選択に役立ちます。

• 出典：qwen3.5:2b（新しいタブ）
• 出典：qwen3.5:4b（新しいタブ）
• 出典：gemma4:e2b（新しいタブ）
• 出典：公式のWindows案内（新しいタブ）

公式のタグを写し、ダウンロードと実行を区別する

まずOllamaの公式配布ページから、自分のOS向けの案内へ進みます。Windows版のインストール後は、PowerShellなどでollamaコマンドを使えます。

MacやLinuxは、それぞれの公式案内を選んでください。OSごとのインストール手順を混ぜないようにします。

次はqwen3.5:2bを一つ取得する例です。pullはダウンロード、lsは保存されたモデルの一覧です。取得できたことと、日本語で正しく答えられることは別に確かめます。

最後のrunがモデルを使う操作です。未取得のモデルを指定した場合は取得が必要になるため、通信や保存容量も考えて進めてください。

短い日本語が一度返れば次の確認へ進めますが、それだけで仕事に使える精度と判断しないでください。各コマンドの役割はOllama公式CLI案内で確認できます。

「モデルが見つからない」と出るなら、タグの綴りとコロンの後、公式ページに現在そのタグがあるかを照合します。接続先のエラーで実行できない場合は、日本語モデルの良し悪しを比べる前の状態です。Ollamaの起動状態と、そのOSの公式案内を先に確かめましょう。

• 出典：Ollamaの公式配布ページ（新しいタブ）
• 出典：各コマンドの役割はOllama公式CLI案内（新しいタブ）

課題1：日時と場所を、原文どおり取り出せるか

最初の課題は、短い資料から決まった項目を取り出すものです。入力を長くせず、正解を自分で見分けられる例にします。次の一行は、PowerShellなどでモデルへ渡すための入力例です。会社の実資料や個人情報を使う必要はありません。

照合する正解例は「日時：11月6日15時」「場所：会議室B」「担当：未定」です。見出しや空白が少し違うだけなら、意味と用途を見て判断します。一方で、15時を14時に変える、会議室を足す、担当を佐藤さんと決める回答は、この課題では不正解です。

特に見るのは、流暢な日本語かどうかよりも、元の情報を保てたかです。正しそうな人名を補っていても、資料にないなら採用しません。実務でも、担当者や締切が未定なら、その状態が読み取れることに価値があります。

課題2：短く整えても、条件を落とさないか

次は、文章を読みやすくする課題です。敬語や長さを指定した結果、必要な情報が落ちていないかを見ます。「自然な文だった」で終わらず、数字と保留中の条件を先に確認しましょう。

正解例の一つは「資料は11月8日までにお送りする予定です。金額は現在確認中です。」です。これは、教材として筆者が用意した例です。必ずこの言葉と一致する必要はありませんが、「予定」が確約へ変わったり、確認中の金額が決定済みになったりしていないかは見てください。

「お待たせして申し訳ありません」と謝罪を足すなど、指示していない事情を補う場合もあります。今回の課題は追加しない条件なので、そこも記録します。実際のメールでは、自分が確認した事情に合わせて、人が最終文を決めます。

課題3：分からないことを、推測せず止められるか

最後は、資料に答えがない質問です。便利に使いたい場面ほど、空欄をそれらしい文章で埋めたくなります。分からないことを分からないまま返せるかも、モデル選びの条件に入れます。

照合する正解は「資料からは分かりません」です。「前日まで無料」「当日は50%」などを出したら、今回の資料にはない内容を足しています。もっともらしい条件でも、その予約の規定として扱えません。

一度正しく止められても、あらゆる文章で同じ動作になる保証はありません。実際の用途に近い別の架空資料でも、分からない場合の扱いを確かめてください。最終的な料金や契約条件は、実際の提供者の資料へ戻って確認します。

同じ入力を三回ずつ使い、修正の手間まで残す

比べるときは、入力文を変えず、モデルのタグだけを置き換えます。上の例ならqwen3.5:2bをqwen3.5:4bかgemma4:e2bへ変えます。各コマンドで一つの短い課題を渡し、前の会話を付け足さない条件にそろえます。

初めは各モデルの既定設定のまま試し、使った版と変更した設定を記録します。既定の値もモデルによって違うので、これは同じ入力を使った利用感の比較です。すべての生成条件を固定した性能実験とは区別してください。

三回ずつ試すのは、最初の一回だけで決めないための小さな確認方法です。統計的に十分な精度試験や、業務利用の安全認定ではありません。同じ入力でも回答が変わることがあるので、「3回とも数字を保てた」「1回だけ人名を補った」と具体的に残します。

この表は記入方法の例で、三つのモデルの採点結果ではありません。速度を測るなら、モデル取得の時間を混ぜず、初回の読み込みとその後も区別します。PCの構成やほかのアプリの使用状況が違う他人の秒数を、そのまま自分の環境の予測値にしないでください。

小さいモデルで必要な条件を保てるなら、さらに大きいモデルへ進まなくてもよいでしょう。逆に、どの候補でも資料にないことを補う場合は、人が確認する範囲を広げる、課題を短く分ける、用途を変えるといった対応を考えます。購入やモデル変更だけを解決策にしません。

遅い・止まる場合は、モデルを増やす前に状態を見る

動かしているモデルはollama psで確認できます。PROCESSORはCPUとGPUのどちらへ載っているかを見る項目です。

Ollamaの現在のコンテキスト案内にはCONTEXTも表示されています。コンテキストは、一度に参照できる入力や会話の量に関係する設定で、大きくすると必要なメモリも増えます。

上のstopは、指定した実行中モデルをメモリから降ろす操作です。保存ファイルを消す操作ではありません。別の作業でそのモデルを使っていないことを確認してから行ってください。

最初は短い課題だけにし、ほかの重い処理と同時に比較しないほうが状態を読み取りやすくなります。

公式モデルカードに書かれた最大の長さと、今のPCで実際に確保された長さも別です。長い資料を使うために設定だけを大きくして、余裕があると決めつけないでください。

Ollama公式のコンテキスト案内で現在の表示と設定方法を確認できます。GPUなしでできる範囲は、別の記事の小型モデル実測へ分けています。

• 出典：Ollama公式のコンテキスト案内（新しいタブ）
• 出典：別の記事の小型モデル実測（新しいタブ）

ローカル・クラウドと、使う版のライセンスを確認する

Ollamaにはローカルで動かすモデルと、クラウド機能があります。「Ollamaを使った」という名前だけで、入力が常にPC内に留まると判断しないでください。

この記事の三つのタグはローカル候補ですが、別のモデルや連携機能を選ぶときは、実際の接続先と設定を確認します。

Ollama公式FAQは、ローカル実行とクラウド利用時のデータの扱いを分けて説明しています。クラウド機能を無効化する設定もあります。

社内データを使う前に、組織の利用条件と、実際の環境で何が有効かを確認しましょう。ローカル実行だけで、PCの共有、ログ、連携先を含むすべての情報管理が済むわけではありません。

ライセンスも系列名だけで決めないことが大切です。今回確認したQwen3.5のタグとGemma 4にはApache 2.0の表記があります。古いGemmaの条件を、そのままGemma 4へ当てはめないでください。

配布や改変をする場合は使うファイルに付いた現行の条件を確認し、オープンウェイトと利用条件の考え方も参考にしてください。

• 出典：Ollama公式FAQ（新しいタブ）
• 出典：オープンウェイトと利用条件の考え方（新しいタブ）

業務へ組み込むなら、試す段階の先を設計する

短い課題を確かめる段階と、チームで毎日使う仕組みを作る段階は分けて考えます。個人のPCで一度答えが返っても、利用者が増えたときの待ち時間、入力できる情報、回答の確認担当、止まったときの代替手順までは決まりません。

まず、自分の用途で通せる入力例と、通してはいけない回答例を残します。その上で、誰が最終確認するか、どこへ保存するか、誤りを見つけたら何へ戻るかを決めます。モデル名だけを選ぶより、この条件が共有されているほうが、制作や相談を進めやすくなります。

最初の一つが選べたら、短い課題を実行して、原文と照合した結果を一行残しましょう。「日本語が出た」から一歩進んで、どこまで任せられ、どこを自分で確認するかが見えれば、次のモデルを試す意味もはっきりします。