今日、ターミナルに ollama と打ってみてほしい。起動するのはローカルモデルではない。

2026年7月11日リリースのバージョン0.32.0以降、このコマンドを打つだけでエージェントが起動する ― Ollama自身のリリースノートには、何が起動するかがこう書かれている:「Chat, Code, & Work (glm-5.2:cloud)」。クラウドモデルだ。ローカルAIのための最も普及したツールが、標準の呼び出しでネットへ送り出す。

これはスキャンダルではなく製品としての判断であり、オフにすることもできる。だがこの記事の導入としては完璧だ。というのも「ローカル」は今や、信じるのではなく確かめるべき言葉になっているからだ。

そもそもなぜこれをやるのか

本当に効く理由から始めよう ― それはお金ではない。

自分のサーバーで、完全に自分自身の目的のためだけにAIを動かすなら、ドイツのデータ保護会議(DSK)の見解では**委託処理(Auftragsverarbeitung)**という概念自体が消える。あなたが唯一の管理者(Verantwortlicher)になる。GDPR第28条3項に基づく委託処理契約もなく、再委託先の連鎖もなく、第三国への移転もなく、来年ひっくり返るかもしれない十分性認定(Angemessenheitsbeschluss)もない。

ここが理解すべきポイントだ。ローカル処理はリスクの軽減ではない。義務の連鎖全体が構造的になくなるということだ。監督当局は、追加学習やファインチューニングなどについて、ローカル処理を明確に推奨している。

また、自分のAIを持つと規制上の義務まで背負い込むことになる、というよくある懸念は、個人利用者には当てはまらない。AI法は第2条10項により、純粋に私的で非職業的な利用にはそもそも適用されず、自由なオープンソースシステムは原則として適用除外となっている。

(これは2026年7月24日時点の当局資料・法令の内容を紹介したものであり、法的助言ではない。実際の事業での運用については、データ保護担当者に相談すべき事柄だ。)

あなたのグラフィックカードに何が乗るか

公式に得られる最も正直なVRAM情報は、Ollamaのライブラリにあるファイルサイズだ。おおざっぱに言えば、ファイルサイズと同じくらいのビデオメモリに、少し余裕を足したものが必要になる。

モデルサイズ (Q4)動作環境
Gemma 4, 12B7.6 GB8GBカード、ギリギリ
gpt-oss-20b16GB向け設計16GBカード
Qwen3.6-27B17 GB24GBカード
Gemma 4, 31B20 GB24GBカード
Laguna XS 2.1 (q4)20 GB24GBカード
Qwen3.6-35B24 GB24GB、かなりギリギリ

現実的な入門ラインは16GBカードということになる。ドイツの大手小売店では、16GBのRTX 5060 Tiが555.85ユーロ(セール価格)、通常価格で最も安い16GBカードは559.64ユーロだった。32GBカード(RTX 5090)は4,248.99ユーロと、その何倍もする。

ここで、あまり正しく語られない2つのことがある。

**量子化はモデルを小さくするだけでなく、速くもする。**標準的な例であるLlama-3.1-8Bでは、4ビット版が毎秒71.93トークンを生成するのに対し、16ビット版はわずか毎秒29.17トークン ― 2.5倍の差だ。理由はこうだ:テキスト生成はメモリ帯域幅がボトルネックになる。ビット数が少ないということは、読み込む量が少ないということだ。量子化は容量不足のときにだけ受け入れる純粋な品質の妥協だ、というよくある思い込みは、そのままでは正しくない。

**電気代は関係ない。**1日1時間フル稼働させた場合、5060 Tiは月額約2.22ユーロ、5090は約7.09ユーロ ― ドイツの公式な家庭用電気料金(1キロワット時あたり40.55セント)で計算した値だ。1日4時間としても、それぞれ8.88ユーロ、28.35ユーロにしかならない。「ローカルAIは電気代のせいで割に合わない」という議論は、これで棚上げになる。決め手になるのはもっぱら購入価格だけだ。

ほとんど誰も書き出さない計算

そしてその購入価格が、あなたにとって不利に働く。

555.85ユーロは ― 取得日時点のレートで換算すると ― Gemini 3.5 Flash-Liteで約2億5300万出力トークンに相当する。Claude Haiku 4.5では1億2600万、Claude Sonnet 5でも6300万、GPT-5.6 Solでも2100万トークンだ。

これが何を意味するか、じっくり考えてみてほしい。1日に5,000トークンを生成する人 ― これはすでにかなり集中的な日常利用だ ― が2億5300万トークンを使い切るには、計算上約138年かかることになる。

損益分岐点で表すと: 月々10ユーロのAPI利用であれば、入門用カードは約71か月、つまり6年で元が取れる。25ユーロなら2年強。月50ユーロになって初めて、12か月弱と現実味を帯びてくる。5090の場合、月50ユーロでも約8年かかる。

ローカルAIは、財政的にはほぼ安い選択にはならない。「長い目で見ればお金が節約できる」という理由づけをする人は、たいてい計算を間違えている。買うとすればデータ主権のためだ ― それは本物の価値ではあるが、種類が違う価値だ。

正直な例外がひとつある。コンプライアンス上の理由でどのみち欧州域内でのデータ保管(データレジデンシー)が必要な場合、米国の大手2社ではちょうど10%の割増料金がかかる ― OpenAIは「a 10% uplift」と呼び、Anthropicは係数1.1としている。これで計算は多少動くが、劇的に変わるわけではない。

性能差 ― そして数字に仕込まれたトリック

ここは多くのことが混同されがちで、その違いが決定的に重要だ。

「オープンモデルはほぼ追いついた」というのは正しい ― Artificial AnalysisのIntelligence Indexでは、Kimi K2.6とMiMo V2.5 Proが54ポイント、DeepSeek V4 Proが52ポイントで、トップのGPT-5.5の60ポイントに対抗している。1年前は、この差はもっとずっと大きかった。

「これを自宅で動かせる」というのは、別のモデルについての別の主張だ。Kimi K2.6は1兆パラメータを持つ。DeepSeek V4 Proは1.6兆だ。これらはデータセンター向けのモデルだ。オープンではあるが、だからといってあなたのグラフィックカードで動くわけではない。

実際に1枚のカードに収まるものは、もっと後方に位置している。Qwen3.6-27Bは指数37ポイント ― そのサイズクラスでは1位だが、60に対して37という水準だ。gpt-oss-20bは15ポイントにとどまる。

そしてブラインド比較による裏付けは、さらにはっきりしている。LMArenaのランキングでは、トップ15にオープンモデルは1つも入っていない。最も優れたオープンモデルでも29位だ。

公平のために付け加えると、このアリーナの手法については文書化された批判がある(「The Leaderboard Illusion」)。理由の一つは、データのかなり大きな割合が少数の商用プロバイダーに偏っていることだ。ただしこの批判自体、あるモデルプロバイダーに近い立場の著者によるものでもある。両方を並べて見るべきだ。

私の結論はこうだ。要約、言い換え、構造化、簡単なコーディングであれば、24GBカードで動く27Bモデルで十分すぎるほどだ。だが難しいケース ― 長い思考、入れ子になったタスク、エージェント的な作業 ― では、その23ポイントの差をすぐに実感することになる。

「ローカル」がローカルでない場所

ここは、都合が悪いという理由でどのガイドも書かない部分だ。

**Ollamaの標準呼び出し。**前述の通り、v0.32.0以降 ollama はクラウドモデルでエージェントを起動する。クラウドモデルはローカルモデルと同じライブラリ一覧に並んでおり、区別はタグの末尾だけだ ― gemma4:31b は手元で動くが、gemma4:31b-cloud は動かない。たった1文字の違いだ。

エージェント内のWeb検索はOllama自身のサーバーを経由し、アカウントとAPIキーを要求する。

**純粋にローカルで使っていても、メタデータは発生する。**Ollamaのプライバシーポリシーはそこをきちんと分けている ― コンテンツはローカルでは収集されない、と明記されている:「We do not collect, store, transmit, or have access to your prompts, responses, model interactions, or other content you process locally.」だがデバイス情報と利用状況のメタデータは収集される。

LM Studioはテレメトリーを行わないと明言しつつ、同時にインターネットが必要な5つの機能を包み隠さず挙げている: モデル検索、モデルのダウンロード、カタログ統計、ランタイムのダウンロード、アップデート確認。これは模範的なやり方だ ― 境界線がドキュメントに書かれている。

そして、最もよく知られたモデルの一つでは、主権を取り戻すための最初の一歩が身元情報の提供だ。「オープン」なLlama 4の重みをダウンロードするために、Metaは本名(法的氏名)と生年月日を要求する。そもそもLlamaのライセンスはオープンソースライセンスではない ― 月間アクティブユーザーが7億人を超える場合、Metaに許可を求めなければならず、それはMetaの裁量で与えられるものだ。

ライセンスを重視するなら、どのモデルを選ぶべきか

「オープン」が本当にオープンであることを意味するなら、ライセンスこそが最初の判断基準になる ― そしてここには、古いガイドのほとんどがいまだに誤って書いている変化がある。

Gemma 4は2026年3月31日のリリース以降、Apache 2.0の下に置かれている ― ライセンスページには完全な、変更されていない条文が掲載されている。それ以前のGemmaの世代はすべて、Googleが遠隔から利用を制限する権利まで留保していた制限的な独自ライセンスだった。Gemma 3以前については、それが今も変わらず適用される。「Gemmaには独自ライセンスがある」と書いてあるガイドを読んでいるなら、それは古いガイドだ。

Qwen3.6-27Bは追加条項のない、そのままのApache 2.0の下にあり ― 同時にそのサイズクラスで最も強力なモデルでもある。24GBカード向けに一つ勧めるとすれば、これになる。

gpt-oss-20bも同じくApache 2.0の下にあり、モデルカードによれば明確に16GB向けに設計されている ― 入門用カードで最も気楽に始められる選択肢だ。

その代わりに失うもの

宣伝文句にならないよう、ここで正直な代償を挙げておく。

**速度。**入門用カードはデータセンターではない。長いコンテキストや長い思考のときは、待たされる。

**能力。**37対60という指数ポイントの差は、丸め誤差ではない。難しいタスクでは、あなたのローカルモデルの出来は劣る。

**メンテナンス。**ドライバー、量子化、モデルのアップデート、壊れた依存関係。これは、APIを使う場合なら誰も請求してこない作業だ ― 誰か他の人がやってくれているからだ。

**そして、私には埋められなかった空白がひとつある。**ダウンロードしたモデルの重みが出所について暗号学的に検証されるかどうか、OllamaとLM Studioの公式ドキュメントのどこにも記述を見つけられなかった。自分のマシンで実行するファイルについて、これは本来欲しかった情報だ。

私の結論

お金を節約するためにグラフィックカードを買うのはやめたほうがいい。その計算はほぼ成り立たないし、それとは違う計算を見せてくる人がいたら、あなたの利用量かカードの価格のどちらかを都合よく盛っている。

買う価値があるのは、特定のテキストが自分の手元から出ていかないことに意味がある場合だ ― 依頼者のデータ、患者のデータ、原稿、契約書など、「これは今どこにあるのか」という問いに本当の答えが必要なものすべてだ。その目的においては、ローカルAIは安い選択肢ではなく、唯一のすっきりした解決策になる。連鎖の中に第三者がまったく存在しなくなるからだ。

始めるなら、小さく始めるといい。16GBカードに gpt-oss-20b か、中サイズのGemma 4を入れて、1週間、自分が実際に何を使っているのかを正直に観察してみよう。そのあとなら、24GBカードに価値があるかどうかがわかる ― 前もって当てずっぽうで決めるよりずっといい。

その周辺のツールについては、私が随時更新している137のAIツール一覧にまとめてある。商用モデルのどれが何に向いているかは、ChatGPT・Claude・Geminiの比較を参照してほしい。

出典

すべて2026年7月24日に確認済み。価格、モデルの状態、ライセンスは変化する。ハードウェア価格は取得日時点の小売価格。

ここに書かれている内容が古い、あるいは間違っていると感じたら: 連絡してほしい。