目次

Strataは、Windows・Linux・Macの一般的なPCでローカルLLMを動かし、OpenAI・Anthropic互換APIとしてlocalhostに公開するオープンソースのツールだ。導入は手軽だが、掲載されている速度は開発元の計測値なので、自分のPCで同じ数字が出るかは試すまで分からない。

要点#

  • デスクトップアプリとターミナルの両方から使え、アカウント登録は不要とされている。
  • ローカルAPIがOpenAI・Anthropic互換なので、Claude CodeやCodex CLIを接続先に指定できる。
  • DeepSeek系の大型モデルは、メモリに入らない分をSSDから読むため、250GB以上の空きディスクが要る。
  • 速度表はStrata 0.2.5で計測されたもので、配布中の0.2.6と条件が同じかは書かれていない。
  • 「Qwen3.8-Flash-Next」の性能は、この資料以外に裏付けを確認できていない。

何ができるか#

中核は、モデルを読み込んで推論を回すエンジンと、それをlocalhostのAPIとして外に出す仕組みだ。デスクトップ版はチャット、ファイル、ライブプレビューを一つの画面にまとめている。ターミナル派はstrata launchで同じことができる。

対応ツールとして名前が挙がっているのは、Claude Code、Codex CLI、OpenCode、Hermes Agentなどだ。接続方法はstrata connectで表示される。ただ、API形式が合うことと、各ツールで実用的に動くことは別の話で、後者は個別に試すしかない。

導入の流れ#

Linux・Macなら次のコマンドでインストールし、モデルを起動する。Windowsは公式のinstall.ps1を実行して、新しいターミナルを開き直してからstrata launchを叩く。

install-strata.sh
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh
sh install.sh
strata launch

初回起動時、アプリはグラフィックボードに合ったエンジンを追加でダウンロードする。モデルはISTA-DASLab版が推奨とされ、Unsloth版やQwen3.6-35B-A3Bも選べる。どれが自分のPCに収まるかは、ページの比較表で容量とメモリ要件を確認してから決めるのが筋だ。

数字の読み方と注意点#

掲載の実測値は、RTX 5070(12GB、RAM 64GB)で出力4〜6トークン/秒、RTX 3060(12GB、RAM 46GB)で9〜11トークン/秒。どちらも2.00 bpw版のDeepSeek系での値だ。出力4トークン/秒台は、読みながら対話するにはかなり遅い。

注意すべき点は三つある。計測はStrata 0.2.5で行われており、現行の0.2.6で同じ数字が出る保証はない。計測者は開発元で、プロンプト長や温度などの条件が詳しく書かれていない。そして2.00 bpw版は本体だけで約257GB、空きは約265GBを必要とする。

ライセンスも分けて考える必要がある。Strata本体はMITだが、モデルには別のライセンスが付く。商用利用の前に、各モデルのライセンスを読むこと。

次の一歩#

手元のPCでGPU型番、RAM容量、空きディスクを確認し、上の数字と照らし合わせる。空きディスクが候補モデルの必要量を下回るなら、DeepSeek系は外してstrata launchからQwen3.6-35B-A3Bを選び、普段のコーディング作業を一つ任せてみる。

出典: https://github.com/Niko1221/Strata

目次