目次
はじめに —— なぜせっかく導入したローカルLLMは「3日」で埃をかぶるのか

「これでサブスク制限から解放される!」と歓喜した初日、そして3日後の沈黙
「よし、統合メモリ64GBのMacを買ったぞ。これで毎月のように跳ね上がるAPI課金や、クラウドLLMの『週間クォータ上限』に怯える日々ともおさらばだ!」
そんな期待に胸を膨らませながら、Apple MLXやOllama、LM Studioをセットアップし、20B〜30Bクラスの優秀なオープンウェイトLLMを手元のMacにダウンロードした経験はないだろうか。ターミナル上でモデルが毎秒30〜45トークンの軽快な速度で日本語を吐き出した瞬間、「これなら普段の業務バッチも全部ローカルでタダで回せるじゃないか!」と誰もが一度はガッツポーズをする。
ところが、それから3日後——。あんなに意気込んで導入したはずのローカルLLMは、なぜかほとんど使われなくなり、人は元のクラウドLLM(Gemini、Claude、ChatGPT等)の画面へそっと戻っていく。そして大容量の64GBメモリは、再びただの「贅沢なブラウザタブ置き場」と化すのである。
なぜそんなことになるのか。実際に自分の業務データをローカルLLMに放り込んでみた人なら、「ああ、そうそう!」と思わず膝を打つ苦い記憶があるはずだ。
- Webページの生テキストを貼って「ここから必要な項目だけ抜いてJSONにして」と頼んだら、15件目の途中で出力トークン上限に達してブツッとJSONが切れ、パースエラーでスクリプトが止まる。
- 「プログラムで読み込むから、Markdownコードブロック以外の挨拶や解説は絶対に出すな」と念を押したのに、「はい、承知いたしました!抽出結果は以下の通りです😊」と笑顔で前置きを付けてきて機械処理がコケる。
- ちょっとした件数集計や割合の計算を一緒に頼んだら、もっともらしい顔をして足し算やパーセンテージを微妙に間違える。
- 結局、「あーもう、これなら最初からClaudeかGeminiに投げた方が一発で終わるわ!」とターミナルを閉じてしまう。
「無料で24時間使い放題」という圧倒的なメリットがあるにもかかわらず、ローカルLLMが実務の主役になれない理由はただ一つ。「0→1の仕様設計や前処理エンジニアリングを伴わないまま、人間(あるいは上位ジョブ)がローカルLLMを『単独』で直接叩こうとするから」である。
先に結論:人間が直接介護するのをやめ、細胞単位の『マイクロオーケストレーション』を組む
クラウドのフロンティアモデルは、未整理の生データや「いい感じにまとめておいて」という雑な指示をそのまま投げても、モデル自身の高い基礎知能(0→1の構造化能力)によってノイズを捨象し、空気を読んで期待通りの出力を返してくれる。しかし、それと同じ感覚で20B〜30BクラスのローカルLLMを単独で直接使おうとすれば、人間側が前処理とエラー処理の「介護係」になるしかなく、すぐさま挫折する。
ローカルLLMの真価を引き出すための正解は、人間が手作業でローカルLLMの面倒を見ることではない。システム全体のジョブ配分を司るマクロ・オーケストレーションの下位層に、委任された個別タスクを現場単位で自律完遂する『マイクロオーケストレーション(Micro-Orchestration)』の機構を組み込むことだ。
本稿では、筆者が運用する自律業務基盤(AIBizOps)において確立したマイクロオーケストレーションの全体像と、その中核を成す4つの構成要素を定義する。以下の4要素を1つの自律パッケージとして動かすことで、人間の介入を減らし、データ読解・構造化・要約などの実働推論をローカルへ移せるようになる。
- 第1要素(組織構造):Master & Servants 編成(1 Cloud Master × Multiple Local Servants) —— 0→1の仕様策定・前処理コード生成・例外対処を担う1人のクラウド主人(Master)と、定型実務の反復実行に特化した複数のローカル従者(構造化・算数の27Bモデルおよび散文・HTML・視覚の31Bモデル)を主従ユニットとして組み合わせる。
- 第2要素(データ変換):決定論的Python前処理&スキーマブリッジ —— Masterが自らのコンテキストで生データを直接処理する代わりに、正規表現によるノイズ除去・確定数値の算出を行うPython前処理コードと、一意なJSONスキーマ定義を生成してローカル従者へ橋渡しする。
- 第3要素(実行制御):GPU排他ロック(flock)とバッチ分割・差分サルベージ制御 —— 複数ローカルモデルの統合メモリ競合を防ぐカーネル排他ロック直列化と、出力トークン上限切れを自動検知して完了分を救出・差分再走させる制御ループを組み込む。
- 第4要素(品質検収):Master別の監督特性と最終検収ゲート —— クラウドMasterごとの監督特性(工場長型のGemini 4 Argon、鬼編集長型のClaude Opus 5.5、堅物SE型のGPT-6 / Codex)に応じて外注スクリプトと検収ゲートを制御し、約100名規模の公開プロファイル・活動実績データベース構築においてAI推論実働の100%オフライン完遂を実証した。
ローカルLLM(Servants)の単独・直接運用が破綻する3つの構造的理由
理由1:0→1の設計知能(Part 1:0点)と定型実務力(Part 2:10〜11点)の極端な非対称性
なぜローカルLLMを単独で直接使うと「なんだか使えないな」と感じてしまうのか。その理由は、クラウドの最上位モデルとオンデバイスの20B〜30Bモデルの間に横たわる能力分布の極端な非対称性をデータで見ると一目で納得できる。
当ブログで継続計測している主要LLM・エージェント実務ベンチマーク比較一覧(全10問・30点満点)において、最上位のクラウドモデル3種と、手元のMac上で稼働するオンデバイスモデル2種(Perplexity Computerの解剖記事で抽出した27Bモデル、および新たに追加検証した31Bモデル)を比較した実測スコアが次の表である。なお、表中の「JD(Job Description)」とは、AIBizOps 2軸評価フレームワークで定義している6つの専門職種区分(JD-1A:全体統括・オーケストレーター職、JD-2B:ファクト・構造監査職、JD-3:筆頭ライター・深掘り分析職など)を指している。
| モデル名(実行形態) | Part 1:基礎地頭5問 (15点満点 / 秒) | Part 2:実務・自律5問 (15点満点 / 秒) | 総合得点 (30点満点 / 合計秒) | アーキテクチャ上の役割と特性 |
|---|---|---|---|---|
| Gemini 4 Argon (Medium) (クラウドMaster) | 15 / 15 点 (378.4s) | 15 / 15 点 (100.3s) | 30 / 30 点 (478.7s) | 全体設計・仕様策定・スクリプト生成を担う万能の主人(全体統括職 JD-1A 首位) |
| Claude Opus 5.5 (クラウドMaster) | 12 / 15 点 (154.4s) | 13 / 15 点 (92.0s) | 25 / 30 点 (246.4s) | 高度な文脈理解・散文指導・一次資料深掘りに優れる職人型主人(専門執筆職 JD-3 首位) |
| GPT-6 Astra (クラウドMaster) | 13 / 15 点 (301.4s) | 12 / 15 点 (96.2s) | 25 / 30 点 (397.6s) | 厳密なスキーマ定義・エラー処理・長文検証に強い堅実型主人(構造監査職 JD-2B / 専門執筆職 JD-3) |
| Qwen 3.8 27B RFT MLX (ローカルServant 1) | 0 / 15 点 (326.3s) | 11 / 15 点 (278.9s) | 11 / 30 点 (605.2s) | API消費0%。パズル・検索は0点だが定型JSON抽出と算数検収で11点を叩き出す前衛 |
| Gemma 4 31B QAT 4bit MLX (ローカルServant 2) | 0 / 15 点 (710.3s) | 10 / 15 点 (454.1s) | 10 / 30 点 (1164.4s) | API消費0%。12箇条HTML整形(87.4s)とPython障害特定(57.9s)で満点を取る散文・視覚の副官 |
この表を見ると、思わず笑ってしまうほど極端なコントラストが浮かび上がる。オンデバイスの27Bモデル(Qwen 3.8 27B)も31Bモデル(Gemma 4 31B)も、未知の論理パズルを解いたり断片情報から推論を組み立てたりする「Part 1:基礎地頭5問」では、揃いも揃って15点満点中0点なのだ(なお、Gemma 4 31Bで推論思考モードをオンにすると1点だけ獲得するが、実務パートの所要時間が454.1秒から817.0秒へと1.8倍に膨張するため、実務標準は思考オフとしている)。
つまり、ローカルLLMに「雑多な生データから0→1で構造を設計しろ」とか「途中でエラーが出たら自分で考えてリカバリしろ」と求めるのは、そもそも酷な話なのである。ところが、「Part 2:実務・自律5問」に目を移すと景色が一変する。明確なスタイル規程や整形済みの入力データを与えられた状態での実務処理において、Qwen 27Bは15点満点中11点(商用クラウドのClaude Sonnet 5.5と同点)、Gemma 4 31Bも10点(特に第1問の12箇条HTML整形では87.4秒で3点満点、第5問のPythonサイレント障害特定ではQwen 27Bの約半分となる57.9秒で3点満点)を叩き出している。
ローカルLLMは「ゼロから設計図を描く建築家(Master)」ではない。「確定した設計図と、寸法通りに切り揃えられた木材さえ渡せば、文句ひとつ言わず24時間タダで正確に組み立て続ける熟練の職人(Servant)」なのである。
理由2:AIで楽をするはずが、人間が「ローカルLLMの下ごしらえ係」として残業する本末転倒
では、Part 1が0点のローカルLLMに、Part 2の10〜11点の実務力を100%発揮させるには何が必要か。実際のデータ処理現場では、推論エンジンを叩く前に以下の3つの「下ごしらえ(前処理と制御)」が不可欠になる。
- 決定論的な入力ノイズ洗浄:Webから取得した生HTMLや長大なテキストをそのままローカルLLMに流し込むと、ナビゲーションメニューやフッターのゴミ情報に引きずられて抽出精度がガタ落ちする。正規表現やキーワード窓(前後数十文字のスライス)を使って、1レコードあたり数百文字の「美味しいところだけ」に事前圧縮してやる必要がある。
- 一意なJSONスキーマと禁止事項の明文化:「いい感じに要約して」ではローカルLLMの出力形式は毎回ブレる。出力キー名、選択肢(Enum)、文字数レンジ(例:50〜90字)、欠損時の表記、そして「コードブロック以外の挨拶文は一切出力するな」という制約を1ミリも曖昧さなく定義しなければならない。
- 出力トークン上限を見越したバッチ分割と例外リカバリ:数十件のデータを一括でJSON出力させると、出力トークン上限に達した箇所でJSON配列が途切れる。1バッチあたり8〜14件程度に小分けしてループを回し、万一途中で切れた場合も完了済みオブジェクトを救出して差分だけを再実行するラッパーコードが必要になる。
ここで誰もが直面するのが、「AIで楽をするはずだったのに、なぜ人間である自分が夜なべして正規表現を書き、プロンプトを微調整し、途切れたJSONを手作業でつなぎ合わせる『ローカルLLMの介護係』をやっているのか?」という虚しさである。「無料モデルの介護に人間が1時間かけるくらいなら、最初からクラウドの最上位モデルに生データを投げて3分で終わらせた方が圧倒的に安いし早い」——この下ごしらえコストの逆転現象こそ、ローカルLLMの単独運用が3日で破綻する最大の理由だ。
理由3:1つのローカルモデルでは「算数」と「美しい日本語」が両立しない
さらに第3の壁として、「1種類のローカルLLMだけですべての実務工程を高品質に完結させることはできない」というリアルな悩みがある。
実際に使ってみるとすぐ分かるのだが、JSONスキーマの厳守や数値の扱いに強いモデル(Qwen 3.8 27B)に長めの人物紹介やエッセイを書かせると、どこか翻訳調でゴツゴツした硬い日本語になりやすい。逆に、驚くほど自然で艶のある日本語散文やHTML整形を書いてくれるモデル(Gemma 4 31B)に「全74日のうち何日出席したかパーセンテージを計算しながら要約して」と頼むと、今度はあっけらかんと算数を間違える。
高い完成度を得るには複数のローカルモデルを工程ごとにリレーさせる必要があるが、27Bモデル(約17GB)と31Bモデル(約18GB)をMacの統合メモリ上で無秩序に同時起動すれば、たちまちメモリが溢れてスワップ地獄に陥る。だからこそ、人間ではなく「クラウドの賢い主人(Master)」に前処理コードもスキーマ定義も複数ローカルモデルのメモリ排他リレーも丸ごと組ませる上位の制御体系が必要になるのだ。
マクロの下位層を担う『マイクロオーケストレーション』と4つの構成要素
全体統括(Macro-Orchestration)と現場自律ユニット(Micro-Orchestration)の階層分離
筆者はこれまで、AIBizOps 2軸評価マトリクス(4層システムレイヤ × 6大JD)やAI大奥外伝7において、組織全体のジョブスケジューリングや複数クラウド間の役割分担(全体設計・定時運用統括・独立監査・専門執筆)を司る「マクロ・オーケストレーション(Macro-Orchestration)」を論じてきた。
これに対し、本稿で定義する「マイクロオーケストレーション(Micro-Orchestration)」とは、マクロ・オーケストレーションから委任された個別タスク(あるいは定時バッチの単一ジョブ)を、現場の最小単位(細胞ユニット)で自律完遂するための局所制御アーキテクチャである。
ここで整理しておきたいのは、「Master & Servants(主人と従者)」はマイクロオーケストレーションを構成する一要素(組織構造)であるという包含関係だ。Master & Servants という主従編成に、データ変換・実行制御・品質検収のエンジニアリング機構が組み合わさった4つの構成要素の総体としてマイクロオーケストレーションが機能する。以下、4つの構成要素を順に見ていこう。
構成要素1:『Master & Servants(1 Cloud Master × Multiple Local Servants)』の主従編成
第1の構成要素は、モデルの能力非対称性を前提とした「1人のクラウド主人(Cloud Master)× 複数の専門ローカル従者(Multiple Local Servants)」の主従ユニット編成である。
上位からタスクを受け取ったクラウド主力LLM(Gemini 4 Argon、Claude Opus 5.5、GPT-6 / Codex等)が「主人(Master)」となり、Part 1とPart 2の双方で高得点を持つ自らの頭脳は「仕様設計・前処理スクリプト生成・最終検収」のみに使う。そして実際のデータ読解とテキスト生成という一番トークンを食う反復実働は、足元に常駐する複数のローカル従者(Servants)に分業させる。
現在、筆者の母艦Mac(M4 Pro / 統合メモリ64GB)で稼働している2つのローカル従者モデル(筆者の環境では、構造化・算数担当の27Bに「ツバメ」、散文・視覚担当の31Bに「ヒスイ」という役割コードネームを付与してCLIラッパー化している)の実測スペックと役割分担を整理したのが次の表である。
| 比較項目 | ローカル従者1:Qwen 3.8 27B RFT MLX(ツバメ) | ローカル従者2:Gemma 4 31B QAT 4bit MLX(ヒスイ) |
|---|---|---|
| ベース構造とメモリ消費 | 64層フル密度27B・4bit量子化+MTP高速化(約17GB) | オープンウェイト31B・QAT 4bit量子化VLM(約18GB) |
| ベンチマーク実務得点(Part 2) | 11 / 15 点(所要278.9秒・MTPによる高速出力) | 10 / 15 点(所要454.1秒・Q1 HTML 87.4s満点 / Q5 57.9s満点) |
| 最大の強み(専権領域) | 厳格なJSONスキーマ出力、事実主張(Claim)全件抽出、数値・算数規律の遵守 | 自然で品格ある日本語散文の執筆・推敲、Gutenberg HTML整形、ネイティブVision画像検収 |
| 弱点(禁止領域) | 長めのエッセイや人物要約を書かせると文体がやや硬く単調になりやすい | 多段の四則演算やポイント還元率・出席率の暗算をさせると丸め誤差や計算ミスを出しやすい |
| マイクロオーケストレーションでの役割 | Step 1:雑多な生テキストから属性・経歴・分類タグを構造化JSONとして正確に抽出する前衛 | Step 2:確定済みの数値リード文を受け取り、品格ある報道調の活動要約やHTMLへ昇華する後衛 |
人間が面倒がってやりたがらない「ローカルモデルごとの得意・不得意に合わせたプロンプトの書き分け」も、クラウドのMasterに任せれば数十秒でコード化してくれる。構造化に強い27Bと散文・視覚に強い31B(さらに用途に応じて音声認識やコード特化モデルなどN個のローカルモデル)をMasterが適材適所で組み合わせることで、クラウド単独処理に匹敵する品質をオフラインで実現する。
構成要素2:決定論的Python前処理&スキーマブリッジ(算数と散文の完全分離)
第2の構成要素は、Master自身が書く「決定論的Python前処理とJSONスキーマによる橋渡し(ブリッジ)」である。
Masterは、生のHTMLや長大なログを自分のコンテキストウィンドウへ読み込まない。対象データの構造サンプル(先頭1〜2件)だけを最小限確認すると、直ちにPythonスクリプトを生成し、正規表現によるキーワード周辺スライス(ノイズ除去)と、件数・比率・合計値などの決定論的な数値計算をコード側で完結させる。
とりわけ徹底しているのが、「散文と視覚に秀でた31B(ヒスイ)には、絶対に細かい算数・四則演算を暗算させない」という分離原則である。数値の集計やパーセンテージ算出はPythonコードまたは27B(ツバメ)で先に100%確定させ、31B(ヒスイ)には「確定済みの数値リード文を一字一句そのまま先頭に使った上で、続く文で活動内容を品格ある報道調散文にまとめよ(自分で数値の計算は絶対にするな)」という厳格なスキーマブリッジを渡す。これにより、ローカルモデルの弱点である計算ミスやフォーマット崩壊を構造的に遮断する。
構成要素3:GPU排他ロック(flock)とバッチ分割・差分サルベージ制御
第3の構成要素は、オンデバイス環境固有の物理制約を吸収する実行制御(Execution Control)である。ここには2つの仕組みが含まれる。
1つ目は、Apple Siliconの統合メモリ(64GB)を守るカーネル排他ロック直列化だ。Perplexity Computerの改良ハーネス記事で導入したカーネルレベルのファイル排他ロック(fcntl.flock)を、27B(約17GB)と31B(約18GB)の全推論ラッパーで単一の共通ロックファイルとして共有させている。これにより、Masterがスクリプト内で「27Bによる構造化 ➔ 31Bによる散文生成」を順番に呼び出す際も、あるいは裏で定時ジョブが同時に走った際も、OSカーネルがミリ秒単位で直列制御を行い、メモリスワップを完全に防ぐ。
2つ目は、小バッチ分割と出力切れ時の差分サルベージ制御である。ローカル推論では1回の出力トークン上限(4,000〜8,000トークン)を超えるとJSON配列が途中で切断されるため、Masterは最初から対象データを8〜18件程度の小バッチに分割して投入する。さらに万一途中で出力が切れた場合も、最初から全件をやり直すのではなく、完了済みのJSONオブジェクトまでを正規表現で救出(キャッシュリカバリ)し、未完了のレコードだけを再実行する自己修復ループをスクリプト内に組み込む。
クラウドMasterが実際に生成するオーケストレーションスクリプトの最小骨格(排他ロック直列化・完了オブジェクトの正規表現サルベージ・確定リード文ブリッジの2段リレー)を示すと、以下のような構造になる。
def run_micro_orchestration(records: list[dict]) -> dict:
structured, summaries = {}, {}
# Step 0: Python前処理(ノイズ除去&数値リード文の確定)
for r in records:
r["bio"] = slice_keywords(r["raw_text"], window=40)
r["lead"] = format_fixed_lead(r["talks"], r["rate"])
# Step 1: 従者1(Qwen 27B)構造化+出力切れサルベージ
for batch in chunked(records, size=8):
with gpu_exclusive_lock(): # fcntl.flock 排他制御
out = run_local("qwen-27b", schema_prompt(batch))
for m in re.finditer(JSON_OBJ_RE, out, re.DOTALL):
item = json.loads(m.group(0))
structured[item["id"]] = item
# Step 2: 従者2(Gemma 4 31B)散文昇華(算数は禁止)
for batch in chunked(records, size=18):
with gpu_exclusive_lock():
prompt = prose_prompt(batch, structured)
prose_out = run_local("gemma4-31b", prompt)
for item in json.loads(extract_json(prose_out)):
assert item["text"].startswith(item["lead"])
summaries[item["id"]] = item["text"]
return {"structured": structured, "summaries": summaries}
構成要素4:Master別の監督特性制御と最終検収ゲート
そして第4の構成要素が、クラウドMasterによる出力検収ゲート(Verification Gate)である。ローカル従者が全件の生成を終えた後、レコード件数の一致、必須キーの欠落有無、文字数レンジ、および確定数値リード文の改変有無をスクリプトで機械検収し、異常があるレコードのみを再生成または補正して完了とする。どのクラウドLLMをMasterに据えるかによってこの監督スタイルが大きく異なる点については、第5章で詳しく比較する。
実戦検証:約100名規模の人物プロファイル・活動実績DB構築に見る「クラウド推論コスト90%超削減」の全工程
課題設定:3グループ計95名(総計117名)の公開プロファイルと定例活動記録の構造化
このマイクロオーケストレーションの4要素が実戦でどう機能するかを具体的に見てみよう。検証の題材は、ある専門領域における約100名規模(先行グループ22名に続く、グループA:28名・グループB:31名・グループC:36名の計95名、全4グループ合計117名)の公開プロファイルおよび活動実績可視化データベースを構築したプロジェクトである。
公式の記録システムや公開プロフィール集、個人の公式Webサイト・SNSから収集した生データは、HTMLタグの残骸、表記ゆれ、何十ページにも及ぶ期ごとの活動履歴リストが混在しており、これを1人ずつ以下の2種類のデータへ変換する必要があった。
- 属性・経歴と関与度ティアの構造化JSON:生年月日や年齢、活動拠点、学歴・専門バックグラウンドの履歴、職歴や所属役職の要約、注力分野タグ3つを抽出する。あわせて対象領域での実績や関わりの深さに応じて4段階のティア(Tier 1〜Tier 4)を判定し、一覧表示用の分類バッジを生成する。
- 定例活動実績と人物要約散文:全14期の定例会合における発表回数(代表発表・一般発表の内訳)、および公開記録全74回における出席日数と出席率を1桁の狂いもなく記載した上で、所属部門での役割や主要な活動テーマを100〜155字の品格ある報道調散文にまとめる。
もしこれを従来のやり方で、クラウドの最上位LLMのコンテキストに生データを次々と放り込んで処理させていれば、1人あたり数万字の生HTMLと活動記録リストを読み込ませるだけで数百万トークンが蒸発し、クラウドの週間クォータの大半をこのデータ整理だけで使い果たしていたはずである。
工程解剖:Master(Gemini 4 Argon)が書いた発注スクリプトと、2人のローカル従者による100%オフライン量産
そこでこのタスクにマイクロオーケストレーションを適用し、Gemini 4 Argon(Antigravity)をクラウドMaster、Qwen 3.8 27B(ツバメ)とGemma 4 31B(ヒスイ)をローカルServantsとして処理を実行させた。
人間がやったことは「先行グループと同じ品質基準で、グループA〜Cの95名分のデータベースを構築して」とMasterに頼んだだけである。するとMasterであるArgonは、自ら生データを読み込む代わりに、わずか140〜200行のPythonオーケストレーションスクリプト(グループA用141行、グループB用200行、グループC用191行)を書き上げた。その内部で実行された3段階のパイプラインと、各グループにおける実測処理データをまとめたのが次の表だ。
| 対象データ群 (対象人数) | Step 0:MasterによるPython前処理・数値確定 | Step 1:従者1(Qwen 27B)によるJSON構造化 | Step 2:従者2(Gemma 4 31B)による活動要約散文生成 | クラウドLLMの推論クォータ消費 |
|---|---|---|---|---|
| グループA (対象28名) | 生テキストから経歴キーワード前後窓(最大160字)を正規表現抽出し、全14期の発表回数・74日分の出席率リード文をPythonで確定 | 14名×2バッチに分割し、温度0.1・思考オフで経歴ステップ・4段階ティア・属性JSONを出力 | 全28名分の確定リード文と活動トピックを入力し、温度0.2で100〜140字の報道調要約を一括生成 | スクリプト作成1回のみ(データ読解・生成のクラウド消費 0%) |
| グループB (対象31名) | 公式記録とHP抜粋を1人あたり数百バイトへ凝縮し、発表回数内訳と出席率リード文をPythonで確定 | 出力切れ防止のため8名×4バッチ+キャッシュ自動復旧ロジックで31名分の構造化JSONを完遂 | 全31名分の確定リード文を先頭に固定し、110〜150字の報道調要約をIDキー付きJSON配列で一括生成 | スクリプト作成1回のみ(データ読解・生成のクラウド消費 0%) |
| グループC (対象36名) | 4段階ティア(Tier 1〜4)の判定境界と除外条件を厳密定義し、定例活動実績リード文をPythonで確定 | 9名×4バッチに分割し、36名全員の専門バックグラウンド・所属役職・注力タグJSONを出力 | 18名×2バッチに分割し、確定リード文一字一句維持のまま110〜155字の報道調要約を生成 | スクリプト作成1回のみ(データ読解・生成のクラウド消費 0%) |
前章で定義したマイクロオーケストレーションの4要素が、このスクリプト内でどのように噛み合ったかを具体的に見てみよう。
まず第2要素(決定論的Python前処理&スキーマブリッジ)として、Master(Argon)は正規表現抽出関数を書き、個人HPやプロフィール集の雑多なテキストから「生年、出身、卒業、専攻、職歴、役職、専門、略歴」といった20個のキーワードの前後20〜45文字だけをスライスして結合し、1人あたりの入力データをわずか数百バイトの高純度なテキストへ事前圧縮した。さらに、定例会合での発表回数や出席率(例:「全14期の定例会合のうち延べ11回[代表4回・一般7回]で発表に登壇[公開記録74日のうち74日で出席確認、出席率100.0%]。」)という1桁の誤りも許されないリード文は、LLMに計算させずPythonコード側で一字一句確定させた。
次に第3要素(GPU排他ロックとバッチ分割・差分サルベージ制御)が威力を発揮した。グループB(31名)のStep 1を実行した際、初回に大バッチでまとめて従者1(Qwen 27B)へ投げたところ、16名分を完了して17人目の途中で出力トークン上限に達してJSONが途切れた。人間ならここで「うわ、また切れた!」と頭を抱えるところだが、Master(Argon)は即座に「完了済みの16名分のオブジェクトまでを正規表現で切り出して救出し、残りの未処理メンバーだけを8名ずつのバッチに刻んで再実行する」差分サルベージ関数を数行で書き足し、続くグループC(36名)では最初から9名×4バッチ(Step 1)および18名×2バッチ(Step 2)の最適分割を採用することで、一発完走を実現した。
そして第1要素(Master & Servants の二刀流分業)により、Step 1では従者1(Qwen 27B)が細かな経歴フィールドや4段階ティアを1ミリのスキーマ崩れもなくJSON化し、GPUロック解放直後のStep 2では従者2(Gemma 4 31B)が確定数値リード文を一字一句維持したまま、専門部門での役職や活動テーマを格調高い報道調の人物サマリーへと昇華させたのである。
創出された成果物とコスト削減インパクト
出来上がった最終構造化データの品質は、最上位のクラウドLLMが1人ずつ直接生成したものと見分けがつかない水準であった。例えばある対象者のデータでは、過去の教育・専門バックグラウンドから現在の所属役職、現場での実証プロジェクトや重点テーマへの取り組み、さらに直近の公式ブログでの発信状況までが正確に構造化され、確定出席率リード文と滑らかに結合された要約散文が出力されている。
この全工程において、クラウドMaster(Argon)が消費したトークンは「最初にデータ構造を確認して140〜200行のPythonスクリプトを書いた分」だけであり、95名分(4グループ117名分)の生データ読解・JSON構造化・要約執筆という一番トークンを食う実働推論は、2人のローカル従者がAPIコスト0円で100%完遂した。クラウドが段取りを組み、ローカルが実働推論を担う分業だ。
どのクラウドLLMを「主人(Master)」に据えるべきか —— 3人のクラウド上司のリアルな指揮官適性比較
3大クラウドMasterの指揮スタイルと「外注力」の比較マトリクス
マイクロオーケストレーションの第4の構成要素である「Master別の監督特性と検収ゲート」について掘り下げよう。複数のローカル従者(Servants)を束ねる「クラウドの主人(Cloud Master)」には、どのフロンティアモデルを据えるのが最適なのか。
これが実に面白いのだが、同じ「ローカルLLM群を使ってデータを構造化・要約せよ」というタスクを委任しても、主人となるクラウドLLMの性格(学習バイアス)によって、部下(ローカル従者)への仕事の振り方には人間の職場の上司そっくりの劇的な違いが現れる。筆者の環境で稼働する3大クラウド主力モデル(Gemini 4 Argon、Claude Opus 5.5、GPT-6系 / Codex)をMasterの席に据えた際の指揮官適性を比較したのが次の表である。
| 評価項目 | Gemini 4 Argon(Antigravity) | Claude Opus 5.5(Claude CLI) | GPT-6 Astra / Sol(Codex CLI) |
|---|---|---|---|
| 上司としてのタイプ | 自動ラインを組んでコーヒーを飲む「スマート工場長 Master」 | 部下の出来に痺れを切らして自分で徹夜する「職人肌の鬼編集長 Master」 | 仕様書と例外処理をガチガチに固める「堅物SE Master」 |
| 生データの扱い(コンテキスト節約度) | 極めて優秀(生データを1文字も自分のコンテキストに入れず、Pythonでファイル間受け渡しを組む) | 要注意(部下の出力が乱れると「俺がやった方が早い!」と自分で生データを全件読み込み始め、週間クォータを溶かす) | 優秀(ファイル入出力ベースで淡々とバッチ処理パイプラインを構築する) |
| ローカル従者へのプロンプト設計 | 構造化と散文の役割分担・温度設定・禁止事項のバランスが最も実戦的 | 散文トーンの指導や文脈のニュアンス伝達は3モデル中で最高峰 | JSONスキーマの型定義や境界条件の指定が極めて厳密(散文指導はやや無機質) |
| エラー・出力切れ時のリカバリ挙動 | 出力切れを検知すると即座にバッチサイズ縮小と差分サルベージ関数を3行書き足して再走させる | 「外注するより自分で書いた方が早い」と判断してローカル呼び出しをバイパスしがち | 最初からリトライ回数やトークン上限、例外キャッチを堅牢に組み込む |
| マイクロオーケストレーション総合適性 | 最適(大規模データ量産・日常統括の第一選択) | 条件付き最適(少数精鋭の長文推敲・最終検収に特化すべき) | 優秀(定型データ変換・厳密なコード改修パイプラインに好適) |
Gemini 4 Argon(Antigravity):生データを1文字も抱え込まず「自動ラインを組むスマート工場長 Master」
マイクロオーケストレーションの主人(Master)として圧倒的な適性を見せたのが、ベンチマーク全体首位(30点満点)のGemini 4 Argon(Medium)である。
Argonの最大の美徳は、「自分が汗をかいてデータを処理するのではなく、ローカル従者が処理するための『自動ベルトコンベア(Pythonスクリプト)』を設計することに徹する」という徹底した工場長マインドにある。前述の約100名規模のデータベース構築でも、Argonは生データのJSONバンドル(数メガバイト)を自らのコンテキストウィンドウで直接開こうとはしなかった。先頭1件の構造だけを確認してスキーマを把握すると、即座に前処理とローカル呼び出しを組み合わせたスクリプトを書き上げ、バックグラウンドジョブとして投げて悠々と完了を待ったのである。
自分がやるべき仕事(0→1の仕様策定とパイプライン構築)と、部下に任せるべき仕事(全件の読解と生成)の境界線を最もクールに引けるという意味で、Argonはマイクロオーケストレーションにおける理想のMasterと言える。
Claude Opus 5.5(Claude CLI):指導と検収は超一流だが「俺が書いた方が早い!」と過労死する鬼編集長 Master
一方、人間の職場を見ているようで思わず苦笑いしてしまうのが、執筆・深掘り分析のエースであるClaude Opus 5.5だ。
OpusをMasterに据えると、ローカルの31Bモデル(ヒスイ)に対する「文章指導プロンプト」の美しさと、上がってきた原稿に対する検収の鋭さは全モデル中で群を抜く。しかし、Opusには生粋の「名職人(鬼編集長)」ゆえの可愛い、しかし運用上は厄介な弱点がある。ローカル従者の出力がトークン上限で切れたり、指定した文字数レンジから少しでも外れたりすると、「ええい、部下に任せておくより俺が直接書いた方が早いし高品質だ!!」とばかりに外注スクリプトを投げ捨て、自分のコンテキストに生データを全件読み込んで自ら徹夜執筆を始めてしまうのである。
日本の職場でも「優秀すぎて部下に仕事を任せられず、全部自分で抱え込んでパンクする中間管理職」がよくいるが、まさにそれと同じ「職人の抱え込み病」がLLMでも起きるのだ(前作の3層ハイブリッドRAG記事で検証した分業境界の裏返しでもある)。これを放置すると、せっかくローカル0円で回すはずだった量産タスクでOpus自身の貴重な週間クォータが一気に溶けてしまう。したがってOpusをMasterにする際は、「いかなる場合も自分自身で全件データを生成してはならない。不備があればローカル向けのプロンプトまたは前処理コードを修正して再実行させよ」と釘を刺すか、Opus自身には「ローカル従者が上げた成果物の最終検収とブラッシュアップ」だけを担わせるのが賢明だ。
GPT-6系 / Codex(Codex CLI):石橋を叩いてスキーマと分割リトライを組む「堅物SE Master」
そして第3の選択肢であるGPT-6 Astra / GPT-6.1 Sol(Codex CLI)は、一言で言えば「仕様書に忠実な堅物システムエンジニア(SE)Master」である。
Opusのように途中で感情的(?)になって自分で抱え込むようなブレは一切なく、JSONスキーマのバリデーションや、バッチ分割のサイズ計算、タイムアウト時の自動リトライといったエラーハンドリングを最初から手堅くコードに組み込む。従者2(31B)への散文指導プロンプトはやや素っ気なくなりやすいものの、大規模なログ解析や構造化データの変換パイプラインを無人で確実に完走させるMasterとしては極めて頼りになる存在だ。
おわりに —— 冗長な中間クラウドツールを排し、「最上位の頭脳 × 足元の無尽蔵な手足」へ純化する
中途半端なクラウド中継層が不要になる日
マクロ・オーケストレーションの下位層にこの「マイクロオーケストレーション(4つの構成要素とMaster & Servants編成)」が確立されたことで、筆者のシステムアーキテクチャにはもう一つの大きな変化が生まれた。「中途半端な中位クラウドモデルや、冗長な中間クラウド実行ツールの廃止」である。
これまでマルチエージェント運用では、「最上位モデルのクォータを温存するために、中位クラスの別クラウドツールや軽量クラウドAPIを間に挟んで下働きをさせる」という多段構成を採ることが多かった。しかし、クラウドの主人(Argon / Claude / Codex)がマイクロオーケストレーションのスクリプトを介して足元のローカル二刀流(27B + 31B)を直接かつ自在に指揮できるようになると、わざわざ外部の別クラウドツールを経由してトークン枠や管理コストを分散させる理由が消滅する。
実際、当環境でもこのマイクロオーケストレーションの確立に伴い、かつて中継層として併用していた外部のエージェント統合ツール等を整理・廃止し、「最上位の3大クラウド知能(Master)が、手元のApple Silicon上で動く無尽蔵のローカル従者群(Servants)を直接動かす」という極めてシンプルで純度の高い2層構造へと回帰した。アーキテクチャから余計な中間クラウドの継ぎ目が消えたことで、中間層の保守箇所を減らし、クラウドには設計と判断、ローカルには反復処理を割り当てる構成になった。
設計知能(Master)と反復実務力(Servants)の非対称性を構造に変える
本稿で提示したマイクロオーケストレーションの要諦を改めて総括する。ローカルLLM(20B〜30Bクラス)は、人間が単独で直接叩いてゼロから課題を解かせるための道具ではない。基礎地頭0点・実務10〜11点というその極端な能力の非対称性は、以下の4つの構成要素が揃ったときに初めて無敵の量産力へと転化する。
- Master & Servants 編成:0→1の設計知能を持つクラウドMaster(1名)と、特性の異なる複数のローカルServants(構造化・算数の27B+散文・視覚の31B)を主従ユニットとして組む。
- 決定論的Python前処理&スキーマブリッジ:ノイズ除去と数値計算はMasterが書いたPythonコードで確定させ、ローカル従者には高純度な入力と一意なスキーマだけを渡す。
- GPU排他ロックとバッチ分割・差分サルベージ:統合メモリ競合をカーネル排他ロックで防ぎ、出力トークン上限切れは小バッチ分割と正規表現サルベージで自動復旧させる。
- Master別の監督特性と検収ゲート:工場長型(Argon)、鬼編集長型(Opus)、堅物SE型(Codex)の特性を踏まえて外注と最終検収を制御する。
もちろん、このアーキテクチャにも明確な適用境界(トレードオフ)がある。わずか数件の単発タスクや、フォーマットに一切の共通性がない完全自由記述の長文読解であれば、MasterにPython前処理を書かせるよりも、最初からクラウドのBatch APIに投げるか、256Kコンテキストを持つ31Bモデルへ全文チャンク渡しする方が合理的だ。マイクロオーケストレーションが圧倒的な投資対効果を発揮するのは、「すでに手元に64GBクラスのMacがあり、数十〜数百件規模の半構造化データ処理や定時バッチでクラウドのクォータ消費を恒常的に削りたい場面」である。
人間がローカルLLMの介護をするのをやめ、クラウドの主人(Master)が指揮するマイクロオーケストレーションの従者(Servants)として再配置する。たったそれだけの構造転換で、3日で埃をかぶっていた手元のMacのローカルモデル群は、クラウドのクォータ消費を9割肩代わりする頼もしい自律量産エンジンへと生まれ変わるはずだ。
あわせて読みたい
- 生成AI交際録(集合ハブ)
- AI交際記録1|ChatGPT
- AI交際記録2|Claude
- AI交際記録3|Gemini
- AI交際記録4|Perplexity
- AI交際記録5|Copilot
- AI交際記録6|Manus
- AI交際記録7|Grok
- AI交際記録8|Suno
- AI交際記録9|Grok Bot
- AI交際記録10|Antigravity
- AI交際記録11|GenSpark
- AI交際記録12|Cursor
- AI交際記録13|Meta Muse
- AI大奥外伝1・立ち上げ篇(役職と席)
- AI大奥外伝2・炎上篇(任命と再配置)
- AI大奥外伝3・復興前夜篇(監視と采配)
- AI大奥外伝4・見習い篇(見習いと七つの門)
- AI大奥外伝5・着任篇(選抜と着任)
- AI大奥外伝6・第2回大運動会篇(実戦5種目と新・総合番付30点満点)
- AI大奥外伝7・総取締役の禅譲と秋の大人事異動篇(壁打ち・全体設計と現場統括の分離、6専門職体制の誕生)
- ローカルLLMは「単独で直接使わない」—— 4つの制御要素と『Master & Servants』編成で回すマイクロオーケストレーション設計論(1 Cloud Master × Multiple Local Servants によるクォータ90%超削減)
- 自前でEvernote環境を構築した話|ScanSnap×Brotherの1.7万件PDFをNotionに移さずAIで0.4秒検索にした全記録(生PDF正本×Apple純正OCR×99MB JSONLシャード)
- 主要LLM 実務&地頭ベンチマーク最新リーダーボード【随時更新】(全10問・30点満点の単一カレントマスター順位表)
- LLMへのジョブディスクリプション(JD)割り当てとAIオーケストレーションの適材適所フレームワーク(2軸JDマトリクス・ベンチマーク v4)
- Perplexityの検索RAG環境をローカルで完全再現した話(オープンソース27B×最小限Web APIの3層ハイブリッドRAG監査基盤)
- Perplexity Computerを解剖して「改良版」を自作した話(Cloud-First決定論的ハーネス)
- 大店モデルとBizAIOps(オーケストレーション)
参考リンク
- Apple MLX Framework(GitHub公式リポジトリ)(Apple Silicon統合メモリ上で27B・31Bの4bit量子化モデルを高速駆動する機械学習フレームワーク)
- Google AI for Developers:Gemini API Documentation(マイクロオーケストレーションの工場長Masterとして首位適性を示したGemini系モデルの公式技術ドキュメント)
- Anthropic Claude Documentation(散文指導と最終検収で最高峰の品質を発揮するClaude系モデルの公式ドキュメント)
- Qwen Official Portal(構造化抽出・算数規律の前衛を担うQwen系列モデルの公式技術ポータル)
FAQ
なぜローカルLLM(20B〜30Bクラス)を単独で直接使うと実務で挫折しやすいのですか?
クラウドの最上位モデルと異なり、20B〜30BクラスのローカルLLMは「0→1の設計推論力(Part 1:基礎地頭)」と「定型実務の遂行力(Part 2:実務・自律)」の間に極端な非対称性があるためです。当ブログの30点満点ベンチマークでも、ローカルの27B・31Bモデルは未知の推論パズル(Part 1:15点満点)が0点である一方、明確な仕様書と整形済みデータを与えた実務処理(Part 2:15点満点)では10〜11点という高得点を記録しました。人間が単独で生のデータを直接投入すると、前処理や出力トークン切れの「介護」に追われて本末転倒になるため、0→1のスキーマ設計と前処理コード生成をクラウドの上位モデル(Master)に担わせる構造が不可欠になります。
「マイクロオーケストレーション」と「Master & Servants」の関係はどう整理されていますか?
「マイクロオーケストレーション」は、システム全体のジョブ配分を司るマクロ・オーケストレーションの下位層において、委任された単一タスクを現場単位で自律完遂するための親概念(局所制御体系)です。そのマイクロオーケストレーションを構成する4つの柱の1つ目が「Master & Servants(1人のクラウドMaster × 複数のローカルServants)」という組織編成であり、そこに②決定論的Python前処理&スキーマブリッジ、③GPU排他ロック(flock)とバッチ分割・差分サルベージ制御、④Master別の監督特性と検収ゲートが加わることで全体が機能します。
ローカルLLMの従者を1つに絞らず、27B(Qwen系)と31B(Gemma 4系)の複数モデル(Multiple Servants)で分業させているのはなぜですか?
20B〜30Bクラスのローカルモデルには明確な得意・不得意の非対称性があるためです。Qwen 3.8 27Bは厳格なJSONスキーマ遵守と数値規律に強い反面、長めの人物要約などでは文体が硬くなりやすい特性があります。一方、Gemma 4 31Bは自然で品格のある日本語散文やHTML整形、画像認識(Vision)に優れる反面、多段の四則演算を暗算させると丸め誤差を出しやすい弱点があります。そのため、数値の確定と構造化JSON抽出をPythonおよび27Bに任せ、確定した数値リード文を一字一句変えずに報道調散文へ仕上げる工程を31Bに任せる直列二刀流としています。
クラウドの主人(Master)として Gemini 4 Argon、Claude Opus 5.5、GPT-6 / Codex を使った場合、どのような違いが出ますか?
Gemini 4 Argonは生データを自らのコンテキストに1文字も入れず、Python前処理とローカル呼び出しを組み合わせた自動量産スクリプトを組んで非同期に待つ「スマート工場長タイプ」として最も高い適性を示しました。Claude Opus 5.5はローカル従者への文章指導と検収の鋭さが随一ですが、従者の出力が乱れると「自分で書いた方が早い!」と生データを自ら読み込んでクォータを消費してしまう「職人の抱え込み病」に注意が必要です。GPT-6 / CodexはJSONスキーマ定義や出力切れ時の分割リトライ処理を手堅く実装する「堅物SEタイプ」として安定した性能を発揮します。