Chaos and Order

💡 왼쪽 원문을 읽으면서 오른쪽에 따라 써보세요. Tab 키로 힌트를 받을 수 있습니다.

はじめに — 「モデル開発」の最大の誤解
第0段階 — 評価を先に作れ（eval-first）
データ — 質は量に勝る
事前学習 — スケーリング則の世界
ファインチューニングのスペクトラム — SFTからDPOまで
評価 — ベンチマークを信じるな（半分は）
サービング — 学習より長く続く戦い
デプロイ後 — データフライホイール
個人が始める方法
おわりに
参考資料

はじめに — 「モデル開発」の最大の誤解

「AIモデルを開発する」と言うと、多くの人は事前学習（pretraining）— 数千枚のGPUで数か月回る学習 — を思い浮かべます。しかし2026年現在、実務で起きているモデル開発の圧倒的多数はそれではありません。本当の最初の一歩は、コードを一行も書く前に登る 決定のはしご です。

1段目. プロンプトエンジニアリングで解けるか？   → ほとんどはここで終わる
2段目. RAG（検索拡張）で解けるか？             → 知識が問題ならここ
3段目. ファインチューニングが必要か？           → 形式・トーン・ドメイン挙動が問題ならここ
4段目. 事前学習が必要か？                      → あなたがフロンティアラボなら

はしごを一段登るたびにコストはおよそ十倍になり、柔軟性はそのぶん失われます。良いモデル開発者の第一の実力は、学習コードをうまく書くことではなく、必要以上にはしごを登らない判断力 です。この記事はその判断の後、各段階で実際に何が起きるのかを順番に歩きます。

第0段階 — 評価を先に作れ（eval-first）

モデル開発で最も繰り返される間違いは「まず学習を回して、良くなったかは後で感覚で確認」です。順序を逆にしてください。モデルより評価セットが先です。

成功基準を数字で：「要約がうまい」ではなく「重要事実の欠落率5%以下、ハルシネーション率1%以下」のように。
ゴールデンデータセット100問：実際の入力から抜いた代表例＋わざと失敗してほしい罠の例。完璧である必要はなく、バージョン管理されて繰り返し実行できれば十分です。
回帰評価の習慣：プロンプトを一行変えても評価を回す。この習慣がないと「昨日は動いたのに」というミステリーに閉じ込められます。

この原則は私が JLPT模擬試験ツールを作ったときもそのまま適用されました — 問題バンクより先に「正解の位置が均等に分布しているか」を検証するテストがありました。評価が先にあれば、残りすべてが実験になります。

データ — 質は量に勝る

どの段に進むにせよ、データが成否の8割です。そしてデータ作業の格言は一つに収束します：ゴミ1TBより良いデータ1GB。

重複除去（dedup）：Webクロールデータのかなりの部分は重複です。重複は過学習と暗記を招き、ベンチマーク汚染（後述）の主犯です。
フィルタリングとキュレーション：言語判定、品質分類器、有害コンテンツ除去。フロンティアラボの差はアーキテクチャよりこのパイプラインにある、というのは業界の公然の秘密です。
ライセンスと出所：2026年のモデル開発で法務レビューは贅沢ではなく必須工程です。
合成データの台頭と罠：強いモデルで学習データを生成する方式（蒸留データ、self-instruct）は今や標準手法です。ただしモデル出力だけで世代を重ねて学習すると分布の裾が切り落とされていく モデル崩壊（model collapse） のリスクが報告されています — 合成データは実データの調味料であって主食ではありません。

ファインチューニング段階なら、数百〜数千の 高品質なデモンストレーション が数十万のノイズデータに勝ります。データを自分の手で100個だけ作ってみると、自分の問題を見る目が変わります。

事前学習 — スケーリング則の世界

ほとんどのチームはここに来ることはありませんが、この階の原理を知ることは上のすべての階の判断に効きます。

スケーリング則 がこの世界の物理学です。DeepMindのChinchilla研究が示した核心は「与えられた計算量に対してモデルサイズとデータ量の最適比が存在する」ということ — おおよそパラメータ1個あたりトークン20個。前世代のモデルはサイズに対してデータが不足しており（undertrained）、この発見以降、業界は「より小さいモデルをより多くのデータで」に再調整されました。今日の優れた小型モデルが数年前の大型モデルに勝つ理由の半分がここにあります。

分散学習スタック はこの物理学を実行する工学です。

データ並列：同じモデルを複数GPUに複製し、バッチを分けて処理して勾配を同期（all-reduce）。
テンソル/パイプライン並列：モデル自体が1枚のGPUに載らないとき、層を分割（パイプライン）するか行列を分割（テンソル）します。
混合精度（bf16）と勾配チェックポインティング：メモリと速度の標準的なトレードオフ。
障害はデフォルト：数千GPU×数週間の学習では、ハードウェア障害は「もし」ではなく「いつ」です。チェックポイント戦略がそのまま生存戦略です。

このインフラ層に興味があれば、NVIDIA GPU OperatorとMIGガイドでKubernetes上のGPU運用を、ニューラルネット実習所で誤差逆伝播の底の原理を直接触れます。

ファインチューニングのスペクトラム — SFTからDPOまで

ファインチューニングは一つの手法ではなくスペクトラムです。実務の順に：

SFT（教師ありファインチューニング） — 「この入力にはこう答えよ」というデモデータで学習します。形式の遵守、トーン、ドメイン語彙を教える最も直接的な方法です。

LoRA / QLoRA — 全重みを更新する代わりに、各層の脇に小さな低ランク行列（アダプタ）だけを付けて学習します。学習パラメータが数百分の一に減り、コンシューマGPU一枚で7Bクラスのモデルをファインチューニングできるようにした、個人開発者にとって最重要の発明です。QLoRAはさらに4bit量子化でメモリをもう一段削ります。

アラインメント — 「正しい答え」を超えて「好まれる答え」を教える段階です。InstructGPTが確立したRLHF（人間のフィードバックによる強化学習）は報酬モデル＋PPOという複雑なパイプラインが必要でしたが、DPO（Direct Preference Optimization） が「選好ペアデータで直接最適化する」シンプルな損失関数でかなりの部分を置き換え、アラインメントの参入障壁を大きく下げました。2026年の実務デフォルトは「SFT → DPO（またはその変種）」です。

いつ何を使うか：知識の注入はファインチューニングよりRAGが先です（ファインチューニングした知識は更新が遅く高い）。ファインチューニングが勝つのは 形式・スタイル・ドメイン特化の挙動 — JSONだけを吐かせる、社内のコード規約に従わせる、特定の口調を保たせる、です。

評価 — ベンチマークを信じるな（半分は）

ベンチマーク汚染 がこの段階の最大の罠です。公開ベンチマークの問題が学習データに混入すると、スコアは上がりますが能力はそのままです。新モデルの華やかなスコアを見るとき、「この問題が学習に含まれていなかったとどう保証する？」は常に正当な問いです。

実務評価の3層構造：

自動指標 — 正確な正解がある課題（分類、抽出）の正解率/F1。安くて速いので、可能な限りここへ。
LLM-as-judge — 自由記述の出力を強いモデルが採点。スケールしますがバイアス（自分の文体を好む、長文を好む）があり、人間採点との一致率を定期的に検証すべきです。
人間評価 — 最も高価で最も正確な最終審。重要リリース前には少量でも。

そして最も重要なこと：自分の課題で作った自分の評価セット は、どんな公開ベンチマークよりあなたの製品について多くを語ります。第0段階のゴールデンセットがここでも働き続けます。

サービング — 学習より長く続く戦い

モデルは一度だけ学習されますが、推論は永遠に回ります。総コストの大半はサービングから生まれます。

量子化：重みをbf16からINT8、4bitに縮めるとメモリは半分〜4分の1に — 品質低下は課題ごとに測るべきですが、思ったより小さいことが多い。
蒸留（distillation）：大きなモデルの出力で小さなモデルを教え、特定課題で数分の一のコストで近い品質を出します。「フロンティアでプロトタイプ → 蒸留で量産」が標準パターンになりました。
KVキャッシュと連続バッチング：トランスフォーマー推論のボトルネックは演算よりメモリ帯域です。vLLM系サービングエンジンのPagedAttention・continuous batchingがスループットを数倍にした理由は、一度は理解しておく価値があります。
レイテンシ予算の設計：p50ではなくp99で設計し、ストリーミングで体感遅延を縮めます。

複数モデルをGPU一枚に高密度で載せる問題なら、先に書いた MIG分割ガイドがまさにこの地点のインフラの答えです。

デプロイ後 — データフライホイール

デプロイは終わりではなく、最良のデータ収集器の稼働開始です。

本番評価：オフラインのゴールデンセット＋オンラインのサンプリング採点を並行します。実利用の分布は必ず開発時の分布から ドリフト します。
失敗事例の採掘：ユーザーが聞き直した、修正した、離脱した会話が、次のファインチューニングの最高の原料です。
フライホイール：デプロイ → 失敗収集 → データ化 → 再学習 → デプロイ。このループの回転速度がチームの実力そのものです。モデル開発はプロジェクトではなく 運用ループ です。

個人が始める方法

この全体を個人が体験する現実的な経路：

一度は底から：KarpathyのnanoGPT系ミニ実装で小さなトランスフォーマーを自分で学習させてみる。スケーリングの直観は数百行のコードから来ます。
一度はファインチューニング：公開7Bクラスのモデルを、自作データ500個でLoRA。データ品質が結果を左右するのを体で感じるのが目的です。
一度は評価ハーネス：自分の課題のゴールデンセット100問＋自動採点スクリプト。これだけで上位10%の習慣です。
一度はサービング：量子化したモデルをローカルで立ち上げ、スループットと遅延を測ってみる。

学習方法そのものが悩みなら AIで勉強する方法の8つの技法が、この分野のキャリアが目標なら職種別知識マップのAI/LLMエンジニアの節が次のステップです。

おわりに

AIモデル開発のライフサイクルを一文に圧縮するとこうなります。評価を先に作り、データを疑い、はしごは必要なぶんだけ登り、デプロイ後のループを設計せよ。 華やかなのは学習曲線ですが、勝負が決まるのはいつもその前後 — データと評価と運用です。