Academic

機械学習と大規模言語モデル：理論と実践

機械学習は、統計学、計算理論、神経科学の融合から生まれた学際的分野です。本稿では、パーセプトロンの誕生からTransformerアーキテクチャによるLLM革命まで、理論的基盤と技術的進化を体系的に解説します。

Machine Learning and LLM

機械学習の歴史的発展

黎明期：統計的学習理論の確立（1940-1950年代）

機械学習の理論的基盤は、1940年代の統計的学習理論に遡ります。Ronald Fisherの統計的推論理論、Andrey Kolmogorovの確率論的基礎、そしてClaude Shannonの情報理論が、データからパターンを学習するという概念の土台を築きました。

1950年、Alan Turingは「Computing Machinery and Intelligence」において、機械が学習する可能性を理論的に示唆しました。同時期、Frank Rosenblattはパーセプトロン（Perceptron）を提案し、単層ニューラルネットワークによる線形分類の実現可能性を実証しました。

パーセプトロンの数学的定式化

パーセプトロンは、入力ベクトル x に対して重みベクトル w とバイアス b を用いて、出力 y = f(w·x + b) を計算します。ここで f は活性化関数（通常はステップ関数）です。学習は誤差に基づく重み更新（w ← w + η(y_true - y_pred)x）により行われます。

第一次AIブームとその限界（1960-1970年代）

1960年代、Marvin MinskyとSeymour Papertは「Perceptrons」において、単層パーセプトロンがXOR問題を解けないことを数学的に証明しました。これは線形分離不可能性の問題として知られ、多層ネットワークの必要性を示唆しましたが、当時の計算リソースでは実現困難でした。

この時期、決定木（Decision Tree）やk近傍法（k-NN）などの非パラメトリック手法が発展しました。また、ベイジアン学習の理論的枠組みが確立され、不確実性を扱う統計的アプローチが整備されました。

第二次AIブーム：知識ベースシステムとエキスパートシステム（1980年代）

1980年代は、ルールベースの知識表現と推論エンジンによるエキスパートシステムが主流でした。しかし、知識の獲得ボトルネック（知識工学のボトルネック）により、汎用性の限界が明らかになりました。

一方で、バックプロパゲーション（誤差逆伝播法）の再発見（Rumelhart et al., 1986）により、多層ニューラルネットワークの学習が実現可能になりました。これは、連鎖律（Chain Rule）を用いた勾配計算により、深いネットワークの重みを効率的に更新する手法です。

バックプロパゲーションの数学的基礎

損失関数 L に対する重み w_ij の勾配は、∂L/∂w_ij = ∂L/∂y_j · ∂y_j/∂z_j · ∂z_j/∂w_ij として計算されます。ここで z_j は中間層の活性化前の値、y_j は活性化後の出力です。この連鎖的な勾配計算により、出力層から入力層へと誤差を逆伝播させることができます。

第三次AIブーム：統計的機械学習と深層学習（1990-2010年代）

1990年代、サポートベクターマシン（SVM）（Vapnik, 1995）が、カーネルトリックを用いた非線形分類を可能にしました。SVMは構造化リスク最小化（Structural Risk Minimization）の原理に基づき、汎化性能を理論的に保証する点で画期的でした。

2000年代に入り、Boosting（Freund & Schapire, 1997）やRandom Forest（Breiman, 2001）などのアンサンブル手法が、実用的な性能向上をもたらしました。また、確率的グラフィカルモデル（ベイジアンネットワーク、マルコフ確率場）が、複雑な依存関係を扱う理論的枠組みを提供しました。

2006年、Geoffrey Hintonらは深層信念ネットワーク（DBN）による事前学習を提案し、深層学習の実用化への道を開きました。2012年、AlexNet（Krizhevsky et al., 2012）がImageNetで圧倒的な性能を示し、畳み込みニューラルネットワーク（CNN）が画像認識の標準となりました。

深層学習の理論的進展（2010年代後半）

残差ネットワーク（ResNet）（He et al., 2016）は、スキップ接続により勾配消失問題を解決し、100層を超えるネットワークの学習を可能にしました。バッチ正規化（Ioffe & Szegedy, 2015）やドロップアウト（Srivastava et al., 2014）などの正則化手法が、過学習の抑制と汎化性能の向上に貢献しました。

生成敵対ネットワーク（GAN）（Goodfellow et al., 2014）は、生成器と識別器のミニマックスゲームにより、高品質なデータ生成を実現しました。理論的には、ナッシュ均衡の概念と関連づけられ、最適輸送理論（Optimal Transport）の観点からも分析されています。

ニューラルネットワークの理論的基礎

ユニバーサル近似定理

Cybenko（1989）とHornik et al.（1989）は、ユニバーサル近似定理を証明しました。これは、単一隠れ層を持つフィードフォワードネットワークが、コンパクト集合上の任意の連続関数を任意の精度で近似できることを示しています。ただし、隠れ層のユニット数が十分大きい場合に限ります。

この定理は、ニューラルネットワークの表現力の理論的保証を提供しますが、実際の学習可能性（learnability）については別の問題です。PAC学習理論（Probably Approximately Correct）は、有限サンプルからの学習の理論的限界を扱います。

最適化理論と学習アルゴリズム

深層学習の最適化は、非凸最適化問題として定式化されます。確率的勾配降下法（SGD）は、ミニバッチごとに勾配を計算し、重みを更新します。学習率のスケジューリング（学習率減衰、コサインアニーリング）や、Adam（Kingma & Ba, 2014）などの適応的最適化手法が、収束速度と安定性を改善しました。

Adam最適化アルゴリズム

Adamは、モーメント推定（一次モーメント m_t と二次モーメント v_t）を用いて、各パラメータに適応的な学習率を設定します。更新式は θ_t = θ_{t-1} - α · m̂_t / (√v̂_t + ε) です。ここで m̂_t と v̂_t はバイアス補正されたモーメント推定値です。

正則化と汎化

VC次元（Vapnik-Chervonenkis dimension）は、モデルの複雑さを測る理論的指標です。一般に、VC次元が大きいほど表現力は高いが、過学習のリスクも増加します。L1/L2正則化は、重みの大きさを制約することでモデル複雑度を制御します。

ドロップアウトは、学習時にランダムにユニットを無効化することで、アンサンブル効果を近似します。理論的には、ドロップアウトは重みのL2正則化と等価であることが示されています（Warde-Farley et al., 2013）。

大規模言語モデル（LLM）の技術的詳細

Transformerアーキテクチャの革新

2017年、Vaswani et al.は「Attention Is All You Need」において、Transformerアーキテクチャを提案しました。これは、リカレント構造を排除し、自己注意機構（Self-Attention）のみでシーケンス間の依存関係をモデル化する画期的な設計です。

Transformerの核心は、マルチヘッドアテンションです。クエリ（Q）、キー（K）、バリュー（V）の3つの行列を用いて、Attention(Q, K, V) = softmax(QK^T / √d_k) V を計算します。ここで d_k は次元数です。スケーリング因子 1/√d_k は、内積の値が大きくなりすぎることを防ぎます。

位置エンコーディング

Transformerは並列処理を可能にするため、位置情報を明示的にエンコードする必要があります。正弦波位置エンコーディングは、PE(pos, 2i) = sin(pos / 10000^(2i/d_model)) と PE(pos, 2i+1) = cos(pos / 10000^(2i/d_model)) で定義されます。近年では、学習可能な位置エンコーディングも広く用いられています。

GPTシリーズの進化

GPT-1（Radford et al., 2018）は、Transformerデコーダのみを用いた自己回帰型言語モデルです。事前学習（大規模コーパスでの次単語予測）とファインチューニング（タスク特化データでの学習）の2段階学習により、少ないタスクデータで高い性能を達成しました。

GPT-2（Radford et al., 2019）は、ゼロショット学習（Zero-shot Learning）の可能性を示しました。大規模なデータとパラメータ（1.5B）により、明示的なファインチューニングなしで多様なタスクを解けることを実証しました。

GPT-3（Brown et al., 2020）は、175Bパラメータと数ショット学習（Few-shot Learning）により、汎用的な言語理解と生成能力を示しました。インコンテキスト学習（In-Context Learning）は、プロンプト内の例からタスクを推論する能力であり、メタ学習の一種として解釈できます。

スケーリング則（Scaling Laws）

Kaplan et al.（2020）は、モデルサイズ、データサイズ、計算量と性能の関係を定式化しました。性能は L = (C/N)^α の形でスケールし、ここで C は計算量、N はパラメータ数、α はスケーリング指数です。この法則は、大規模モデルの開発指針となりました。

BERTと双方向エンコーダ

BERT（Devlin et al., 2018）は、Transformerエンコーダを用いた双方向言語モデルです。マスク言語モデリング（MLM）と次文予測（NSP）の2つの事前学習タスクにより、文脈を双方向に理解する能力を獲得しました。

BERTの双方向性は、下流タスク（質問応答、固有表現認識など）で高い性能を示しましたが、生成タスクには不向きです。一方、GPTのような自己回帰モデルは生成に優れますが、双方向の文脈理解は限定的です。

最新のLLMアーキテクチャ

PaLM（Chowdhery et al., 2022）は、540Bパラメータとパスウェイ（Pathways）アーキテクチャにより、推論能力を大幅に向上させました。Chain-of-Thought（CoT）プロンプティングは、段階的な推論プロセスを明示することで、算術や論理的推論の性能を改善します。

LLaMA（Touvron et al., 2023）は、効率的なアーキテクチャ設計（RMSNorm、SwiGLU活性化関数）により、より少ないパラメータで高い性能を達成しました。RLHF（Reinforcement Learning from Human Feedback）は、人間の好みに基づく報酬モデルを用いて、モデルの出力を人間の価値観に合わせる手法です。

Mixture of Experts（MoE）は、条件付きで一部のエキスパートのみを活性化することで、パラメータ数を増やしつつ計算コストを抑制します。GShard（Lepikhin et al., 2020）やSwitch Transformer（Fedus et al., 2021）が代表例です。

LLMの学習プロセス

データ収集と前処理

LLMの学習には、Webテキスト、書籍、学術論文など、多様なソースからの大規模コーパスが必要です。Common Crawl、C4、The Pileなどが公開データセットとして利用されています。データ品質の確保には、重複除去、毒性フィルタリング、言語識別などが重要です。

トークナイゼーションは、テキストをモデルが処理可能な単位に分割します。BPE（Byte Pair Encoding）、SentencePiece、WordPieceなどが用いられます。トークナイザーの選択は、語彙サイズ、未知語の扱い、多言語対応に影響します。

分散学習と並列化

大規模モデルの学習には、データ並列化、モデル並列化、パイプライン並列化の組み合わせが必要です。ZeRO（Rajbhandari et al., 2020）は、オプティマイザ状態を分散することで、メモリ効率を大幅に改善しました。

混合精度学習（FP16/BF16）は、計算速度とメモリ使用量を改善しますが、数値安定性に注意が必要です。勾配クリッピングや損失スケーリングが、アンダーフローの防止に用いられます。

ファインチューニングとアライメント

指示チューニング（Instruction Tuning）は、多様なタスクの指示と応答のペアで学習することで、モデルの汎用性を高めます。FLAN（Wei et al., 2021）やT0（Sanh et al., 2021）が代表例です。

RLHFは、人間の評価に基づく報酬モデルを学習し、強化学習（通常はPPO：Proximal Policy Optimization）によりモデルを最適化します。これにより、有用性、無害性、誠実性のバランスを改善できます。

評価とベンチマーク

言語モデリング評価

パープレキシティ（Perplexity）は、言語モデルの予測不確実性を測る指標です。PPL = exp(H) で定義され、ここで H はエントロピーです。低いパープレキシティは、より確信度の高い予測を示します。

BLEU、ROUGE、METEORは、生成テキストの品質を評価する指標です。ただし、これらは表面的な一致を測るため、意味的類似性や創造性を十分に捉えられない場合があります。

汎用能力評価

GLUE、SuperGLUE、MMLU（Massive Multitask Language Understanding）は、多様なタスクでの性能を総合的に評価します。BIG-benchは、推論、知識、創造性など、より困難なタスクを含む大規模ベンチマークです。

HumanEvalやMBPPは、コード生成能力を評価します。GSM8KやMATHは、数学的推論能力を測ります。

理論的限界と課題

ハルシネーションと事実性

LLMは、学習データの統計的パターンを学習するため、事実と矛盾する内容を生成する可能性があります。これは、ハルシネーションとして知られています。事実性の向上には、検証可能な知識の統合や、外部知識ベースとの連携が重要です。

バイアスと公平性

学習データに含まれる社会的バイアスが、モデルの出力に反映される可能性があります。デバイアシング手法（データバランス、敵対的学習、公平性制約）が研究されていますが、完全な解決は困難です。

計算コストと環境影響

大規模モデルの学習には、膨大な計算リソースとエネルギーが必要です。効率的なアーキテクチャ設計、モデル圧縮、知識蒸留などが、持続可能性の観点から重要です。

解釈可能性

大規模モデルの内部表現は、ブラックボックス的です。アテンション可視化、プローブ、因果的解析などが、モデルの動作理解に用いられていますが、完全な解釈可能性は未解決の問題です。

今後の研究方向

機械学習とLLMの研究は、以下の方向で進展が期待されます：

  • マルチモーダル学習：テキスト、画像、音声を統合した理解と生成
  • エージェントシステム：ツール使用、計画、長期記憶を備えた自律システム
  • 効率化：より少ないパラメータと計算で高性能を実現
  • 安全性と信頼性：アライメント、検証可能性、制御可能性の向上
  • 理論的理解：深層学習の理論的基盤の確立

主要参考文献

  • Vaswani, A., et al. (2017). "Attention is All You Need." NeurIPS.
  • Brown, T., et al. (2020). "Language Models are Few-Shot Learners." NeurIPS.
  • Devlin, J., et al. (2018). "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding." NAACL.
  • Kaplan, J., et al. (2020). "Scaling Laws for Neural Language Models." arXiv.
  • Goodfellow, I., et al. (2016). "Deep Learning." MIT Press.
  • Vapnik, V. (1998). "Statistical Learning Theory." Wiley.