【レビュー】機械学習のための関数解析入門

第1章　内積の数学1（線形代数）
1.1　内積
1.2　正規直交基底
1.3　直交射影
1.4　対称行列
1.5　半正定値行列
1.6　正定値行列

第2章　内積の数学2（フーリエ解析）
2.1　オイラーの公式
2.2　フーリエ級数
2.3　L2– 内積
2.4　コーシーの積分公式

第3章　内積の数学3（ヒルベルト空間論）
3.1　ヒルベルトのℓ2空間
3.2　抽象ヒルベルト空間
3.3　射影定理
3.4　リースの表現定理

第4章　カーネル法（入門編）
4.1　カーネル関数
4.2　カーネル法の例：回帰問題
4.3　カーネル法の例：分類問題
4.4　カーネル関数の演算
4.5　数値例

第5章　カーネル法（発展編）
5.1　1 次元ガウス分布
5.2　多次元ガウス分布
5.3　ガウス過程回帰とカーネル法
5.4　数値例

付録A　行列と行列式
A.1　ヴァンデルモンドの行列式／A.2　行列の関数／A.3 シューアの補行列

付録B　カーネル関数の理論
B.1　ガウスカーネルの正定値性／B.2　滑らかなカーネル関数／B.3　アロンシャインの理論

付録C　確率論の用語
C.1　確率空間／C.2　確率変数

付録D　サポートベクトルマシン

〔はじめに〕より
本書では理工系学部の標準的な数学の知識を前提に「機械学習のための関数解析入門」と題してカーネル法の理論と応用の解説を試みる．第1章では内積の計算を中心に線形代数の復習をしよう．第2章では，フーリエ解析と複素解析からいくつかの事実を認めて，内積の数学としてのフーリエ解析を解説する．第3章ではヒルベルト空間の基礎理論を解説する．ヒルベルト空間とは，第1章と第2章の数学に共通した構造を抽出した概念である．ここで抽象的な内積の計算に慣れてしまえば，カーネル法の理解は難しいことではない．第4章ではカーネル法の基礎を，理論と応用を交えて解説する．第5章ではカーネル法の発展編としてガウス過程回帰を解説する．ここで数学の枠を超えた本格的な応用を紹介しよう．付録では，本書を読む上で知っておくと便利なことや，少々進んだ話題をまとめた．さて，本書の読み方であるが，目的や事前の知識の量に依り，様々な道筋が考えられる．例えば，カーネル法を手短に知りたい場合，第1章から第4章，第5章と進むことが可能であろう．また，半期の講義で使用する際は，第1章，第3章，第4章を中心としたコースが適当であろう．数学や情報科学専攻の学生には，卒業研究などでの通読を勧めたい．

　・ガウス過程が面白い[2022-05-23に投稿]

　・カーネル法のお話[2022-02-12に投稿]