【レビュー】スパース推定法による統計モデリング

第1章　線形回帰モデルとlasso
1.1　最小2乗法・正則化法
1.2　リッジ回帰
1.3　lasso
1.4　図による解釈
1.5　軟閾値作用素と硬閾値作用素
1.6　計算アルゴリズム
　　1.6.1　最小角回帰
　　1.6.2　座標降下法
　　1.6.3　交互方向乗数法
1.7　正則化パラメータの選択
　　1.7.1　交差検証法
　　1.7.2　モデルの自由度に基づく評価基準
　　1.7.3　拡張BIC
1.8　解析プログラム

第2章　lasso正則化項の拡張
2.1　エラスティックネット
　　2.1.1　計算アルゴリズム
　　2.1.2　適用例：人工データ
2.2　非凸正則化項
　　2.2.1　SCAD
　　2.2.2　MC+
　　2.2.3　適応型lasso
　　2.2.4　ブリッジ推定
　　2.2.5　適用例：犯罪データ
2.3　解析プログラム

第3章　構造的スパース正則化
3.1　隣接縮小型正則化
　　3.1.1　連結lasso
　　3.1.2　クラスターlasso
　　3.1.3　OSCAR
　　3.1.4　一般化lasso
3.2　グループ縮小型正則化
　　3.2.1　グループlasso
　　3.2.2　重複のあるグループの選択
3.3　グループ縮小型正則化の応用
　　3.3.1　階層的変数選択
　　3.3.2　二水準選択
3.4　計算アルゴリズム
　　3.4.1　一般化lassoに対する計算アルゴリズム
　　3.4.2　グループlassoに対する計算アルゴリズム
3.5　適用例
　　3.5.1　連結lassoの適用例：人工データ
　　3.5.2　一般化lassoの適用例：画像データ
　　3.5.3　グループlassoの適用例：出生データ
　　3.5.4　階層的lassoの適用例：犯罪データ
3.6　解析プログラム

第4章　一般化線形モデルにおけるスパース推定
4.1　ロジスティック回帰モデル
　　4.1.1　計算アルゴリズム
　　4.1.2　適用例：南アフリカの心臓疾患データ
4.2　ポアソン回帰モデル
　　4.2.1　計算アルゴリズム
　　4.2.2　適用例：博士課程学生の出版論文データ
4.3　多項ロジスティック回帰モデル
　　4.3.1　計算アルゴリズム
　　4.3.2　適用例：手書き画像文字データ
4.4　コックス回帰モデル
　　4.4.1　計算アルゴリズム
　　4.4.2　適用例：原発性胆汁性肝硬変データ
4.5　解析プログラム

第5章　多変量解析におけるスパース推定
5.1　ガウシアングラフィカルモデルにおけるスパース推定
　　5.1.1　ガウシアングラフィカルモデル
　　5.1.2　パラメータ推定法
　　5.1.3　グラフィカルlassoによるパラメータ推定
　　5.1.4　交互方向乗数法によるパラメータ推定
　　5.1.5　適用例：デカスロンデータ
5.2　スパース主成分分析
　　5.2.1　主成分分析
　　5.2.2　主成分の解釈
　　5.2.3　SCoTLASS
　　5.2.4　SPCA
　　5.2.5　適用例：デカスロンデータ
　　5.2.6　SPCAの定式化に至るまで
5.3　スパース因子分析
　　5.3.1　従来の因子負荷行列の推定：最尤法と因子回転
　　5.3.2　因子回転の一般化と正則化最尤法
　　5.3.3　スパース因子分析とスパース主成分分析との比較
　　5.3.4　適用例：デカスロンデータ
5.4　解析プログラム

付　　録
参考文献
索　　引

　変数選択問題は統計学における重要な問題の一つである。この問題に対して，近年，変数選択とモデルの推定を同時に行うスパース正則化を用いる方法が開発された。この方法によって，従来では扱うことが難しかった高次元データに対しても変数選択が実行可能となり，スパース正則化法は一気に注目されるようになった。さらに，変数選択だけでなく，データ発生の疎性構造を抽出するという，より一般的な観点からの研究が進むようになり，たとえば，グラフ構造における辺選択などにも拡張されている。これらの方法は総称してスパース推定と呼ばれ，統計学の基本ツールになりつつある。
　本書は，スパース推定の入門的内容から発展的内容までを解説している。実用性を重視するため，スパース推定を用いた統計モデリングを中心にできるだけ数多く解説し，「スパース推定を用いると，こういう統計解析が可能になる」というような，統計解析におけるスパース推定の有用性を実感できるよう心掛けた。また，理解の助けとするために，紹介する手法の数値例をできる限り載せるようにし，数値例を実行するための具体的なRによる解析コードも載せている。学部３，４年生から大学院生，企業における実務者，技術者を対象としており，本書によってスパース推定による統計解析技術を習得することができる。

　・2023年版データ分析の100冊[2023-08-26に投稿]

　・【ridge正則化】ridge正則化の解析解に現れる逆行列は常に存在するのか？[2021-07-20に投稿]

　・『統計検定準1級対応統計学実践ワークブック』をR, Pythonで解く～第16章重回帰分析～ [2020-07-26に投稿]

　・座標降下法による重回帰分析with lassoの係数推定プログラム[2019-05-04に投稿]

　・Graphical lassoで変数関係の構造グラフを抽出する[2018-10-23に投稿]

　・【データ分析の必読10冊+差をつける10冊＋100冊超】データサイエンス、データ分析、機械学習関連の本[2016-08-23に投稿]