「ロジスティック回帰」まとめ

ロジスティック回帰 の章では，ロジスティック回帰法の実装を通じて以下の内容を紹介しました．

• ロジスティック回帰の形式的定義

  • ロジスティック回帰法

• シグモイド関数

  • 静的メソッドによる数値関数の実装

  • ネピアの数や円周率などの定数

  • np.seterr() による浮動小数点エラーの処理方法の設定

  • オーバーフロー・アンダーフローへの対策

  • np.vectorize() を用いたユニバーサル関数への変換

  • np.piecewize() による区分関数の定義

  • 数値を一定の範囲に収める np.clip() 関数

• 非線形最適化関数

  • SciPy の非線形最適化関数 sp.optimize.minimize_scalar() と sp.optimize.minimize() の紹介

  • 最適化の結果を返すためのクラス OptimizeResult の紹介

  • 各種の最適化手法の特徴

• 学習メソッドの実装

  • 最適化関数を用いた，モデルのパラメータの学習

  • 構造化配列

  • 構造化配列と view() メソッドによる同一領域の異なる参照方法

• 損失関数とその勾配

  • sp.optimize.minimize() からのコールバック

  • np.empty_like() などを用いた行列の生成

  • np.dot() による内積と行列積

• 実行と予測

  • 3項演算を行う np.where() 関数

  • 構造化配列を用いたデータの読み込み

  • 最適化手法の実行結果の比較