220 likes | 600 Views
最小二乗法. 問題設定. 魏 大比. 流れ. 最小二乗法 線形最小二乗法 テーラー展開と極値判定 非線形最小二乗法 まとめ. 最小二乗法. 二変数関数の 極値問題. 最小二乗法. 流れ. 最小二乗法 線形最小二乗法 テーラー展開と極値判定 非線形最小二乗法 まとめ. 線形最小二乗法. 線形最小二乗法. 線形最小二乗法. 同じ考え. 一次連立方程式ではないので解はひとつとは限らない。. 多変数関数極値判定問題. どの解は極小値(最小値)かを判断しなければいけない。. 流れ. 最小二乗法 線形最小二乗法 テーラー展開と極値判定
E N D
最小二乗法 問題設定 魏 大比
流れ • 最小二乗法 • 線形最小二乗法 • テーラー展開と極値判定 • 非線形最小二乗法 • まとめ
最小二乗法 二変数関数の 極値問題
流れ • 最小二乗法 • 線形最小二乗法 • テーラー展開と極値判定 • 非線形最小二乗法 • まとめ
線形最小二乗法 同じ考え 一次連立方程式ではないので解はひとつとは限らない。 多変数関数極値判定問題 どの解は極小値(最小値)かを判断しなければいけない。
流れ • 最小二乗法 • 線形最小二乗法 • テーラー展開と極値判定 • 非線形最小二乗法 • まとめ
テーラー展開と極値判定 一変数の場合(hは非常に小さいとき) 多変数の場合はどうなる?
テーラー展開と極値判定 多変数関数のテーラー展開
テーラー展開と極値判定 多変数関数のテーラー展開 このHは対称行列であることを注意しておきたい。 は小さいとき、どのように変化しても、この項は正であれば、極小値を取るが、負であれば極大値を取る。
すべてのkに対して テーラー展開と極値判定 Hは正(負)値行列になればよい。つまり、Hの固有値はすべて正(負)になれば、極小値(極大値)を取る。 Hは正(負)値行列 同値関係
流れ • 最小二乗法 • 線形最小二乗法 • テーラー展開と極値判定 • 非線形最小二乗法 • まとめ
非線形最小二乗法 ニュートン法 非線形最小二乗法の場合
流れ • 最小二乗法 • 線形最小二乗法 • テーラー展開と極値判定 • 非線形最小二乗法 • まとめ