bayesian network n.
Download
Skip this Video
Loading SlideShow in 5 Seconds..
Bayesian Network を用いた 確率モデル遺伝的アルゴリズムの 解探索特性の検討 PowerPoint Presentation
Download Presentation
Bayesian Network を用いた 確率モデル遺伝的アルゴリズムの 解探索特性の検討

Loading in 2 Seconds...

play fullscreen
1 / 46

Bayesian Network を用いた 確率モデル遺伝的アルゴリズムの 解探索特性の検討 - PowerPoint PPT Presentation


  • 402 Views
  • Uploaded on

Bayesian Network を用いた 確率モデル遺伝的アルゴリズムの 解探索特性の検討. 同志社大学 大学院 工学研究科 知識工学専攻 博士前期課程 2002 年度 724 番 中村 康昭. 研究背景. 最適化:目的関数の最大 ( 最小 ) 化. LSI の配置. トラス構造. たんぱく質の 構造解析. スケジューリング. 様々なヒューリスティック手法(SA, GA 等)が提案されている. 遺伝的アルゴリズム. Genetic Algorithm(GA). 生物の進化過程を模倣した最適化手法. 環境により適合した個体が生存する (自然淘汰).

loader
I am the owner, or an agent authorized to act on behalf of the owner, of the copyrighted work described.
capcha
Download Presentation

Bayesian Network を用いた 確率モデル遺伝的アルゴリズムの 解探索特性の検討


An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -
    Presentation Transcript
    1. Bayesian Networkを用いた確率モデル遺伝的アルゴリズムの解探索特性の検討 同志社大学 大学院 工学研究科 知識工学専攻 博士前期課程 2002年度724番 中村 康昭

    2. 研究背景 最適化:目的関数の最大(最小)化 LSIの配置 トラス構造 たんぱく質の 構造解析 スケジューリング 様々なヒューリスティック手法(SA,GA等)が提案されている

    3. 遺伝的アルゴリズム Genetic Algorithm(GA) 生物の進化過程を模倣した最適化手法 環境により適合した個体が生存する (自然淘汰) 選択  親個体の形質を受け継いだ子個体が生まれる (有性生殖) 交叉 子個体の遺伝子が一部変異する (突然変異) 突然変異 部分解を組み合わせることにより良好な探索を行う [問題点] 従来の交叉では変数間に依存関係のある問題に対しては 部分解を破壊する可能性 [’97 Annie]

    4. 変数間に依存関係のある問題 例)関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題 各変数をそれぞれ 小さくすることにより最小化される (依存関係はない) f (x,y,z) = x + y + z x=0の時:y=0とすると最小 x≠0の時:yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z

    5. 変数間に依存関係のある問題 例)関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題 各変数をそれぞれ 小さくすることにより最小化される (依存関係はない) f (x,y,z) = x + y + z x=0の時:y=0とすると最小 x≠0の時:yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z GAにおける交叉 解候補1 セットにして交叉すべき x y z 解候補2 x y z

    6. 変数間に依存関係のある問題 例)関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題 各変数をそれぞれ 小さくすることにより最小化される (依存関係はない) f (x,y,z) = x + y + z x=0の時:y=0とすると最小 x≠0の時:yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z GAにおける交叉 解候補1 x y z x y z 解候補2 x y z x y z

    7. 変数間に依存関係のある問題 例)関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題 各変数をそれぞれ 小さくすることにより最小化される (依存関係はない) f (x,y,z) = x + y + z x=0の時:y=0とすると最小 x≠0の時:yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z 解候補1 セットにして交叉すべき x y z 解候補2 x y z 依存関係を認識する必要

    8. ベイジアンネットワーク 変数間に存在する依存関係を有向グラフにより表現するデータ構造 xとyの間に依存関係があるとき 構築可能なネットワーク 構築可能なネットワークから,問題の特性を示すものを選ぶことが必要

    9. ベイジアンネットワークの評価方法

    10. ベイジアンネットワークの活用 x:50%の確率で0と10が発現 x:50%の確率で0と10が発現 y:xの値に応じて発現確率が変化 x=10のとき: 75% の確率で10 y:xの値に応じて発現確率が変化 x=10のとき: 75% の確率で10 z: 50%の確率で0が発現   残りの確率で1と2が発現する z: 50%の確率で0が発現   残りの確率で1と2が発現する 良好な解の分布から新たな解の候補を生成することができる 最適化手法としてのベイジアンネットワークの適用 ネットワークと良好な解から新たな解を生成する ネットワーク

    11. 確率モデル遺伝的アルゴリズム Probabilistic Model Building Genetic Algorithm (PMBGA,確率モデルGA) (1)良好な個体を母集団から選択 分布の推定 個体 (探索点) (2)確率モデルの構築 母集団 ベイジアンネットワーク (4)母集団内の個体と置き換え (3)新しい個体を生成 部分解の破壊を防止し,良好な探索をすることが可能となる

    12. 研究目的 ベイジアンネットワークを用いた確率モデルGA [‘99 Pelikan] 各変数としてバイナリ値{0,1}を用いて検討 •  依存関係のある問題に対する探索の有効性 •  母集団の高い収束性 実問題をバイナリ値のみで表現するのは困難 【目的】 ・バイナリ値以外の問題にベイジアンネットワークを適用 ・解探索特性を検討し,遺伝的操作を適用する

    13. 対象問題 部分だまし問題 ・・・ 2 0 1 1 0 1 2 1 1 全設計変数を3変数ずつの部分問題に分割 各変数が取ることができる値は{0,1,2}の3種類 ui:3変数中にiが含まれる個数 含まれるビットが全て“0,1”のとき 3変数に“2”が含まれるとき

    14. 関数評価値の具体的な例 2 2 2 1 1 1 1 1 0 0 0 0 0 0 2 2 0 2 【問題の特徴】 高 だまし問題が入れ子状態となっている “2” に注目 3変数がすべて“2”の時が評価値は最大  それ以外は“2”の数が多いほど評価値は小 “2” が0個の時 3変数がすべて“1”の時評価値は大  それ以外は“1”の数が多いほど評価値は小 評価値 低 最適解:すべての部分問題で3変数が“2”となるとき

    15. パラメータ

    16. 実験結果 • 最適解に到達していない • 個体数が増えると収束までの評価計算が増加する

    17. 考察 母集団に含まれる個体が増加するにつれて 得られる解はよくなるが,最適解に到達していない 個体数をさらに増やす 評価計算回数の増加につながる 最適解に到達していない状態で母集団が収束 母集団の多様性を保つ遺伝的操作の適用 【対応策】 GAにおける突然変異の要素を取り入れ, 母集団に含まれる個体の多様性を維持する 適用する突然変異について検討を行う

    18. 突然変異の適用 Z Z Xa Xb Xc 有効なネットワーク ・・・ Z 誤った依存関係を認識して母集団が安定している Xa Xb Xc ・・・ Xa Xb Xc ・・・ 依存関係を誤認識しているときには,一部のネットワークを 除外して値を決定する方法が有効

    19. 従来のGAにおける突然変異 Z Z Xa Xb Xc 有効なネットワーク 2 2 ・・・ 各変数が突然変異をするかどうか値の決定後に決まる 依存関係を表わすネットワークを無視して1つの変数が変わる 誤った依存関係を認識して母集団が安定している Xa Xb Xc 1 1 1 ・・・ ・・・

    20. 本研究で検討する突然変異 Z Z Xa Xb Xc 有効なネットワーク 2 1 2 2 2 子孫ノードの値は突然変異後の値によって決定する 依存関係を表わすネットワークが有効に活用される 変数を決定する時に 各変数について,突然変異を行うかどうか決定する Xa Xb Xc ・・・ ・・・ ・・・

    21. パラメータ設定

    22. 実験結果 従来の突然変異 検討する突然変異 検討する突然変異において,良好な結果が得られた

    23. まとめ ベイジアンネットワークを用いた確率モデルGA 依存関係を持つバイナリ値以外の問題に対する検討実験 【結果】従来の手法では最適解に到達しない 解探索特性に沿った突然変異の適用 確率モデルを考慮した形での突然変異を行うことにより 従来の突然変異を適用したときよりも良好な結果を得た 今後の課題 より多くの変数値を用いる実問題への適用

    24. 質疑応答 [講演発表] 第46回 システム制御情報学会 研究発表講演会 「Actor-Criticを用いた知的ネットワークシステムの提案」

    25. 補足資料

    26. 実験結果 ・最適解に到達していない ・母集団サイズが増えると収束までの評価計算が増加する

    27. コード化 遺伝的アルゴリズムでは,形質を示す値を遺伝子情報に変換する 0~2の値をバイナリコーディング コード化 ルール 0 → 00 1 → 01 2 → 10 最初のビットが0のとき:次のビットは0,1 最初のビットが1のとき:次のビットは1 変数間の依存関係ではない 変数間の依存関係 「00」など,一つの設計変数を表現するビット群の間に生じている 依存関係であり,個々のビット間に生じる依存関係は無意味 コード化せずに変数間の依存関係を認識する必要性

    28. ベイジアンネットワークの構築 3変数があったときに考えられる ネットワークの構築パターンについて考える 構築可能なネットワーク 各ネットワークを解の傾向から評価 依存関係を示す ネットワークを特定することが可能 良好な解の分布からネットワークのモデルを構築する

    29. 最適解に収束しなかった試行(掲載する例) 収束しているが,最適解を得ていない試行 計算回数 適合度 個体の持つ遺伝子情報 12150000,111,111,111,111,111,111,111,111,1119.9 9000111,111,111,111,111,111,111,111,000,111 9.9 9900 111,111,111,111,111,111,111,111,111,000 9.9 9450111,111,000,111,111,111,111,111,111,111 9.9 収束していない試行 計算回数 適合度 含有率 個体の持つ遺伝子情報 180000000,111,111,111,111,000,111,111,111,111 9.8 18% 180450111,111,111,111,000,000,111,111,111,111 9.8 79%

    30. ベイジアンネットワークの信頼度 親ノード 子ノード x1 x2 K2metric K2 metricの大きくなるネットワークとは 親ノードの値は分散している 親ノードの値が決定したときの子ノードの値は偏っている

    31. 3変数中に2が含まれる確率 各変数の値は条件付き確率表(CPT)により決定 CPTは優良個体群の分布に基づき作成 X1から順に値が決定する X1 X2 X3 X1の値の発現確率

    32. 3変数中に2が含まれる確率 各変数の値は条件付き確率表(CPT)により決定 CPTは優良個体群の分布に基づき作成 X1から順に値が決定する X1 X2 X3 X2の値の発現確率

    33. 3変数中に2が含まれる確率 各変数の値は条件付き確率表(CPT)により決定 CPTは優良個体群の分布に基づき作成 X1から順に値が決定する X1 X2 X3 X3の値の発現確率

    34. 3変数中に2が含まれる確率 各変数の値は条件付き確率表(CPT)により決定 CPTは優良個体群の分布に基づき作成 X1から順に値が決定する X1 X2 X3 X1の値の発現確率 X3の値の発現確率 X2の値の発現確率 X1=2となる確率が低くなると全体の2の発現確率は下がる

    35. 最終的に収束する解 個体数を300としたときの1試行の例 収束する解 [111,111,111,111,222,111,111,111,111,000] 4500(150×30)の変数中,“2”が含まれるのが3個まで淘汰される

    36. 実験結果(提案手法:突然変異率1%) 提案する突然変異 従来の突然変異 検討を行った突然変異において,良好な結果が得られた [デモンストレーション]

    37. 最適解が得られていない原因の検討 ベイジアンネットワーク 3変数のうち 最初の変数に残りの変数が依存 X1 X2 X3 最初の変数が“2”ならば残りの2変数 “2”となると評価値が高くなる 2 2 2 最初の変数が“0”や“1”ならば 残りの2変数も{0,1}で構成するほうがよい 0 1 0 依存関係のある最初の変数の値の発現確率に 残りの変数が影響される

    38. 優良個体に含まれる変数値の推移 個体数を300としたときの1試行の例 各部分問題で3変数がともに“2”でなければ評価値が低いため “2”が淘汰されている

    39. 従来のGAにおける突然変異 X4 すべての変数が決定している状態で 各変数について,突然変異を行うかどうか決定する ・・・ 2 2 2 1 1 1 X1 X2 X3 X4 X5 X6

    40. 従来のGAにおける突然変異 X4 すべての変数が決定している状態で 各変数について,突然変異を行うかどうか決定する ・・・ 2 2 2 2 1 1 X1 X2 X3 X1 X2 X3 X4 X5 X6 X4 X5 X6 ネットワークの依存関係を考慮せずに突然変異する

    41. 従来のGAにおける突然変異 X4 すべての変数が決定している状態で 各変数について,突然変異を行うかどうか決定する ・・・ 2 2 2 1 1 1 X1 X2 X3 X4 X5 X6

    42. 従来のGAにおける突然変異 X4 すべての変数が決定している状態で 各変数について,突然変異を行うかどうか決定する 2 2 2 2 1 1 ・・・ X1 X2 X3 X1 X2 X3 X4 X5 X6 X4 X5 X6 ネットワークの依存関係を考慮せずに突然変異する

    43. 本研究で提案する突然変異 変数を決定する時に 各変数について,突然変異を行うかどうか決定する X1 X2 X3 X1 X2 X3 X4 X5 X6 X4 X5 X6 子孫ノードの値は突然変異後の値によって決定する 依存関係を表わすネットワークが有効に活用される

    44. 従来のGAにおける突然変異 Za Xb Xc Xd 2 すべての変数が決定している状態で 各変数について,突然変異を行う Za Xb Xc Xd ・・・ 2 1 1 1 ・・・ 各変数が突然変異をするかどうか値の決定後に決まる 依存関係を表わすネットワークを無視して1つの変数が変わる

    45. 研究目的 ベイジアン最適化アルゴリズム(BOA)[‘99 Pelikan] 各変数としてバイナリ値を用いて検討 ・母集団の高い収束性 ・依存関係のある問題に対する探索の有効性 実問題を取り扱うには,バイナリ値にコード化する必要がある 実際の変数間の依存関係 コード化前の変数間に生じている依存関係は 各ビット間の依存関係は関係がない 問題に応じてバイナリ値に依存関係の生じるコード化が必要 【目的】コード化せずに表現型の値を変数として用いる