1 / 75

分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討

分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討. 知的システムデザイン研究室 　　　　　　　　　平井　聡. 研究背景. 最適化とは 制約条件下で目的関数を最大または最小化する問題 最適化問題 離散最適化 連続最適化 （ e.g. たんぱく質立体構造予測，トラス構造物最適化） 確率的手法 遺伝的アルゴリズム（ Genetic Algorithm: GA ） シミュレーテッドアニーリング（ Simulated Annealing:SA ）. 遺伝的アルゴリズム（ GA ）. 生物の進化を模倣した最適化アルゴリズム

wade-fulton
Download Presentation

分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. 分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討 知的システムデザイン研究室 　　　　　　　　　平井　聡

  2. 研究背景 • 最適化とは 制約条件下で目的関数を最大または最小化する問題 • 最適化問題 • 離散最適化 • 連続最適化 （e.g. たんぱく質立体構造予測，トラス構造物最適化） • 確率的手法 • 遺伝的アルゴリズム（Genetic Algorithm: GA） • シミュレーテッドアニーリング（Simulated Annealing:SA）

  3. 遺伝的アルゴリズム（GA） • 生物の進化を模倣した最適化アルゴリズム • 母集団に対して，遺伝的操作を繰り返し適用 • 多点探索により，大域的な探索に優れている • 多くの評価計算が必要であり，計算コストがかかる

  4. 研究目的 • GAの問題点 多くの評価計算回数が必要，多量の計算資源が必要 • 解決策 効率の高い解探索し，評価計算回数を少なくする • 良質な親個体の形質を子個体が引き継ぐ • 母集団の多様性の維持 • 設計変数間の依存関係の考慮 分散確率モデル遺伝的アルゴリズム(DPMBGA)(廣安等:2003) 分散GA (DGA) ＋ 確率モデルGA (PMBGA) DPMBGAの解探索性能が検証済み • DPMBGAの解探索メカニズム • アルゴリズムの改良 研究目的

  5. 分散遺伝的アルゴリズム（DGA） • 母集団を複数のサブ母集団に分割 • 移住によりサブ母集団の個体を交換 • 母集団の多様性を維持

  6. 確率モデル遺伝的アルゴリズム（PMBGA） • 子個体を親個体の正規分布より生成 • 子個体は良質な親個体の形質を引き継ぐ 個体の抽出 確率モデルの生成 (正規分布等) 子個体の生成

  7. 確率モデル遺伝的アルゴリズム（PMBGA） • 子個体を親個体の正規分布より生成 • 子個体は良質な親個体の形質を引き継ぐ 個体の抽出 確率モデルの生成 (正規分布等) 子個体の生成

  8. 確率モデル遺伝的アルゴリズム（PMBGA） • 子個体を親個体の正規分布より生成 • 子個体は良質な親個体の形質を引き継ぐ 個体の抽出 確率モデルの生成 (正規分布等) 子個体の生成

  9. 確率モデル遺伝的アルゴリズム（PMBGA） • 子個体を親個体の正規分布より生成 • 子個体は良質な親個体の形質を引き継ぐ 個体の抽出 確率モデルの生成 (正規分布等) 子個体の生成

  10. 確率モデル遺伝的アルゴリズム（PMBGA） • 子個体を親個体の正規分布より生成 • 子個体は良質な親個体の形質を引き継ぐ 個体の抽出 確率モデルの生成 (正規分布等) 子個体の生成

  11. 確率モデル遺伝的アルゴリズム（PMBGA） • 子個体を親個体の正規分布より生成 • 子個体は良質な親個体の形質を引き継ぐ 個体の抽出 確率モデルの生成 (正規分布等) 子個体の生成

  12. DPMBGAの概要 • 移住操作に多様性の維持 (DGA) • 確率モデルによる子個体生成 (PMBGA)

  13. 解探索メカニズムの検討 • 多峰性関数 Rastrigin関数 • 設計変数間に依存関係がある関数 Rosenbrock関数 • 多峰性関数 • Rastrigin関数 • 設計変数間に依存関係がある関数 • Rosenbrock関数

  14. 多峰性の関数 • Rastrigin関数は多数の局所解をもつ • 母集団が局所解に陥り，最適解へ到達しない • 母集団の多様性の維持が重要 序盤 中盤 終盤

  15. 多峰性の関数の探索履歴 Island 1 Island 2 各島で局所解に収束 Island 3

  16. 多峰性の関数の探索履歴 Island 1 Island 2 個体が移住操作により， 異なる島に移動 Island 3

  17. 多峰性の関数の探索履歴 Island 1 Island 2 子個体が最適解付近に生成 Island 3

  18. 多峰性の関数の探索履歴 Island 1 Island 2 最適解に到達 Island 3 多様性の維持が重要

  19. 数値実験

  20. 高次元のRastrigin関数の解探索履歴履歴 • DPMBGA は最適解に到達 • PMBGAは局所解に収束

  21. 解探索メカニズムの検討 • 多峰性関数 • Rastrigin関数 • 設計変数間に依存関係がある関数 • Rosenbrock関数

  22. 設計変数間に依存関係のある関数 • 依存関係のない関数 各設計変数が独立に最適値がある • 依存関係のある関数 設計変数の最適値が他の設計変数に依存

  23. 設計変数間に依存関係のある関数 • 依存関係のない関数 各設計変数が独立に最適値がある • 依存関係のある関数 設計変数の最適値が他の設計変数に依存

  24. 設計変数間に依存関係のある関数 • 依存関係のない関数 各設計変数が独立に最適値がある • 依存関係のある関数 設計変数の最適値が他の設計変数に依存

  25. 設計変数間に依存関係のある関数 • 依存関係のない関数 各設計変数が独立に最適値がある • 依存関係のある関数 設計変数の最適値が他の設計変数に依存

  26. 設計変数間に依存関係のある関数 • 依存関係のない関数 各設計変数が独立に最適値がある • 依存関係のある関数 設計変数の最適値が他の設計変数に依存

  27. DPMBGA + PCA • 移住操作に多様性の維持 (DGA) • 主成分分析による無相関化 (PCA) • 確率モデルによる子個体生成 (PMBGA)

  28. 設計変数に依存関係がある関数 • 多変量を少数の変量で表す方法 • 最良個体群から分散を計算 • その分散値を用い，依存関係のない空間に 回転させる

  29. 依存関係のある関数の探索履歴

  30. 依存関係のある関数の探索履歴 PCAなし

  31. 依存関係のある関数の探索履歴 PCAなし PCA

  32. 依存関係のある関数の探索履歴 PCAなし PCA

  33. 依存関係のある関数の探索履歴 PCAなし PCA

  34. 高次元Rosenbrock関数の解探索履歴履歴 • PCAを用いても単島では解けない • 島モデルでは最適解に到達

  35. 確率分布 個体数512とした時，最良個体(PCAの基準)の履歴 分散島モデル(ＤＰＭＢＧＡ） 単島モデル(ＰＭＢＧＡ）

  36. 確率分布 個体数512とした時，最良個体(PCAの基準)の履歴 分散島モデル(ＤＰＭＢＧＡ） 単島モデル(ＰＭＢＧＡ）

  37. 確率分布 個体数512とした時，最良個体(PCAの基準)の履歴 収束が早い 多様性の維持 分散島モデル(ＤＰＭＢＧＡ） 単島モデル(ＰＭＢＧＡ）

  38. 確率分布 個体数512とした時，最良個体(PCAの基準)の履歴 最適解に到達する前に収束 最適解に到達 分散島モデル(ＤＰＭＢＧＡ） 単島モデル(ＰＭＢＧＡ） 分散島モデルは，全体をみると正確な確率モデルが構築できる

  39. 解探索メカニズムのまとめ • 多峰性の関数 • 単島だと局所解に収束 • 分散島である移住操作により最適解に到達 • 設計変数間に依存関係のある問題 • PCAにより，依存関係をなくすように近似する • 分散島モデルにより，個々の島では正確な確率モデルの構築ができないが，全体で正確な確率モデルを構築

  40. DPMBGAの問題点 抽出個体により収束が早くなる可能性がある 最適解に到達できない

  41. DPMBGAの問題点の解決策 抽出個体が近いなら，子個体生成の範囲を大きくする 分散の増幅率を増加させる 子個体生成の範囲を調節するパラメータ

  42. 分散の増幅率 子個体を生成するとき，生成する範囲を調節するパラメータ 増幅率大 増幅率中 増幅率小 分散の増幅率を適応的に変化させる

  43. DPMBAの改良 子個体を母集団より少し収束するように生成 • 母集団の一般化分散値を比較 • 子個体の一般化分散値が閾値なら次世代 それ以外，分散の増幅率を増加減少し子個体を再度生成 母集団の一般化分散値 子個体の一般化分散値

  44. DPMBAの改良 子個体を母集団より少し収束するように生成 • 母集団の一般化分散値を比較 • 子個体の一般化分散値が閾値なら次世代 それ以外，分散の増幅率を増加減少し子個体を再度生成 母集団の一般化分散値 子個体の一般化分散値

  45. 数値実験 • 多峰性関数 Rastrigin関数 • 設計変数間に依存関係がある関数 Rosenbrock関数

  46. パラメータ

  47. 解探索履歴 Rosenbrock関数 Rastrigin関数 評価計算回数はかかるが，最適解に到達することができる

  48. まとめ • 解探索メカニズムの検討 • 多峰性の関数 母集団の多様性，移住することが重要 • 設計変数間に依存関係のある関数 PCAによる，依存関係をなくす手法が有効 • DPMBGAの改良 • 抽出個体により，局所解に陥る可能性がある • 子個体が母集団より，少し収束するように増幅率を適応的に変化させる

  49. 発表論文リスト • 第3回情報科学技術フォーラム 遺伝的アルゴリズムを用いたコージェネレーションシステムの最適設計 廣安 知之，三木 光範，平井 聡，下坂 久司，梅田 良人，青木 修一，田中 洋一 • The 2004 IEEE Conference on Cybernetics and Intelligent Systems Satisfactory Design of Cogeneration System using Genetic Algorithm Satoshi Hirai, Tomoyuki Hiroyasu, Mitsunori Miki, Hisashi Shimosaka, Yoichi Tanaka, Syuichi Aoki, Yoshito Umeda • 第15回設計工学・システム部門講演会 分散確率モデル遺伝的アルゴリズムにおける解探索能力についての検討 平井聡，廣安知之，三木光範，下坂久司 • The International Association of Science and Technology for Development CONSIDERATION OF SEARCHING ABILITY FOR Distributed Probabilistic Model-building Genetic Algorithm Satoshi Hirai, Tomoyuki Hiroyasu, Mitsunori Miki, Hisashi Shimosaka • 情報処理学会「数理モデル化と問題解決研究会」第57回講演　 2006年3月17日予定 分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討 平井聡，廣安知之，三木光範，下坂久司

More Related