1 / 45

PC クラスタシステムにおける 並列分散遺伝的アルゴリズム

PC クラスタシステムにおける 並列分散遺伝的アルゴリズム. 廣安　知之　（同志社大学） 三木　光範　（同志社大学）. 売上高. 経常利益. １．三井物産 ２．三菱商事 ３．トヨタ自動車 ４．伊藤忠商事 ５．住友商事 ６．日本電信電話 ７．丸紅 ８．日立製作所 ９．松下電器産業 １０．日商岩井. １．日本電信電話 ２．トヨタ自動車 ３．エヌ・ティ・ティ・ドコモ ４．東京電力 ５．武田製薬工業 ６．ブリジストン ７．関西電力 ８．三共 ９．セブン・イレブン・ジャパン １０． JT. 週間ダイヤモンド　２０００年１０ / ７号.

yuki
Download Presentation

PC クラスタシステムにおける 並列分散遺伝的アルゴリズム

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. PCクラスタシステムにおける並列分散遺伝的アルゴリズムPCクラスタシステムにおける並列分散遺伝的アルゴリズム 廣安　知之　（同志社大学） 三木　光範　（同志社大学）

  2. 売上高 経常利益 １．三井物産 ２．三菱商事 ３．トヨタ自動車 ４．伊藤忠商事 ５．住友商事 ６．日本電信電話 ７．丸紅 ８．日立製作所 ９．松下電器産業 １０．日商岩井 １．日本電信電話 ２．トヨタ自動車 ３．エヌ・ティ・ティ・ドコモ ４．東京電力 ５．武田製薬工業 ６．ブリジストン ７．関西電力 ８．三共 ９．セブン・イレブン・ジャパン １０．JT 週間ダイヤモンド　２０００年１０/７号

  3. 売上高経常利益率 １．立飛企業 ２．小野製薬工業 ３．キーエンス ４．セブン・イレブン・ジャパン ５．SANKYO ６．ユーエスエス ７．大和工業 ８．ローム ９．ヒロセ電機 １０．大正製薬 • 不動産賃貸業（必要経費がかからない） • 財務的マネジメントがうまい • 競争力のある商品を扱っている 週間ダイヤモンド　２０００年１０/７号

  4. 文科省の重点プロジェクト 生命科学 航空宇宙 環境 物質材料 地震防災

  5. DEEPBLUE IBMのチャレンジ チェスの世界チャンピオン，カスパロフを破った 他の分野でもこれに比肩する偉業が達成される可能性 BLUEGENE (1PetaFLOPs) “タンパク質の構造解析”にチャレンジ！！ コンピュータの設計およびアーキテクチャに対して従来とはまったく異なるタンパク質に適したアプローチをとる

  6. 最適化の未来 • ますます必要になる • 従来とは違う分野の開拓が必要 • 計算機資源の拡大に伴い、対決をせまられている

  7. PCクラスタシステムにおける並列分散遺伝的アルゴリズムPCクラスタシステムにおける並列分散遺伝的アルゴリズム 廣安　知之　（同志社大学） 三木　光範　（同志社大学）

  8. 最適化の流れ 解析器 設計変数 最適器 目的関数 制約条件

  9. PCクラスタ • 分散メモリ型並列計算機 • スーパーコンピュータ並みのシステムの構築も可能 • コストを抑えてシステムの構築が可能 • ネットワークがボトルネックとなる

  10. アルゴリズムの並列化 • プログラムの構築は簡単 • 並列化効率を上げるのが困難 • プログラムの構築がやや複雑 • 並列化効率は高い • 場合によっては逐次モデルよりも解探索能力が高い 逐次モデルの並列化 Do loopなど 並列モデルの構築

  11. Evolutionary Computation (EC)　 の並列化 EC 生物の進化の仕組みなどを模擬した計算手法 複数個体による探索（多点探索） さまざまなオペレーション 潜在的な並列アルゴリズム

  12. 遺伝的アルゴリズム(GA)の並列モデル マスタ･スレーブモデル セルラモデル 島モデル

  13. Master Slave Evaluation process 1 Selection Crossover process 2 Mutation Criteria process n マスタ･スレーブモデル • 特徴 逐次モデルと同一 プログラムの変更が簡単

  14. 近傍モデル • 特徴 • 一個体ずつ プロセッサに割り当て • 近傍とのみ遺伝的操作 －可動範囲，近傍 • 近傍モデルの例 • Manderickらのモデル(1989) • Muhlenbeinらのモデル : ASPARAGOS(1989)

  15. 分散遺伝的アルゴリズム • 特徴 • サブ母集団(島)に分割 • 各島内で遺伝的操作 • 移住 (migration) －移住率，移住間隔 • 分散GA(DGA)の例 • Taneseのモデル(1989)

  16. 移住 交叉 突然変異 選択 2個体分散遺伝的アルゴリズム • 2個体分散遺伝的アルゴリズムとは (Dual Individual DGA : DuDGA) サブ母集団内の個体数が2 遺伝的オペレータの改良

  17. 置き換え 複製 複製 置き換え 置き換え 複製 DuDGAにおける移住 • 送る側 : ランダムに移住個体を選択．コピーを送る • 受ける側 : 適合度の低い方の個体と置き換え

  18. DuDGAにおける交叉 • 2つの親個体から2つの子個体を生成 (一点交叉) 親個体 子個体

  19. DuDGAにおける突然変異 • 各子個体を，1ビットずつ反転 • 反転する位置を1ビットずつずらす 0 0 1 0 0 1 1 0 0 1 1 0 1 1 1 0 0 0 1 1 0 1 0 0 0 0 1 0 子個体 同一の子個体の生成を抑制

  20. 次世代の個体 DuDGAにおける選択 • 親個体と子個体から適合度の高い方を選択 • 移住個体は選択されない 子個体 親個体

  21. 子個体 交叉 突然変異 選択 次世代の個体 遺伝的操作のまとめ 親個体

  22. DuDGAの特徴 • 島数 個体数を決めると一意に決定 • 交叉 一通りのペア．交叉率 1 • 移住 移住率 0.5 (1個体) パラメータ設定の 困難さの一部を解消

  23. テスト関数 ※

  24. 島数と性能について • DuDGAは，DGAにおいて，島数を最大としたもの DGAにおいて， 島数と解探索性能との関係を調べ， DuDGAと比較

  25. 使用したパラメータ

  26. 4 islands 8 islands 12 islands 24 islands DuDGA 最適解発見の割合 1.0 Reliability 0.5 0 Rastrigin Griewank Ridge Rosenbock ※ Reliability : 5000世代後に解を発見した割合 (20試行中) • 島数が多いほど信頼性が高い傾向 • DuDGAが優れた性能

  27. 解発見までの関数評価回数 4 islands 8 islands 1000000 12 islands 24 islands Number of Evaluations DuDGA 500000 0 Rastrigin Griewank Ridge Rosenbock • 島数が多いほど評価回数が少ない傾向 • DuDGAの収束が速い

  28. 比較対象のFGGA(1) • Manderick(1989)のモデル • 各個体を 2次元の格子状に配置 • 隣接する個体同士 (縦，横，斜め) で 遺伝的操作 典型的な 近傍モデル

  29. 比較対象のFGGA(2) • Maruyama(1993)のモデル • 近傍を定義しない • 通信が少ない • 他のプロセスの 個体の情報を格納 FGGAの中でも， DGAに近いモデル

  30. 使用したパラメータ

  31. テスト関数 ※

  32. DuDGA DuDGA Manderick Manderick Maruyama Maruyama FGGAとの比較結果 100 2000 80 1500 60 Evaluation Value Evaluation Value 1000 40 500 20 0 0 0 0 200000 400000 200000 400000 Number of Evaluations Number of Evaluations Rosenbrock Ridge • 探索の初期においてはFGGAの収束が速い • Rosenbrockでは，Manderickより良好な性能

  33. DuDGA DuDGA Manderick Manderick Maruyama Maruyama FGGAとの比較結果 50 3000 2500 40 2000 30 Evaluation Value Evaluation Value 1500 20 1000 10 500 0 0 0 200000 400000 0 200000 400000 Number of Evaluations Number of Evaluations Rastrigin Schwefel • 探索の初期においてはFGGAの収束が速い • DuDGAが良好な性能

  34. DuDGA Manderick Maruyama FGGAとの比較結果 1.0 • 探索の初期においては， FGGAの収束が早い • 解発見能力の優劣は， 問題によって異なる 0.8 0.6 Evaluation Value 0.4 0.2 0.0 0 200000 400000 Number of Evaluations Griewank • 探索の初期においてはFGGAの収束が速い • DuDGAが良好な性能

  35. テスト関数 Rastrigin, n=10 ( -5.12 < x < 5.12 ) • パラメータ • Coding 10bit Gray coding • Crossover one point crossover, rate=0.6 • Selection roulette, elite preservation • Mutation rate=1 / gene length • Migration random ring topology, interval=5, rate=0.15 • Terminal elite not renewed among 100 generations • condition

  36. 使用クラスタ Processor PentiumⅡ(Deschutes) Clock 400MHz # Processors 1 × 16 Main memory 128Mbytes × 16 Network Fast Ethernet (100Mbps) Communication TCP/IP, MPICH 1.1.2 OS Linux 2.2.10 Compiler gcc (egcs-2.91.61) Spec. of Cluster (16 nodes)

  37. DGA of SPGAとの比較

  38. 経過時間と適合度値 (8PE) DGA:8PE Master-slave:8PE SGA:1PE

  39. 経過時間と適合度値(16PE) Master-slave:16PE DGA:16PE SGA:1PE

  40. 適合度計算時間とネットワークの関係 Iteration Time Analysis of truss structure (FEM) 4 10 μsec none 40 100 μsec 8 nodes 15 elements (3) 400 1 msec 66 nodes 160 elements (32) 4000 10 msec 622 nodes 1550 elements (310) Truss 8 nodes 15 elements (3 stages)

  41. スピードアップ (DGA model)

  42. スピードアップ (Master slave model)

  43. 補足資料 分散GAの並列化 選択 交叉 移住 突然変異 評価 • 分散GAは1プロセッサに1つの島を割り当て，　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　移住によって個体情報を交換する ISDL, Doshisha Univ.

  44. 補足資料 選択 移住 交叉 突然変異 評価 2個体DGAの並列化（1/2） 島交換 • 2個体DGAは1プロセッサに複数の島を割り当て，　　　　　　　　　　　　　　　　　　　島交換によって他のプロセッサ上の個体と関係を持つ ISDL, Doshisha Univ.

  45. 補足資料 25 20 15 10 5 1 5 10 15 2個体DGAの並列化（2/2） Speed Up Rate The number of processors • 並列化によって解探索能力の向上が見られ，　　　　　　　　　　　　　　　　　　　　　　　　　　　　　理想値以上の速度向上ができた ISDL, Doshisha Univ.

More Related