chapter 9 genetic algorithms n.
Download
Skip this Video
Loading SlideShow in 5 Seconds..
Chapter: 9 Genetic Algorithms PowerPoint Presentation
Download Presentation
Chapter: 9 Genetic Algorithms

Loading in 2 Seconds...

play fullscreen
1 / 32

Chapter: 9 Genetic Algorithms - PowerPoint PPT Presentation


  • 125 Views
  • Uploaded on

Chapter: 9 Genetic Algorithms. GA(Genetic Algorithms) 란?. 자연계의 유전 현상을 모방하여 적합한 가설을 얻어내는 방법 특성 진화는 자연계에서 성공적이고 정교한 적응 방법이다. 부분별로 모델하기 힘든 복잡한 문제에도 적용 가능하다. 병렬화 가능하고 , H/W 의 성능에 도움을 받을 수 있다. GA. 대량의 탐색공간에서 최적의 fitness 의 해를 찾는 일적인 최적화 과정 최적의 해를 찾는다고 보장할 수는 없지만 높은 fitness 의 해를 얻을 수 있다.

loader
I am the owner, or an agent authorized to act on behalf of the owner, of the copyrighted work described.
capcha
Download Presentation

PowerPoint Slideshow about 'Chapter: 9 Genetic Algorithms' - frasier


An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -
Presentation Transcript
ga genetic algorithms
GA(Genetic Algorithms)란?
  • 자연계의 유전 현상을 모방하여 적합한 가설을 얻어내는 방법
  • 특성
    • 진화는 자연계에서 성공적이고 정교한 적응 방법이다.
    • 부분별로 모델하기 힘든 복잡한문제에도 적용 가능하다.
    • 병렬화 가능하고 ,H/W의 성능에 도움을 받을 수 있다.
slide3
GA
  • 대량의 탐색공간에서 최적의 fitness의 해를 찾는 일적인 최적화 과정
  • 최적의 해를 찾는다고 보장할 수는 없지만 높은 fitness의 해를 얻을 수 있다.
slide4
GA에서 쓰이는 용어
  • Fitness-산술적인 단위로 가설의 적합도를 표시한다.
  • Population-가설들의 집합
  • Evaluate-모든 population에 대해 fitness값을 구한다.
slide6
가설의 표현
  • Bit-string(다른 표현도 있음)
    • Outlook={Sunny,Overcast,Rain},

Wind={String,Weak}

Outlook Wind

011 10

    • IF Wind=Strong THEN PlayTennis = yes

Outlook Wind PlayTennins

111 10 10

slide7
유전 연산자
  • 교차(crossover)
    • single-point,two-point,uniform crossover
  • 돌연변이(mutation)
    • point mutation
slide9
적합도 함수와 선택
  • 적합도 함수(fitness function)
    • 다음 세대까지 존재 가능한 정도를 표시
    • 분류 정확도, 규칙의 복잡도, 규칙의 일반성
  • 선택(selection)
    • fitness proportionate selection(roulette wheel selection)
      • tournament selection
        • p-> 승자, (1-p)-> 패자,다양성
      • ranking selection
gabil
GABIL
  • Concept learning에 GA를 사용한 예(De Jong)
    • learn boolean concepts represented by a distinctive set of propositional rules
    • breast cancer diagnosis판별 문제
  • table 9.1. 과 동일한 과정
    • r=0.6 m=0.001 p=100~1000
  • 정확도:92.1% 다른 방법(91.2%~96.6%)
gabil 2
GABIL(2)
  • 가설 표현
  • 돌연변이
  • 교차-표현 구조가 깨지지 않도록 교정
  • 적합도 함수
gabil 1
GABIL의 확장(1)
  • AddAlternative
    • 어떤 attribute의 bit에서 0을 1로 바꿈
    • p=0.01
  • DropCondition
    • 어떤 attribute를 1로 채움
    • p=0.60
  • 효과
    • 정확도 95.2%(이전 92.1%)
gabil 21
GABIL의 확장(2)
  • Bit-string의 확장
    • AA:AddAlternative 허가
    • DC:DropCondition 허가
  • 효과
    • 성능 향상은 없었으나, 흥미로운 현상을 보였다.
slide15
가설 공간 탐색
  • 다른 탐색 방법과의 비교
    • local minima에 빠질 확률이 적다.(급격한 움직임 가능)
  • crowding
    • 유사한 개체들이 개체군의 다수를 점유하는 현상
    • 다양성을 감소시킨다.
crowding
Crowding
  • Crowding의 해결법
    • 선택방법을 바꾼다.
      • Tournament selection,ranking selection
    • “fitness sharing”
      • 유사한 개체가 많으면 fitness를 감소시킨다.
    • 결합하는 개체들을 제한
      • 가장 비슷한 개체끼리 결합
      • 개체들을 부분적으로 분포시키고 근처의 것끼리만 결합가능하게 함
schema theorem
Schema Theorem
  • Schema
    • any string composed of 0s, 1s, and *’s
    • *->don’t care : 00**, 0*10, ***, etc
    • m(s,t) : 시간 t에서 스키마 s에 속하는 원소수
    • f(h) : bit string h의 적합도 값
    • : 시간 t에서 평균 적합도 값
    • : 시간 t에서 스키마 s의 평균 적합도
    • E[m(s,t+1)] : 시간 t+1에서 m의 기대값
schema theorem 2
Schema Theorem-(2)
  • 선택과정
schema theorem 3
Schema Theorem-(3)
  • 교차와 돌연변이를 고려한 경우
    • o(s) : defined bits(0,1)의 수
    • d(s) : 가장 왼쪽과 오른쪽 defined bit사이의 거리
    • l : bit string의 길이
    • o(s),d(s)가 작고 적합도값이 큰 스키마가 증가
gp genetic programming
GP(Genetic Programming)
  • 개체는 bit string이 아닌 컴퓨터 프로그램으로 표시된다.
  • 프로그램의 표현
    • 프로그램의 parse tree
    • 예)
slide21
GP-(2)
  • 교차
    • subtree의 교환
slide22
GP-(3)
  • Fitness
    • training set에 대한 실행 결과
  • Koza의 방법
    • 10%의 개체는 다음 세대로 전달.
    • 현재 개체끼리 교차해서 나머지 수를 채움.
    • 돌연변이는 사용하지 않음.
gp koza
GP의 예제(Koza)
  • 최초의 배치에 관계없이 단어 ‘universal’을 순서대로 만드는 문제
    • 한번에 한 개의 블록만 이동 가능.
    • 최상위 블록만이 탁자에 내려갈 수 있다.
    • 혼자 놓여진 것만이 최상위 블록 위로 올라갈 수 있다.
slide24
GP의 예제-(2)
  • 인자(단말 노드)
    • CS(current stack)
      • 스택의 최상위 원소, 없으면 F
    • TB(top correct block)
      • 아래 쪽이 정확한 배열이 된 최상위 블록의 이름
    • NN(next necessary)
      • TB위로 올라가야 하는 블록의 이름,없으면 F
slide25
GP의 예제-(3)
  • 기본 함수(비단말 노드)
    • (MS x) : x가 탁자에 있으면 스택위로 올림
    • (MT x) : x가 스택에 있으면 스택의 최상위 원소를 탁자로 내림
    • (EQ x y):x가 y와 같으면 T를 되돌려 줌
    • (NOT x):x가 F이면 T를 되돌려 줌
    • (DU x y):y가 T가 되는 동안 x를 실행
slide26
GP의 예제-(4)
  • 결과
    • 10세대 만에 모든 training set을 만족하는 프로그램을 찾음
    • (EQ (DU (MT CS) (NOT CS)) (DU (MS NN) (NOT NN)) )
      • 첫번째 DU
        • 모든 스택을 비움
      • 두번째 DU
        • 순서대로 스택을 쌓음
slide27
GP의 확장
  • 전자회로 구성문제에 적용
    • 10% 유지, 89% 교차로 생성, 1% 돌연변이로 생성
    • 137세대 만에 원하는 명세와 유사한 결과를 얻음
  • GP의 성능은 개체 표현과 적합도 함수의 선택에 의존한다.
slide28
진화와 학습의 모델
  • 자연계
    • 개체는 일생동안 적응을 한다.
  • 생물학적,사회적인 과정
    • 종은 많은 세대동안에 변화한다.
  • Lamarckian Evolution
  • Baldwin Effect
lamarckian evolution
Lamarckian Evolution
  • 개체가 얻은 경험을 자식에게 유전한다.
    • 생물학적으로 부정됨
    • GA에서 효율향상이 있음
baldwin effect
Baldwin Effect
  • 개체의 학습이 유전되지는 않지만 진화의 방향을 바꾼다.
    • 변화하는 환경에서는 학습 능력이 뛰어난 개체가 선택되는 경향이 있다.
      • 유전적으로 뛰어나게 최적화된 것 보다는 학습능력이 뛰어난 개체가 적응을 잘한다.
    • 학습을 잘 하는 개체는 유전자의 오류에 덜 영향을 받는다.
      • 개체의 학습능력은 진화속도를 증가시킨다.
baldwin effect ann
Baldwin Effect-ANN에 응용
  • ‘lifetime’동안 weight가 변하지 않는 것과 훈련가능 한 것과의 비교
    • 초기 세대:훈련 가능한 것이 다수
    • 유전적으로 fixed, correct network weights를 가진 것이 증가
slide32
병렬 유전 알고리즘(PGA)
  • Coarse grain approach
    • 전체 개체들이 부분 개체군(demes)에 나뉘어 존재
    • migration : deme 사이에서 개체 교환
    • crowding 감소
  • Fine-grained approach
    • 1프로세서에 1개체
    • 인접하는 개체 사이에 유전자 조합
    • 여러 인접방법 : planar ,torus