Ch.06 진화 알고리즘

• 자연에서의 진화를 모방한다.

• 생존에 유리한 유전자는 환경에 의해 정해지며 환경은 예측 불가능하고 동적, 그러나 모의 진화 환경은 간단

  ⇒ 손실 값을 최대, 최소화

• 역전파와 경사 하강 없이 훈련

6.1 강화 학습의 또 다른 접근 방식

• 역전파와 경사 하강 없는 것이 좋은가?

  ⇒ 확률적 경사 하강법에서 배치에서 랜덤으로 학습할 기울기를 정함

  다수의 노이즈가 존재할때, 확률적 경사 하강을 통해 모델이 성공적으로 학습한다고 보장하기 어려움.

  ⇒ 역전파와 경사 하강을 위해서는 모형이 미분 가능해야만 한다

  ⇒ 다수의 하이퍼 파라미터(뉴런 개수, 레이어 수, 학습률, …)에 대해 반복적인 학습 필요

다수의 에이전트

환경에 다양한 에이전트를 두고 좋은 개체의 교배를 통해 좋은 형질을 물려받는 새 에이전트를 만들기

경사하강법에 의존하지 않기 때문에 기울기 무관 알고리즘(Gradient-free algorithm) 이라고 함