MSE, BCE의 최적 Loss 값

GAN network의 경우 loss값이 작다고 장땡이아니다.

판별기의 loss값이 작아질수록 생성기의 loss값은 커지고 그 반대로 행동하기도 한다.

판별기와 생성기의 loss수준이 적당해야 훈련을 계속 이어가는 이상적인 모델이라고 볼 수 있다.

 

판별기의 수준은 생성기를 50:50 으로 판별하는 정도,

생성기의 수준은 판별기를 50:50 으로 속이는 정도가 훈련을 지속할 수 있는 이상적인 값이다.

 

따라서 MSE의 최적 loss값은 0.25, BCE의 최적 loss 값은 ln(2) = 0.693