빅데이터분석기사 필기 제5회 기출 · 인공신경망과 딥러닝
신경망 모형에서 발생하는 Gradient Vanishing 문제에 대한 설명으로 맞는 것은?
이 문제 풀어보기
정답 및 해설 보기
정답: 2번
기울기 소실(Gradient Vanishing)은 오차 역전파 과정에서 층을 거슬러 올라갈수록 기울기가 점점 작아져 앞쪽 층의 가중치가 갱신되지 않는 현상이다.
1번은 기울기가 커져 발산하는 기울기 폭주에 대한 설명이고, 3번 시그모이드는 미분값이 최대 0.25라 소실을 오히려 악화시켜 ReLU로 대체하며, 4번 그레디언트 클리핑은 폭주를 막는 기법이라 소실 완화책이 아니다.
1번은 기울기가 커져 발산하는 기울기 폭주에 대한 설명이고, 3번 시그모이드는 미분값이 최대 0.25라 소실을 오히려 악화시켜 ReLU로 대체하며, 4번 그레디언트 클리핑은 폭주를 막는 기법이라 소실 완화책이 아니다.