<aside> 💡 1번 10 점 2번 10 점 3번 5 점 4번 10 점 5번 9 점 ⇒ total : 44점

</aside>

이론 문제 # 1.

정답 : 2

2. 경사하강법을 수행할 때 역전파(Back Propagation)과정에서 입력층으로 갈수록 기울기가 점차적으로 작아지는 기울기 소실이 발생함.

이론 문제 # 2.

<aside> 💡 완벽한 풀이입니다. 첨언할 부분이 없네요 😊

</aside>

정답 : 1, 4

2. 확률적 경사 하강법 : 하나의 샘플을 사용하여 최적의 모델을 찾는 알고리즘

3. 배치 경사 하강법 : 매 경사 하강법 스텝에서 전체 훈련 세트에 대해 계산하여 최적의 모델을 찾는 알고리즘

⇒ 전체 훈련샘플을 사용하기 때문에 확률적 경사 하강법보다 훨씬 많은 연산을 필요로 함.

5. 손실 함수(loss function) : 샘플 하나에 대한 손실 정의

⇒ 손실함수의 값이 작을수록 최적화가 잘 됨.

실습 문제 # 3.