진우

• 성현에게 : 머신러닝의 네가지 분야
  • 지도, 비지도, 준 지도 vs 자기지도, 강화
• 이영에게 : 드롭아웃을 하는 이유?
  • 오버피팅을 막기 위해
  • 층에 노이즈 줘서 패턴을 깨기 위함
• 정준에게 : 전처리에서 벡터화를 하는 이유는?
  • 신경망에는 숫자 데이터밖에 넣을 수 없다.

현수

• 진우에게 : K겹 vs 반복 K 겹 장단점
  • 비용이 많이 든다
  • 더 정확하다
• 성현에게 : AUC = 0.5일 때 모델의 성능은?
  • 🚽 🗑 :
• 정준에게 : 파라미터와 하이퍼파라미터의 차이점
  • 파라미터는 직접 조절 x 가중치, 바이어스
  • 하이퍼파라미터는 직접 조절 학습률, 에포크, 배치 사이즈 ···

이영

• 현수에게 : 단순 홀드아웃 검증의 단점
  • 데이터가 적을 때 정확한 측정이 어렵다
• 현우에게 : L1 규제, L2 규제 차이
  • 실습으로 느껴라!
• 진우에게 : 지도학습 vs 자기 지도학습
  • 지도학습은 사람이 만든 레이블을 사용하지만, 자기지도학습은 사람이 만든 레이블을 사용하지 않는다.

정준

• 성현에게 : 158p :테스트 단계에서는 어떤 유닛도 드롭아웃되지 않습니다. 그 대신에 층의 출력을 드롭아웃 비율에 비례하여 줄여 줍니다. 의미?

  • 훈련시에만 비활성화(드롭아웃 비율에 비례하여 줄여줌).

• 진우에게 : 성능을 높이기 위해 추천하는 순서?

  • 데이터를 늘린다.
  • 층을 늘린다.
  • 에포크
  • 과대 적합된 모델을 만든 후 모델 성능이 감소할 때 학습을 멈춘다.

• 현수에게 : 특성공학? 특성공학을 이용한 예

  

feature : f1, f2, f3

y = a* f1 + 10 * b * f2 - 1/2 * f3

y= $e^a * f1 + b * sin(f2) + c * sqrt(f3)$< —- 단조 증가, 단조 감소

y = a sin f1 + error