- 순환신경망(RNN)의 구조에서 현재 상태를 계산하기 위해서 현재 입력과 이전 순서에서의 상태 결과를 함수에 넣어줘야 한다.
- 다대일 형태의 신경망에서는 마지막 순서 출력값과 처음 순서의 출력값을 비교하여 손실 값을 계산한다.
- 다대다 구조의 모델에서는 입력 시퀀스와 출력 시퀀스의 길이가 항상 동일해야 한다.
- LSTM은 기본 RNN에 비해 더 많은 파라미터를 보유하여 RNN의 그래디언트 소실 문제를 해결할 수 있다.
- 양방향 다계층 순환신경망은 정방향과 역방향 결과물을 입력으로 받는데, 정방향 RNN셀은 미래 순서의 은닉 상태를 받고 역방향 RNN셀은 과거 순서의 은닉 상태를 받는다.
- 은닉 상태는 신경망을 통과하면서 학습하는 파라미터이다.
- 은닉 상태에서는 자신의 상태를 업데이트한 기억을 가지고 있다.
- ImageFolder를 사용하면 이미지 데이터셋의 디렉토리 구조에 따라 자동으로 레이블을 지정할 수 있다.
- VGG 모델은 주로 3x3 필터와 2x2 풀링을 사용하는 것이 특징이다.
Dacon&Kaggle 실습 문제
https://www.kaggle.com/competitions/nlp-getting-started/overview
Dacon&Kaggle 실습문제는 2주치 과제 입니다.
문제를 해결 후에 7주차 문제 제출일(11/17)에 7주차 문제 제출 페이지에 리더보드 캡쳐와 사용한 코드를 같이 제출하시면 됩니다!