로지스틱 회귀와 인공신경망

인공 신경망 용어

입력층(Input Layer) : 데이터의 feature를 말함

은닉층(hidden Layer) : 입력층과 출력층 사이에 있는 밀집층

출력층(Output Layer) : 신경망의 최종결과를 만드는 층

뉴런(Neuron), 유닛(Unit) : z값을 계산하는 단위, 선형 계산을 수행함

활성화함수(Activation Function) : 선형방정식의 결과를 확률로 바꿔주는 함수, 로지스틱 회귀에서는 시그모이드 또는 소프트맥스함수를 말한다, 이 활성화 함수를 하나의 층으로 구분하는 경우도 있음

밀집층(Dense Layer) : 이전 Layer에서 오는 가중치들을 이용하여 값을 계산해주는 층(Keras.layers)

완전연결층(Fully Connected Layer) : 양쪽의 뉴런들이 서로를 모두 연결하고 있는 층

Untitled

매컬러-피츠 뉴런

워런 매컬러와 원터 피트가 제안한 뉴런 모델로, 생물학적 뉴런이 신호가 임계값이 넘으면 활성화 되어 다른 세포에 신호를 전달한다는 것을 기반으로 만들어 짐. (=위 모델)

실제 생물학적 뉴런과는 거리가 먼 알고리즘임

Untitled

경사하강법을 이용한 로지스틱 회귀 알고리즘

인공신경망의 가장 단순한 예시로, 입력층과 출력층만 존재하는 알고리즘

원-핫 인코딩 (One-Hot Encoding)

노드에서 타깃값만 1로 만들고 나머지 값은 0으로 만들어 주는 것