Cha 5-1

결정트리

• Yes / No에 대한 질문을 이어나가면서 정답을 찾아 학습하는 알고리즘
• 리프 노드에서 가장 많은 클래스가 예측 클래스가 된다
• 결정트리 모델은 ‘특성 값의 스케일이 알고리즘에 아무런 영향을 주지 않는다’

표준화를 하지 않아도 된다

실습코드

from sklearn.tree import DecisionTreeClassifier
import matplotlib.pyplot as plt
from sklearn.tree import plot_tree

dt = DecisionTreeClassifier(random_state=42)
dt.fit(train_scaled, train_target)
print(dt.score(train_scaled, t엔

plt.figure(figsize=(10, 7))
plot_tree(dt, max_depth=1, filled=True, feature_names=['alcohol', 'sugar', 'pH'])
# max_depth: 시각화 할 결정트리의 깊이 제한, filled: 매개변수에서 클래스에 맞게 색칠, 
plt.show()

지니 불순도

• scikit-learn의 decisionTreeClassifier의 criterion 매개변수의 기본값

• criterion 매개변수는 노드에서 데이터를 분할할 기준을 정한다

  $1 - (음성 클래스 비율^2 + 양성 클래스 비율^2)$에

불순도 적용 방법

• ‘부모 노드’와 ‘자식 노드’의 불순도 차이가 가능한 크도록 트리를 성장시키니다