AI/Machine Learning
-
[Machine Learning] Decision Tree: Gini importance 구하는 함수 직접 구현하기AI/Machine Learning 2022. 11. 29. 23:34
구현에 들어가기 전에 Decision Tree와 Gini Importance를 다시 짚고 가보자. 1. Decision Tree 우리 말로 의사결정 나무라고 부르는 Decision Tree는 해석 가능한 모델이다. 즉, 예측 결과를 알 수 있을 뿐만 아니라 왜 그렇게 예측하는지에 대한 설명이 가능하다. 또한, 학습에 시간이 오래걸리는 대신 분류 시 계산이 쉽고 빨라 간단하고 정확하다는 장점이 있다. 2. Gini Importance 의사결정 나무의 분리가 잘 된 것을 판단하기 위해서는 불순도라는 개념을 먼저 알아야한다. (이미 불순도의 개념을 안다고 생각하고 넘어가겠다.) 변수 중요도란, 학습된 모형에 대하여 반응 변수와의 관련성 또는 예측 관점에서 각 변수들의 영향력을 수치화한 것이다. Class가 총..