차곡차곡

Decision Tree (의사결정 나무) 의사결정 나무란? 머신러닝 모델 중 하나로, 데이터로부터 규칙들을 학습해 이를 조합하여 의사결정에 사용하는 모델. 전체 데이터를 여러 개의 소집단으로 나눈 뒤, 각 집단 내에서 분류 혹은 예측 시행 모든 데이터가 모여 있는 출발 지점을 root node라 하며, 최종 의사결정을 하는 마지막 지점을 terminal node라 한다. root node에서 terminal node까지 가는 과정은 데이터 공간 분할의 연속 * 분할했을 때 분할하기 전보다 데이터 분포의 경향성 혹은 특징이 더 뚜렷하게 드러나야 한다. > 이를 수치적으로 계산해주는 함수를 불순도 함수라 한다. 불순도 함수가 계산한 불순도(불확실성)가 감소하는 방향으로 분할을 진행한다. 불순도란? 한 집합..

머신러닝이란? [머신러닝 의미] 데이터를 통해 데이터와 현상 사이의 관계 (예측, 분류 등)를 기계에게 학습시키는 것 미리 설정해둔 방법론과 알고리즘을 통해 학습을 할 수 있다. [머신러닝 정의] 데이터와 알고리즘으로 기계에게 적절한 함수를 학습시키는 것 언제, 어떻게 발생할 지 모르는 noise를 고려해서 함수를 학습해야 한다. * 함수를 학습한다는 것은 데이터로부터 함수를 찾아낸다는 뜻이다. ∴ 머신러닝의 목적은 데이터로부터 매개변수를 알아내어 함수를 찾아내는 것이다. 이때 노이즈가 있기 때문에 그럴듯한 매개변수가 많이 존재한다. 선택의 기준이 되는 것은 손실 함수(loss function)이며, 베이즈 정리(Bayes' Theorem)와 깊은 관련이 있다. 적절한 가정과 손실 함수를 사용하여 매개변..