오버피팅2 8번째 인공지능 - 의사결정트리 의사결정 트리 ● 의사결정 트리는 직관적으로 이해하기 쉽고, 분류 및 예측 결과에 대한 이유나 설명이 필요한 경우에 많이 사용합니다. - 예를 들어, 환자가 어떤 병에 걸렸을 때 이러이러한 조건에 부합하기 때문에 어떠한 질병이 의심된다고 설명을 해줄 수 있는 것이죠. 즉 판단에 대한 나름의 설명력이 좋습니다. ● 하지만 정확도를 높이기 위해서 불순도가 낮은 상태를 향해 달려가다 보면 질문이 많아지고, 트리의 깊이가 그만큼 깊어지게 됩니다. 이렇게 되면 과대 적합(오버 피팅)됩니다.(오버 피팅)됩니다. 즉, 학습을 했음에도 되려 성능이 떨어지게 됩니다. - 이럴 땐 어떻게 해야 할까요? 조경을 할 때 중요한 작업이 있습니다. 바로 가지치기입니다 - 사람 관계에도 가지치기가 필요합니다. 정리가 필요한 관계는.. 2022. 8. 16. 6번째 인공지능 - SVM, 커널, 커널트릭, K-최근접 이웃(KNN) 알고리즘 svm, 커널, 커널 트릭 ● SVM 마지막 이야기이네요. ● 커널을 이용해 차원을 높이면 두 개의 클래스를 분류하는 평면을 찾을 수 있다는 얘기였습니다. ● 그런데 말입니다. 이 모든 데이터를 차원 높은 데이터로 다시 맵핑하는 것이 말이 쉬운데, 계산량이 엄청 증가하게 됩니다. 그리고, 차원이라는 것이 사실 끝도 없습니다. 사실 안되면 될 때까지 차원을 늘린다는 건 말도 안 되는 일이기도 합니다. ● 그래서 꼼수를 씁니다. 모든 데이터를 맵핑하지 않고 꼼수를 이용해 비슷한 효과를 내게 만듭니다. ● 이것이 커널을 활용한 트릭이어서 커널트릭(Kernel Trick)이라고 부릅니다. 이 커널 트릭 기법이 있었기 때문에 SVM이 머신러닝의 대세가 될 수 있었습니다. ● 네, 사실 SVM이 성능이 다른 머신러.. 2022. 8. 16. 이전 1 다음
