The Kernel Trick 우선 데이터 $x \in \mathbb{R}^2$가 다음과 같이 있다고 해보자! 데이터가 linear하게 있지 않는 것을 확인 할 수 있는데 이것은 logistic regression이나 linear support vector machine (SVM)을 학습시킬 수 없다. 그렇다면 어떻게 해야 학습 시킬 수 있을까? 바로 더 높은 차원(2차원 -> 3차원)에 데이터를 매핑시키는 것이다. 이때 어떤 $\varphi$라는 function을 사용해서! $\varphi$를 차수가 2인 polynomial kernel이라고 할 수 있다. 만약 위 데이터에 적용한다면 다음과 같이 시각화 할 수 있다. 그럼 이제 linear SVM를 학습할 수 있는 수식을 작성할 수 있다. 수식 전체를..
