전체 글 (19) 썸네일형 리스트형 SVM을 전용 패키지 없이 파이썬으로 구현해보기 이전 포스트에서 loss ftn에 대해 다뤘는데, 그중 Hinge Loss가 SVM에서 사용되는 Loss이다. 아래 Hinge Loss 식에서 왜 safety margin 값이 +1인지 궁금했다. 그래서 이를 더 이해하고자, 추가로 SVM을 공부해보고, Hinge Loss를 기반으로 최적화하는 SVM을 간소하게 구현해보았다. (보통 파이썬에서는 sklearn 패키지를 사용하면 SVM을 쉽게 사용할 수 있지만, 작동 원리를 이해를 위해서 패키지 없이 직접 구현해보았다.) SVM에 대한 개념 설명은 이미 잘 정리되어있는 곳이 많아서, 다른 글들을 참고하면 좋을 것 같다. (추천 블로그 : https://sanghyu.tistory.com/7) 코드 목표 2차원의 공간에 아래와 같이 +, - 그룹 별로 2개의.. Loss Function 이해하기 - Hinge loss, Softmax loss 분류 문제에 많이 쓰이는 Loss Function(손실 함수)인 Hinge Loss와 Softmax Loss에 대해서 알아보려고 한다. 아래 내용은 cs231n 3강 강의를 참고로 정리했다. Loss Function 이란 머신러닝에서 학습은 (그중에서도 supervised learning은) 학습데이터를 기반으로 실제값과 예측값 사이의 Loss(오차)를 최소화하도록 weight(가중치)와 bias(편향)을 최적화하는 과정이다. 그렇다면 이때 Loss는 어떻게 구할까? Loss Function를 기반으로 구할 수 있다! 머신러닝에서 사용해야 하는 Loss Function는 하나로 정해진 것은 아니고 다양하다. 사용하는 데이터와 도메인 특성을 고려해서 원하는 Loss Function를 골라서 사용하면 된다... ggplot2로 움직이는 꽃🌺 그리기 아래는 내가 석사시절 스승의 날에 지도 교수님께 선물로 드린 그림(!?)이다. TMI : 당시 지도 교수님께서는 학생에게 물건 선물을 받지 않으셔서, 감사의 마음을 어떻게 표현할지 고민되었다. 마침 해당 학기에 교수님께서 데이터 시각화 강의를 하셨는데, 수업에서 배우는 ggplot2 패키지를 이용해서 무언가를 만들어드리면 의미있을 것 같았다. 그래서 스승의 날 전날 밤을 새서 교수님께 그림 선물을 드렸던 기억이 있다. (교수님께서는 받고 어떤 마음이 드셨을까...) 선물을 준비하면서 아래 3가지 지점을 얻을 수 있었다. 그리고 이 작업이 나에겐 충분히 의미가 있다고 생각되어서 블로그에 남기려고 한다. - ggplot2에 대한 이해도 증가 진짜 별게 다 되네.. 헤들리 위컴(ggplot2 개발자) 당신은 .. 이전 1 2 3 다음
