2020/04/29 Foot step

About Artificial Intelligence

Learned about SVM

-SVM

선형, 비선형 회귀, 분류에 모두 사용가능한 지도학습 알고리즘. Class간의 가장 가까운 점 Support vector점을 찾아 평행을 이루는 선을 긋고 그 직선의 중앙에 선을 그어 결정 경계를 만든다.

-Hard / Soft margin classification

초평면들 사이에 어떠한 dataPoint를 두지 않는 방법을 Hard margin classification이라고 하는데 이의 단점은 결정 경계가 이상치에 민감해지고 데이터 안에 이상치가 존재한다면 결정 경계를 찾을 수 없음. Soft margin classification를 사용해 그 경계를 유연하고 안정되게 만들어줌.

-Gaussian RBF

다양한 함수를 이용하여 변화된 특성을 추가 가능한 알고리즘. 일반적으로 모든 data point를 기준점으로 삼아 Gaussian RBF를 적용한다. data양이 많은 경우 메모리와 연산 비용문제 발생.

-Kernel Trick

Kernel Trick을 사용하면 물리적으로 특성을 추가하지 않고도 내적의 항을 제곱으로 바꾸면 결과를 도출할 수 있다.

-SVR(Support Vector Regression)/ SVC (support vector classifier)

SVM을 사용할때 분류와 회귀로 나눠짐. 분류에서 마진의 거리가 최대가 되는 초평면을 선택했다면 회귀에서는 제한된 Margin안에서 가능한 샘플 활용.

-Tree-based Model

간단하고 성능이 좋아 입문자에게 적합한 Algorithm이다. 분류, 회귀 모두 적용가능.  대표 모델은 DecisionTree와 Random forest이 있다.

또 Scaling에 영향을 받지 않아 바로 적용 가능.

-DecisionTree

시각화에 용의, 직관적이여서 이해하기 쉽다. DecisionTree에 자주 사용되는 Algorithm Classification And Regression Tree은 분류 회귀 모두 적용 가능. 

-Greedy Algorithm

결정 트리를 최적의 질문을 선택하게 하기 위해 사용. 매 순간 최선의 선택을 하며 최종 해답에 도달. 단점으로는 중지시키지 않으면 깊고 복잡한 트리를 만들 수 있음 ->Overfitting.

-Prediction of DecisionTree

트리안에서 정해진 확률로 Predction. predict_proba() mathod를 이용한다면 확률을 수치로 확인 가능.

-DecisionTree Regression

분류와 비슷하지만 Cost function을 MSE사용의 차이.

---

About something new

---

To-do list

• [x] Get up at 7 10
• [x] Organize the blanket
• [x] Put the flower on the windowsill
• [x] Turn the hip hop jazz
• [x] Do machine learning
• [x] One day One commit
• [x] Get the supplements and the chocolate, make some water.
• [x] Drink coffee, Do the diary about sleeping and thoughts
• [x] Stretch your body for 20 min
• [x] Do Eng words
• [x] Go for cardio
  • [x] Have time to think about something new
• [x] 미숫가루
• [x] Brush up on
• [x] walnut and almonds
• [x] Do Intermittent fasting at 7
• [x] Stretch Ulnar nerve with 원동력 exercise
• [x] Read book
• [x] Do blogging
• [x] Do out-put
• [x] Put the flower back from the windowsill
• [x] Organize the day and create the next day's plan