2020/04/28 Foot step

About Artificial Intelligence

Learned about Linear, Logistic, Softmax Logistic Regression

-Linear Regression

Data특성 X와 정답 y의 선형 상관관계를 모델링. 수치를 예측할때 많이 사용하는 Algorithm

-Stochastic Gradient Descent, Mini-Batch Gradient Descent

Stochastic Gradient Descent는 Parameter를 자주 update할 수 있지만 전체 Training data를 고려하지 않음. Mini-Batch Gradient Descent는 다른 방법들의 절충적인 기법이며, 가장 많이 사용되는 방법이다. 

-Polynomial Regression

Polynomial Regression를 통해 Non-linear data에 linear regression을 대입할 수 있는 방법. 원리는 간단하게 거듭 제곱을 새로운 특성으로 추가하여 선형 모델을 이용.

-TrainingSet/ValidationSet

학습 곡선을 그릴때 TrainingSet과 ValidationSet 의 차이는 ValidationSet은 오차가 적정한 fitting을 그리다가 overfitting으로 바뀐다. 이때, 학습을 멈추는 것을 Early Stopping이라 하고 이것을 지연해주는 것이 Regularization이라고 한다.

-Logistic Regression

회귀를 예측할때 많이 사용했다면 Logistic Regression은 분류에 일반적으로 사용한다. Cost function으로는 log loss와 이의 확장된 버젼인 Cross Entropy를 주로 사용한다. Sigmoid function은 0과 1사이의 값을 출력한다.

-Softmax logistic regression

다분류를 할 때 많이 사용하며 먼저 label을 one-hot-encoding으로 변환하고, Vector형식으로 다시 변환한다.

---

About something new

---

To-do list

• [x] Get up at 7 10
• [x] Organize the blanket
• [x] Put the flower on the windowsill
• [x] Turn the hip hop jazz
• [x] Do machine learning
• [x] One day One commit
• [x] Get the supplements and the chocolate, make some water.
• [x] Drink coffee, Do the diary about sleeping and thoughts
• [x] Stretch your body for 20 min
• [x] Do Eng words
• [x] Go for cardio
  • [x] Have time to think about something new
• [x] 미숫가루
• [x] Brush up on
• [x] walnut and almonds
• [x] Do Intermittent fasting at 7
• [x] Stretch Ulnar nerve with 원동력 exercise
• [x] Read AI news And the news
• [x] Read books
• [x] Do out-put
• [x] Put the flower back from the windowsill
• [x] Do blogging
• [x] Organize the day and create the next day's plan