2020/04/17 Foot step

About Machine Learning

Learned about Softmax Function, CrossEntropy, Backpropagation, AutoEncoder, ANN(DNN), MLP(Multi-Layer Perceptron)

-Softmax Function

Softmax 함수는 Normalization 함수로써 출력값들의 합을 1로 만들어줍니다.

-CrossEntropy(For classification)

tf.nn.softmax_cross_entropy_with_logits_v2는 softamx,

tf.nn.sparse_softmax_cross_entropy_with_logits API 차이

-Backpropagation(Algorithm)

다층 퍼셉트론을 효율적으로 학습 시킬 수 있는 알고리즘. Chain Rule에서 미분값을 구하는 것을 해결. Forward-propagate로 전달받은 Error를 계산해 Back-propagation.

-AutoEncoder(Unsupervised Learning)

출력층 Output Layer 의 노드 개수와 입력층 Input Layer 의 노드 개수가 동일한 구조의 인공신경망이고 출력층의 출력값이 아니라 은닉층의 출력값이다. 그래서 보통은 AutoEncoder의 은닉층의 출력값을 Classifier로 사용.

-ANN(DNN)

컴퓨터의 병렬 연산을 실현시키는데에서 고안. 초기모델인 Perceptron은 실패로 끝났지만 MLP(Multi-Layer Perceptron)로 입증.

-Multi-Layer Perceptron(비선형)

Layer의 갯수를 늘리면서 선형분리가 불가능했던 문제 해결. Input, hidden, output lay가 있음(hidden layer가 많으면 DNN).

 

---

About something new

-Google CEO는 pandemic이 끝난 후에도 자택근무가 계속 될 수도 있다고 인터뷰에서 언급했다.(업무환경의 새로운 관점)

---

To-do list

• [x] Get up at 7 10
• [x] Organize the blanket
• [x] Put the flower on the windowsill
• [x] Get the supplements and the chocolate, make some water.
• [x] Drink coffee, Do the diary about sleeping and thoughts
• [x] Stretch your body for 20 min
• [x] Stretch Ulnar nerve with 원동력 exercise
• [x] Read AI news And the news
• [x] Do machine learning
• [x] One day One commit
• [x] Do Eng words
• [x] Go for cardio
  • [x] Have time to think about something new
• [x] 미숫가루
• [x] walnut and almonds
• [x] Do Intermittent fasting at 7
• [x] Read book
• [x] Do blogging
• [x] Do out-put
• [x] Put the flower back from the windowsill