Machine Learning , AI, Arduino Coding

Deep Learning 이란 무엇인가? Hidden Layer 란 무엇인가? 이런 개념을 간단히 이해하고 있는가? 앞 장의 예제(http://blog.daum.net/ejleep1/932)를 살펴보면 1X784 데이터와 784X10 웨이트 데이터와 10개의 바이아스를 사용하여 hypothesis states를 계산하고 활성화 함수 Softmax를 적용하여 Cross Entropy Cost 함수를 구성 후 Optimizer를 설정하여 경사하강법을 적용하게 된다. 여기에 Dense(128)처럼 은닉층이 추가될 때 One layer 만큼 Deep 해졌다고 하며 이때에 도입되는 웨이트 매트릭스의 크기가 128X10 이라면 128 만큼 Wide 해졌다고 볼 수 있다. 즉 784X10 웨이트 매트릭스 사용에서 (..

Sklearn의 SVC는 hyperplane 경계에서 데이터가 혼합되어 있는 경우 중요 파라메터인 γ 와 C 값을 조절하여 Overfitting 조절이 가능하다. 따라서 SVC 예제에서처럼 Iris Flowers 데이터를 대상으로 다항식 기법을 적용한 TesnsorFlow 코드를 사용하여 결과를 비교해 보기로 하자. SVC루틴을 사용하여 결과..

Sigmoid 활성화 함수 대신 Softmax를 사용하여 XOR 예제를 TensorFlow 로 코딩 처리해 보자. Sigmoid 활성화 함수를 사용할 때 생성된 입력 좌표 점들의 수를 pts 라 할 때 해당하는 라벨 데이터의 shape 값이 (pts, 1)이지만 Softmax를 사용할 때는 (pts, 2)인 점이 달라진다. 아래의 코드는 Sigmoid 활성화 함수..