Machine Learning , AI, Arduino Coding

1차 방정식의 해를 구하는 문제는 2개의 1차 방정식의 교점을 구하는 문제의 특수한 경우라고 볼 수 있다. 즉 2개의 1차 방정식 중 1개가 x 축이 되는 경우이다. 즉 교점의 좌표를 (x0, y0)라고 한다면 x축과의 교점은 (x0, 0) 이 된다. 따라서 아주 간단한 기하학적인 아이디어를 사용하여 least sq..

1차 함수와 x 축과의 마나는 점을 찾아내는 문제는 2개의 1차 방정식의 교점을 구하는 문제의 특수한 경우라고 볼 수 있다. 즉 2개의 1차 방정식 중 1개가 x 축이 되는 경우이다. 즉 교점의 좌표를 (x0, y0)라고 한다면 x축과의 교점은 (x0, 0) 이 된다. 따라서 간단한 기하학적 아이디어를 사용하여 least square 기법을 적용해 보기로 한다. (x,y) 평면에서 1차 방정식 Ax+By+C=0 과 x축 상의 1점 P(x0, 0) 와 최단 직선거리는 그림의 d 로 표현된다. 따라서 y = 0 일 때 방정식의 해는 (x,y) 평면상에서 x축과 교차하는 직선의 교점을 찾는 문제로서 간단히 방정식 Ax + C = 0을 푸는 문제로 바뀐다, 기하학적인 방법으로서 x축에서 방정식 Ax+By+C=0..

아래에 기술된 내용은 사실 가장 간단한 머신 러닝 예제에서 출발하여 설명하지만 후반에 TensorFlow를 지원하는 강력한 툴의 하나인 TensorBoard 사용법을 첨부하였다. 물론 TensorBoard 사용법이 처음 초보자에게는 다소 복잡하게 느껴질지도 모르지만 반드시 숙지해야 할 내용이며 만약 예제가..

Linear Regression 연습문제에서 최소 3개의 점 데이터를 사용하는 이유는 무엇인가? 점 데이터 2개는 안 되는 것일까? (x,y) 평면에서 직선의 방정식 y=w*x+b 를 생각해보자. 이 방정식의 모양을 제대로 결정하기 위해서는 직선의 기울기 값 a 와 직선이 y축과 만나는 점 즉 절편의 값 b를 알아야 한..

hypothesis 값과 y_train 과의 차이 값의 제곱을 합하여 평균한 값인 cost 함수는 머신러닝 과정에서 항상 최소화(minimization)의 대상이 된다. W의 초기 값은 난수를 사용하여 지정할 수도 있으나 직접 임의의 값을 주어도 된다. 아울러 처음에 난수로 주어진 b 값을 사용하여 cost 함수 값을 수치적..

선형 회귀 모델링은 키와 체중과의 관계식에서 처럼 신체 검사 분야에서 흔히 사용 사례를 찾을 수 있다. 충분히 많은 샘플 데이터를 2차원 평면에 찍은 후 키와 체중과의 일차함수적인 관계를 통계학적으로 least square fitting 법을 적용하여 찾아내는 것이다. 이러한 작업의 가장 간단한 코..

Tensorflow 모듈을 이용하여 2개의 상수인 숫자를 더하는 코드를 작성하였다. 여기에서 좀 더 나아가 2개의 placeholder를 도입하여 노드들을 설정하고 연산을 정의한 후 Session 작업 단계에서 placeholder에 값을 입력해주는 TensorFlow 코드를 작성해 보기로 한다. placehoder 란 말 그대로 메모리에 속성..

Tensorflow 모듈을 이용하여 2개의 숫자를 더하는 코드를 작성하기로 하자. 2개의 숫자를 상수로 정의하는 작업이 필요하며 아울러 2개의 숫자를 더하는 연산이 1개 필요하다. TensorFlow에서 정의되는 상수 값 및 덧셈이라는 연산은 각각 노드(Node)에 해당한다. 이러한 노드들 간의 연결내지는 ..

TensorFlow 설치와 관련하여 32비트이니 64비트이니 하는 얘기가 있다. 직접 TensorFlow 싸이트에서 확인해 보면 리눅스와 MaxOS 정도까지만 언급되어 있으며 라즈베리 파이에 설치가 가능한지 여부에 대한 단서는 없다. 반면에 우리가 즐겨 사용하는 라즈베리베리 파이는 32비트 리눅스 버전이지..

28X28 사이즈 MNIST 데이타 X를 읽어 들여 1X784 사이즈로 일차원 화된 매트릭스로 변환한 다음 마지막에 하나의 요소를 추가하여 1X785 로 만든다. 마지막 요소에는 편향(바이아스) 용으로 1을 입력해 둔다. 웨이트 매트릭스 W는 바이아스를 별도로 처리할 필요 없이 785X10으로 처리한다. 연산 결과 10 비트 hypothesis states 에 각 비트별로 빈도수가 계산된다. Normalization 과정을 통해 softmax 확률이 계산된다. 선형 파트만을 사용하는 softmax MNIST 데이타 분석의 결과는 learning rate = 0.1, 20,000회 학습에 최대 92.5% 안팎의 인식율을 보여준다. 인식율을 개선하기 위해 Covariance를 정식화 하여 포함시키면 다음의 ..