Machine Learning , AI, Arduino Coding

머신 러닝과 인공지능은 최근에 활성화된 것은 사실이나 그 연원은 결국 2차 세계 대전이 끝날 무렵으로서 컴퓨터의 시작 시기인 튜링이나 폰노이만 시대까지 거슬러 올라간다. 아울러 50년대 중반 반도체 시대의 문을 열었던 노벨상에 빛나는 트랜지스터의 발명을 통해 컴퓨터 하드웨어 및 소프트웨어 발전의 포문을 열게 된다. 이어서 50년대 말 Rosenblatt의 퍼셉트론 하드웨어 및 소프트웨어 코드 개발 성공과 아울러 컴퓨터의 인공지능화에 대한 환상에 불을 당기게 된듯하다. 머신 러닝의 초창기는 1957년으로 거슬러 올라간다. 이미 1956년에 실리콘 밸리에서 활약했던 윌리암 쇼트키를 비롯한 3인의 과학자가트랜지스터 발명에 대한 업적으로 노벨상을 수상한 다음 해인데 이미 집적회로(IC:Integrated Cir..

Sklearn의 SVC는 hyperplane 경계에서 데이터가 혼합되어 있는 경우 중요 파라메터인 γ 와 C 값을 조절하여 Overfitting 조절이 가능하다. 따라서 SVC 예제에서처럼 Iris Flowers 데이터를 대상으로 다항식 기법을 적용한 TesnsorFlow 코드를 사용하여 결과를 비교해 보기로 하자. SVC루틴을 사용하여 결과..

Sigmoid 활성화 함수 대신 Softmax를 사용하여 XOR 예제를 TensorFlow 로 코딩 처리해 보자. Sigmoid 활성화 함수를 사용할 때 생성된 입력 좌표 점들의 수를 pts 라 할 때 해당하는 라벨 데이터의 shape 값이 (pts, 1)이지만 Softmax를 사용할 때는 (pts, 2)인 점이 달라진다. 아래의 코드는 Sigmoid 활성화 함수..

XOR 로직 문제는 1969년 MIT AI 랩 교수였던 Minsky 교수의 공저인 Perceptron 저서에서 하나의 레이어만 가지고는 Rosenblatt의 퍼셉트론에 의한 머신러닝이 불가능하다고 지적했던 고전적인 문제로서 이미 뉴럴 네트워크(Neural Network)의 출현을 암시했었다. 물론 지금이야 누구나 다 Backpropagation 알..

고전적인 K-means 기법에 의해서 int=’random’ 조건을 사용하면서 클러스터링 수의 초기 값을 잘못 줄 경우 예기치 않은 결과가 얻어질 수 있는 사례이다. 앞서의 중심이 3개인 클러스터링 예제에서 클러스터링 수를 1과 2로 계산한 결과를 관찰해 보자. 클러스터의 중심을 1 즉 하나로 두면 ..

인공지능 머신러닝의 원리를 탐구하는 과정에서는 뉴튼의 고전 물리학이라든지, 아인슈타인의 상대성 원리, 양자 역학, 평행 우주론을 비롯한 어려운 물리적 원리가 아닌 에너지 최소화 또는 오차(error) 최소화와 같은 간단한 원리가 핵심 역할을 하고 있다. 에너지, 오차의 의미를 이해하기 어렵다면 비용 즉 코스트(Cost) 개념으로 바꾸어 생각해도 무방하다. 머신 러닝에 입문 단계에서 누구나 다루어 보는 선형회귀(linear regression) 통계학 문제를 검토해 보자. 이 문제는 머신 러닝이 각광을 받기 이전부터 통계학에서 최소자승법(least squares method)과 함께 오래전부터 다루어 온 전통적인 수학 문제이다. 오래 전부터 그렇게 생각해 왔었는데 물리학적인 관점에서 다시 생각해보는 계기를..

Stretch OS 라즈베리파이 보드에 인텔의 Neural Compute Stick2를 설치해 보자. 2019년 12월 현재 보급되는 Buster 이전의 OS 가 Stretch 버전이며 2018년에 OpenCV를 성공적으로 설치한 경험이 있다. 인텔의 홈페이지에서도 Stretch 버전을 대상으로 설치하고 있으며 Buster 버전도 안된다는 법은 없으므로 곧 ..

세만틱 세그멘테이션 기법이 미래 전기차의 자율주행을 위한 쓸만한 머신러닝 기법으로 보인다. 여기 PyTorch 예제를 통해서 세그멘테이션 기법을 살펴보자. 아래 유튜브 영상 참고하세요. 구독 좋아요 눌러 주세요. https://www.youtube.com/watch?v=DZfHXQ9BpvY

리메이크:PyTorch ResNet Semantic Segmentation 예제 https://blog.daum.net/ejleep1/1201 본 블로그 내용이 구글 Colaboratory의 업그레이드 인해 다소 변경되어 최신 버전으로 리메이크 하였으니 같은 내용 일지라도 옮겨 가서 읽어보시기 바랍니다. 2012년 출현한 AlexNet 이후로 2016년 ILSVRC에서 최고로 높은 인식률을 보여준 ResNet 모델이 Transfer Learning 분야에서 많이 활용되고 있다. ResNet은 채용된 레이어 수에 따라 ResNet50, ResNet101, ResNet152의 3종류가 있는데 비록 학습된 결과라고 해도 그 크기가 상당히 큰 편이며 중간에 해당하는 ResNet101이 Semantic Segme..