Machine Learning , AI, Arduino Coding

iris_alpha_01.py 코드의 함수 모델에서 처음 Covariance 처리 후 ReLU 처리를 거쳐 다시 중복하여 Covariance 처리하였다. Covariance 처리에 따른 feature extraction 효과를 확인 할 수 있도록 ReLU 처리와 뒷부분의 중복을 제거한 아주 간략한 상태의 코드로 Accuracy를 계산해 보자. 결과 5회에 3번은 1.0, 2회는 ..

지난해 겨울 텐서플로우 OpenCV 출간 이후 7개월 만에 2권에 해당하는 “Scikit PyTorch 머신러닝”을 출간하게 되었다. 각권이 450 페이지이므로 합 900 페이지에 달하는 내용이라 무슨 머신러닝을 공부하는데 분량이 왜 이렇게 많은가? 하고 의문을 가질 수도 있겠으나 그 내용이 튜토리얼성에 ..

Iris flowers Classification 문제는 2019년 텐서플로우 홈페이지 리모델링 전에 있었던 머신러닝 예제로서 붓꽃의 꽃잎(Petal) 사이즈와 꽃받침(Sepal) 사이즈 데이터를 사용하여 세부적으로 종 분류를 지원하는 sklearn(Scikit-learn) 라이브러리 사용법의 좋은 예이다. 공식 사이트에서 주어졌던 결과와 비교해 보면 Virginica에서 오차가 상당히 큼을 알 수 있다. 매번 실행할 때 마다 Shuffling 및 랜덤 넘버 사용에 따라 3가지 결과에 꽤 변동이 있을 수 있으나 틀린 것이 아님에 유의하자. 아나콘다 스파이더3 편집기에서 붓꽃 예제를 다루기 위해서는 Scikit-learn 라이브러리 모듈이 사전에 설치되어 있어야 한다. 설치 방법은 가상환경 설치 방법을 참..

2012년 ILSVRC에서 발표되었던 AlexNet은 물론 그 인식률이 50∼60% 라고는 하지만 그 이 후로 다양한 Image Classification 모델들의 출현을 가능하게 했다는 점에서 본격적인 Image Classification 분야 발전의 서막을 연 신호탄이라 할 수 있다. AlexNet에서 사용하는 파라메터 규모를 분석해 보면 그 아키텍..

2017년도 기준 각종 이미지 네트워크의 인식률 수준을 비교해 보면 가장 초기의 네트워트였던 AlexNet 은 Top-1 error rate 기준으로 50%를 상회하는 수준이었으며 뒤를 이어 출현한 다양한 네트워크들이 인식률을 높여 나갔다. Top-5 error rate로 기준을 바꾸면 인식률이 20% 이상 훨씬 올라 갈 수도 ..

이와 같이 data 폴더 준비가 되었으면 tutorial 의 data loading 셀 코드를 Colabo에 가져다 실행이 가능해진다. 로딩되는 데이터는 Compose, Crop, Resize, ToTensor 처리를 통해 data augmentation이 이루어져야 Transfer Learning 처리가 가능해진다. 특히 ∙∙∙Crop 명령은 잘라내는 이미지의 크기를 결정하는데 지..

실제로 필요한 모델은 아래와 같이 Fine Tunnuing 영역에서 라이브러리 models 가 제공하는 ResNet18을 호출하여 model_ft 로 둔다. _ft 는 fine tinning 의 약자인 듯하다. 아울러 model_ft.fc.in_features 는 결국 ResNet18에서 제공하는 in_features 값인 셈이다. 물론 ResNet 말고도 AlexNet을 사용하더라도 마찬가지로 m..

PyTorch Transfer Learning 예제 코드는 Fine Tuning과 Fixed Feature Extractor 2가지 기법을 포함하고 있다. Fine Tuning에서는 특정 Image Classification 알고리듬을 사용하여 ImageNet을 학습한 결과 중 Feature Extraction 학습 결과 웨이트 매트릭스를 그대로 가져다 학습을 위한 초기 값으로 사용하며 마지막 fully connec..

2019년 7월 현재 ImageNet 은 전체적으로 1000종에 달하는 140만개의 이미지 파일로 구성된 데이터 베이스로서 영어 사전에 해당하는 WordNet 방식을 따라 대상물의 명사들 별로 수백 수천가지의 이미지들로 이루어진다. 대상물 하나를 노드라고 하는데 평균 500장 정도의 이미지 데이터를 가지고..

LeNet-5는 CNN을 개척한 LeCUN이 제시한 표준적인 구조의 뉴럴 네트워크이다. 32X32 이미지는 1024 비트 즉 1K비트급 이미지로서 일 단계 Convolution 처리과정에서 첫 번째 Convolution에서 6개의 5X5 필터를 사용하여 28X28 이미지로 크기를 줄인 후 두 번째로 막바로 Subsampling 즉 Max-Pooling 작업을 통해 6개..