본 논문에서 제안하는 숫자 인식에 의한 분석 장치는 태양광과 같은 불안정한 전력 체계 하에서 도 동작할 수 있도록 <그림 4>와 같이 설계하였다. 이를 위하여 태양광 패널과 배터리로 구성된 전력 생성부와 분석 소프트웨어를 구동 할 처리기로는 일반 PC보다 상대적으로 저전력 구동이 가능한 아두이노(Arduino)와 라즈베리(raspberry Pi)로 구성된 복합 보드 모듈이다. 장착 센서는 카메라 센서와 가속 감지 모듈로 구성하였다. 차량 출입 등에 따른 떨림을 감지하기 위해서 가속 감지 센서와 이를 처리하는 아두이노 보드가 작동한다. 아두이노 처리 보드는 상시로 전력이 공급되고 있는 상태이며, 가속 센서의 검출값이 임계치 이상이면 차량 출입이 감지되었다고 판단하여 라즈베리 보드에 전력을 공급하여 처리기를 구동시키도록 디자인하였다. 저전력 초소형 센서 처리기로 일반적으로 사용되는 아두이노 보드를 적용하여 전력 소모를 최소하하는 구조이다. 라즈베리 보드의 인식 모듈의 이미지 전처리 부분은 캡쳐 이미지 상의 물체 포함 유무를 2 차로 재검하고 이를 통과하는 경우 본 논문에서 설명하고 제안하는 숫자 분석 엔진을 구동한다. 제안하는 숫자 분석 엔진은 cpu 사용을 최소화하기 위하여 다단계 분류로 분석량을 최소화하는 컨벌루션 신경망컨벌루션 신경망을 채택하였다.

본 논문의 숫자 필기 인식기는 MNIST 샘플 데이터 세트로부터 학습과 테스트용 자료를 입력하는 부분, 뉴런간 연결부 가중치를 계산하는 학습부, 실제 학습 원형과 테스팅 자료를 정합하는 부분으로 구성하였다. <그림 5>는 구현 프로그램의 인터페이스이다.

CNN의 전체 구성의 전반부는 <그림 6>과 같이 입력 이미지 레이어와 연속된 컨벌루션 레이어 1과 레이어 2가 연속되고 특징 추출과 그룹핑 과정으로 이루어진다. 추출된 중간 결과는 후반 FCN(Fully Connected Neural Network)에 의해 최종 분류되도록 설계하였다 [3][14].

컨벌루션(Convolution) 연산은 입력된 디지털 이미지를 인식하기 위한 영상 특징 추출 과정이다. 연산은 이미지 픽셀(pixel)과 에지(edge)의 형태와 분포를 발견하기 위하여 정해진 크기의 검출 템플레이트(template)를 적용한다. 본 논문에서는 에지검출로 많이 알려진 소벨(sobel) 연산 템플레이트를 사용하였다. 에지 추출은 본 논문의 전체 시스템 구성 중에서 첫 번째 레이어의 커널(kernel) 메트릭스로 구현되었다.

본 논문에서는 <그림 6>의 템플레이트와 같은 이미지 검출 커널을 5×5 크기로 확장하여 디자인하여 CNN의 첫 번째 레이어 군의 커널(kernel) 연산으로 적용하였다.

신경망의 학습은 설계 기능에 부합하도록 노드 간 연결 파라메터를 수정하는 반복 과정이다. 즉, 주어진 입력에 원하는 출력이 생산되도록 신경망 내부의 가중치와 임계치를 반복적으로 보완하여 최적의 상태로 수렴시키는 절차라고 할 수 있다[3].

제안하는 시스템의 학습은 MNIST의 저장 샘플을 사용하였으며 네트워크의 가중치와 바이어스(bias) 값을 학습한다. 학습의 효율을 높이기 위하여 학습 샘플을 반복하거나 적용 순서를 랜덤화하는 방안이 있다. 본 논문에서는 입력 샘플을 다음의 방식으로 변형하여 학습 샘플을 부가적으로 생성하고 학습하도록 하였다. 적용 함수는 크기(Scaling), 회전(rotation), 탄력 변형(elastic distortion) 연산을 사용하였다[10]. 왜곡의 심화정도는 랜덤 함수를 사용하여 다양성을 확보하도록 하였고 x, y축 양 방향으로 적용하여 그 결과를 작성하였다.

학습은 입력 이미지를 라벨 정보와 일치하도록 노드간 연결 파라메터를 수정하는 과정으로 신경망 내부의 가중치와 임계치를 반복적으로 보완하여 최적의 상태로 수렴시킨다. 입력된 학습 샘플군을 반복적으로 적용하여 학습시키는 과정으로 발생하는 미인식 샘플 개수를 줄여나갔다. 학습 시입력 샘플은 무작위로 추출하여 학습하도록 하였으며, 3.2절의 이미지 변형 방식으로 변형을 생성하여 학습량을 늘렸다. 학습 반복 횟수가 늘어남에 따라 미인식 샘플의 개수는 감소하였다. 실험 결과, 1 번째 학습에서 19,247→7,962→5,682→ ... →1,724 ...로 반복하면서 급격히 줄어드는 것을 볼 수 있었다.

다음 실험은 앞서와 동일 방식으로 진행하는 데, 학습 샘플에 변형을 주지 않는 경우를 관찰하였다. 예상대로 미인식 샘플 수가 1번째 적용에서 7,247개 였으며 2867→1865→...→232 ... 로 줄어드는 속도 역시 빠른 것을 확인할 수 있었다. 두 가지 경우 모두 학습 그래프의 경향은 유사하나 변형을 주지 않은 경우에서 보다 용이한 학습 경향을 보였다. 두 경우 모두 학습 샘플을 무작위로 추출하여 적용하기 때문에 학습 정도와 결과는 매번 동일하지 않았다.

다음은 변형된 학습 샘플 조건으로 학습 적용 반복하며 누적하지 않고 매번 공백상태에서 학습하며 미인식 개수를 측정하여 결과를 얻었다. 관찰 결과, 매번 다소간 차이를 보이는 것을 관찰할 수 있었고 이 현상은 무작위 순번에 의한 차이로 볼 수 있었고 큰 틀에서는 비슷한 경향임을 확인할 수 있었다.

앞절의 학습으로 구축된 인식 원형을 사용하여 숫자 필기 자료의 인식 실험을 시행하였다. 우선, 학습량을 늘리는 경우 인식률의 변화를 측정하였다. 학습량의 증가는 동일한 학습 샘플의 반복 적용 횟수를 의미하며, 그에 따른 인식률의 추이를 나타낸다. 실험 결과, 학습주기를 반복할수록 인식률이 향상됨을 알 수 있다. 검사용 입력 샘플에 변형을 포함시킨 경우와 변형을 포함하지 않는 샘플을 대상으로 인식 실험을 진행한 두 경우의 인식률의 추이를 실험하였다. <그림 7>은 그 결과 그래프이며 점선은 무변형 샘플 학습의 경우이고 실선은 변형 샘플 학습을 나타낸다. 그림에서 보듯이 실선 그래프가 초반부 (1~3회 반복)애서는 인식률이 상대적으로 낮다가 그 이후 인식률 향상 폭이 보다 커지는 것을 관찰할 수 있다. 이러한 현상은 학습에서 변형을 포함하는 샘플을 사용하게 되면 그렇지 않은 경우 보다 많은 학습 반복을 요구하는 데, 이를 충족하지 못하는 경우 오히려 학습 효과가 떨어져 인식률 저하로 나타날 수 있음을 보여준다. 최종적으로 98.04의 인식률을 얻을 수 있었다. 이러한 인식률은 자동차 번호판과 같은 정자체인 경우보다 향상될 것으로 보인다.

<그림 8>는 <그림 7>과 유사한 실험으로 볼 수 있으며 인식률 실험용 샘플에 다양한 변형이 가해진 상태로 인식을 진행하도록 한 경우의 인식률 측정이다. <그림 8>에서 점선은 무변형 샘플 학습의 경우이고 실선은 변형 샘플 학습을 나타낸다.

이 경우, 변형 포함 샘플로 학습한 후에 인식을 측정한 실선 그래프의 추이가 초반부터 점선 그래프보다 높은 인식률을 보임을 알 수 있다. 점선은 <그림 8>과 마찬가지로 변형없이 입력 샘플 형태만 학습을 진행한 후에 인식을 진행한 경우이다. 이러한 두 가지 실험 결과를 볼 때, 변형 포함 학습이 입력 충분한 학습을 진행하는 경우 모든 입력 유형에서 변형 없는 학습의 경우보다 높은 인식률을 보이는 것을 확인하였다.

<그림 8>은 학습 실험을 진행하면서 소요된 샘플 전체 인식 시간을 나타낸다. 수직축은 소요 시간을 초로 나타내며 수평축은 학습의 반복 횟수이다. 학습이 반복된 상태에서 인식 실험이 진행되면 인식 소요 시간이 단축됨을 확인할 수 있었으며, 일정 횟수 이후로 인식 시간의 큰 변이가 없음을 관찰할 수 있었다. 라즈베리파이 3B 보드에서 샘플1 개당 평균 0.32초 내외로 인식할 수 있음을 확인할 수 있었다.

<그림 9>은 학습 실험을 하면서 소요된 입력 샘플 1 개당 MSE(Mean Squared Error) 시간을 나타낸다. 수직축은 소요 시간을 초로 나타내며 수평축은 학습의 반복 횟수이다. 학습이 반복되면서 인식 소요 시간이 점차 단축됨을 확인할 수 있었다. 이러한 현상은 변형 없는 샘플이 입력으로 주어진 경우나 그렇지 않은 경우인 <그림 9>와 같이 모두 같은 결과를 보였다. 실험에서 변형 샘플을 나타내는 실선인 경우가 0.3초와 0.47초정도 사이에서 초반부 높게 나타나는 원인은 변형 샘플 학습이 보다 많은 학습 샘플을 요구하기 때문이다. 학습이 진행될수록 시간이 안정됨을 확인할 수 있었다.