선형회귀 분석(Linear Regression Analysis)은 변수들 사이의 상관 관계를 분석하는 데 사용하는 통계학적 방법이다[10]. 선형회귀 분석은 독립변수 X, 종속변수 y, 상수항 b 사이의 관계를 모델링하는 방법이다. 두 변수 사이의 관계일 경우 단순 선형회귀(Simple Linear Regression)라고 하며, 여러 개의 변수를 다루는 다중 선형회귀(Multiple Linear Regression)도 있다[11].

텐서플로우는 구글이 2011년에 개발을 시작하여 2015년에 오픈 소스(Open source)로 공개한 기계학습 라이브러리로 딥러닝과 기계학습 분야를 일반인들도 사용하기 쉽도록 다양한 기능들을 제공한다. 2016년 알파고와 함께 한국에서도 관심이 높아진 추세이다. 고수준의 프로그래밍 언어로 알려진 Python을 활용하여 연산처리를 작성할 수 있다[12].

본 실험의 참여자는 P고등학교 야구부에서 운동하고 있는 투수 8명을 임의로 선택하여 속구 스피드 측정을 위한 실험을 하였다. 이들의 평균 나이는 17.4세이고, 평균 키는 177.4cm 그리고 평균 몸무게는 76.7kg이었다. 측정된 속구 스피드는 코치로 하여금 투수들의 운동량과 훈련재활에 도움을 주는 목적이 있음을 알려주었다. 아래 <표 1>는 투수의 보폭과 속구 스피드의 측정값을 나타낸다. 3회 측정하여 이중 최고 구속(종속)을 채택하였다.

투수에게 있어 보폭(스트라이드)은 투구 스피드와 상관하여 매우 중요한 요인이다. 개인의 신장과 하체 길이, 투구 동작, 투구 형태에 따라 차이가 있지만 대략 스트라이드는 150cm∼175cm 이다. 보폭이 넓어질 경우 스피드 향상은 물론 제구(볼컨트롤)에도 도움을 준다.

학습은 기본적으로 지도 학습(Supervised learning)과 비지도 학습(Unsupervised learning)으로 구분되며, 지도 학습은 이미 정해진 데이터를 사용하여 학습을 한다. 이 때 기초가 되는 데이터를 학습데이터라고 한다[14]. 본 연구에서는 첫 번째 변수 x로부터 두 번째 변수 y를 예측하려고 한다. 다음 <표 2>는 독립 변수와 종속 변수를 보여 준다.

여기에서 x 데이터는 보폭, y 데이터는 볼 스피드이다. 이러한 데이터를 학습데이터라고 한다. 위의 표를 그래프로 나타내면 다음 <그림 3>과 같다.

보폭과 볼 스피드의 상관관계를 표현할 수 있는 하나의 직선을 만들어 보면 다음 <그림 4>와 같다. Y = X 라는 직선함수를 그리면 좌표 평면에 위치하는 데이터를 볼 수 있다. 선형회귀 알고리즘의 목표는 학습데이터를 관통하는 하나의 직선을 찾아내는 것이다. 일단 Y = X 인 일차함수를 검색하면 이 함수를 이용하여 예측할 수 있다.

4.1 절에서 언급한 보폭과 볼 스피드 학습데이터를 가지고 학습을 진행하면 하나의 직선 방정식이 표현된다.

이 방정식을 가설(Hypothesis)라고 한다. 선의 모양은 W(wight)와 b(bias)에 따라서 다르게 나타나며 어떤 그래프가 가장 정확한 값을 예측할 수 있을지 알아내는 방법이 중요하게 된다. W는 직선의 기울기가 되고, b는 y축을 지나는 y절편이 된다. 여기서 x값은 독립변수이고, y값은 종속변수이다. 즉, x값에 따라 y값은 반드시 다르게 된다. 다만, 이 방정식의 값을 정확하게 계산하려면 상수 W와 b의 값을 알아야 한다. 즉, 직선을 정확하게 표현하려면 직선의 기울기 a값과 y절편 b값을 정확히 예측해 내야 한다. 이러한 학습 데이터를 바탕으로 정확한 직선을 만들어 낸다면 투수의 보폭에 대한 볼 스피드를 예측할 수 있다.

본 연구에서는 여러 개의 가설 중에서 가장 적합한 가설을 구하기 위하여 최소 제곱법을 이용한다. 즉, 가설과 학습데이터 사이에 오차가 크지 않다면 적합한 가설이 된다. 다음 <그림 5>는 최소제곱법을 이용한 예이다.

H(x) - y가 실제 데이터와 가설로 나온 데이터 간의 차이가 된다. 이 데이터는 +, -값이 둘 다 나오기 때문에 제곱을 해준다.

비용(cost)은 아래 수식과 같이 정의할 수 있다. m개의 학습데이터가 주어졌을 때, 각각의 학습데이터에서 그려진 직선이 예측한 값(H(x) = 보폭)과 실제 학습데이터에서의 값(y = 볼스피드)의 차이를 제곱한 값의 평균이다.

즉, 선형회귀 알고리즘은 이러한 학습데이터가 주어졌을 때, 비용값을 최소화하는 가설의 파라미터(W, b)를 찾는 알고리즘이다. 즉, cost를 가장 작게 만드는 W와 b를 구하는 것이 선형회귀분석의 목표가 된다. 이 때, 일반적으로 경사하강(Gradient descent) 알고리즘을 이용하여 최저값을 검색한다.

경사 하강법은 미분의 기울기를 이용하여 그래프의 차이를 비교한 후 가장 작은 방향으로 이동시키는 방법이다.

즉, 미분은 순간변화율을 의미하고 한 점에서의 기울기를 뜻한다. 임의의 점에서 미분을 구하면 그래프(가설)의 기울기를 알 수 있다. 여기서 구하고자 하는 값은 오차가 가장 작을 때의 기울기 0을 의미한다. 경사 하강법에서 미분 값이 0을 찾는 경우 기울기가 양수와 음수를 번갈아 반복됨으로 기울기의 부호를 바꿀 때 이동거리를 정해주는 것이 중요하다. 이를 학습률(learning rate)라고 한다.

본 논문에서는 텐서플로우를 이용하여 y = W*x + b 형태의 단순한 선형회귀분석 모델을 작성한다[15]. 먼저 2차원 좌표계에 학습데이터를 생성하고 데이터에 맞는 최적의 직선을 텐서플로우를 이용하여 실행한다.

<그림 7>에서는 투수의 측정한 학습 데이터를 이용하여 데이터셋(Data set)을 지정한다. 그 다음에 W값과 b값을 지정하여 학습을 위해 임의의 값을 할당한다. 텐서플로우에서는 가중치와 바이어스에 해당하는 변수를 Variable로 이용하여 나타낸다. 그리고 텐서플로우는 그 값을 자동으로 조절하여 주며 비용함수가 최소화가 되도록 가중치와 바이어스 값을 조정하게 된다.

다음 <그림 8>에서 비용 함수(cost function)는 위와 같이 가설 데이터와 학습데이터의 뺀 값의 자승의 합을 구해 데이터의 개수만큼 나누도록 한다.

이를 위하여 텐서플로우의 tf.square() 함수와 tf.reduce_mean() 함수를 사용한다. 텐서플로우에서는 비용값을 최소화하기 위해 최적화 알고리즘인 경사 하강법을 활용한다. 여기에서는 학습도를 0.1로 하여 경사 하강법 알고리즘을 실행한다.

다음 <그림 9>는 텐서플로우의 변수값을 초기화하기 위해 global_variables_initializer() 함수를 사용한다. 최종적으로 그래프가 구현한다. 본 연구에서는 최적화를 위하여 100번을 수행하여 학습을 진행한다.

선형회귀 학습을 실행하면 cost의 값이 점점 최소화되고 이에 따라 hypothesis의 W와 b의 값을 조정하게 된다. W와 b의 값에 무작위 데이터 값을 주게 되고, 아래의 학습모델로 봤을 때 W와 b가 수렴하는지 지켜보면 된다. 그 결과 값으로 각 열은 트레이닝 횟수, cost, W, b의 값을 나타낸다. 다음 <그림 10>은 실행 결과를 나타낸다.

결과적으로 학습 데이터를 이용한 선형회귀분석을 통하여 한 투수의 보폭이 160cm인 경우 볼 스피드는 123.7km, 또 다른 투수의 보폭이 177cm인 경우 볼 스피드는 140.8km 로 예측할 수 있다.

다음 <그림 12>은 matplotlib 라이브러리를 이용하여 예측된 선형 방정식을 구한 후 그래프를 그려낸다. 빨간 점들은 학습데이터 점(x, y) 이고 그어진 직선은 선형회귀를 통해 구한 모델이다. 녹색점은 각각 X값이 1.60, 1.77일 경우 예측된 값을 나타낸다.