scikit-learn(sklearn)이란 무엇인가?
Scikit-learn은 흔히 sklearn이라는 이름으로 불리는 파이썬 라이브러리로, 머신러닝 알고리즘을 손쉽게 구현할 수 있도록 도와주는 대표적인 도구입니다.
오픈소스 라이브러리이기 때문에 누구나 무료로 사용할 수 있으며, 통계 모델링에 필요한 다양한 도구를 제공하는 강력하고 안정적인 라이브러리입니다. 분류(Classification), 회귀(Regression), 클러스터링(Clustering), 차원 축소(Dimensionality Reduction) 등 폭넓은 기능을 파이썬의 강력하고 안정적인 인터페이스를 통해 활용할 수 있습니다.
또한 scikit-learn은 NumPy, SciPy, Matplotlib 라이브러리를 기반으로 구축되어 있어 과학 계산 및 데이터 시각화 생태계와 자연스럽게 연동됩니다.
scikit-learn 설치 방법
scikit-learn은 아래와 같이 'pip' 명령어를 사용하여 간단하게 설치할 수 있습니다.
pip install scikit-learn
이 라이브러리는 데이터 모델링에 특화되어 있으며, 다양한 종류의 모델과 알고리즘을 지원합니다. 그중 대표적인 것들을 아래에서 소개합니다.
지도 학습(Supervised Learning) 알고리즘
지도 학습은 사람의 감독 아래 학습이 이루어지는 방식입니다. 주어진 입력값에 대해 원하는 출력값을 매핑함으로써 인간의 개입이 포함됩니다. 구체적으로는 입력 데이터셋의 특징(feature)에 레이블(label)을 붙이거나, 알고리즘이 예측한 결과가 맞았는지 여부를 피드백으로 제공하는 방식 등이 있습니다.
알고리즘이 입력 데이터를 충분히 학습하면, 비슷한 유형의 새로운 데이터에 대해서도 일반화된 예측을 수행할 수 있습니다. 학습된 모델의 성능 지표가 좋다면 한 번도 본 적 없는 입력값에 대해서도 결과를 예측할 수 있게 됩니다.
다만 사람이 직접 입력 데이터셋에 레이블을 달아야 하기 때문에 추가 비용이 발생하며, 상대적으로 비용이 많이 드는 학습 방식입니다.
sklearn을 활용하면 선형 회귀(Linear Regression), 서포트 벡터 머신(SVM), 결정 트리(Decision Tree) 등의 지도 학습 알고리즘을 쉽게 구현할 수 있습니다.
비지도 학습(Unsupervised Learning)
비지도 학습은 지도 학습과 반대되는 개념입니다. 즉, 입력 데이터셋에 레이블이 없기 때문에 인간의 감독 없이 알고리즘이 스스로 학습합니다. 알고리즘은 레이블이 없는 데이터로부터 패턴을 추출하고, 예측을 수행하며, 데이터에 대한 인사이트를 얻는 등의 작업을 독립적으로 진행합니다.
실제 세계의 데이터는 대부분 비정형(unstructured)이며 레이블이 없는 경우가 많기 때문에, 비지도 학습의 중요성이 점점 커지고 있습니다.
sklearn을 통해 클러스터링, 요인 분석(Factor Analysis), 주성분 분석(PCA), 신경망(Neural Networks) 등을 구현할 수 있습니다.
클러스터링(Clustering)
클러스터링은 유사한 특성을 가진 데이터들을 하나의 그룹(군집)으로 묶는 기법입니다. 이렇게 형성된 군집 바깥에 있는 노이즈(이상치 또는 비정상적인 데이터)는 나중에 제거하거나 무시할 수 있어 데이터 전처리에도 유용합니다.
교차 검증(Cross Validation)
교차 검증은 원본 데이터셋을 '학습 데이터셋(training dataset)'과 '테스트 데이터셋(testing dataset)' 두 부분으로 나누어 평가하는 과정입니다. 교차 검증을 활용하면 별도의 '검증 데이터셋(validation dataset)'이 필요하지 않습니다.
교차 검증에는 여러 가지 변형 방법이 있으며, 그중 가장 널리 사용되는 것이 k-폴드(k-fold) 교차 검증입니다. k-폴드 교차 검증은 데이터를 k개의 폴드로 나눈 뒤, 각 폴드를 번갈아 가며 테스트셋으로 사용하여 모델 성능을 안정적으로 평가할 수 있게 해줍니다.
차원 축소(Dimensionality Reduction)
차원 축소는 데이터셋에 포함된 특징(feature)의 수를 줄이는 데 사용되는 기법들을 의미합니다. 데이터셋의 특징 수가 많으면 알고리즘을 모델링하기가 어려워지고, 입력 변수가 지나치게 많을 경우 머신러닝 알고리즘의 성능이 크게 저하될 수 있습니다.
특징 공간(feature space)의 차원이 많아지면 그만큼 많은 메모리가 필요하며, 모든 데이터를 공간(데이터 행)에 적절히 표현하기 어려워집니다. 이로 인해 머신러닝 알고리즘의 성능이 영향을 받는데, 이러한 현상을 '차원의 저주(curse of dimensionality)'라고 부릅니다.
따라서 데이터셋의 입력 특징 수를 줄이는 것이 권장되며, 이것이 바로 '차원 축소'라는 이름의 유래입니다.