Python 딥러닝 기초: TensorFlow와 Keras로 MNIST 이미지 분류 모델 만들기

안녕하세요, '소프트웨어 공장'에 오신 것을 환영합니다!

최근 몇 년 동안 IT 산업 전반을 넘어 우리 일상까지 가장 뜨겁게 달군 기술을 하나만 꼽으라면 단연 '딥러닝'일 것입니다. 스마트폰의 얼굴 인식부터 자율주행, 대형 언어 모델(LLM)에 이르기까지 딥러닝은 이미 다양한 산업의 패러다임을 바꾸고 있습니다. 개발자로서 이러한 시대의 흐름에 발맞추기 위해서는 인공신경망의 기본 원리를 이해하고 코드로 구현해 보는 경험이 필수적입니다.

그래서 이번 포스팅에서는 파이썬(Python)을 활용해 딥러닝의 기초 개념을 탄탄히 다지고, 전 세계적으로 가장 널리 쓰이는 프레임워크인 TensorFlow와 Keras를 사용해 손글씨 숫자를 구별하는 간단한 이미지 분류 모델을 직접 만들어보겠습니다. 복잡한 수학 공식 없이도 핵심을 꿰뚫을 수 있도록 쉽게 풀어드릴 테니 차근차근 따라와 주세요!

Generated bu Gemini AI.

📌 핵심 요약 3줄

• 기본 개념 이해: 인간의 뇌 신경망을 모방한 은닉층을 통해 데이터의 복잡한 비선형 관계를 학습하는 딥러닝의 원리를 알아봅니다.
• 프레임워크 활용: Google의 강력한 오픈소스인 TensorFlow와 고수준 API인 Keras를 조합해 생산성 높은 개발 환경을 구축합니다.
• 실전 이미지 분류: CNN(합성곱 신경망) 아키텍처를 설계하여 대중적인 MNIST 손글씨 데이터셋을 정밀하게 분류하는 파이프라인을 완성합니다.

---

🧠 딥러닝과 인공신경망 핵심 요약

컴퓨터가 스스로 학습하는 머신러닝의 한 갈래인 딥러닝은, 인간의 뇌 구조에 영감을 받아 만든 '인공신경망'을 기반으로 합니다. 딥러닝 모델의 핵심 구성 요소와 개념을 아래 표로 먼저 정리해 보았습니다.

구성 요소 / 개념	주요 역할	상세 설명 및 특징
입력층 (Input Layer)	외부 데이터 수집	이미지 픽셀 값이나 텍스트 벡터 등 가공된 원본 데이터를 모델에 전달
은닉층 (Hidden Layer)	특징 추출 및 계산	여러 층으로 깊게 쌓아 데이터 속 숨겨진 복잡하고 비선형적인 패턴을 학습
출력층 (Output Layer)	최종 예측 결과 도출	모델이 판단한 최종 카테고리(예: 0~9까지의 숫자 확률)를 반환
활성화 함수 (Activation)	비선형성 부여	ReLU나 Softmax 등을 사용해 인공뉴런의 연산 결과에 변격을 주어 복잡한 관계 표현
TensorFlow	백엔드 엔진	Google이 개발한 대규모 수치 연산 및 분산 학습에 특화된 딥러닝 라이브러리
Keras	고수준 API	TensorFlow 위에서 직관적이고 표준화된 코드로 빠르게 모델을 빌드하도록 돕는 도구

---

🛠️ 딥러닝 예제: 손글씨(MNIST) 이미지 분류 모델 만들기

이제 백문이 불여일견이죠. TensorFlow와 Keras를 조합해 28x28 픽셀 크기의 손글씨 이미지 데이터셋인 MNIST를 분류하는 인공지능 모델을 만들어보겠습니다.

① 환경 설정 및 설치

파이썬 환경에서 아래 명령어를 실행해 텐서플로우 패키지를 먼저 설치해 줍니다.

Bash

 

$ pip install tensorflow

설치가 완료되었다면 필요한 모듈들을 스크립트에 불러옵니다.

Python

 

import matplotlib.pyplot as plt
import tensorflow as tf
from tensorflow.keras import datasets, layers, models

② 데이터셋 로드 및 전처리

MNIST 데이터셋은 텐서플로우 내장 패키지에서 기본 제공하므로 간편하게 불러올 수 있습니다. 모델의 학습 효율을 높이기 위해 정규화 작업과 형태 변환 작업을 거칩니다.

Python

 

# 1. MNIST 손글씨 데이터셋 다운로드 및 분할
(train_images, train_labels), (test_images, test_labels) = (
    datasets.mnist.load_data()
)

# 2. 데이터 정규화: 0~255 사이의 픽셀 값을 0.0~1.0 사이의 실수로 스케일링
train_images, test_images = train_images / 255.0, test_images / 255.0

# 3. CNN 입력 포맷에 맞춰 흑백 채널(1) 정보 명시: (28, 28) -> (28, 28, 1)
train_images = train_images.reshape((train_images.shape[0], 28, 28, 1))
test_images = test_images.reshape((test_images.shape[0], 28, 28, 1))

③ CNN 모델 레이어 아키텍처 정의

이미지 공간 정보와 특성을 추출하는 데 가장 탁월한 CNN(Convolutional Neural Network) 구조를 설계해 봅니다. 합성곱 레이어와 풀링 레이어를 번갈아 쌓은 뒤 완전 연결층으로 마무리합니다.

Python

 

# sequential 모델 객체 생성
model = models.Sequential()

# 피처 추출부: Convolution과 Max Pooling 레이어 배치
model.add(
    layers.Conv2D(32, (3, 3), activation="relu", input_shape=(28, 28, 1))
)
model.add(layers.MaxPooling2D((2, 2)))
model.add(layers.Conv2D(64, (3, 3), activation="relu"))
model.add(layers.MaxPooling2D((2, 2)))
model.add(layers.Conv2D(64, (3, 3), activation="relu"))

# 분류 예측부: 다차원 텐서를 1차원으로 펼치고 Dense 레이어 연결
model.add(layers.Flatten())
model.add(layers.Dense(64, activation="relu"))
# 최종 출력은 0~9까지 총 10개의 숫자 클래스 확률 분포를 반환하도록 softmax 설정
model.add(layers.Dense(10, activation="softmax"))

④ 모델 컴파일 및 학습 진행

설계가 끝난 모델에 최적화 도구(Optimizer)와 오차 측정 공식(Loss), 평가지표를 세팅하고 학습을 구동합니다. 5바퀴(Epochs) 동안 데이터를 돌려보겠습니다.

Python

 

# 모델 빌드를 위한 컴파일 세팅
model.compile(
    optimizer="adam",
    loss="sparse_categorical_crossentropy",
    metrics=["accuracy"],
)

# 학습 시작: 검증 데이터 세트를 함께 넣어 오버피팅 여부 확인
model.fit(
    train_images,
    train_labels,
    epochs=5,
    validation_data=(test_images, test_labels),
)

⑤ 모델 검증 및 예측 결과 시각화

학습에 참여하지 않은 순수한 테스트 데이터를 집어넣어 최종 모델의 정확도를 평가하고, 샘플 5개를 뽑아 화면에 직접 그려 결과가 맞는지 육안으로 검증해 봅니다.

Python

 

# 테스트 데이터셋 평가지표 출력
test_loss, test_acc = model.evaluate(test_images, test_labels, verbose=2)
print(f"\n🎯 최종 테스트 정확도: {test_acc:.4f}")

# 테스트 이미지 데이터 예측 수행
predictions = model.predict(test_images)

# 첫 5개 이미지와 모델의 예측 결과를 매칭하여 시각화
plt.figure(figsize=(10, 3))
for i in range(5):
    plt.subplot(1, 5, i + 1)
    plt.xticks([])
    plt.yticks([])
    plt.grid(False)
    # 시각화를 위해 채널 축을 없애고 (28, 28) 형태로 변환
    plt.imshow(test_images[i].reshape(28, 28), cmap=plt.cm.binary)
    # 가장 높은 확률 값을 가진 인덱스를 예측 숫자로 채택
    plt.xlabel(f"예측 결과: {tf.argmax(predictions[i]).numpy()}")
plt.show()

---

🛠️ 개발을 위한 팁 (Tips for Developers)

1. 데이터 스케일링 전처리는 선택이 아닌 필수: 0에서 255 사이의 정수 픽셀 값을 그대로 인공신경망에 밀어 넣으면, 역전파(Backpropagation) 연산 과정에서 가중치(Weight)가 발산하거나 경사하강법이 꼬여 학습이 전혀 이루어지지 않을 수 있습니다. 반드시 데이터 스케일링을 거쳐 0.0~1.0 사이의 범위로 좁혀주세요.
2. 모델의 레이어 요약 정보 확인 습관화: 모델 정의 직후 model.summary() 메서드를 실행하면 각 레이어의 출력 형태(Output Shape)와 학습 가능한 파라미터(Trainable Params) 총 개수가 깔끔하게 텍스트로 찍힙니다. 차원 에러가 났을 때 디버깅하기 가장 좋은 수단입니다.
3. GPU 연산 가속 환경 체크: 딥러닝은 엄청난 양의 행렬 연산이 일어나므로 CPU보다는 GPU 환경이 압도적으로 빠릅니다. 내 파이썬 환경에서 GPU 가속이 잡히는지 확인하려면 코드를 돌리기 전에 tf.config.list_physical_devices('GPU')의 반환 값이 비어있지 않은지 수시로 체크해 보세요.

---

⚠️ 흔히 하는 실수 (Common Mistakes)

• 출력층 활성화 함수와 손실 함수의 매칭 불량: 멀티 클래스 분류 문제(클래스가 3개 이상)를 풀 때는 출력층에 주로 softmax 활성화 함수를 씁니다. 이때 정답 라벨이 원-핫 인코딩(One-hot) 형식이 아니라 정수(0, 1, 2...) 형태로 들어온다면 손실 함수를 그냥 Categorical이 아닌 반드시 sparse_categorical_crossentropy로 적어주어야 에러가 나지 않습니다.
• 학습 에포크(Epochs)의 과도한 설정에 따른 오버피팅: 모델의 정확도를 더 올리고 싶다고 해서 무작정 에포크를 50번, 100번씩 높게 잡으면 모델이 훈련 데이터셋의 노이즈까지 암기해 버리는 과적합(Overfitting) 현상이 생깁니다. 이 경우 실전 테스트 데이터에서의 정확도는 처참하게 떨어지게 되므로 EarlyStopping 콜백 같은 안전장치를 적용해 주는 버릇을 들여야 합니다.
• 합성곱(Conv2D) 입력 데이터의 채널(Dimension) 차원 누락: MNIST 이미지가 원래 흑백(Grayscale)이라 가로, 세로 행렬만 있는 (28, 28) 상태로 Conv2D 레이어에 던져주면 차원 수 불일치 에러가 터집니다. 이미지 채널 수가 1개(흑백) 혹은 3개(RGB)라는 명시적인 3차원 형태 (28, 28, 1)로 데이터 구조를 반드시 변경(Reshape)해 준 뒤 넣어주어야 합니다.

---

🏁 마치며

오늘은 딥러닝의 기본적인 개념 노선부터 시작해서 인공신경망 아키텍처의 필수 라이브러리인 TensorFlow와 Keras의 궁합, 그리고 직접 손글씨 숫자를 기가 막히게 맞추는 CNN 분류 모델 파이프라인까지 전체적으로 관통해 보았습니다.

처음에는 막연하게 인간의 뇌를 닮아 복잡하고 어려워 보였던 신경망 코드가, 막상 Keras의 model.add() 가이드라인을 타니 레고 블록을 쌓듯 쉽고 깔끔하게 연결되는 것을 경험하셨을 겁니다.

실습 도중 텐서플로우 레이어 차원 에러가 나거나, 패키지 버전 충돌로 막히는 부분이 있다면 언제든지 에러 메시지와 함께 댓글을 남겨주세요. 머리를 맞대고 해결책을 찾아드리겠습니다. 오늘 고생 많으셨습니다!