스퀴즈넷(SqueezeNet)

개요

SqueezeNet은 딥러닝 모델의 크기(파라미터 수)를 극도로 줄이면서도 AlexNet 수준의 정확도를 유지하는 것을 목표로 개발된 초경량 합성곱 신경망(CNN) 구조입니다. 2016년 Forrest N. Iandola 등 UC Berkeley 팀이 제안했으며, 경량 딥러닝 분야에서 대표적인 연구 결과로 인정받고 있습니다. 특히 모바일, 임베디드, IoT 장비와 같이 메모리·계산 자원이 제한된 환경에서 강력한 이미지 인식 성능을 제공하는 것이 특징입니다.

---

1. 개념 및 정의

항목	설명
정의	파라미터 수를 50배 이상 줄이면서도 AlexNet 수준의 정확도를 유지하는 초경량 CNN 모델
모델 크기	약 4.8MB (AlexNet: 약 240MB)
주요 특징	파라미터 절감, 연산 효율화, 경량화에 최적화된 아키텍처 설계

---

2. 주요 구조 및 아키텍처

구성 요소	설명
Fire Module	SqueezeNet의 핵심 블록: 1x1 squeeze + (1x1 + 3x3) expand 구조
Squeeze Layer	채널 수를 줄이는 1x1 컨볼루션
Expand Layer	1x1 및 3x3 필터를 혼합하여 특징 맵 확장
No Fully Connected	FC 레이어 없이 최종 Conv → Global Avg Pooling 구조 적용

SqueezeNet = Fire Modules + Global Average Pooling

---

3. 구조 설계 원칙 (3가지)

원칙	설명
1. 1x1 Conv 대체	대부분의 3x3 Conv를 1x1으로 대체하여 파라미터 수 축소
2. 채널 수 축소	입력 채널 수를 줄여 다음 레이어 계산량 최소화 (squeeze)
3. Delayed Downsampling	초반에 다운샘플링을 지연시켜 더 높은 해상도의 특징 추출 가능

---

4. 성능 비교

모델	Top-1 Accuracy (ImageNet)	파라미터 수
AlexNet	약 57.2%	약 60M
SqueezeNet 1.0	약 57.5%	약 1.25M (약 4.8MB)
MobileNetV2	약 71.8%	약 3.4M

---

5. 활용 분야 및 사례

분야	적용 사례
모바일 비전	스마트폰의 이미지 인식, 증강현실 필터
IoT 디바이스	CCTV, 드론, 센서 장비 내 AI 추론
스마트카	차량 내 객체 탐지, 번호판 인식
산업 현장	온디바이스 설비 이상 감지, 자동 검사

---

6. 구현 코드 예시 (PyTorch)

from torchvision.models import squeezenet1_0
model = squeezenet1_0(pretrained=True)
model.eval()

• squeezenet1_1()은 개선된 구조로 더 적은 파라미터로 속도 향상 가능

---

7. 장점과 한계

항목	장점	한계
파라미터 효율	매우 작은 모델 크기와 낮은 메모리 사용	정확도 한계 (MobileNet 대비 낮음)
추론 속도	저성능 디바이스에서도 빠른 추론 가능	모델 설계의 유연성은 제한적
이식성	FPGA, 마이크로컨트롤러, IoT에 최적화	대규모 태스크에는 부적합

---

결론

SqueezeNet은 경량 딥러닝 모델의 전형적인 사례로, 온디바이스 AI와 실시간 인식이 필요한 상황에서 높은 활용도를 갖습니다. 파라미터를 최소화하면서도 기본적인 이미지 분류 성능을 유지하는 뛰어난 구조로, 지금도 다양한 응용 제품에서 널리 사용되고 있습니다.

---