용어집 · 용어
NPU
AI 계산 전용으로 설계된 반도체입니다. 스마트폰과 노트북의 온디바이스 AI를 담당합니다.
NPU(Neural Processing Unit)는 인공신경망 계산에 특화되도록 설계된 프로세서입니다. CPU가 다방면에 능한 만능 일꾼이라면, NPU는 AI 계산이라는 한 가지 일만 매우 빠르게, 그것도 전기를 적게 쓰면서 해내는 전문 기술자에 비유할 수 있습니다.
스마트폰에서 사진 보정, 음성 인식, 실시간 번역 같은 AI 기능을 배터리 부담 없이 돌리려는 수요에서 발전했습니다. 최근에는 AI PC라는 이름으로 노트북에도 기본 탑재되는 추세이며, 온디바이스 AI 확산을 뒷받침하는 하드웨어 기반 역할을 하고 있습니다.
NPU 성능은 보통 TOPS라는 연산 능력 수치로 홍보되는데, 숫자가 크다고 실제 AI 기능이 비례해서 좋아지는 것은 아닙니다. 소프트웨어 지원과 메모리 등 다른 요소의 영향도 큽니다.
✅ 왜 중요한가 · 장점
- 적은 전력으로 AI 계산을 처리해 배터리 기기에 적합합니다
- 기기 안에서 AI를 돌릴 수 있어 개인정보 보호와 오프라인 사용에 유리합니다
- 스마트폰, 노트북, 가전으로 AI 기능이 확산되는 기반이 됩니다
⚠️ 한계 · 논쟁
- 범용 계산에는 쓰기 어려워 CPU와 GPU를 대체하지는 못합니다
- 제조사마다 규격이 달라 소프트웨어 호환성 확보가 과제입니다
- TOPS 수치 마케팅이 실사용 성능과 괴리되는 경우가 있습니다