소형 언어 모델

거대 모델 대비 크기를 확 줄인 언어 모델입니다. 저렴하고 빨라 특정 업무 전용으로 각광받습니다.

소형 언어 모델(SLM)은 거대 언어 모델의 구조를 유지하면서 파라미터 수를 크게 줄여, 적은 자원으로도 돌아가게 만든 언어 모델입니다. 모든 요리를 다 하는 특급 호텔 주방 대신, 한 가지 메뉴를 빠르고 저렴하게 잘 만드는 전문점에 비유할 수 있습니다.

모든 작업에 최고급 거대 모델을 쓰는 것은 비용 낭비라는 인식에서 주목받았습니다. 문서 분류, 요약, 고객 응대처럼 범위가 정해진 업무에는 작은 모델을 파인튜닝해 쓰는 편이 저렴하고 빠르며, 스마트폰 등 기기에 직접 탑재하는 온디바이스 AI의 주력이기도 합니다.

작은 모델이라고 품질이 무조건 낮은 것은 아니지만, 폭넓은 지식과 복잡한 추론에서는 거대 모델과 격차가 있습니다. 그래서 쉬운 일은 SLM이, 어려운 일은 대형 모델이 맡는 조합 전략이 흔히 쓰입니다.

✅ 왜 중요한가 · 장점

• 운영 비용이 저렴하고 응답 속도가 빠릅니다
• 특정 업무에 파인튜닝하면 큰 모델 못지않은 성능을 냅니다
• 기기 내 탑재가 가능해 온디바이스 AI와 보안 요구에 적합합니다

⚠️ 한계 · 논쟁

• 폭넓은 지식과 복잡한 추론에서는 대형 모델에 뒤집니다
• 업무별로 모델을 고르고 튜닝하는 관리 부담이 생깁니다
• 작은 모델일수록 환각과 오류 빈도가 높아질 수 있습니다