Groq

AI 추론 속도에 특화된 반도체를 만드는 미국 기업입니다. 머스크의 챗봇 Grok과는 다른 회사입니다.

Groq(그로크)은 AI 추론, 즉 학습된 모델이 답을 생성하는 단계의 속도에 특화된 반도체 LPU를 만드는 미국 기업입니다. 구글에서 AI 칩 TPU 개발에 참여했던 조너선 로스가 창업했습니다. 일론 머스크의 챗봇 Grok과 이름 발음이 같지만 전혀 다른 회사이며, 오히려 Groq 쪽이 먼저 이 이름을 썼습니다.

이 회사가 유명해진 것은 챗봇 답변이 눈으로 따라가기 어려울 만큼 빠르게 생성되는 시연 덕분입니다. GPU와 달리 메모리 병목을 줄인 독자 설계로 초고속 추론을 구현했으며, 개발자들이 자사 클라우드에서 오픈 모델을 초고속으로 쓸 수 있게 해 인지도를 쌓았습니다.

AI 시장의 무게중심이 학습에서 추론으로 옮겨가면서, 추론 특화 칩 수요 증가의 수혜 기업으로 꼽힙니다. 사우디아라비아 등과의 대형 인프라 계약으로도 화제가 됐습니다.

✅ 장점

• AI 추론 속도에서 GPU를 압도하는 차별화된 성능을 보여줍니다
• 학습에서 추론으로 이동하는 AI 시장 흐름의 수혜가 기대됩니다
• 개발자용 클라우드 서비스로 생태계를 빠르게 넓혔습니다

⚠️ 단점 · 한계

• 엔비디아의 자본력과 생태계에 맞서기에는 규모가 작습니다
• 추론 시장에도 대형 경쟁자들이 속속 진입하고 있습니다
• 특정 지역·고객과의 대형 계약 의존도가 높다는 지적이 있습니다