#헤드라인
비싸고 느린 LLM 비켜 … 가성비 AI 인기
https://n.news.naver.com/mnews/article/009/0005474411
비싸고 느린 LLM 비켜 … 가성비 AI 인기
모델 경량화한 SLM 대세로 몸집 줄이고 특정분야 특화 정보 신속·정확하게 전달 비용도 LLM 20분의 1 불과 제조·금융·유통 등 적용 확산 세계 최대 산업 자동화 기업 로크웰 오토메이션은 최근 마
n.news.naver.com
모델 경량화한 SLM 대세로
몸집 줄이고 특정분야 특화
정보 신속·정확하게 전달
비용도 LLM 20분의 1 불과
제조·금융·유통 등 적용 확산
#본문

세계 최대 산업 자동화 기업 로크웰 오토메이션은 최근 마이크로소프트(MS)와 협력해 식음료 제조 현장에 특화된 인공지능(AI) 모델을 만들었다. 이 모델은 MS의 소규모언어모델(SLM) '파이' 시리즈를 기반으로 개발됐는데 설비 문제가 발생할 경우 공장 운영자에게 그 즉시 원인 분석과 대응 방안을 실시간으로 조언해준다. 공정 데이터를 중점적으로 학습하고 응답을 빠르게 할 수 있도록 경량화된 구조 덕분에 공장이 멈춰 서는 시간을 크게 줄이고 유지보수 효율도 끌어올리는 효과를 거두고 있다.
개발 비용을 낮추면서도 특정 산업에 최적화된 SLM이 주목받고 있다. 방대한 데이터를 학습해 척척박사처럼 무엇이든 알려주는 대규모언어모델(LLM)의 '범용 AI' 대신 저비용으로 보다 빠르고 정확하게 정보를 전달하는 SLM의 '특화 AI'를 찾는 시장 수요가 더 두드러지는 분위기다.
10일 정보기술(IT) 업계에 따르면 구글, MS, 오픈AI 등 주요 글로벌 빅테크는 엔터프라이즈 사업의 일환으로 제조·금융·유통·헬스케어 등 다양한 산업 분야에 SLM 적용을 확대하고 있다. 빅테크 기업들은 최소 수천억 개에서 많게는 1조개가 넘는 파라미터(매개변수)를 갖춘 초대형 언어모델도 보유하고 있지만, 실제 기업 고객들이 선호하는 것은 경량화된 SLM이다. 고비용·고연산의 초거대 AI보다 현장의 실질적인 문제를 빠르고 정확하게 해결할 수 있는 도메인 특화형 소형 AI가 더 현실적인 해법으로 주목받고 있는 것이다.
SLM은 수억~수십억 개 수준의 파라미터로 구성된 경량화 모델로 특정 도메인 데이터에 기반한 고정밀 질의응답과 문서 요약, 분류, 해법 제시 등의 다양한 기능을 수행한다. 파라미터 수가 적어 메모리·연산 자원 소모가 많지 않은 데다가 응답 지연이 낮아 실시간 응용에 적합한 구조다.
특히 AI 모델을 운영하는 비용도 LLM보다 훨씬 저렴하다. 가령 오픈AI의 초거대 AI GPT-4o는 100만 토큰(언어모델이 텍스트를 이해하고 생성하는 기본 단위)당 출력 비용(생성한 응답에 대한 비용)이 10달러에 달하지만, 이를 경량화한 GPT-4o 미니의 출력 비용은 0.6달러로 15분의 1에 불과하다. 구글의 LLM 제미나이 2.5 프로 역시 출력 비용이 100만 토큰당 10달러인 반면 경량화된 제미나이 2.0 플래시는 0.4달러에 그친다. 비용이 25분의 1 수준이다.
저비용·고효율이라는 장점이 확실한 만큼 업권을 막론하고 SLM을 채택하는 경우가 많아졌다. 미국 최대 은행인 JP모건체이스는 현재 'COiN'이라는 SLM을 도입해 상업 대출 계약서와 같은 법률 문서를 자동으로 검토하고 분석하고 있다. 네이버 역시 자사 서비스인 네이버 플레이스에서 SLM을 활용해 장소, 지도, 여행 등 분야별 서비스를 최적화하고 있다. 애플과 삼성전자도 자사 스마트폰에서 구동되는 온디바이스 AI를 SLM으로 구현하고 있다.
가트너는 기업들이 2027년까지 SLM을 도입하면서, 전체 사용량이 LLM보다 최소 3배 이상 많아질 것으로 전망했다. 가트너는 범용 LLM이 강력한 언어 처리 능력을 갖췄지만, 실제 비즈니스 현장의 전문성이 요구되는 작업에서는 응답 정확도가 떨어질 수 있다고 분석했다. 수밋 아가왈 가트너 VP 애널리스트는 "다양한 작업과 더 높은 정확도에 대한 요구로 인해 특화 모델로의 전환이 가속화되고 있다"고 말했다.
[고민서 기자]
고민서 기자(esms46@mk.co.kr)
#본문의 근거
1. 고비용·고연산의 LLM보다 저비용·고효율의 SLM의 사용이 확산되고 있다.
2. LLM은 최소 수천억 개에서 많게는 1조개가 넘는 파라미터를 갖추고 있지만, SLM은 수십~수십억 개의 파라미터를 가져 메모리·연산 자원 소모가 많지 않고 응답 지연이 낮다.
3. AI 모델 운영 비용에서도 LLM과 SLM의 비용 차이는 25분의 1 수준이다.
4. 가트너는 2027년까지 SLM의 사용량이 LLM보다 최소 3배 이상 많아질 것으로 전망했다.
#추가 조사할 내용
국내 SLM 솔루션 제공 기업
1. 대기업
- LG유플러스: LG유플러스의 통신, 플랫폼 데이터를 학습시켜 통신업에 특화된 서비스를 제공하는 자사 AI 모델 '익시젠(ixi-GEN)' 보유해 B2C 서비스에 적용 중. 그 외 고객 맞춤형 SLM 개발해 SLM 기반의 AI 서비스 제공.
2. 중소기업
- 업스테이지: SLM 모델 '솔라'로 한국어 처리에 최적화된 성능 제공, 특정 산업에 맞춤형 AI 솔루션 제공
- 포티투마루: SLM의 경량화된 AI 모델 집중적으로 개발, 소규모 데이터 세트를 활용한 빠른 학습이 가능한 모델들 제공
- 바이브: 국내 최고 기계독해(MRC) 기술과 자체 개발 SLM 모델 '바이브GeM' 기반 솔루션으로 도메인별 맞춤 학습 솔루션 제공. '바이브 서치'는 지난해 과기정통부가 진행한 초거대AI 사업에서 가장 주목받은 솔루션이고, 바이브 챗봇, 바이브 KMS, 바이브리포트코파일럿 등 AI 솔루션 공급
3. 스타트업
- 크라우드웍스: 한국의 비즈니스 환경에 최적화된 SLM 모델 '웍스원(WorksOne)' 개발. 비즈니스 맞춤형 데이터셋을 직접 구축하고 학습시켜 최적화된 서비스 구현.
- 파수: 기업 내 LLM 구축에 최적화된 SLM '엘름(ELLM)' 제공, 보안에 특화
#적용할 점
- 대기업의 LLM과 비교해 기업만의 경쟁력을 어떻게 지켜나갈 것인지
- 추후 자사 SLM의 계획은 어떤지
- AI 모델 구축 외에 중요한 것은 무엇인지
#연관기사 링크
[sLLM] AI폰에 필수…빅테크, SLM 전쟁 - 소형언어모델
https://blog.naver.com/komo082/223430093102
작지만 강하다...소형언어모델(SLM) 기업용 AI 시장 변수로
https://www.digitaltoday.co.kr/news/articleView.html?idxno=518381
요약: 고비용·고연산의 LLM보다 저비용·고효율의 SLM의 사용이 확산되고 있으며, 2027년까지 LLM보다 SLM의 사용량이 3배 가량 차이날 것으로 예상된다.
의견: AI 경쟁에서 '최고'의 순위 경쟁에선 뒤처졌더라도 가성비와 사용성 측에서 특화된 SLM은 국내 시장에서도 충분히 만들어낼 수 있는 모델이라고 생각한다. 이미 거대 LLM을 보유한 기업들도 기업 맞춤형 솔루션을 새롭게 개발하고 있기 때문에 빠르게 움직이면 경쟁해볼 만하다고 예상한다.
'경제신문스크랩' 카테고리의 다른 글
"털리면 수습 불가" 중기도 보안솔루션 속속 강화 (0) | 2025.04.30 |
---|---|
카카오페이 마이데이터 가입자 2000만 돌파 (0) | 2025.04.15 |
오픈AI 23억弗·딥시크 1억弗 벌 때…'이름'도 못 올린 韓기업 (0) | 2025.04.10 |
빅테크부터 스타트업까지…이통사 'AI 우군' 확보전 (1) | 2025.04.02 |
"AI시대 데이터센터 수요 폭증 … 인프라 대출 뜬다" (1) | 2025.04.02 |