AI를 사무실에 들이고 싶어도 GPU 비용 때문에 망설이는 회사, 꽤 많을 것 같은데요.
AI 모델 경량화 전문기업 노타가 2026년 7월 27일, 업스테이지의 '솔라 오픈2' 전용 경량화 모델을 공개했습니다.
정부의 독자 AI 파운데이션 모델 프로젝트 2차수 성과물인데요, 솔라 오픈2 자체는 업스테이지가 지난 7월 23일 먼저 내놓은 모델입니다.
솔라 오픈2는 2,500억 개 매개변수를 가진 큰 모델인데, 실제 작업할 때는 그중 150억 개만 골라 쓰는 MoE(전문가 혼합) 구조를 씁니다. 쉽게 말하면 필요한 전문가만 불러다 쓰는 방식이라고 보면 됩니다.
MoE란?
MoE는 '전문가 혼합(Mixture of Experts)'이라는 뜻인데요, 모델 안에 여러 명의 '전문가'를 미리 나눠두고, 질문이 들어올 때마다 그중 필요한 전문가만 골라서 답을 만드는 방식입니다. 회사에 비유하면, 직원 전체가 한번에 회의에 들어가는 대신 그 안건에 맞는 담당자 몇 명만 불러서 처리하는 것과 비슷합니다
그런데 기사를 읽다 보니 한 가지 궁금한 점이 생겼습니다. 가중치를 76.5%나 줄였는데 왜 성능은 그대로라는 걸까요?
확인해보니 생각보다 단순한 문제는 아니었습니다.
노타는 데이터 기반 MoE 양자화, 라우터 인지형 MoE 양자화, 비균일 전역 프루닝이라는 세 가지 기술을 같이 썼는데요, 무작정 다 줄이는 게 아니라 중요도가 낮은 연산 모듈만 골라서 4비트로 압축하는 방식이었습니다.
그럼 회사 말만 믿어야 하는 걸까 싶었는데요,,,,
한국어 이해력을 보는 K-Domain 벤치마크에서 83.1점을 기록해 클로드 하이쿠 4.5, GPT-5.4 미니, 딥시크 V4 플래시 같은 글로벌 모델과 비교해도 경쟁력 있는 점수를 받았다고 회사 측이 밝혔습니다. 다만 이건 노타가 공개한 자체 벤치마크라, 제3자가 독립적으로 검증한 결과인지는 아직 확인하기 어려웠습니다.
저처럼 실무에서 AI 도입을 고민하는 사람이라면 '그럼 나도 지금 이 모델을 써볼 수 있나?' 싶을 텐데요, 이 부분은 정부 과제 성과물이라는 것 외에 일반 기업 대상 배포 계획까지는 확인하기 어려웠습니다.
제가 이 부분에서 눈여겨본 건 GPU 8장이 2장으로 줄었다는 숫자 자체보다, 문서 업무·코딩·툴 호출 같은 실제 기능은 그대로 유지됐다는 점이었어요. 다만 실제로 써봐야 체감 차이를 알 수 있을 것 같습니다.
핵심 요약: 노타, 솔라 오픈2 경량화 모델 공개 · 가중치 76.5% 감축, GPU 8장→2장 · K-Domain 벤치마크 83.1점(자체 측정), 제3자 검증은 미확인
참고한 기사
- 노타, '솔라 오픈2' 전용 경량화 모델 공개…"기업 AI 도입 비용 낮춘다" - 머니투데이(2026.07.27)
- 노타, 업스테이지 '솔라 오픈2' GPU 8장→2장으로 줄였다 - ZDNet Korea
- 업스테이지, 새 LLM '솔라 오픈2' 발표 - 머니투데이(2026.07.23, 배경 참고)
태그: 노타, 업스테이지, 솔라오픈2, 경량화, GPU
'it뉴스' 카테고리의 다른 글
| 14조 몰린 CXMT 상장, 삼성·하이닉스엔 얼마나 위협일까? (0) | 2026.07.30 |
|---|---|
| 부유식 데이터센터란 무엇인가, 해상 플랫폼과 데이터센터 인프라의 결합 (0) | 2026.07.13 |
| LS일렉트릭 AI 데이터센터 전력 인프라, 북미 수주 증가가 의미하는 변화 (0) | 2026.07.13 |
댓글