미스트랄 라지 4 공개 프리뷰…전체 1조500억 파라미터

미스트랄 AI가 전체 1조500억개 파라미터를 갖춘 멀티모달 모델 ‘미스트랄 라지 4’의 공개 프리뷰를 시작했다. 금융 업무 평가에서 54.68%를 기록했지만, 시험마다 순위가 달라 한 차례의 벤치마크만으로 전반적인 성능 우위를 판단하기는 어렵다.

미스트랄 AI는 10월 6일 공개 프리뷰를 시작하고 모델에 ‘르숑크(Le Chonk)’라는 별칭을 붙였다. 한 번의 질의에서 활성화되는 파라미터는 490억개다. 회사는 가중치를 10월 말 공개하겠다고 밝혔다.

라지 4는 여러 전문가 모델 가운데 일부를 골라 처리하는 혼합 전문가(MoE) 구조를 사용한다. 전체 파라미터 수와 질의당 활성 파라미터 수는 각각 1조500억개와 490억개다.

Vals AI의 Finance Agent v2 평가에서 라지 4는 54.68%를 기록했다. 미스트랄 AI는 이 결과가 GPT-6 Astra보다 높다고 밝혔다. 이 평가는 금융 업무에 초점을 둔 시험으로, 다른 과제나 실제 업무 성능까지 보여주지는 않는다.

미스트랄 AI가 공개한 비교 자료에서도 시험별 결과는 엇갈렸다. 라지 4는 시각 정보의 위치를 연결하는 Dense 200에서 42%를 기록해 GPT-6 Astra의 41%를 웃돌았다. 반면 코딩 평가 DeepSWE에서는 62점으로 Kimi K3의 68점에 못 미쳤다.

벤치마크마다 평가 방식과 실행 조건이 다를 수 있어 점수만으로 모델 간 성능을 일렬로 비교하기는 어렵다. Finance Agent v2의 결과도 금융 업무 평가 하나에서 나온 점수다.

미스트랄 AI는 라지 4를 오픈 웨이트 모델로 소개했다. 오픈 웨이트는 모델 가중치를 외부 개발자가 내려받아 직접 실행하거나 조정할 수 있도록 공개하는 방식이다. 가중치를 이용할 수 있는 범위와 조건은 라이선스에 따라 달라진다.

공개 프리뷰와 가중치 배포는 별개의 단계다. 프리뷰는 시작됐고 가중치 공개는 10월 말로 예고됐다. 실제 배포 조건은 가중치와 라이선스가 공개될 때 확인할 수 있다.

회사 발표에 따르면 라지 4는 유럽에 있는 자체 데이터센터에서 엔비디아 Grace Blackwell GPU 3800개로 학습됐다. 미스트랄 AI는 입력 토큰 100만개당 1.36달러(약 1826원), 출력 토큰 100만개당 4.18달러(약 5614원)의 가격을 제시했다.

‘르숑크’라는 별칭은 6월 온라인에서 퍼진 가상의 초대형 모델 농담에서 비롯됐다. 미스트랄 AI는 이를 실제 모델의 별칭으로 이어갔다. 회사가 공개한 일정에 따르면 라지 4의 가중치는 10월 말 공개될 예정이다.