메타, 라마 4 모델 전격 공개… GPT-4o도 넘본다

메타(META)가 중국의 인공지능 스타트업 딥시크(DeepSeek)에 맞서기 위한 야심작 '라마 4(LLaMA 4)' 시리즈를 공개했다. 핵심 모델인 스카우트(Scout)와 매버릭(Maverick)은 이미 공개되어 개발자들이 실험과 파인튜닝을 진행할 수 있으며, 2조 파라미터 규모의 비히모스(Behemoth) 모델도 현재 훈련 중이다. 메타는 이들 신형 모델을 통해 챗GPT 등 기존 대형 언어모델뿐 아니라 급성장 중인 오픈소스 수리 모델에도 정면 대응하겠다는 전략이다.

라마 4 시리즈는 멀티모달 기능과 *초장문 이해 능력*으로 차별화를 꾀한다. 매버릭은 1백만 토큰, 스카우트는 무려 1천만 토큰의 컨텍스트 윈도우를 지원해 최대 1만5천 쪽 분량의 글을 한 번에 입력하고 응답받을 수 있다. 이같은 *장문 분석* 능력은 과학, 의료, 법률, 문학과 같은 고난이도 분야에서 특히 강점을 보인다.

모든 모델은 '전문가 혼합 구조(Mixture of Experts, MoE)'를 기반으로 한다. 이는 특정 작업에 필요한 *전문 모델들*을 선택적으로 활성화해 추론 속도는 빠르면서도 성능은 유지할 수 있도록 만든 방식이다. 메타는 매버릭 기준으로 1백만 토큰당 비용이 0.19~0.49달러(약 270원~700원) 수준이라며, GPT-4o 등 상용 모델 대비 10분의 1 가격 수준이라고 강조했다.

성능 측면에서도 라마 4 시리즈는 경쟁력을 발휘한다. 매버릭은 GPT-4o, 제미니 2.0 플래시 등을 뛰어넘는 다중 모달 벤치마크 점수를 기록했고, 스카우트 역시 미스트랄 3.1과 제미니 2.0 라이트를 상회하거나 동급 성능을 보여준다. 다만 고성능 모델 간 접전이 벌어지는 수학(MATH-500), 일반지능(MMLU), 고난도 질의응답(GPQA Diamond) 테스트에서는 딥시크 R1 및 오픈AI의 O1 시리즈에 약간 밀리는 수치를 나타내기도 했다.

훈련 효율도 강화됐다. 메타는 ‘메타P(MetaP)’라는 새로운 기법을 도입해 소형 모델에서 최적화된 학습 하이퍼파라미터를 대형 모델에도 적용 가능하도록 개발했다. 학습 시간과 비용을 획기적으로 절감할 수 있다는 평가다. 비히모스 모델은 3.9만 테라플롭스를 낼 수 있도록 병렬 처리된 3만 2,000개의 GPU와 3조 개 이상의 토큰으로 훈련 중이다.

또한 메타는 최근 불거진 AI의 정치적 편향 문제도 의식한 모양이다. 라마 4는 과거 좌편향된 응답을 문제 삼았던 부분들을 개선했다며, 특히 도널드 트럼프 대통령 등 보수 지지자들과의 갈등을 의식한 조율이 이뤄졌다고 밝혔다. 메타는 이를 위해 ‘라마 가드’, ‘프롬프트 가드’ 등의 보안 도구와 함께 자동화된 안전 점검 시스템을 제공할 예정이다.

결국 메타는 AI 생태계 주도권을 놓고 점차 치열해지는 경쟁에서, *효율성, 공개성, 고성능*을 핵심 축으로 삼아 다시 한 번 방향타를 잡았다. 라마 4는 상용화보다는 오픈 다운로드와 통합 중심의 공세적 전략에 가깝고, 왓츠앱·인스타그램 등 메타의 자체 플랫폼을 통해 활용도가 높아질 전망이다. 비즈니스용 AI 도입을 고려하는 기업들에게 있어 메타의 자체 모델은 유효한 대안으로 부상할 가능성이 크다.