메타의 오픈소스 AI 모델 라마 주목받아

김민준 기자

2024.09.09 (월) 19:26

메타의 오픈소스 AI 모델 라마 주목받아 / 셔터스톡

메타(Meta)가 개발한 생성형 AI 모델 라마(Llama)가 오픈 소스 방식으로 공개되면서 개발자들의 관심을 끌고 있다. 라마는 다양한 기능과 함께 클라우드 플랫폼을 통해 쉽게 사용할 수 있어 AI 개발에 새로운 가능성을 제시하고 있다.

9일(현지시간) 테크크런치에 따르면, 메타가 개발한 생성형 AI 모델 라마가 오픈 소스로 공개되면서 주목받고 있다. 라마는 개발자들이 자유롭게 다운로드하고 사용할 수 있는 것이 특징이다. 이는 안트로픽(Anthropic)의 클로드(Claude), 오픈AI(OpenAI)의 GPT-4, 구글(Google)의 제미니(Gemini) 등 API를 통해서만 접근 가능한 다른 주요 모델들과 차별화된다.

라마는 8B, 70B, 405B 세 가지 버전으로 구성되어 있다. 최신 버전인 라마 3.1은 2024년 7월에 출시됐다. 이 모델들은 다양한 언어의 웹 페이지, 공개 코드, 웹 파일, 그리고 다른 AI 모델이 생성한 합성 데이터를 학습했다.

라마 3.1 8B와 70B는 노트북부터 서버까지 다양한 기기에서 실행할 수 있는 작고 컴팩트한 모델이다. 반면 라마 3.1 405B는 데이터 센터 수준의 하드웨어가 필요한 대규모 모델이다. 8B와 70B는 405B보다 기능은 적지만 더 빠르며, 저장 공간과 지연 시간 측면에서 최적화됐다.

모든 라마 모델은 128,000 토큰의 컨텍스트 윈도우를 가지고 있다. 이는 약 10만 단어 또는 300페이지에 해당하는 양으로, '폭풍의 언덕', '걸리버 여행기', '해리 포터와 아즈카반의 죄수' 정도의 길이다.

라마는 코딩, 기본적인 수학 문제 해결, 8개 언어(영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어)로 문서 요약 등 다양한 작업을 수행할 수 있다. PDF와 스프레드시트 같은 파일 분석도 가능하지만, 현재는 이미지 처리나 생성 기능은 없다.

메타는 라마를 더 쉽게 사용할 수 있도록 AWS, 구글 클라우드, 마이크로소프트 애저 등과 협력해 클라우드 호스팅 버전을 제공하고 있다. 또한 모델을 미세 조정하고 사용자 지정할 수 있는 도구도 출시했다.

라마는 페이스북 메신저, 왓츠앱, 인스타그램, 오큘러스, Meta.ai 등 메타의 다양한 플랫폼에서 AI 챗봇 경험을 제공하고 있다. 개발자들은 대부분의 주요 클라우드 플랫폼에서 라마를 다운로드하고 사용할 수 있다.

메타는 라마와 함께 모델을 더 안전하게 사용할 수 있는 도구들도 제공하고 있다. 라마 가드(Llama Guard)는 문제가 될 수 있는 콘텐츠를 감지하는 모더레이션 프레임워크이며, 프롬프트 가드(Prompt Guard)는 프롬프트 인젝션 공격을 방어하는 도구다. 사이버섹에벌(CyberSecEval)은 사이버 보안 위험 평가 도구다.

그러나 라마도 다른 생성형 AI 모델들과 마찬가지로 일부 한계와 위험이 있다. 저작권이 있는 콘텐츠로 학습했을 가능성이 있어 법적 문제가 발생할 수 있으며, 프로그래밍 분야에서는 버그나 보안 문제가 있는 코드를 생성할 수 있다. 따라서 전문가의 검토가 필요하다.

메타의 라마는 오픈 소스 방식으로 AI 개발에 새로운 가능성을 열어주고 있지만, 사용 시 주의가 필요하다. 개발자들은 라마의 장점을 활용하면서도 잠재적 위험을 인지하고 적절히 대응해야 할 것이다.