공개 가중치 AI 모델, 정책 바꿔도 재학습 없이 게시물 분류

소셜 플랫폼이 정책 문구를 바꿔도 새로 학습하지 않고 게시물을 분류할 수 있는 경량 인공지능 모델이 공개됐다. Musubi의 PolicyLM-1.7B는 운영자가 영어로 작성한 콘텐츠 정책을 기준으로 메시지를 분류하도록 설계됐다.

테크크런치는 6일(현지시간) Musubi가 이 모델을 공개 가중치 방식으로 출시했다고 보도했다. 모델은 메시지가 각 정책 항목에 해당하는지 점수로 출력하며, Musubi는 처리 시간이 50밀리초 미만이라고 밝혔다.

기존 분류기가 정해진 유형을 빠르게 찾아내는 데 초점을 맞췄다면, PolicyLM-1.7B는 운영자가 분류 기준을 수정해 정책 변화를 반영하는 방식이다. 플랫폼은 게시물과 댓글을 점검할 때 커뮤니티별 규칙을 적용할 수 있다.

모델 카드에 따르면 PolicyLM-1.7B는 17억개 매개변수를 갖췄고, 메시지와 정책을 입력받아 항목별 점수를 반환한다. 공개 가중치 라이선스는 Apache-2.0이다. 모델 카드의 속도 수치는 하드웨어와 설정에 따라 달라질 수 있다.

NVIDIA L4에서 짧은 메시지와 최대 6개 분류 항목을 처리했을 때 중앙값은 35밀리초였다. H100에서는 중앙값이 22밀리초로 제시됐다. 실시간 분류를 내세우지만, 분류 결과 자체가 게시물 삭제나 계정 제재를 뜻하지는 않는다.

운영자가 설정한 점수 기준에 따라 판단은 달라질 수 있다. Musubi는 자체 데이터로 기준값을 조정하라고 안내했다.

모델 카드는 정책을 영어로 시험했다고 밝혔다. 혼합 언어와 일부 저자원 언어, 우회 표기에서는 성능이 약해질 수 있고, 실제 서비스 트래픽 검증도 이뤄지지 않았다.

맥락이 필요한 이미지나 대화 기록을 함께 판단하는 용도도 지원하지 않는다. 따라서 실제 플랫폼에서 검토 절차를 얼마나 줄일지는 배포 환경에서 확인해야 한다.