클라우드플레어, AI 판단 모델 ‘클레프’ 공개…중간 지연 209.3밀리초

클라우드플레어(Cloudflare)가 AI 에이전트용 판단 모델 클레프(Clef)와 클레프 플래시(Clef-flash)를 공개했다. 두 모델은 문장을 생성하는 대신 선택지별 확률을 반환해 분류와 업무 배정에 활용하도록 설계됐다.

클라우드플레어는 10월 1일 공식 블로그에서 두 모델을 자사 추론 플랫폼 Workers AI에 올리고 가중치를 Apache 2.0 라이선스로 공개했다고 밝혔다. 고객이 업무에 맞춰 클레프를 미세조정할 수 있도록 강화학습 서비스도 선보였다.

의사결정 모델은 입력을 정해진 범주로 분류하고 선택지별 확률을 출력한다. 고객 문의의 긴급도나 담당 팀을 판단하면 프로그램이 티켓을 분류하거나 담당자에게 전달할 수 있다. 자유 형식의 답변을 생성한 뒤 별도로 해석하는 대신, 정해진 선택지를 직접 평가하는 방식이다.

클라우드플레어의 위협 인텔리전스 팀은 클레프로 웹사이트 도메인을 분류했다. 회사가 공개한 사례에서 모델은 한 도메인이 패션 사이트일 확률을 95%, 전자상거래 사이트일 확률을 85%로 분류했고, 피싱 사이트일 확률은 1% 미만으로 판단했다. 사이트를 불러와 렌더링하고 분류하는 데 2.2초가 걸렸으며, 같은 작업에서 범용 모델 gpt-oss-120b는 4.7초가 걸리고 두 가지 분류 결과만 반환했다.

클라우드플레어가 공개한 Jev Decision Index 평가에서 클레프의 중간 지연 시간은 209.3밀리초, 클레프 플래시는 38.8밀리초였다. 비교 대상인 Jev는 524.1밀리초를 기록했다. 회사는 클레프에 이미지 인코더를 넣어 이미지 분류를 지원하고 문맥 길이를 6만4000 토큰으로 늘렸다고 설명했다. 이 수치는 회사가 공개한 벤치마크 결과다.

AI 에이전트가 신원을 확인하고 결제하도록 지원하는 인프라를 공개한 데 이어, 클라우드플레어는 이번에 에이전트의 분류와 판단에 쓰이는 모델 및 미세조정 도구를 내놨다. 회사는 사내에서 신뢰·안전 신고 검토, 고객 지원 요청 분류, 크롤러의 정상 여부 판단 등에 활용할 수 있다고 밝혔다.

클레프와 클레프 플래시는 선택지가 정해진 분류 업무에 초점을 둔다. 복잡한 설명이나 자유로운 문장 생성이 필요한 작업과는 용도가 다르다. 클라우드플레어는 우선 배포 엔지니어가 고객의 업무에 맞춘 조정을 지원하고, 이후 고객이 데이터를 수집해 미세조정과 재배포를 직접 할 수 있는 플랫폼으로 확대할 계획이다.