엔터프라이즈 AI 시장에서 데이터 보안과 규정 준수를 동시에 해결하려는 수요가 증가하는 가운데, API 전문 기업 콩(Kong)이 자사 AI 게이트웨이의 최신 업데이트를 발표했다. 이번 3.10버전은 툴의 핵심 기능인 *조회 기반 생성(RAG)*을 완전 자동화하여 LLM의 활용성과 정확도를 동시에 끌어올렸다는 점에서 주목된다.
콩의 공동 창업자 겸 최고기술책임자 마르코 팔라디노는 "그동안 개발자들이 일일이 짜야 했던 RAG 파이프라인을 이제는 게이트웨이 자체가 자동으로 구성한다"고 밝혔다. 벡터 데이터베이스를 검색하고, 관련 정보를 선별해 모델이 바로 활용할 수 있도록 하는 과정까지 *기본값(default)*으로 처리하도록 설계된 것이다. 이는 *AI 환각(hallucination)* 문제를 줄이는 데 핵심 역할을 한다.
신제품은 보안 측면에서도 강력한 성능을 갖췄다. 특히 모델 입력 단계에서 *개인 식별 가능 정보(PII)*를 자동으로 필터링하고, 출력 시 이를 재삽입해 사용자 경험을 저해하지 않도록 설계됐다. 팔라디노는 "AI는 비밀을 지키지 못한다"며, 조직 전체에서 PII 제거 정책을 통합 적용할 수 있어 규제 대응력을 대폭 높였다고 설명했다.
이번 버전은 벡터 DB와 에이전트 중심 AI 기술에서도 진보를 이뤄냈다. 팔라디노는 “올해는 커스텀 AI 에이전트의 시대”라고 강조하며, 실제 고객사인 한 글로벌 제약사는 콩의 AI 게이트웨이를 도입한 이후 신약 관련 임상시험 문서화 시간 절반 단축이라는 성과를 거뒀다고 덧붙였다.
API 기술도 게이트웨이의 핵심이다. 전 세계 인터넷 트래픽의 약 80%가 API를 통해 전달되는 현실을 고려할 때, 통합된 API 관리와 거버넌스는 기업 혁신의 사활이 걸린 문제다. 팔라디노는 "API 자산이 조직 내에 분산되면 혁신과 생산 속도 자체가 늦어진다"며 "API 저장소를 중심으로 접속 계층을 통제하는 것이 디지털 경쟁력의 핵심"이라고 강조했다.
한편 콩은 최근 $175,000,000(약 2,520억 원) 규모의 자금 조달에 성공하며 제품 고도화와 시장 확대에 박차를 가하고 있다. AI 게이트웨이의 이번 업데이트는 기술적 완성도와 함께 실사용 안전성, 거버넌스 요구까지 동시에 해결한 사례로 평가받는다. 기업들이 책임감 있는 AI 도입과 운영을 본격화하는 시점에서 콩의 기술은 설계부터 실행까지 포괄적인 인프라를 제공한다는 점에서 업계의 주목을 받고 있다.