주요 기업들, 생성 AI 도입 사례 및 과제 논의

어도비(Adobe), 웨이페어(Wayfair), 위프로(Wipro), 프레시웍스(Freshworks), 메드트로닉(Medtronic) 등의 리더들이 화요일 포춘(Fortune) 브레인스톰 테크 컨퍼런스에서 점심 토론을 가졌다. 이들은 자사에서 생성 AI를 유용하게 활용하고 있다고 밝혔다. 그러나 생성 AI 도구의 비용과 신뢰성이 주요 도전 과제임을 언급하며 이를 해결하는 방법에 대해 논의했다. 또한, 적절한 용도에 맞는 도구 선택의 중요성도 강조했다.

19일(현지시간) 포춘에 따르면, 웨이페어의 최고 기술 책임자 피오나 탄(Fiona Tan)은 고객 서비스와 판매 직원을 지원하기 위해 AI 기반 '코파일럿'의 2세대를 사용하고 있으며, 고객이 방 디자인을 시각화할 수 있도록 이미지 생성 기능을 제공하고 있다고 밝혔다. 그러나 특정 작업에 생성 AI가 적합한지 확인하고 성공을 측정하는 매트릭스를 도입했다고 말했다. 이는 생성 AI 모델이 때때로 부정확하거나 비논리적인 출력을 내는 '환각'의 위험을 고려한 것이다.

탄은 환각에 대해 고객이 더 용인할 수 있는 작업이 있다고 설명했다. 웹사이트의 장식 아이디어 기능을 예로 들며, '의자 다리가 조금 삐뚤어지거나 방의 일부 요소가 조금 어긋나더라도, 고객들은 방을 다양한 스타일로 볼 수 있는 기능을 높이 평가한다'고 말했다.

침실과 수술실의 차이

한편, 의료 기기 회사 메드트로닉의 최고 기술 책임자 켄 워싱턴(Ken Washington)은 회사가 기계 학습을 광범위하게 사용하고 있지만, 수술실에서는 현재 생성 AI가 사용할 수 없다고 말했다. '환각을 용인할 수 없다'며 '그렇기 때문에 생성 AI가 의료 기술 개발에 사용되지 않으며, FDA 승인 치료법이나 진단 도구에도 사용되지 않는다'고 설명했다.

어도비의 디지털 미디어 최고 기술 책임자 엘리 그린필드(Ely Greenfield)는 생성 AI의 비용과 신뢰성을 다른 기술과 동일하게 처리하고 있다고 말했다. '우리는 해결하려는 문제가 무엇인지 묻는다. 새로운 문제라면 경고 신호다'라며, '기존에 해결책이 없었던 문제를 해결하는 데 적합할 수 있다면 그 문제를 해결하려고 시도한다'고 말했다. 또한, '정확도가 100%가 되지 않을 것과 비용이 비쌀 것을 알면서도, 문제를 해결할 수 있는지 초기에 판단하고 비용과 신뢰성 문제가 해당 작업에 문제가 되는지 확인한다'고 덧붙였다.

하지만 그린필드는 비용에 너무 일찍 집중하는 것을 경고했다. '이 세계의 역학이 너무 빠르게 변하기 때문에 첫 단계는 AI로 문제를 해결할 수 있는지 파악하는 것이다'라며, '모델을 교체하고, 스마트한 사람들을 고용해 모델을 정제하고, 기다리다 보면, 비용이 저렴해지고 더 나아질 것이다. 지금 해결책을 찾는 데 참여하고, 그 후에 비용을 걱정하라'고 말했다.

생성 AI 비용 절감 전략

프레시웍스의 제품 전략 및 운영 부사장 시다르타 아가르왈(Siddhartha Agarwal)은 생성 AI를 도입할 때 비용이 문제라고 말했다. '우리는 작은 회사이고, 비용이 중요하다'고 밝혔다. 회사는 클라우드 엔지니어링 팀을 위해 40~60개의 다양한 모델을 제공하는 '모델 정원'을 만들었고, 개발자들이 모델을 실험하고 비용 프로필과 성능을 결정해 가장 비용 효율적인 모델을 선택할 수 있도록 했다. '이를 통해 실험하고 비용 곡선을 최적화할 수 있다'고 설명했다.

IT 컨설팅 회사 위프로의 최고 기술 책임자 수바 타타바르티(Subha Tatavarti)는 컴퓨팅 파워 비용 때문에 작은 모델에 대한 기대가 크다고 말했다. '모델 제공 비용을 줄이면 고객 비용 절감으로 이어질 수 있다'고 설명했다. 또한, 환각을 줄이고 모델 출력을 향상시키는 기법인 RAG(Retrieval-Augmented Generation)에 집중하고 있다고 말했다. '지난 몇 달 동안 우리가 한 일에서 매우 고무적인 결과를 얻었다'고 말했다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기