AI가 내 돈 알아서 썼다면 누구 책임?..."에이전트 결제도 자기책임 원칙"

AI 에이전트가 사람의 개입 없이 결제나 투자를 실행하더라도 이용자가 직접 설정하고 권한을 부여했다면 기본적으로 '자기책임 원칙'이 적용된다는 법률적 진단이 나왔다. 에이전트가 이용자의 의도를 벗어나 행동하거나 사기·착오로 피해가 발생했을 때 이를 구제할 제도는 아직 충분하지 않아 이용 단계에서부터 지출과 거래의 위험 한도를 설정할 필요가 있다는 조언이다.

28일 리플, t54, 테니티, 블룸이 공동 개최한 코리아블록체인위크(KBW) 공식 사이드 이벤트 '에이전틱 페이먼트 온체인'에서 AI 권한과 책임을 놓고 금융·컴플라이언스 관점의 논의가 이뤄졌다.

AI 커뮤니티 '블룸'의 김준수 모더레이터는 조수한 넥스트증권 컴플라이언스본부장 겸 준법감시인과 AI 에이전트의 자동 결제·투자에 따른 법적 책임을 주제로 대담했다.

AI가 알아서 거래해도 '내 거래'..."자기책임 원칙 적용"

조 본부장은 AI 에이전트가 사람을 대신해 결제하거나 거래하는 행위 자체가 금지된 것은 아니지만 기본적으로 '자기책임 원칙'이 적용된다고 말했다. 이용자가 자신의 의사에 따라 AI 에이전트를 설정하고 거래 권한을 부여했다면 AI가 자동으로 실행한 거래도 원칙적으로 이용자의 행위로 귀속된다는 것이다.

설명에 따르면 유엔 국제상거래법위원회(UNCITRAL)의 '자동계약에 관한 모델법(MLAC)'은 자동화 시스템이나 AI를 이용한 계약의 형성과 이행에 대해 '자동화된 전자적 수단을 사용했다는 이유만으로 법적 효력을 부정해서는 안 된다'는 원칙을 적용하고 있다.

국내 '전자문서 및 전자거래 기본법' 제7조도 작성자가 설정한 컴퓨터 프로그램 등을 통해 전자문서가 자동으로 송신된 경우, '작성자가 직접 송신한 것'으로 규정한다. 두 사례 모두 AI를 사용해서 무엇인가를 하는 법률행위 역시 사람이 의도를 가지고 하는 법률행위와 동일하게 본다는 것이다.

조 본부장은 "사람이 이해할 수 없는 방식으로 에이전트가 고빈도 매매를 하거나 결제하더라도, 사람이 자는 사이에 일어난 일이더라도 그 사람이 스스로 한 행위와 동일하게 법적 효력을 인정하는 것이 국제적인 원칙"이라며 "이는 아주 오래전부터 이어져온 법의 기본 원리"라고 말했다.

결국 이용자가 의도해 설정한 시스템에서 결과가 발생했다면 그 결과 역시 이용자에게 귀속된다고 설명했다

증권사에서도 트레이딩 방법 중에 알고리즘 트레이딩도 있고 퀀트도 있다며 "퀀트도 사람이 이해하기 어려운 방식으로 알고리즘이 짜여 있고 굉장히 고빈도로 매매하기 때문에 초당 수십 회 매매하기도 한다"고 말했다. 이어 "이런 방식은 AI를 통해서 하지 않았을 뿐 기존에도 프로그래밍을 통해 거래하는 방식으로 존재해왔다"고 설명했다.

자동매매 시스템을 직접 구성해 사용하는 경우 본인이 사용하면 ‘자기책임 원칙’이 적용되지만 타인에게 판매할 경우 별도의 규제가 적용될 수 있다고 말했다. 조 본부장은 "AI 사용 여부와 상관없이 트레이딩 봇을 만들어 타인에게 판매하는 경우 단순히 소프트웨어 판매에 불과하다고 주장할 수 있지만 실제 법의 규율에서는 불법 투자자문업자로 취급해 규율하고 있다"고 설명했다.

조 본부장은 AI 에이전트 이용자가 모든 규칙을 완전히 통제하지 못해 의도하지 않은 결과가 발생할 수 있다고 말했다. 이는 아직 제도적으로 정돈되지 않은 '위험 영역'이라며 "이런 영역에 스스로 뛰어든 사람은 어느 정도 위험을 인수할 용의가 있는 것으로 본다"고 말했다.

AI 에이전트 이용에 기본적으로 '자기책임 원칙'이 적용되는 만큼 "내가 제대로 구성하지 못하거나 짜임새 있게 설정하지 못해 우발적인 결과가 발생했다면 그 결과도 내가 인수해야 한다"고 말했다.

전자금융거래법에서는 시스템에서 발생한 문제에 대해 사업자가 최선을 다했더라도 책임을 지게 하고 있지만 AI 에이전트 환경에서는 이런 책임 구조가 훨씬 복잡해질 수 있다고 봤다. 조 본부장은 "중앙화된 사업자 한 곳이 거래를 통제하는 구조와 달리 에이전트가 여러 상대방과 직접 거래하면서 책임을 물을 주체가 분산될 수 있기 때문”이라고 설명했다.

조 본부장은 "내가 잘못했다면 자기책임 원칙에 따라 그 결과도 내가 인수해야 하지만, 상대방의 과실로 문제가 발생했다면 내가 그 사람에게 직접 책임을 추궁해야 한다"고 말했다. 오용이나 사기 등으로 피해가 발생하더라도 규제 체계 안에서 일률적으로 구제하기 어려워 상당 부분 민사적인 문제로 남을 수 있다고 말했다.

미국에선 스테이블코인·에이전트 결제, 한국은 왜?

미국에서는 AI 에이전트가 스테이블코인을 이용해 자동으로 결제하는 서비스가 등장하고 있지만 국내에서는 관련 서비스가 좀처럼 확산하지 못하는 이유에 대해서도 논의했다.

조 본부장은 “원화 스테이블코인의 발행과 유통 주체를 둘러싼 논의가 약 2년째 이어지고 있지만 관련 법제화가 공전하고 있다”며 지니어스 법을 마련한 미국과 달리 국내 스테이블코인 생태계의 제도적 기반이 아직 마련되지 않았다고 지적했다.

거래소와 커스터디, 지갑 사업과 달리 결제 생태계는 아직 제대로 조성되지 않았는데 “이는 정부가 요구하는 규제 수준을 맞추는 데 상당한 부담이 있는 데다 수익을 창출하기 어려워 신규 사업에 투자하기도 쉽지 않기 때문”이라고 설명했다.

조 본부장은 "특히 네이버페이를 보유한 네이버 같은 기업들이 도전할 법도 한데 그 기업들도 결국 처음부터 시작해야 하는 게 VASP이고 또 스테이블코인을 취급해야 되다 보니까 모두 다 (규제) 출발선 앞에서 계속 기다려야 하는 상황"이라고 말했다.

이 같은 제도 마련 지연에 관련 사업을 준비하는 국내 기업의 부담은 커지고 있다면서 "제도가 마련되기를 4~5년 정도 기다리면서 특별한 수익모델 없이 내부 투자를 진행하며 사업을 빌드업하는 건 현실적으로 어렵다”고 지적했다.

조 본부장은 "2017~2018년부터 2022년까지 우리나라 가상자산사업자들의 재무구조를 보면 거래소 한두 곳을 제외하고는 재무적으로 신규 사업에 투자할 만큼 성장한 사업자가 거의 없다"고 밝혔다. 원화 스테이블코인이 주요 정책 의제로 부상하면서 관련 사업에 신규 투자를 진행하는 기업들도 있지만 제도 마련을 기다리는 기간 자체가 기업에는 부담이 될 수 있다고 말했다.

AI 에이전트 결제, 법적 보호는 아직 공백..."위험 한도 설정해야"

AI 에이전트 결제의 경우 기술적으로는 구현과 실험이 가능하지만 이를 둘러싼 법적 보호 체계가 부족하다고 설명했다.

전자상거래법은 중앙화된 사업자가 없는 에이전트 생태계를 보호하는 데 한계가 있고 전자금융거래법이나 전자서명법 역시 현재의 에이전트 거래 생태계를 포괄적으로 설명하는 법적 체계는 아니라는 설명이다.

그는 "여기에 뛰어들어 위험을 인수하는 사람들은 어떤 법적인 보호 없이 이 사업을 진행해야 되고, 소비자로서도 이 생태계에 참여해야 한다"며 "굉장히 실험적이고 시도 자체에 의미가 있는 것들은 가능하지만 상거래 생태계까지 가기에는 아직 부족한 상황"이라고 말했다.

향후 민간과 P2P 거래에서 에이전트 결제가 활성화되면 금융소비자 보호를 중심으로 제도화가 진행될 것으로 전망했다. 조 본부장은 "금융위원회에서는 금융소비자 보호가 가장 중요한 목적이기 때문에 어떻게 하면 금융소비자를 보호할 수 있는지에 대해 다소 중앙화된 시각으로 제도 설계를 시도할 것으로 생각된다"며 "그렇다 보니까 제도가 뒤따라오려면 또 시간이 많이 걸릴 것"이라고 말했다.

이러한 제도적 공백 속에서 AI 에이전트 결제를 이용할 때 가장 현실적인 대응책으로는 이용자가 스스로 감당할 수 있는 '위험 한도'를 설정해야 한다고 강조했다. 조 본부장은 "에이전트 결제를 함에 있어서는 자신의 위험 한도를 설정하는 게 가장 중요한 것 같다"고 말했다. 이어 "자기가 책임질 수 있는 한도를 잘 설정해서 만약 내가 의도하지 않은 결과가 발생하더라도 어디까지 감수할 수 있는지를 잘 체크하고 그것을 프로토콜이나 자신의 알고리즘에 반영했으면 좋겠다"고 말했다.