상업적 이익 우선이 AI 안전에 미치는 숨겨진 비용

AI 안전성을 보장하기 위해 커뮤니티 주도 경쟁을 활용한 탈중앙화된 AI 안전 프로그램이 AI 시스템의 강력성과 보안을 보장한다.

24일(현지시간) 코인텔레그래프에 따르면 AI 기술에 대한 공공의 신뢰는 AI 산업이 속도와 효율성을 중시하면서 침식되고 있다. AI가 일상 생활에 더 깊이 뿌리내리면서, 이러한 시스템이 어떻게 작동하고 어떤 위험을 초래할 수 있는지에 대해 명확하게 설명하는 것이 중요하다. 투명성이 없으면 공공 신뢰는 계속 침식될 것이며, 이는 AI의 광범위한 수용과 안전한 통합을 저해할 것이다.

AI를 신속하게 개발하고 배포하려는 상업적 동기는 이러한 시스템의 내부 작동 및 잠재적 위험에 대한 투명성의 부족으로 이어진다. 투명성의 부족은 AI 개발자를 책임감 있게 만드는 것을 어렵게 하며, AI가 야기할 수 있는 문제를 처리하기 어렵게 만든다. 명확한 관행과 책임성은 공공의 신뢰를 구축하고 AI가 책임감 있게 개발되도록 보장하는 데 중요하다.

AI 시스템은 종종 사회적 편견을 반영하는 데이터로 훈련되며, 이는 소외된 그룹에 대한 차별로 이어질 수 있다. 이러한 편향된 시스템이 사용될 때 특정 커뮤니티에 부정적인 영향을 미치는 불공정한 결과를 초래할 수 있다. 적절한 감독과 시정 조치가 없으면 이러한 문제는 더욱 악화될 것이며, 이는 윤리적 AI 개발과 안전 조치의 중요성을 강조한다.

편견과 차별 외에도 신속한 AI 개발의 더 넓은 함의는 동일하게 우려스럽다. AI 도구의 급속하고 통제되지 않은 개발은 소수의 기업과 개인에게 엄청난 권력과 부를 집중시킬 위험이 있다. 이는 민주적 원칙을 약화시키고 권력의 불균형을 초래할 수 있다. 이 강력한 AI 시스템을 통제하는 소수는 공공의 이익과 일치하지 않을 수 있는 방식으로 사회적 결과를 형성할 수 있다.

아마도 속도보다 안전을 우선시하는 것의 가장 놀라운 결과는 "로그 AI" 시스템의 잠재적 개발일 것이다. 로그 AI는 창작자의 의도나 바람과 다르게 작동하여 종종 인간의 이익에 반하는 결정을 내리는 인공지능을 말한다. 적절한 안전 예방 조치가 없으면 이러한 시스템은 인류에게 존재론적 위협을 가할 수 있다. 강력한 안전 조치 없이 AI 기능을 추구하는 것은 잠재적으로 재앙적인 결과를 초래할 수 있는 도박이다.

내부 보안 및 안전 조치는 팀이 공공의 이익보다 기업 및 투자자의 이익을 우선시할 수 있기 때문에 이해 상충의 위험이 있다. 중앙화되거나 내부 감사자에 의존하는 것은 상업적 이익을 위해 프라이버시 및 데이터 보안을 타협할 수 있다.

탈중앙화 리뷰는 이러한 우려에 대한 잠재적 해결책을 제공한다. 탈중앙화 리뷰는 AI 시스템의 평가 및 감독이 단일 조직에 국한되지 않고 다양한 커뮤니티에 분산되는 과정을 의미한다. 글로벌 참여를 장려함으로써 이러한 리뷰는 집단 지식과 전문 지식을 활용하여 AI 시스템의 더 강력하고 철저한 평가를 보장한다. 이러한 접근 방식은 스마트 계약의 보안을 크게 강화한 암호화폐 세계의 보안 관행의 진화를 반영한다.

Hats Finance는 탈중앙화된 스마트 버그 바운티 및 감사 경쟁 마켓플레이스로, AI 안전 리뷰 과정을 민주화하기 위한 탈중앙화 AI 안전 프로그램을 출시하고 있다. Hats Finance는 커뮤니티 주도 경쟁을 통해 AI 안전을 민주화함으로써 글로벌 전문 지식을 활용하여 AI 시스템이 견고하고 안전하도록 보장하는 것을 목표로 한다.

전통적인 AI 안전 연구는 종종 선택된 기관에 국한되어 있으며, 전 세계의 풍부한 전문 지식이 활용되지 못했다. Hats Finance는 AI 안전이 소수의 책임이 아니라 집단적인 노력이라는 모델을 제안한다.

Hats Finance 과정의 첫 번째 단계는 개발자가 AI 모델을 제출하는 것이다. 독립 연구자부터 대규모 조직에 이르기까지 다양한 개발자가 AI 모델을 평가를 위해 제공한다. 이러한 모델을 리뷰 가능하게 함으로써 개발자는 투명성과 책임을 향한 중요한 단계를 밟게 된다.

AI 모델이 제출되면 개방 참여 단계에 들어간다. 이 단계에서는 전 세계의 다양한 전문가 커뮤니티가 리뷰 과정에 참여하도록 초대된다. 글로벌 커뮤니티의 성격은 리뷰 과정이 다양한 관점과 전문 지식의 이점을 받도록 보장한다.

다음으로, AI 모델은 다양한 전문가 그룹에 의해 엄격하게 평가된다. 다양한 관점과 전문 지식을 통합하여 평가 과정은 모델의 강점과 약점을 분석하고 잠재적 문제 및 개선 영역을 식별한다.

철저한 평가 후에는 리뷰 과정에 기여한 참가자들에게 보상이 주어진다. 이러한 보상은 전문가들이 리뷰 과정에 참여하고 귀중한 통찰력을 제공하도록 장려하는 역할을 한다.

마지막으로, 각 AI 모델에 대한 종합적인 안전 보고서가 생성된다. 이 보고서는 평가 결과를 자세히 설명하고, 식별된 문제를 강조하고 개선 권장 사항을 제공한다. 개발자는 이 보고서를 사용하여 AI 모델을 개선하고, 식별된 문제를 해결하고, 전반적인 안전성과 신뢰성을 향상시킬 수 있다.

Hats Finance는 목표와 더 잘 일치하기 위해 탈중앙화 자율 조직(DAO)으로 전환하고 있다. DAO는 구성원들이 집단적으로 의사 결정을 내리는 시스템으로, 투명성과 공유된 거버넌스를 보장한다. HAT 토큰의 퍼블릭 유동성 부트스트래핑 풀 판매 및 토큰 생성 이벤트 후에 이루어질 예정인 이 전환은 AI 안전 리뷰를 위한 글로벌 인재를 유치하고 보안 연구자 생태계를 유지하는 것을 목표로 한다.

AI가 세계를 계속 형성함에 따라 그 안전하고 윤리적인 배포를 보장하는 것이 점점 더 중요해지고 있다. 코인텔레그래프 액셀러레이터 참가자인 Hats Finance는 탈중앙화된 커뮤니티 주도 리뷰를 활용하여 AI 안전 문제를 해결하는 유망한 솔루션을 제공한다. 이를 통해 AI 모델이 다양한 전문가 풀에 의해 철저히 검토되도록 하여, AI 시스템이 견고하고 안전하며 신뢰할 수 있는 AI 환경을 조성하는 데 기여한다.

뉴스 속보를 실시간으로...토큰포스트 텔레그램 가기