구글에서 선호하는 출처로 추가
샘 올트먼 “AI 발전 속도, 안전·정렬 앞서선 안 돼”
토큰포스트 속보
샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI) 개발 속도 조절은 기술 발전 중단을 뜻하지 않지만, AI 능력 향상 속도가 안전·정렬·모니터링 수준을 앞서서는 안 된다고 밝혔다.
샘 올트먼(Sam Altman) 오픈AI CEO는 AI 발전 속도를 조절해야 한다는 취지의 입장을 밝히며 "안전성과 정렬 수준이 AI 발전의 속도를 결정해야 한다"고 말했다. 그는 AI 안전 기준을 충족하기 위해 일부 최첨단 강화학습을 일시 중단했다고 설명했다.
오픈AI는 공식 자료에서 새 수준의 AI 능력에 맞는 정렬·보안·모니터링 기준을 충족하기 위해 배포 예정 최신 모델의 일부 강화학습 훈련을 일시 중단했다고 밝혔다. 오픈AI는 안전성과 정렬 연구, 모델 행동 모니터링을 강화하고 있다고 덧붙였다.
댓글 0
불러오는 중…