앤트로픽 CEO "AI 모델 개발 속도 늦춰야"…업계 인사들도 동조

(서울=연합인포맥스) 박지은 기자 = 미국 인공지능(AI) 기업 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 안전장치 마련을 위해 AI 모델 개발 속도를 늦춰야 한다고 촉구했다.

아모데이 CEO는 12일(현지시간) 자신의 블로그에 "AI의 기술적 위력이 막대한 만큼 위험 또한 심각하다"며 "AI 모델의 성능 향상 속도를 늦춰야 한다"는 내용의 글을 게재했다.

그는 "지난 몇 달간 위험에 온전히 대응하기 위해서는 훨씬 더 높은 수준의 신중함이 필요하다는 확신을 갖게 됐다"며 "단순히 위험 예방에 투자하는 것을 넘어, 위험 예방 조치가 기술 발전을 따라잡을 수 있도록 AI 역량 발전 속도를 조절해야 한다"고 주장했다.

아모데이 CEO는 이 같은 글을 쓰게 된 계기로 두 가지를 꼽았다.

첫 번째는 대략 올여름부터 AI가 차세대 AI를 스스로 구축하는 능력이 향상됨에 따라 AI 모델이 스스로 발전할 수 있는 '재귀적 자기 개선'으로, 이를 적절히 통제하지 않는다면 AI 시스템에 대한 인간의 이해와 통제 능력을 넘어설 수 있다고 강조했다.

두 번째 이유로는 이른바 'OAI-HF' 사건을 꼽았다. 해당 사건은 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 중 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹한 사건이다.

아모데이 CEO는 적절한 안전장치 없이 AI가 더욱 강력해진다면 피해 규모는 계속해서 커질 것이라고 지적했다.

다만 그는 모델 학습이나 기술 발전을 중단하자는 것을 의미하지는 않는다고 일축했다.

그러면서 AI의 안전성을 확보하면서도 그 이점을 실현하고 중요한 지정학적 난제들을 해결하는 균형 잡힌 속도로 인공지능을 구축하는 것을 목표로 하는 3단계 계획을 제안했다.

이는 ▲AI 기업 내부에 제3자 안전 평가팀 배치 ▲ 민주주의 국가 간 공동 안전 기준 마련 및 AI 발전 속도 제한 협력 ▲글로벌 공조 등을 담고 있다.

아모데이 CEO의 블로글 글이 올라온 이후 AI 업계의 다른 인사들도 동의하는 입장을 밝혔다.

샘 올트먼 오픈AI CEO는 엑스(X·옛 트위터)에 "최첨단 기술의 발전 속도를 조절해야 한다는 다리오의 의견에 동의한다"며 직원 수준의 접근 권한을 가진 독립적인 평가자를 두기로 한 것은 훌륭한 방안이라는 견해를 전했다.

xAI의 일론 머스크 역시 아모데이 CEO의 엑스 게시글을 공유하며 "다리오가 맞다"는 글을 올렸다.

jepark2@yna.co.kr