앤트로픽 CEO "업계, AI 위험 오래 숨겨와…'킬 스위치' 좋은 아이디어"

연이틀 "속도 늦춰야 한다는 경고 신호…적절하게 테스트 돼야"

AI 발전 속도를 제한하는 국제 공조를 제시…"구소련과 핵 협상 모델"

(뉴욕=연합인포맥스) 최진우 특파원 = 다리오 아모데이 앤트로픽 최고경영자(CEO)는 13일(현지시간) 인공지능(AI) 개발 관련해서 "거짓말하지 않겠다. 실제 위험들이 있다"고 우려했다.

아모데이 CEO는 이날 미 방송사 CBS와 인터뷰에서 이렇게 말하며 "그리고 너무 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 해왔다고 생각한다"고 평가했다.

그는 "진전이 실제로 이렇게 빨라졌을 때 그것이 실제로 어떤 모습일지를 내가 완전히 인식하지 못했던 것 같다"고 부연했다.

아모데이 CEO는 AI의 발전 속도가 갈수록 빨라지고 있으며 최근에는 더욱 가속하고 있다고 진단했다. 이에 대한 의미를 묻자 "그렇다고 우리가 오늘 당장 공황에 빠져야 한다는 뜻은 아니다. 모든 것을 중단해야 한다는 뜻도 아니다"면서 "하지만 나는 이것이 경고 신호라고 말하겠다. 우리가 속도를 늦춰야 한다는 경고 신호"라고 판단했다.

그는 발전된 AI 모델 출시를 중단해야 하는 것인지에 관해 묻자 "그런 뜻은 아니다. 그것이 의미하는 것은 우리가 출시하는 모든 세대의 모델이 적절하게 테스트 됐는지 확실히 해야 한다는 것"이라고 답했다.

아모데이 CEO는 앤트로픽이 이제 독립적인 평가자들에게 자사 모델에 대해 영구적인 '직원과 같은'(employee-like) 접근 권한을 제공할 것이라고 말했다.

그는 "누군가 AI 모델을 만들 때마다 해당 회사가 자신들이 약속한 안전 관행을 따르고 있는지를 검증할 수 있는 제3자 평가자가 있게 되는 것이다. 식품 검사관과 같은 것"이라고 설명했다.

아모데이 CEO는 위험한 AI를 강제로 종료할 수 있는 '킬 스위치'(kill switch) 도입을 두고 "좋은 아이디어일 수 있다"면서 "하지만 그것(AI 모델)을 금지하는 것, 완전히 금지하는 것이 올바른 접근법이라고는 생각하지 않는다"고 했다.

그는 "첫째, 우리가 엄청난 혜택을 결코 얻지 못하고, 의학적 치료법도 결코 얻지 못하게 된다는 생각은 내게 받아들이기 어렵다"면서 "둘째, 이 기술은 권위주의 국가들을 포함한 다른 나라들에서도 개발될 것"이라고 말했다.

중국이 AI 개발 속도를 늦추지 않더라도 미국은 속도를 늦춰야 하느냐는 질문에 아모데이 CEO는 "이것이 가장 어려운 딜레마다. 이것이 우리가 처한 상황에서 가장 어려운 측면이다"라고 답했다.

그는 구소련과의 핵무기 협정을 잠재적인 모델로 보고 있지만, 자신의 기대도 크지 않다고 전했다.

그는 "좀 더 장기적인 것은 AI 진전 속도에 속도 제한을 두기 위해 함께 노력하는 것"이라면서도 "나는 그것이 매우 어려울 것이라고 생각한다. 앞서 나가려는 유인과 그로 인해 얻는 군사적 우위가 너무나 크기 때문"이라고 했다.

아모데이 CEO는 "그리고 솔직히 말해 그것이 가능한지 모르겠다. 하지만 우리는 시도해야 한다"고 제시했다.

아모데이 CEO는 AI가 향하는 방향에 대해 느끼는 개인적 책임감을 묻자 "여기에서 내 견해는, 이 기술이 민간 기업에 의해 개발되고 있다는 것이 항상 매우 이상했다는 것"이라고 답했다.

그는 "사람들은 항상 내게 이런 질문을 한다. 왜 이것을 정부가 개발하지 않는가? 그리고 가장 이상한 점은 나도 그들의 말에 동의한다는 것이다. 나는 불편하다"고 말했다.

AI 기술에 대한 정부의 관여 가능성도 열어뒀다. 그는 "적절한 여러 정부가 함께하는 형태라면 그렇다"고 했다. 그는 "내가 우려하는 것은 하나의 정부도 하나의 기업만큼이나 쉽게 이 기술을 남용할 수 있다는 것"이라며 "하지만 민주적으로 선출된 여러 정부가 함께한다면, 넘겨주는 것이라고 해야 할지는 모르겠지만, 어떤 형태의 감독, 어떤 형태의 공동 거버넌스가 있을 수 있다"고 제안했다.

그는 "우리가 올바른 방식으로 개발한다면 나쁜 일이 일어날 확률은 매우 낮다고 생각한다"면서도 "우리가 잘못된 방식으로 개발한다면 나쁜 일이 일어날 확률은 매우 높다"고 평가했다.

앞서 아모데이 CEO는 전날 "AI 모델의 성능 향상 속도를 늦춰야 한다"며 "발전은 여전히 빠르게 느껴지겠지만, 확보된 시간을 현명하게 활용해야 한다"고 주장했다. 그는 "단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방이 (AI 모델 성능 향상 속도를) 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다"고 강조했다.

jwchoi@yna.co.kr