"앤트로픽·오픈AI CEO들 '마키아벨리'적 동기로 움직인다"

(서울=연합인포맥스) 이종혁 선임기자 = 세계 양대 AI 모델 회사인 미국의 앤트로픽과 오픈AI 최고경영자(CEO)들의 최근 인공지능(AI) '개발 속도 조절' 발언에 대해서 '마키아벨리'적 동기에 의한 가식이라는 비판이 나왔다.

15일 야후파이낸스에 따르면 D.A. 데이비슨의 테크업종 애널리스트인 질 루리아는 "그들은 마키아벨리적(Machiavellian)인 태도를 보인다"며 "두 사람 모두 회사를 이 정도 규모로 키워낸 매우 능력 있는 인물들이어서 자질을 의심하는 것은 아니지만, 그들의 동기가 의심스럽다"고 말했다.

루리아 애널리스트는 "왜냐하면 그들 중 누구도 실제 '우리가 AI 개발 속도를 늦추겠다고 말하지 않았다'"며 "둘 다 '모두가 속도를 늦추면 우리도 그렇게 할 것'이라고 말했다"고 지적했다.

'마키아벨리적'이라는 의미는 이탈리아 정치학자 니콜로 마키아벨리의 저서 '군주론'에서 유래된 표현으로, '목적을 달성하기 위해 수단과 방법을 가리지 않고, 표면적 명분 뒤에 철저히 실리적 계산을 숨기는 태도'를 말한다.

지난 이틀 동안 두 AI 모델 회사의 CEO들은 다음과 같은 발언으로 투자자들을 겁줬다.

앤트로픽의 CEO는 지난 12일 3천800자 분량의 에세이를 통해, "지난 몇 달 동안 위협에 완전히 대응하기 위해서 더 큰 신중함이 필요하다는 확신을 갖게 됐다"며 "단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방조치가 속도를 맞출 시간을 벌 수 있도록 AI 능력 발전의 속도를 조절해야 한다"고 말했다.

이어 "우리는 AI 모델의 능력 향상 속도를 줄여야 한다"며 "그럼에도 발전은 빠르게 느껴질 것이고, 우리는 확보한 시간을 지혜롭게 사용해야 한다"고 덧붙였다.

오픈AI의 CEO는 이 글에 대해 동의한다고 밝히고, 14일 새벽 SNS의 'X'에 경고성 글도 올렸다.

오픈AI의 CEO는 "AI발전이 매우 악화해 우리가 반드시 피해야 할 두 가지 길이 있다"며 "첫째, 미래의 주도권을 AI에 빼앗기는 것이다. 이는 용납될 수 없다"고 포스팅했다.

이어 "우리는 명백히 '인류 편'이고, AI는 항상 인간에게 봉사해야 한다"며 "이를 위해서는 정렬 및 안전 기술이 모델 능력의 발전보다 항상 앞서 나가도록 하는 방안이 필요하다"고 덧붙였다.

또 "둘째, 권력이 지나치게 집중된 세상을 맞이하는 것인데, 극도로 강력한 AI가 한 사람이나 한 기업에 의해 그들의 세계관을 모든 이에게 강요하는 데 쓰인다면 결과는 매우 디스토피아적일 것"이라며 "이 두 가지 위협을 피하려면 좁은 중도의 길을 걸어야 하는데, 예를 들어 한 국가가 너무 큰 권력을 잡는 경우나, 한 연구소가 너무 큰 권력을 독점하는 경우가 이에 해당한다"고 말했다.

이런 두 CEO의 경고는 마이크론, 샌디스크, 엔비디아 같은 AI 관련 기업들의 주가에 큰 타격을 입혔다.

AI 개발 속도가 조금이라도 둔화한다면 미국에서 AI 인프라에 쏟아부어지는 수십억 달러의 자금이 흔들릴 수 있기 때문이다. 이는 AI 관련주에 대한 평가가 재조정되는 계기가 될 수 있으며, 현재 시장은 이 가능성을 빠르게 반영 중이다.

그러나 루리아 애널리스트의 지적처럼 이 모든 것은 아무 의미가 없을 수 있으며 주가는 다시 반등할 수도 있다고 야후파이낸스는 평가했다.

루리아는 "앤트로픽은 다음 달 상장할 가능성이 여전히 높고, 그 결과는 매우 좋을 것"이라며 "그들은 매우 빠르게 성장하고 있고, 매출총이익률 측면에서 수익성이 매우 높고, 다시 말하지만, 그들은 실제로 개발을 늦추지 않고 있다는 점을 명확히 했다"고 말했다.

루리아는 이어 "그들은 사전학습 실행을 연기하지도 않고, 모델 학습 방식을 변경하지도 않고, 제품 출시를 바꾸지도 않고 있다"며 '따라서 이는 실질적으로 권력을 공고히 하고, 다른 경쟁자들을 누르기 위한 시도에 불과하다"고 강조했다.

liberte@yna.co.kr