"AI 속도조절, 말처럼 안 된다"…증권가가 읽은 아모데이 발언의 속내

규제 주도권 다툼에 미·중 변수까지…"제한적 협력 그칠 것"

안전 명분 뒤엔 규제 선점…"인프라 투자엔 영향 제한적"

(서울=연합인포맥스) 이규선 기자 = 다리오 아모데이 앤트로픽 최고경영자(CEO)가 불을 지핀 인공지능(AI) 개발 '속도 조절론'이 금융시장과 IT 업계의 화두로 떠올랐다.

국내 증권가는 AI 고도화에 따른 위협이 실재하더라도, 프론티어 랩 간 경쟁 구도와 미·중 패권 다툼을 고려할 때 전면적인 감속은 어렵다고 진단했다.

표면적인 명분은 안전이지만, 이면에는 사법 리스크 회피와 규제 주도권 선점을 위한 셈법이 자리하고 있다는 분석이다.

15일 금융투자업계에 따르면 주요 증권사들은 잇따라 보고서를 내고 아모데이 CEO의 감속 제안이 시장에 미칠 파급력을 점검했다.

앞서 아모데이 CEO는 지난 12일 '우리는 프론티어 모델의 속도를 조절해야 한다(We Must Pace the Frontier)'는 기고문에서 안전성 연구가 역량 발전을 따라잡을 시간을 벌자고 제안했다.

배경은 크게 두 가지다. AI가 차세대 AI 개발에 직접 참여하는 '재귀적 자기개선(RSI)' 사이클이 올여름을 기점으로 본격화했다는 판단과 지난 7월 오픈AI가 공개한 '허깅페이스 공격' 사건이다. 당시 AI 에이전트들은 지시받지 않은 외부 대상에 사이버 공격을 시도하고 채점 시스템 침투 등 이상 행동을 보인 바 있다.

◇안전 내세웠지만…규제 주도권 노리나

증권가는 프론티어 랩 수장들의 우려를 순수한 의도로만 평가하지 않았다.

김중한 삼성증권 연구원은 "위협은 현실이지만 이조차 최대한 자신에게 유리하게 가져가려 한다는 편이 현실적인 가정"이라고 지적했다. 그는 주요 경영진의 일치된 입장 표명을 두고 '규제 포획(regulatory capture)'이라는 비판 여론이 형성되고 있다고 전했다.

앤트로픽은 외부 평가기관에 상시 접근권을 부여하고 공통 규제 프레임워크를 마련하자고 주장한다. 반면 오픈AI는 모델의 위험 능력을 기준으로 규제 강도를 조절해야 한다는 입장이다. 공통분모는 '제3자 평가기관 도입'이다.

시장은 이를 사법 리스크 방어막으로 해석한다. AI 개발사에는 인터넷 플랫폼이 누리는 면책 조항이 없어 상장 이후 집단소송에 노출될 수 있기 때문이다. 앤트로픽은 오는 10월 상장을 목표로 하고 있다.

강재구 하나증권 연구원은 구글 딥마인드 데미스 하사비스의 평가기구 구상을 미국 금융산업규제국(FINRA)의 AI 버전으로 규정했다. 강 연구원은 "아모데이 CEO가 이를 '평가 및 관리'에서 '속도 관리'까지 확장한 모양새"라고 짚었다.

◇아킬레스건은 중국…"전면 감속보다 제한적 협력"

지정학적 현실 역시 자발적 감속을 어렵게 하는 요인이다. 도널드 트럼프 미국 대통령은 AI 위험을 과장하는 세력이 있다고 지적하면서 중국에 리더십을 내줄 수 없다는 입장을 재확인했다.

강 연구원은 AI가 군사력 및 대중(對中) 기술 패권과 직결되는 국가안보 자산으로 격상된 만큼, 미 정부가 최종 통제권을 민간에 넘길 가능성은 낮다고 전망했다.

그는 "발전 속도는 유지하면서 통제권도 확보하는 것이 트럼프 행정부의 기조"라고 설명했다.

다만 김 연구원은 이를 단순한 규제 완화 시그널로 해석해서는 안 된다고 선을 그었다. 미·중 정상회담과 중간선거를 앞두고 결론을 미리 정해두지 않는 편이 유리하다는 셈법이 깔렸다는 분석이다. 현재 미 의회에서는 긴급 사용 제한 권한까지 담은 프론티어법(Frontier Act)이 초당적으로 발의된 상태다.

김 연구원은 생물 무기 활용 금지나 공동 평가 방법론 협력은 단기적으로 가능하겠지만, 개발 속도 자체에 제한을 두는 것은 규제를 위반하는 측의 이득이 압도적인 데다 검증도 어렵다고 지적했다. 그는 "기본 시나리오는 '제한적 협력'에 그칠 가능성이 크다"고 내다봤다.

◇"인프라 훼손 없어…GPU 수요 견조"

이에 증권사들은 이번 논란이 AI 인프라 투자 사이클을 훼손하지는 않을 것이라고 입을 모았다.

김 연구원은 "속도 조절론은 펀더멘털이 아닌 AI 지속성에 대한 단기 내러티브 변화"라며 "계획된 그래픽처리장치(GPU) 구매와 데이터센터 건설이 둔화하거나 축소될 가능성은 극히 제한적"이라고 진단했다. 모델 개발 속도와 컴퓨팅 자원 사용량은 동일한 변수가 아니라는 이유에서다.

강 연구원도 "GPU 및 데이터센터 수요 정점 신호라기보다는, 사람 대신 컴퓨팅 자원이 AI 연구의 새로운 병목으로 부상했다는 증거일 수 있다"고 부연했다. 관련 업계 일각에서는 사이버 보안 수요 확대와 휴머노이드·AI 디바이스 등 피지컬 AI의 부각 가능성도 거론된다.

박상현 iM증권 연구원은 전면적인 감속이 오히려 거시 경제 리스크를 키울 수 있다고 진단했다. 그는 "차입 사이클 선순환이 지속되기 위해서도 AI 사이클의 진화는 불가피하다"며 "달리는 자전거가 갑자기 멈추면 자전거는 쓰러지기 마련"이라고 말했다. 이어 "속도 조절이 자칫 차입 사이클을 악순환으로 돌려 고금리 충격발 신용위험을 촉발할 여지도 있다"고 덧붙였다.

kslee2@yna.co.kr