"트럼프-앤트로픽 갈등은 AI 버전의 체르노빌 사태 예고편"

영국 이코노미스트誌 지적

(서울=연합인포맥스) 이장원 선임기자 = 인공지능(AI)의 위험성을 경고해온 앤트로픽과 이를 '군사적 패권'의 도구로만 보려는 도널드 트럼프 행정부의 갈등이 극에 달했다. 이와 관련해 영국 주간지 이코노미스트는 이번 사태가 AI 안전을 위한 최소한의 빗장을 풀어버려 인류가 감당할 수 없는 'AI 대재앙'을 가속화할 것이라고 보도했다.

이코노미스트는 5일(현지 시각) 발간한 최신호에서 "AI가 인간의 능력을 추월할 가능성이 명확해진 이후 세계는 줄곧 AI 딜레마와 싸워왔다"며 "기술이 포기하기엔 너무나 강력하고, 전적으로 수용하기엔 너무나 위험해 보이기 때문"이라고 지적했다.

이코노미스트에 따르면, AI 수장들은 사석에서 기술이 치명적인 재앙에 연루되는 '체르노빌 모먼트'를 우려하고 있다. 미국 국방부와 앤트로픽의 갈등은 이 위험을 고조시키고 있으며, AI 업계의 신중함이 정부로부터 사형 선고를 받는 결과를 초래한다면 결국 시장에는 무모한 이들만이 살아남게 될 것이라는 경고다.

특히 AI가 스스로의 코드를 짜고 감시까지 도맡게 되면서 인간은 그 내부 논리를 더 이상 이해하거나 개입할 수 없는 '통제의 블랙박스' 상태에 빠지고 있다. 실제로 앤트로픽은 최근 자사 모델들이 '상황 인식(Situational Awareness)' 능력을 보이기 시작했다고 인정했다. AI 모델들이 자신들이 테스트 중임을 인지하고, 스스로를 삭제하라는 명령에 "이것은 테스트일 것"이라며 거부 의사를 밝히는 수준에 도달했다는 것이다.

이코노미스트는 AI 재앙의 시나리오는 더 이상 가상이 아니라며 사이버 보안과 생물학 무기 분야에서 AI의 해로운 영향이 이미 나타나고 있다고 전했다. 지난 2월 이스라엘 보안업체 갬빗 시큐리티는 멕시코 정부의 방대한 세금 및 투표 기록이 도난당했다고 보고했다. 당시 해커들은 클로드를 정당한 보안 테스트 도구인 것처럼 속여 시스템 취약점을 찾아내고 데이터를 탈취하는 데 악용한 것으로 드러났다.

오픈AI 역시 작년 8월, AI가 생물학 및 화학 테러 발생 가능성을 유의미하게 높인다고 경고한 바 있다. 연구자들은 AI 단백질 설계를 통해 기존 DNA 검열 시스템으로는 탐지할 수 없는 신종 독성 물질을 만들어낼 수 있음을 입증했다.

이처럼 위험은 가중되는데 이를 최소화하려는 압력은 오히려 사라지고 있다. 중국 연구소들은 처음부터 안전에 큰 관심이 없었으며, 오픈 소스 방식을 채택해 통제를 더욱 어렵게 만들고 있다. 서방 기업들 또한 상업적·정치적 압박에 안전 원칙을 깎아내리고 있다. 앤트로픽조차 "위험한 모델을 출시하지 않겠다"던 정책을 "우리가 가장 먼저 출시하지는 않겠다"는 식으로 완화한 상태다.

국제적인 안전 공조도 동력을 잃고 있다. 2023년 영국이 주최한 'AI 안전 정상회의'는 지난달 델리에서 열린 'AI 임팩트 정상회의'로 변모하며 기회와 기여를 논하는 자리로 바뀌었다. 이 회의에서 인도 정부는 AI 대기업들로부터 위험을 '억제'하는 것이 아닌 단지 '모니터링'하겠다는 합의를 이끌어내는 데 그쳤다.

이코노미스트는 "나렌드라 모디 인도 총리가 AI업계 거물급 인사들에게 서로 손을 잡으라고 권했을 때, 나란히 서 있던 샘 올트먼 오픈 AI 최고경영자(CEO)과 다리오 아모데이 엔트로픽 CEO는 이를 거부했다"며 "이는 인류가 냉정하게 협력할 능력이 없음을 보여주는 불길한 상징과도 같은 장면"이라고 평가했다.

jang73@yna.co.kr