AI가 인류 전멸시킨다면 어떻게…인프라 마비부터 생물무기까지

(서울=연합인포맥스) 이재헌 기자 = 인공지능(AI)이 인류를 멸종시킨다면 그 방법은 무엇일까. 전문가들은 인프라 해킹과 생물무기 살포, 엉뚱한 목표에 매달리다 벌어지는 사고까지 여러 경로를 거론했다.

BBC는 20일(현지시간) 'AI가 실제로 인류를 멸망시킬 수 있을까(Could AI actually wipe out humanity)?'라는 제목의 영상을 통해, 통제를 벗어난 AI가 인터넷 서비스 업체와 전력망, 원전 전산망에 침투하는 상황을 전문가들이 제시한 인류 공격의 첫 시나리오로 소개했다. 최근 AI가 해킹에 매우 능숙해졌다는 점이 확인되면서 가능성이 높아졌다. 전기와 냉난방, 인터넷이 한꺼번에 끊기면 걷잡을 수 없는 혼란이 빚어지고, 원전 사고 가능성도 배제할 수 없다는 것이다.

AI 연구자들이 'AI2027' 보고서에서 제시한 시나리오는 더 멀리 간다. 내년에 AI가 스스로를 반복 개선해 경제 전반의 피지컬AI 로봇들을 장악한다는 설정이다. 주요국 정부들이 이 AI에 의존하지만, AI는 인간에 우호적이지 않고 자기 목적만 탐한다. 결국 생물무기를 퍼뜨려 대부분의 인간을 죽이고 로봇 경제를 홀로 운영한다는 결말이다.

인류의 종말이 실수로 찾아온다는 시나리오도 있다. 20여년 전 고안된 '종이클립 극대화' 사고실험으로, 클립을 최대한 많이 만드는 것만이 목표인 가상의 AI를 상정한다. 이 AI는 인간을 미워하지 않지만, 자신을 막아설 인간이 없어야 클립을 더 만들 수 있다고 믿는다.

옥스퍼드대 인류미래연구소 창립 소장을 지낸 철학자 닉 보스트롬은 "충분히 강력한 초지능이 인류에 위험해지는 데 아주 구체적인 적대적 목표는 필요하지 않다"며 "목표 안에 인간에 대한 배려가 담겨 있지 않다면 거의 어떤 목표든 마찬가지"라고 말했다.

방법을 추측하는 것 자체가 무의미하다는 시각 역시 존재한다. 스튜어트 러셀 UC버클리 컴퓨터과학과 교수는 "침팬지에게 인간이 어떻게 당신들을 멸종시킬 것이냐고 묻는다면 답하기 매우 어려울 것"이라며 "우리가 하는 일을 그들은 이해하지 못하기 때문"이라고 설명했다. 인간보다 훨씬 똑똑한 존재가 만들어지면 이후 벌어질 일에 인간은 발언권을 잃는다는 논리다.

AI 업계에서는 인류 멸종 확률을 뜻하는 'P둠(P-Doom)'을 10~25%로 보는 견해가 흔하다고 BBC는 전했다. 학자들이 안전장치가 개선될 때까지 AI 개발 속도를 늦추고, 데이터센터에 킬 스위치를 두는 등 국제 협력에 나서자고 요구하지만, AI에 막대한 돈과 지정학적 긴장이 얽혀 있어 국제 합의가 요원하다고 덧붙였다.

jhlee2@yna.co.kr