지능폭발

Intelligence Explosion

고도화된 인공지능이 자신의 성능을 개선하는 능력을 갖게 되면서, 더 지능적인 AI가 다시 더욱 우수한 AI를 개발하는 과정이 반복돼 지능 향상 속도가 폭발적으로 빨라지는 가설적 현상을 말한다.

영국의 수학자이자 통계학자인 I. J. 굿은 1965년 논문 「최초의 초지능 기계에 관한 고찰」(Speculations Concerning the First Ultraintelligent Machine)에서 이 개념을 제시했다. 굿은 기계 설계 역시 지적 활동이므로 인간의 지적 능력을 크게 능가하는 기계는 자신보다 더 우수한 기계를 설계할 수 있고, 이러한 과정이 반복되면 인간의 지능이 크게 뒤처지는 지능폭발이 일어날 수 있다고 설명했다.

재귀적 자기개선은 인공지능이 자신의 연구·설계·학습 능력을 반복적으로 향상시키는 과정이고, 지능폭발은 그러한 자기개선의 속도와 효과가 급격히 증폭된 결과를 가리킨다. 따라서 두 개념은 밀접하게 연결되지만 같은 뜻은 아니다.

지능폭발이 현실화되면 범용 인공지능이 짧은 기간에 초인공지능으로 발전할 수 있다는 주장이 제기된다. 그러나 재귀적 개선이 지속될 수 있는지, 연산자원·에너지·데이터·실험 비용 등의 현실적 제약을 넘어 폭발적인 발전으로 이어질지는 확인되지 않았다.