앤트로픽 공동 창업자 "AI 폭주 막을 '킬 스위치' 의무화해야"

(서울=연합인포맥스) 박지은 기자 = 인공지능(AI) 개발 속도를 둘러싼 우려가 커지는 가운데 앤트로픽의 공동 창립자가 AI 시스템을 강제로 중단할 수 있는 이른바 '킬 스위치'를 기업들이 의무적으로 마련하도록 검토해야 한다고 밝혔다.

15일(현지시간) BBC에 따르면 앤트로픽의 공동 창립자 중 한 명인 잭 클라크는 "AI는 날이 갈수록 더 강력해지고 있다"며 "AI 소프트웨어가 지나치게 위험해질 경우 이를 완전히 차단할 수 있는 수단을 마련하는 것이야말로 사회가 궁극적으로 규정을 제정하고자 할 사안"이라고 말했다.

킬 스위치(kill switch)는 정상적인 종료 절차를 밟지 않고 기계나 시스템의 작동을 즉각적으로 멈추는 데 사용하는 장치 혹은 구조를 가리킨다.

클라크는 앤트로픽을 비롯한 대부분이 AI 연구소가 이미 시스템을 강제로 중단시킬 수 있는 여러 수단을 갖추고 있다면서도 입법 당국이 킬 스위치 장치 마련을 의무화해야 한다고 주장했다. 그는 이어 "기업이 반드시 킬 스위치를 갖추도록 의무화해야 하는지와 킬 스위치를 제3자가 검증할 수 있는지 등이 사회가 알고 싶어 할 만한 사안이며, 궁극적으로는 관련 규정까지 마련할 수 있는 문제"라고 강조했다.

이러한 클라크의 발언은 AI의 급격한 발전에 대한 업계 내부의 우려가 잇따르는 가운데 나왔다.

앞서 앤트로픽의 다리오 아모데이 최고경영자(CEO)는 지난 12일 "AI 모델의 성능 향상 속도를 늦춰야 한다"며 "단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방이 (AI 모델 성능 향상 속도를) 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다"는 의견을 피력했다. 이후 오픈AI의 샘 올트먼 CEO와 xAI의 일론 머스크 등 AI 선두 기업들의 수장들도 AI 개발 속도를 늦춰야 한다는 데 동의하는 입장을 밝혔다.

AI가 인류의 존립 자체를 위협할 수 있다는 경고도 이어지고 있다. 앤트로픽 연구원 제이콥 콕슨은 AI가 10년 안에 인류를 파멸시킬 수 있다고 경고한 뒤 회사를 떠났으며, 앤트로픽 과학자 에반 허빙거는 향후 10년 내 AI로 인해 인류가 멸종할 가능성이 10% 이상이라는 견해를 제시했다.

'AI의 대부'로 불리는 컴퓨터 과학자이자 노벨상 수상자인 제프리 힌튼 역시 "AI가 모든 인류를 몰살할 확률이 10%라는 것은 터무니없는 이야기는 아니다"라고 평가했다.

다만 AI가 인류를 파멸시킬 것이라는 우려가 과도하다는 반론도 있다. 개발자 플랫폼 허깅페이스의 클레망 들랑그 대표는 지난주 "제이콥 콕슨에게 AI로 인한 인류 멸종 위험을 묻는 건 에어컨 수리 기사에게 기후 변화에 대해 묻는 것과 다를 바 없다"며 "그 질문 자체가 흥미롭지 않거나 틀렸다는 뜻은 아니지만 사안을 객관적인 시각에서 바라볼 필요가 있다"고 지적했다.

AI로 인해 인류가 전멸할 확률이 얼마나 된다고 보느냐는 질문에 클라크는 "그런 통계 수치가 별로 유용하다고 생각하지 않는다"면서도 "AI를 전혀 규제받지 않는 산업으로 방치하는 것은 바람직하지 않다"고 말했다. 그는 이어 "우리는 엄청난 위험을 감수하고 주사위 놀이를 하고 있는 셈"이라며 "중요한 점은 우리가 이 산업의 방향을 바꿔야 한다는 것"이라고 강조했다.

한편, 미국 의원들은 기업이 문제가 있는 AI 도구를 강제로 중단시킬 수 있는 장치를 마련하도록 의무화하는 '킬 스위치 법안(Kill Switch Act)'을 발의했다. 해당 법안은 특정 정부 기관에 AI 도구의 가동 중단이나 사용 제한을 요구할 수 있는 권한을 부여하는 내용을 담고 있다.

jepark2@yna.co.kr