젠슨 황 "AI로 2030년에 인류가 멸망하는 일은 없을 것"

(서울=연합인포맥스) 김경림 기자 = 젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)이 인류의 실존적 위협이 될 가능성에 회의적인 입장을 나타내면서, 안전을 이유로 개발 속도를 늦추기 위한 기업 간 협력에도 반대했다.

황 CEO는 15일(현지시간) CNBC의 '매드머니'에 출연해 AI 안전 문제를 해결하기 위해 새로운 법률이나 반독점 규제가 필요하다는 주장은 불필요하다며, 기업들이 자체적으로 안전성을 확보할 수 있다고 강조했다.

그는 "기업들이 기본적인 엔지니어링을 제대로 하고 제품을 출시하기 위해 새로운 법률이나 새로운 반독점법, 새로운 규제가 필요하다는 것은 완전히 불필요하다"고 말했다.

앞서 다리오 아모데이 앤트로픽 CEO는 지난 13일 AI 안전에 관한 에세이를 통해 주요 각각의 기업들이 최첨단 모델 개발 속도를 조절하는 이른바 '프런티어의 속도 조절'에 협력할 필요가 있다고 주장했다.

AI 기업들이 첨단 모델을 개발하고 출시하는 속도를 의도적으로 늦춰 안전성 검증과 보호장치를 마련할 시간을 확보하자는 취지다. 아모데이 CEO는 이러한 협력을 위해 정부의 중재나 반독점 규제의 적용을 면제하는 조치가 필요할 수 있다고 제안했다.

황 CEO는 AI 안전성 자체의 중요성에는 동의하면서도 개발 속도를 늦추기 위한 기업 간 협력에는 선을 그었다.

그는 "안전은 엔지니어링의 문제이고 테스트 역시 엔지니어링의 문제"라며 "제품을 만들고 적절하게 테스트해야 하며, 출시할 준비가 되지 않았다면 준비가 될 때까지 테스트하고 엔지니어링하면 된다"고 말했다.

아모데이 CEO는 앞서 AI 안전성을 확보하기 위한 방안으로 세 단계의 접근법을 제시했다. 각 AI 연구소에 제3자 안전 평가기관을 배치하고, 민주적이고 국제적인 차원에서 안전 기준을 마련하는 한편, 검증되지 않은 AI 기술의 발전 속도에 일정한 제한을 두자는 내용이다.

다만 경쟁 관계에 있는 AI 기업들이 모델 개발이나 출시 속도를 공동으로 제한하는 것은 반독점법상 문제가 될 가능성이 있다. 경쟁 기업 간 생산량이나 공급을 제한하는 합의는 경쟁을 제한하는 행위로 규제될 수 있기 때문이다.

엔비디아는 앤트로픽과 오픈AI를 주요 고객사로 두고 있으며 자체적으로도 오픈 웨이트 AI 모델인 '네모트론(Nemotron)' 계열을 개발하고 있다.

황 CEO는 AI 개발 속도를 둘러싼 논쟁과 관련해 AI가 인류에 실존적 위협이 될 수 있다는 전망에도 회의적인 입장을 나타냈다.

그는 "우리는 2030년에 죽지 않을 것"이라며 "세상에는 AI를 제대로 만들 사람들이 충분히 많고, 우리는 온갖 보호장치를 갖추고 안전과 보안을 위한 온갖 기술을 발명하게 될 것"이라고 말했다.

그러면서도 AI 안전 자체는 중요한 문제라고 강조했다.

황 CEO는 "AI 안전은 실제로 존재하는 문제"라며 "제품을 전 세계가 안전하게 사용할 수 있도록 엔지니어링 하는 것은 실제적인 문제"라고 말했다.

이어 "기업들은 가능한 한 빠르게 혁신해야 하지만 안전하지 않은 제품을 출시할 정도로 빠르게 혁신해서는 안 된다"고 덧붙였다.

klkim@yna.co.kr