에릭 슈미트 前 구글 CEO "AI열풍, 닷컴버블처럼 붕괴할 가능성 낮아"
(서울=연합인포맥스) 이장원 선임기자 = 구글(NAS:GOOGL)의 전 최고경영자(CEO) 에릭 슈미트는 최근 일부 투자자들 사이에서 제기되는 인공지능(AI) 버블 논란에 대해 "(2000년대 초반 있었던) 닷컴 버블처럼 붕괴할 가능성은 작다"고 밝혔다.
9일(현지시간) CNBC에 따르면, 슈미트 전 CEO는 8일 런던에서 열린 '시프티드 서밋'에서 "AI에 자금을 투입하는 투자자들은 장기적인 경제적 보상을 확신하고 있다"며 "그렇지 않다면 이렇게 많은 위험을 감수하지 않았을 것"이라고 말했다.
그는 또 AI 기술의 보안 취약성과 오남용 가능성에 대해서도 경고했다.
슈미트 전 CEO는 "AI 모델은 해킹에 매우 취약하며 악의적인 사용자가 안전장치를 제거할 수 있는 증거가 있다"고 밝혔다.
그는 "AI 모델이 학습 과정에서 막대한 정보를 흡수하는데 잘못된 방식으로 조작될 경우 사람을 해칠 수 있는 방법까지 학습할 수 있다"고 경고했다.
슈미트 전 CEO는 이어 "대부분의 AI 기업들은 모델이 그런 질문에 답하지 않도록 안전장치를 두고 있으며 이는 올바른 결정"이라면서도 "그러나 일부 모델은 역공학(reverse-engineering.이미 만들어진 소프트웨어, 시스템, 프로세스 등이 어떻게 작동하는지 연역적 추론을 통해 이해하고 그 원리를 분석하는 과정)을 통해 이러한 제한을 무력화할 수 있다"고 지적했다.
CNBC에 따르면, AI 시스템은 프롬프트 인젝션(prompt injection)이나 '탈옥(jailbreaking)'과 같은 공격에 특히 취약하다.
프롬프트 인젝션은 사용자의 입력이나 외부 데이터(웹페이지, 문서 등)에 숨겨진 악성 명령어를 통해 AI를 속여 원래 제한된 행동을 수행하게 만드는 방식이다.
탈옥(jailbreaking)은 AI가 자체 안전규칙을 무시하도록 유도해 위험하거나 불법적인 답변을 하게 만드는 기법이다.
슈미트 전 CEO는 "AI가 잘못된 사람의 손에 들어갈 경우 악용될 위험이 크다"며 국가 차원의 관리 체계와 글로벌 협력의 필요성을 강조했다.
jang73@yna.co.kr
이장원
jang73@yna.co.kr
함께 보면 도움이 되는
뉴스를 추천해요
