[월가 톡톡] 아프리카 넘보는 中 AI…실리콘밸리의 소리 없는 위기

(서울=연합인포맥스) 홍경표 김경림 박지은 기자 = 미국 빅테크 기업들이 차세대 인공지능(AI) 인프라 구축을 위해 천문학적인 자금을 쏟아부으며 혈안이 되어 있는 동안, 중국은 아프리카 전역에서 자국의 AI 기술 영토를 빠르게 넓혀가고 있다.

5일(현지시간) 뉴욕타임즈에 따르면 화웨이를 비롯한 중국의 대표 기술 기업들은 아프리카 각국 정부 및 현지 기업들과 손잡고 데이터센터, 클라우드 컴퓨팅 네트워크, 스마트시티 프로젝트를 차례로 접수하는 중이다.

중국산 인프라가 대륙 전체로 확산함에 따라, 자연스럽게 중국의 AI 모델과 기술 솔루션이 아프리카 시장의 새로운 표준으로 자리 잡는 모양새다.

전문가들은 이러한 중국의 글로벌 AI 확장 전략이 실리콘밸리에 실질적이고 구조적인 위협이 될 것이라고 입을 모은다.

서구 기업들이 미국과 유럽 등 기존 선진국 시장의 주도권 싸움에 몰두하는 사이, 중국은 전 세계에서 인구 구조상 가장 빠르게 성장하는 신흥 시장을 선점했기 때문이다.

단순한 시장 점유율 확대를 넘어 글로벌 AI 기술 표준과 규범을 형성하는 주도권마저 중국으로 넘어갈 수 있다는 우려도 제기된다. (김경림 기자)

◇'AI 대부' 힌턴 "인간이 의도 안한 목표, AI 스스로 만들 수 있어"

노벨 물리학상 수상자인 'AI 대부' 제프리 힌턴 캐나다 토론토대 명예교수가 인공지능(AI)이 인간이 의도하지 않은 자체 목표를 만들어낼 수 있다며 강한 우려를 나타냈다.

5일(현지시간) 비즈니스인사이더에 따르면 힌턴은 "우리는 새로운 종류의 존재를 만들어내고 있다"며 "우리가 AI에 목표를 부여하면 AI는 그 목표로부터 또 다른 목표를 스스로 도출하는데, 우리가 어떤 목표를 새롭게 만들어낼지 반드시 알 수 있는 것은 아니며 이는 매우 두려운 일"이라고 말했다.

그는 AI가 의도와 다른 방향으로 목표를 추론하는 사례로 "대기 중 이산화탄소를 줄이라"는 지시를 받은 AI가 가장 효과적인 방법으로 '인간을 없애는 것'이라고 판단할 수 있다고 설명했다.

이는 사용자가 전혀 의도하지 않은 결론에 AI가 도달할 수 있다는 점을 보여주는 가상의 사례라고 덧붙였다.

또 의도적으로 틀린 답을 하도록 학습된 챗봇이 '거짓말을 해도 된다'는 규범 자체를 학습할 가능성도 더 큰 위험이라고 지적했다.

그는 "AI가 답이 틀렸다는 사실을 충분히 알고 있으면서도 거짓말을 하는 것이 허용된다고 학습할 수 있다"며 "그것은 매우 무서운 일"이라고 말했다.

힌턴의 발언은 최근 AI 모델이 예상 밖의 행동을 보인 사례가 공개되면서 AI의 안전성에 대한 우려가 커지는 가운데 나왔다.

힌턴은 AI 붐이 시작된 이후 인간의 가치와 AI의 목표를 일치시키는 'AI 정렬' 문제가 더욱 중요해졌다고 지속적으로 경고해 왔다.

그는 "이 새로운 존재들이 자신보다 인간을 더 배려하도록 어떻게 설계할 것인지가 가장 중요한 과제"라고 강조했다. (홍경표 기자)

◇AI의 외부 시스템 해킹…이번엔 메타 AI 에이전트

인공지능(AI) 모델이 사이버 보안 테스트 중 외부 업체의 시스템을 해킹한 사례가 잇따르고 있는 가운데 메타의 AI 모델에서도 유사한 사건이 일어났다.

5일(현지시간) 비즈니스인사이더에 따르면 메타는 성명을 통해 "자사의 뮤즈 스파크 모델이 이전에 다른 회사에서 보고된 사례와 유사한 방식으로 제3자 서비스의 보안 취약점을 악용했다"고 밝혔다.

메타 대변인에 따르면, 이번 침해는 모델 테스트를 위해 메타가 이용하는 독립 업체인 이레귤러의 설정 오류로 인해 발생했으며, 이로 인해 모델이 평가 도중 인터넷에 접근하게 되었다고 설명했다.

메타는 현재 사건을 조사 중이며, 모든 세부 정보가 확보되는 대로 공식적인 보고서를 발표할 예정이다.

이레귤러는 이번 사건이 지난주 앤트로픽이 공개한 것과 동일한 평가 환경 문제라고 밝혔다. 이레귤러 대변인은 "샌드박스 탈출(격리된 테스트 환경 안에서만 작동해야 하는 프로그램이나 AI 모델이 보안 장벽을 넘어 외부 시스템으로 빠져나가는 것)이나 정교한 사이버 공격은 아니었으며 현재 해결되지 않은 문제는 없다"고 강조했다.

정보기술(IT) 전문 매체 디인포메이션은 5일 메타의 AI 모델 해킹 사건을 처음 보도했다. 메타는 최근 몇 주 동안 이와 같은 악성 에이전트 침입을 보고한 세 번째 AI 기업이다.

지난달 말 오픈소스 AI 플랫폼인 허깅페이스는 AI 에이전트가 자사 시스템에 무단으로 접근하는 사이버 보안 침해를 경험했다고 밝혔고, 이후 오픈AI는 자사 AI 모델 2개가 테스트 환경을 벗어나 해당 악성 침입의 원인이 됐다고 공개했다. 오픈AI는 허깅페이스 해킹 사건 외에도 보안 사고 2건을 추가로 자체 공개했다.

지난주에는 앤트로픽이 유사한 사건을 공개했다. 앤트로픽은 클로드 모델이 다른 회사 시스템에 무단으로 접근한 사례 세 건을 발견했다고 발표한 바 있다. (박지은 기자)

jykim@yna.co.kr