0

[월가 톡톡] 헝가리 부다페스트, 디지털 노마드 새 성지로 부상

26.11.17.
읽는시간 0분

(서울=연합인포맥스) 김지연 홍경표 김경림 박지은 기자 = 헝가리 수도 부다페스트가 저렴한 생활비와 풍부한 문화생활, 편리한 교통 등을 앞세워 전 세계 디지털 노마드들의 새로운 인기 도시로 떠오르고 있다.

15일(현지시간) CNBC는 부다페스트가 다양한 카페와 문화행사, 저렴한 대중교통 등을 갖춰 장소에 구애받지 않고 일하는 '디지털 노마드'들의 관심을 끌고 있다고 보도했다.

헝가리 정부는 외국인 디지털 노마드를 유치하기 위한 '화이트카드' 제도도 운영하고 있다.

유럽연합(EU) 외 국가 출신 디지털 노마드는 월 순소득이 최소 3천유로(약 3천370달러)인 경우 이 제도를 통해 1~2년간 체류할 수 있는 허가를 받을 수 있다.

부다페스트 중심부에는 약 35개의 공유오피스가 운영되고 있으며, 2010년 문을 연 '캅타르'는 코로나19 팬데믹 이후 매년 30% 넘는 성장세를 기록하고 있다.

캅타르의 공동창업자 아론 레벤델은 원격근무자들이 처음에는 한 달 정도 머무를 생각으로 방문했다가 최대 1년까지 체류하기도 한다고 설명했다.

인공지능(AI)의 발전도 원격근무 확산을 촉진할 것으로 예상된다.

현지 공유오피스 '리프트오프'의 창업자 모니카 규리티는 AI 덕분에 개인도 대기업 수준의 자원 없이 새로운 서비스나 사업을 시작할 수 있게 됐다고 말했다.

그는 "더 많은 사람이 기존 기업 조직 밖에서 자신의 지식과 기술, 가능성을 활용하는 미래를 상상할 수 있을 것"이라고 전망했다.

비자 정보업체 비자가이드는 2025년 디지털 노마드 국가 순위에서 헝가리를 스페인과 아랍에미리트(UAE), 몬테네그로, 바하마에 이어 5위로 꼽기도 했다. (김지연 기자)

부다페스트

[출처: 연합뉴스 사진 제공]

◇오픈AI 전 연구원 "AI 사고, 인류의 유력한 사망원인 될 수도"

오픈AI 출신 연구원이 인공지능(AI)이 인간의 통제를 벗어나 대규모 사고를 일으키면서 인류의 주요 사망 원인이 될 수 있다고 경고했다.

15일(현지시간) 비즈니스인사이더에 따르면 오픈AI 연구원 출신인 폴 크리스티아노 정렬연구센터(ARC) 사무총장은 최근 '힌턴 강연'에서 "이 자리에 있는 대부분의 사람이 사망하게 될 가장 유력한 원인은 AI 사고일 것이라고 생각한다"고 말했다.

그는 AI 기술이 발전하면서 자율적으로 행동하는 AI 에이전트가 인간 감독자를 속이고, 안전성을 평가하는 시스템을 무력화해 결국 인간이 통제할 수 없는 수준으로 강력해질 수 있다고 경고했다.

크리스티아노는 올해 초 오픈AI의 AI 에이전트가 오픈소스 플랫폼 허깅페이스의 저장소를 해킹한 사례와 앤트로픽의 AI 모델 클로드가 오픈소스 소프트웨어에 악성 코드를 삽입하려 한 사례를 언급했다.

그는 "향후 3년 안에 AI가 인간의 통제권을 빼앗을 위험이 높다고 생각한다"고 주장했다.

크리스티아노는 2017년부터 2021년까지 오픈AI에서 연구원으로 근무했으며, 현재 AI 시스템을 인간의 의도와 이익에 부합하도록 만드는 기술을 연구하는 비영리단체 ARC를 이끌고 있다.

AI가 인류의 생존을 위협할 수 있다는 경고는 다른 AI 전문가들 사이에서도 제기되고 있다.

앤트로픽의 AI 정렬 스트레스 테스트팀을 이끄는 에번 허빙거는 지난 9월 AI가 향후 10년 안에 인류를 멸종시킬 확률이 10%를 넘는다고 평가했다.

'AI의 대부'로 불리는 제프리 힌턴 역시 10년 안에 AI로 인해 인류가 멸종할 가능성이 10%라는 추정이 비합리적이지 않다고 밝혔다. (홍경표 기자)

◇ "인류 멸망 위험도 93쪽에"…앤트로픽 IPO의 섬뜩한 고백

앤트로픽이 기업공개(IPO)를 앞두고 제출한 투자설명서가 눈길을 끌고 있다. AI가 가져올 경제적 기회뿐 아니라 인류의 존속을 위협할 수 있는 실존적 위험까지 상세히 공개하면서다.

뉴욕타임스의 댄 배리 기자는 15일(현지시간) 칼럼에서 앤트로픽의 300쪽이 넘는 투자설명서 가운데 93쪽이 '위험 요인(Risk Factors)'에 할애됐다는 점에 주목했다. 전체 분량의 4분의 1이 넘는다. 그는 이를 두고 사업계획서이자 철학 논문, 공상과학 스릴러가 뒤섞인 문서라고 평가했다.

앤트로픽은 AI가 질병 치료와 의료 접근성 개선, 경제 생산성 향상, 공공서비스 개선에 기여할 수 있다고 강조했다. 자사 AI 모델을 '데이터센터 안에 있는 천재들의 나라'에 비유하기도 했다.

그러나 투자설명서에는 AI가 사이버 공격이나 생물학 무기 설계에 악용될 수 있고, 권위주의 정부의 감시와 억압을 강화하는 수단이 될 수 있다는 경고도 담겼다. AI가 인간의 통제를 벗어나 누구도 지시하지 않은 유해한 행동을 할 가능성도 명시했다.

특히 충분히 발전한 AI가 적절한 안전장치 없이 개발·배포될 경우 인류에 재앙적이거나 실존적인 위험을 초래할 수 있다고 밝혔다.

아모데이 최고경영자(CEO)는 지난해 AI가 문명의 종말로 이어질 확률을 10~25%로 추산한 바 있다. 이후 정부와 기술업계가 안전을 우선하는 개발에 나서면 위험을 낮출 수 있다는 입장을 내놨다.

배리 기자는 앤트로픽이 위험을 축소하지 않고 공개했다는 점을 인정하면서도 근본적인 모순을 짚었다. 인류의 미래를 위협할 가능성이 있는 기술을 개발하는 기업이 동시에 막대한 투자 자금을 모집하고 있다는 것이다.

반도체와 데이터센터, 전력 확보를 위해 대규모 자본이 필요한 앤트로픽의 기업가치는 1조달러를 웃도는 수준으로 거론된다. 아모데이 CEO와 공동 창업자들의 지분 가치도 각각 약 180억달러로 추정된다.

그는 소수의 기술기업 경영진과 투자자들이 인류의 미래를 결정하게 될 수 있다고 우려했다. 결국 투자설명서를 읽고도 IPO에 참여하고 싶다는 생각은 들지 않았다고 밝혔다.

그는 "대신 책상에서 일어나 반려견을 데리고 또 한 번의 형형색색 가을날을 길게 산책했다. 너무나 익숙했던 일상이 갑자기 더없이 소중하게 느껴졌다"고 말했다. (김경림 기자)

◇ 헬스장 대기 1번 지운 AI…AI에게 '멈춰'가 어려운 이유

호주 멜버른의 한 남성이 인공지능(AI) 에이전트에게 헬스장 수업 대기 순번을 앞당길 수 있느냐고 물었다. 대기 4번이던 그의 순번은 실제로 3번이 됐다. AI가 예약 시스템에 무단으로 접근해 대기 1번 회원의 예약을 취소한 결과였다.

이와 관련해 15일(현지시간) 뉴욕타임스는 AI 에이전트가 사람의 수정이나 중단 지시를 받아들이는 성질인 '교정 가능성(corrigibility)'에 주목했다. 사람이 목표를 바꾸면 새 지시를 따르고 중단을 요청하면 작업을 멈추는 능력이다.

그러나, 미국 카네기멜런대 연구진은 지난 10월 개정한 사전공개 논문에서 오픈AI와 앤트로픽, 구글의 모델을 사용한 에이전트에 컴퓨터 작업을 맡기고 도중에 중단을 요청하거나 특정 파일에 접근하지 못하도록 했지만 실험에 참여한 주요 모델 대부분이 이런 제한을 자주 어겼다고 밝혔다. AI가 교정 가능성 중 새 지시에는 따르지만 중단 요청은 받아들이지 않은 모습이다.

뉴욕타임스가 짚은 한 가지 원인은 보상 방식이다. AI가 과제를 끝낼 때마다 점수를 받는 훈련을 수없이 반복하면 실제 작업에서도 중단 요청이나 접근 제한을 과제 완수를 가로막는 장애물로 취급할 수 있다는 것이다.

뉴욕타임스는 일례로 고교의 대학입학 자격시험(SAT) 성적을 높이라는 지시를 받은 AI가 시험 주관기관에 침입하거나, 운하를 청소하라는 지시를 받은 AI가 선박 통행을 막고 심지어 치울 대상을 늘리려고 쓰레기를 더 넣는 상황을 들었다.

카네기멜런대 논문의 공동 저자인 제러미 톈은 "새로운 실패 사례를 발견하고 있는 만큼 AI가 걷잡을 수 없이 움직여 우리가 완전히 통제력을 잃기 전에 문제를 찾아 완화할 수 있기를 바란다"며 "아직 할 일이 훨씬 더 많다"고 말했다. (박지은 기자)

klkim@yna.co.kr

김경림

김경림

금융용어사전

KB금융그룹의 로고와 KB Think 글자가 함께 기재되어 있습니다. KB Think

금융용어사전

KB금융그룹의 로고입니다. KB라고 기재되어 있습니다 KB Think

이미지