앤트로픽, AI 개발 일시 중단 촉구…'자가 개선' 경고
(서울=연합인포맥스) 박지은 기자 = 인공지능(AI) 기업 앤트로픽이 세계 유수의 AI 연구소들이 AI 개발 속도를 늦추거나 일시 중단하는 방안을 검토해야 한다고 촉구했다.
4일(현지시간) 외신에 따르면 앤트로픽은 블로그 게시물을 통해 AI 시스템이 머지않아 인간의 개입 없이 스스로 개선될 수 있는 '재귀적 자기 개선' 단계로 발전할 가능성이 있다며 이같이 말했다.
글을 작성한 마리나 파바로 사내 연구소장과 잭 클라크 공동 창업자는 재귀적 자기 개선이 아직 일어나지 않았고 필연적인 것은 아니지만 대부분이 대비하고 있는 것보다 더 빨리 도래할 수 있다고 경고했다.
그들은 게시물에서 "사회 구조와 조정 연구가 기술 발전에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단하는 것이 세계에 도움이 될 것"이라고 주장했다.
이와 함께 개발 속도를 늦추는 방법에 대한 국제적 합의와 경쟁자들이 이를 준수하는지 검증하는 메커니즘도 제안했다.
다만 일각에서는 위험성을 경고하는 것 자체가 마케팅 전략일 수 있다고 지적했다. 특히 앤트로픽은 창립 초기부터 AI 안전을 강조해오면서 오랫동안 경쟁사의 AI 발전을 저해하기 위한 정책 활동을 펼친다는 비판을 받아온 바 있다.
한편, 앤트로픽은 향후 몇 달 동안 정책 입안자, 연구자 및 기타 관계자들과 함께 재귀적 자기 개선과 검증 시스템에 대한 논의를 진행할 계획이다.
[출처:앤트로픽 홈페이지]
jepark2@yna.co.kr
박지은
