오픈AI 인권 총괄 "군사 AI 오용 우려로 밤잠 설쳐"
(서울=연합인포맥스) 이재헌 기자 = 오픈AI의 첫 인권 총괄이 인공지능(AI)의 군사적 활용 증가에 대한 우려를 표명하며 국제법에 기반한 안전장치(가드레일) 구축의 중요성을 강조했다.
6일(현지시간) 미국 경제 매체 포춘에 따르면 사라 야거 오픈AI 인권 및 책임 배포 총괄(Human rights and responsible deployment lead)은 뉴욕에서 열린 '스케일업:AI' 콘퍼런스에 참석해 "군이 타격 목표 설정이나 자율무기에 AI를 어떻게 활용할지 생각하면 밤잠을 설칠 정도"라며 "많은 이들이 정당하게 우려하고 있다"고 밝혔다.
야거 총괄은 30년 경력의 인권·군사 분야 전문가로 지난 6월 오픈AI에 합류했다. 지난 2월 미 국방부와 비밀 환경 내 첨단 AI 시스템 배포 계약을 체결한 이후 이뤄진 인사다. 앞서 경쟁사 앤트로픽은 대량 감시 및 완전 자율무기 금지 등의 가드레일을 요구하다 미 당국으로부터 공급망 리스크 지정을 받으며 계약이 무산됐다.
AI 기업들이 도덕성과 인간성을 자의적으로 재정의하려 해서는 안 된다고 야거 총괄은 강조했다. 이미 사회적으로 확립된 인권과 제네바 협정을 기술 개발의 기본선으로 삼아야 한다는 취지다.
그는 실리콘밸리 일각에서 제기되는 AI 에이전트의 '권리' 논의에 대해서도 "인권과 전혀 비교할 수 없는 개념이며 인간 중심의 인권으로 돌아가야 한다"고 지적했다. 더불어 최근 도널드 트럼프 미국 대통령이 주재한 AI 안전 회의에 리사 수 AMD 최고경영자(CEO)를 제외하면 여성 참석자가 배제된 점을 언급하며 의사결정권자의 편중성도 함께 꼬집었다.
[출처: 연합뉴스 자료사진]
jhlee2@yna.co.kr
이재헌
jhlee2@yna.co.kr
