트럼프, AI 자율규제 협약에 "헌법과 같은 것"…면면은

초지능(SI) 용어 사용 행정 명령에도 서명

(서울=연합인포맥스) 김경림 기자 = 도널드 트럼프 미국 대통령이 주요 빅테크 기업들과 최첨단 인공지능(AI) 모델의 안전성을 확보하기 위한 자율규제 협약을 체결하고 이를 "헌법과 같은 것(almost like a constitution in a way)"이라고 강조했다.

트럼프 대통령은 29일(현지시간) 백악관에서 주요 기술기업 경영진과 만난 뒤 '백악관 초지능 협약(White House Accord on Super Intelligence)'을 공개했다.

협약은 최첨단 AI 모델을 학습하고 배포하는 기업들이 통제와 감사 체계를 구축하는 것을 골자로 한다.

협약의 구체적인 내용은 기업 내부의 통제에서 외부 독립 감사, 이사회 차원의 감독으로 이어지는 다층적인 구조다.

먼저 기업들은 최첨단 모델의 능력과 정렬 상태를 학습과 배포 과정에서 점검할 수 있도록 강력한 내부 통제 체계를 마련해야 한다.

사이버보안과 생물보안, 화학적 위협 등과 관련한 위험을 감시하고 AI 모델이 의도하지 않은 방식으로 해킹하거나 기술 시스템에 접근하지 않도록 하는 내용도 포함됐다.

기업 내부에는 통제와 모니터링, 탐지 기능이 의도한 대로 작동하는지를 점검하는 전담팀도 두도록 했다.

전담팀은 안전장치가 제대로 작동하는지를 확인하고 문제가 발견되면 이를 시정하는 역할을 맡는다.

기업 내부의 자체 점검에 그치지 않고 독립적인 외부 감사기관이나 평가기관의 검증도 받도록 했다.

외부 기관은 기업의 통제와 모니터링, 탐지 기능이 의도한 대로 작동하는지를 독립적으로 평가하게 된다.

이사회 차원의 감독 장치도 마련한다.

기업들은 이사회 산하에 독립위원회를 지정해 내부 통제팀과 내부·외부 감사 및 평가기관으로부터 보고받고, 확인된 문제가 시정되도록 감독해야 한다.

참여 기업들은 정기적으로 만나 AI 시스템의 안전성을 높이기 위한 기준과 모범 사례를 마련하기로 했다.

장기적으로는 이 같은 조치를 법률이나 규정으로 명문화하는 방안도 제시했다. 다만 현재 협약은 법률에 따른 강제 규제가 아니라 기업들의 자발적인 약속에 기반한다.

이번 협약에는 트럼프 대통령을 비롯해 일론 머스크, 메타의 마크 저커버그, 엔비디아의 젠슨 황, 앤트로픽의 다리오 아모데이, 구글의 순다르 피차이, 오픈AI의 그렉 브록먼 등이 서명했다.

트럼프 대통령은 이날 별도의 행정명령을 통해 연방정부가 기존 '인공지능(AI)' 대신 '초지능(SI)'이라는 용어를 사용하도록 했다.

행정명령에 따르면 미국 행정부의 공식 서신과 대외 커뮤니케이션, 웹사이트, 보고서, 정책 문서 등에서 'AI' 대신 'SI'를 사용한다.

다만 기존 법률과 규정의 용어까지 즉시 변경하는 것은 아니다. 행정명령은 현행 연방법상 '인공지능'의 정의를 당분간 '초지능'과 'SI'의 의미로 적용하도록 했다.

대통령 과학기술보좌관은 행정명령 발령 후 60일 이내에 '초지능'의 연방 차원 정의를 마련하기 위한 입법 문안을 제출해야 한다.

한편, 트럼프 행정부는 이날 협약 발표에 앞서 구글 제미나이 및 스페이스XAI 그록과의 협력을 통해 2만여 개 연방 정부 웹사이트 정보를 안내하는 AI 챗봇 'America.Gov'를 공식 출시했다.

klkim@yna.co.kr