AI 기본법 시행ㅣAI 산업에 어떤 변화가 있을지 살펴봐요

AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)은 AI의 건전한 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정하는 법이에요. AI 규제법을 전면 시행한 것은 전 세계에서 한국이 처음인데요. EU(유럽연합)가 AI법을 먼저 만들기는 했지만, 규제를 단계적으로 시행하고 있어서 전면 시행은 우리나라가 앞서게 됐죠.

AI 기본법은 크게 두 가지 목표를 갖고 있어요. 첫째는 국가 차원에서 AI 산업 경쟁력을 높이는 것이고, 둘째는 안전하고 신뢰할 수 있는 AI 기반을 조성하는 거예요. 크게 '산업 진흥'과 '규제' 두 축의 내용을 담고 있는 거죠.

앞으로 고영향 AI를 활용하는 사업자는 안전성 확보 의무를 반드시 지켜야 해요.

만일의 사고에 대비해 사람이 직접 AI를 관리·통제할 수 있는 시스템을 마련하는 등 다양한 안전 조치를 마련해야 합니다. AI로부터 국민의 생명과 권리를 보호하기 위한 조치로, 이를 위반할 경우 최대 3천만원의 과태료가 부과될 수 있어요.

생성형 AI가 만든 문서, 이미지, 영상 등 생성물에는 AI가 만든 사실이 드러나도록 워터마크 부착 의무가 부여돼요. 특히 실제와 구분하기 어려운 딥페이크 생성물의 경우 AI 생성 사실을 이용자가 명확하게 인식할 수 있게 고지하거나 표시해야 해요. 위반 시 과태료가 부과될 수 있죠.

다만, 애니메이션이나 웹툰처럼 딥페이크가 아닌 일반 생성물에는 눈에 보이지 않는 디지털 워터마크 사용이 허용됩니다. 

AI 기본법 시행으로, 일정 기준을 충족한 해외 빅테크 기업은 국내 대리인을 반드시 지정해야 합니다. 향후 AI와 관련한 문제가 발생했을 때 책임 소재를 확실히 하기 위해서죠.

전년도 글로벌 매출액 1조원 이상, 국내 AI 서비스 매출 100억원 이상, 국내 일평균 이용자 100만 명 이상 조건 중 하나라도 해당하는 해외 기업은 대리인 지정 의무가 생겨요. 현재로선 챗GPT의 운영사 오픈AI와 제미나이의 운영사 구글 정도가 해당하는 것으로 알려져 있어요.

정부는 AI 기본법을 통해 규제보다는 AI 산업 육성과 지원에 더 무게를 둘 계획이에요. AI 연구개발과 인재 양성을 위한 지원도 앞으로 더 확대될 예정이고요. 공공 분야나 해외 시장 등에서 AI 활용 기회도 점점 늘어날 것으로 보입니다.

다만 해외 AI 기업에 대한 규제 적용이 쉽지 않다는 점은 여전히 과제로 남아 있어요. 이 때문에 국내 기업만 부담이 커질 수 있다는 우려도 나오고 있는데요. 향후 1년간의 계도 기간과 앞으로 마련될 세부 가이드라인이 관건일 것으로 보여요.