[리걸인사이트] AI 기본법의 핵심 의무와 실무 체크포인트

(서울=연합인포맥스) 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)이 2026년 1월 22일 시행됐다. AI 기본법은 AI의 활용을 활성화하고 정부 차원의 지원 근거를 마련하는 한편, 이용자들을 AI의 활용에 수반될 수 있는 잠재적 위험으로부터 보호하는 데에도 목적을 두고 있다.

AI 기본법에 따르면 인공지능사업자(이하 AI 사업자)는 투명성 확보 의무 및 일정 요건을 충족하는 경우 안전성 확보 의무를 부담하며, 고영향 인공지능에 해당하면 추가 의무까지 부담한다. AI 기본법은 AI를 개발하여 제공하는 인공지능개발사업자뿐 아니라, AI를 이용한 제품 또는 서비스를 제공하는 인공지능이용사업자도 AI사업자로 보고 있으므로, 외부 AI를 업무 프로세스에 활용하는 기업도 AI 기본법의 적용 대상이 됨에 유의하여야 한다.

먼저 투명성 확보 의무는 크게 두 가지로 나뉜다. 첫 번째는 고영향·생성형 AI를 이용한 제품 또는 서비스를 제공하려는 경우 그 사실을 이용자에게 사전 고지할 의무다. 이용약관 및 계약서, 또는 애플리케이션 화면 내에 AI 활용 사실을 명시하는 방식으로 이를 고지할 수 있다.

두 번째는 제품 또는 서비스가 생성형 AI에 의하여 만들어졌다는 사실을 표시할 의무다. 사람 또는 기계가 이를 인식할 수 있도록 표시하면 된다. 예컨대, 사진이나 동영상 콘텐츠의 경우 해당 화면 내에 생성에 사용된 AI의 로고를 삽입하는 방식으로 표시를 할 수 있다. 다만 사람이 아닌 기계가 인식할 수 있는 방식을 사용한다면, 사용자가 AI 결과물임을 알 수 있도록 "이 그림은 AI로 생성되었습니다."와 같은 문구를 별도로 최소 1회 이상 제공하여야 한다.

실제와 구별하기 어려운 이른바 '딥페이크' 결과물의 경우, 이용자가 이를 명확하게 인식할 수 있도록 고지 또는 표시할 것이 요구되므로, 보다 엄격한 기준이 적용되고 있다. 다만, 그림이나 영화 등의 예술적·창의적 표현물은 감상에 과도한 지장을 주지 않는 선에서 고지 또는 표시할 수 있다.

한편 안전성 확보 의무는 모든 인공지능시스템에 적용되는 것은 아니다. 인공지능 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 경우 등 일정 요건을 충족하는 AI 시스템에 한해 안전성 확보 의무가 적용된다.

나아가 AI 기본법은 고영향 인공지능에 대해서는 보다 강화된 의무를 부여한다. AI 사업자는 위험관리방안 및 이용자보호방안의 수립과 운영, 안전성 및 신뢰성 확보조치의 내용을 담은 문서의 작성 및 보관의무 등을 부담한다. 고영향 인공지능이란 생명, 신체, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로, 에너지, 보건의료, 원자력 등의 특정 영역에서 활용되는 시스템을 의미하므로, 기업은 자사의 AI 활용 영역이 위 영역에 해당하는지 여부를 선제적으로 점검하고 필요한 조치를 준비하여야 할 것으로 보인다.

AI 기본법은 현재 위 의무 위반에 대한 형사처벌 조항을 두고 있지는 않다. 다만 투명성 확보 의무 중 이용자에 대한 사전 고지를 하지 않은 경우에 대해서는 3천만원 이하의 과태료가 부과될 수 있으므로 유의할 필요가 있다. 더불어 과학기술정보통신부는 법 시행 초기의 제도 안착 및 기업에 대한 준비기간 제공을 위하여 과태료 계도기간을 최소한 1년 이상 운영할 계획이라고 밝힌 바 있다. 따라서 AI를 사용하는 기업의 경우 이러한 유예기간을 준비기간으로 활용하여 법이 요구하는 고지 및 표시 방안을 갖추어 두고, 자사 업무와 고영향 인공지능과의 연관성을 선제적으로 점검하여 대응을 준비할 필요가 있다. (법무법인(유) 충정 김진영 변호사)

jwchoi2@yna.co.kr