정부, AI 생성물 표시제 도입…"AI 허위·과장광고 차단"

(서울=연합인포맥스) 김용갑 기자 = 정부가 인공지능(AI) 허위·과장 광고의 생성과 확산을 차단하기 위해 AI 생성물 표시제를 도입한다. 이에 따라 AI 생성물을 제작·편집해 게시하는 자는 AI로 사진·영상 등을 만들었다는 사실을 표시해야 한다.

정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했다.

최근 AI로 만든 가짜 전문가나 유명인 딥페이크 등을 활용한 허위·과장 광고가 식·의약품 분야를 중심으로 범람하고 있다.

이런 광고는 노년층 등 소비자 피해를 야기하고 시장 질서를 교란하고 있다고 정부는 지적했다.

이에 방송미디어통신위원회(방미통위)는 AI 생성물이 실제가 아니라는 점을 소비자가 알 수 있게 플랫폼 등에 관한 AI 생성물 표시제를 도입한다.

앞으로 AI 생성물을 제작·편집해 게시하는 자(직접 정보제공자)는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 한다.

플랫폼 이용자는 AI 생성물 표시를 제거하거나 훼손하면 안 된다. 플랫폼 회사는 '직접 정보제공자'가 표시 의무를 준수하는지 관리해야 한다.

과학기술정보통신부는 AI 사업자의 AI 생성물 표시 의무 이행과 AI 생성물의 투명한 사용을 돕기 위한 가이드라인을 마련한다.

방미통위와 방송미디어통신심의위원회(방미심위)는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가하기로 했다.

앞으로 해당 영역의 허위·광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 기대된다고 정부는 설명했다.

식품의약품안전처(식약처) 전용 방미심위 심의신청 시스템(패스트트랙)도 이들 품목까지 확대 적용(현재는 마약류만 적용)해 안건 상정 시간을 단축한다.

국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우에는 방미통위의 플랫폼 회사에 대한 긴급 시정요청 절차를 도입해 방미심위 심의 완료 전에 차단조치가 이뤄질 수 있도록 한다.

공정거래위원회와 식약처는 AI로 만든 전문가가 제품을 추천하는 광고의 위법성 판단기준을 명확히 해 허위·과장 광고를 신속히 제재할 수 있게 한다.

방미통위와 공정위는 위법행위자 대상 금전 제재를 강화해 위법 행위 유인을 약화시키고 적발 시에는 엄중히 제재한다.

이를 위해 정보통신망 등에서 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배)을 도입한다.

표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다.

김민석 국무총리는 이번 대책을 통해 신기술 부작용을 최소화하고 AI 시대의 시장 질서를 확립해나갈 것이라고 말했다.

ygkim@yna.co.kr