[시사점] AI 규제의 필요성과 도입 사례, 그리고 이를 둘러싼 갈등

○ 생성형AI는 인간의 대화를 이해하고 답변하는 지능을 갖춘 것으로 보이지만, 실제로는 단순히 확률에 기반한 답변을 생성하는 것에 불과하여 근본적으로 오류를 내포하고 있음

• AI 모델은 언어의 기본 구조와 논리를 이해하지 못하며, AI가 생성하는 텍스트는 단지 특정 단어가 나오면 그다음에 나올 단어 중 가장 높은 확률을 가진 단어를 이어 붙이는 것에 지나지 않음

○ 대니엘 앨런(Danielle Allen) 하버드대 교수 등은 AI 기술이 경제ㆍ정치ㆍ사회에 심각한 위험을 초래할 수 있으며, 이전과는 완전히 다른 규제 체계가 필요하다고 강조

• AI가 생성한 가짜 정보가 확산되면 민주주의의 근간이 흔들릴 수 있으며, 경제적으로 일자리 감소를 비롯한 많은 부정적 영향을 미칠 수 있다는 주장
 

• 과거 유전자 기술의 가능성이 확인되고 수많은 실험들이 시도된 시기와 마찬가지로, AI에 대해서도 더 안전하고 책임 있는 개발 및 활용을 위한 지침이 필요함을 역설

○ 다만, EU 및 미국 사례와 같이 효과적인 AI 규제 방안에 대해서는 아직 명확한 방향이 도출되지 않음

• 현재로서는 AI 개발 또는 활용을 불법으로 규정할 수도, AI에 대한 완벽한 규제 체계를 마련할 수도 없는 상황
 

• 각국은 AI에 기반한 혁신과 AI로 인한 리스크 사이에서 균형점을 찾기 위해 노력 중

○ AI 기술이 빠르게 발전함에 따라 각국 정부는 적절한 규제 체계 마련에 어려움을 겪고 있음

• 데미스 허사비스 구글 딥마인드 CEO는 AI 기술이 빠르게 발전함에 따라 AI에 대한 규제 체계 마련은 매우 어려운 과제임을 지적
 

- 각국 정부는 AI 기술의 급속한 발전으로 초래되는 정치적ㆍ사회적ㆍ경제적 환경 변화에 거의 따라가지 못하고 있는 상황
 

• 라나 포루하(Rana Forooha)⁵ 《파이낸셜타임스》 칼럼니스트는 각국 정부가 AI 기술의 급속한발전에 기민하게 대응할 역량이 부족하다고 지적
 

- 정부의 무능력으로 많은 사람이 AI로 촉발된 대대적인 변혁에 대한 정부 대책에 더 이상 기대하지 않게 될 가능성이 있다고 주장

○ 현재 상황에서는 거대한 규제 체계보다 명확하고 간결한 법을 단계적으로 도입하는 방안이 보다 효과적일 수 있음

• EU 「AI법」의 주 설계자인 가브리엘레 마치니(Gabriele Mazzini) MIT미디어랩 연구원은 AI 법안을 제정하는 과정에서 간결성과 명확성을 중심으로 접근해야 한다는 의견을 피력
 

- 기존 법률과의 중복을 피하는 동시에 차별 방지와 투명성 제고 등 구체적인 위험에 초점을 맞춘 간단하고 명확한 규제 체계가 현재로서는 효과적인 대안이라고 주장

○ 효과적인 AI 규제를 위해서는 국제적 협력을 염두에 둔 규제 체계 수립도 고려할 필요

• UN은 지난 9월 19일 AI 리스크 관리를 위해 전 세계의 협업이 필요함을 강조하는 내용을 담은 보고서 「인류를 위한 AI 거버넌스(Governing AI for Humanity)」를 공개(붙임)
 

- AI의 위험으로부터 인류를 보호하기 위해 전 세계 주요 AI 개발사ㆍ연구자ㆍ정부 관계자간 협의체를 구성하고, AI 기술ㆍ공정성ㆍ신뢰성과 관련한 표준 수립이 필요함을 제시

[붙임]UN 「인류를위한AI 거버넌스」보고서

○ ‘인공지능에 관한 고위급 자문 기구’는 전 세계 33개국 AI 관련 기술ㆍ법률ㆍ데이터 보호 전문가 39명으로 구성되어 있으며, 한국에서는 고학수 개인정보보호위원회 위원장이 참여

○ [①AI 국제 과학 패널 설립] AI의 기능과 위험 등을 분석하여 보고서를 발표하는 AI 국제 과학 패널 설립
 

○ [②AI 정책 회의 개최] AI 국제 과학 패널의 보고서를 기반으로 전 세계 주요 AI 개발사, 연구자, 정부 관계자 간 협의체 구성
 

○ [③AI 표준 마련] AI를 전 세계적으로 관리하기 위해 AI 기술, 공정성, 신뢰성과 관련한 표준 마련. 일부 국가에서는 AI 공정성 표준을 AI가 생성한 콘텐츠가 허위인지 여부를 파악하는 데 활용 가능
 

○ [④AI 역량 개발 네트워크 구축] 국가 간 AI 격차를 해소하기 위해 개발도상국에 AI 관련 교육 및 데이터 제공
 

○ [⑤글로벌 AI 기금 설립] 개발도상국에 AI 관련 교육 및 데이터를 제공하기 위해 글로벌 AI 기금 설립
 

○ [⑥글로벌 AI 데이터 프레임워크 수립] AI 시스템의 투명성을 보장하기 위한 데이터 관련 정의 및 관리 방법 등의 표준화
 

○ [⑦UN 내 AI 사무국 설립] 위 사항들을 이행하기 위한 전담 사무국을 UN에 설치

참고문헌