[미리보기] AI 규제의 필요성과 도입 사례, 그리고 이를 둘러싼 갈등

○ AI는 빠른 처리 속도와 방대한 데이터 학습에 기반한 예측 성능을 토대로 효율성을 증대하고 비용 절감에 기여할 수 있으나, 다양한 오류를 내포하고 범죄 등에 악용될 소지가 있음

○ AI의 대부인 제프리 힌튼(Geoffrey Hinton) 토론토대 교수는 2024년 노벨 물리학상 시상식에서 향후 5~20년 이내 인간을 뛰어넘는 AI가 개발될 것이므로 이에 대한 통제 방안이 시급히 마련되어야 한다고 주장

○ EU는 세계 최초로 AI 규제 법안인 「AI법(AI Act)」을 채택하며 선도적인 모습을 보이고 있음. 「AI법」은 AI 시스템을 인간의 건강, 안전, 기본권에 미치는 위험 정도에 따라 네 단계로 분류하고 규제 수준을 차등화

• AI 시스템을 ‘수용 불가 AI’, ‘고위험 AI’, ‘제한적 위험 AI’, ‘최저 위험 AI’의 네 단계로 분류. 2024년 8월 1일 공식 발효된 이후 향후 2~3년 동안 단계적으로 의무 사항들이 부과될 예정

○ 미국은 아직 EU의 「AI법」과 같은 포괄적인 규율 체계는 정비되지 않았으나 최근 행정명령 등의 형태로 AI에 대한 규제를 강화하고 있음

• AI 시스템의 개발 및 사용 과정에서 행정부가 준수하여야 하는 여덟 가지 원칙을 규정하고, AI 관련 정책 입안과 이행을 위한 ‘백악관 AI 위원회’를 신설하는 등의 내용을 포함

• 캘리포니아주에서 지난 8월 「첨단 AI 모델을 위한 안전 및 보안 혁신법」이 주 의회를 통과하는 등 연방 차원이 아닌 주 차원에서 AI 규제를 시도하는 움직임도 나타나고 있음

○ 각국은 AI로 인한 혁신과 리스크 사이에서 균형점을 찾기 위해 노력 중. EU의 「AI법」은 다수 기업으로부터 AI 산업의 발전을 저해한다는 비판을 받고 있으며, 미국에서도 광범위한 AI 규제를 빠르게 마련하여야 한다는 입장과 AI 규제가 산업 발전을 저해할 우려가 있다는 의견이 대립 중

○ 빠르게 발전하는 AI 기술의 특징을 감안할 때 섣부른 규제는 혼란을 일으킬 수 있으므로, 차별 방지나 투명성 제고 등 구체적이고 명확한 위험에 초점을 맞춘 간결하고 분명한 규제 체계를 단계적으로 수립하는 방안을 고려할 필요