AI 규제의 필요성: AI 도입의 장점과 단점

○ 생성형AI는 전 세계적으로 연간 2조 6천억 달러에서 4조 4천억 달러의 경제적 가치를 창출할 것으로 기대됨(맥킨지의 2023년 6월 및 12월 예측)

• 기업들은 AI를 활용하여 각종 내부 프로세스를 자동화하고 많은 인력을 고부가가치 작업에 집중하도록 배치 가능

- 장기적으로 AI를 활용한 자동화를 통해 직원으로 인해 발생하는 오류를 줄이고 비용 절감 및 운영 효율성 개선 효과를 기대할 수 있음

• AI는 각종 뉴스, 산업 보고서, 시장 데이터 등의 다양한 데이터를 실시간으로 분석하여 미래 상황에 대해 보다 정확한 예측이 가능

○ AI 모델의 비약적 성능 향상과 금융기관이 보유한 다량의 데이터를 고려할 때 AI는 타 산업 대비 금융 산업에서 더 높은 효용 가치를 가짐

• 금융기관은 다량의 데이터 분석에 기반한 예측 및 운영 프로세스 개선, 고객 응대, 리스크 관리, 사이버 보안 등 다양한 분야에 AI를 이미 활용하고 있거나 향후 활용하게 될 것임

- AI를 활용한 다양한 예측을 통해 각종 거래 및 자산 배분과 관련한 보다 정확한 의사결정이 가능

- AI를 활용한 다양한 분석을 통해 사기 거래 및 자금세탁 등 금융산업에서 발생 가능한 각종 위험을 사전에 검출 가능

○ 이외에도 AI는 신약 개발과 질병 퇴치 등 인류가 그동안 해결하지 못한 다양한 문제 해결에 중요한 역할을 수행할 것으로 기대됨

○ AI가 잘못된 정보를 사실인 것처럼 설득력 있게 생성하고 제공하는 ‘환각(hallucination)’ 현상이나 학습 데이터의 편향 등으로 말미암아 발생 가능한 오류는 다양한 위험을 초래할 수 있음

• 기업이 AI의 잘못된 분석 및 예측을 전적으로 신뢰하여 의사결정을 내리는 경우 경제적 손실로 이어질 수 있음

• 특히 AI를 처음 도입하는 경우 장단점을 정확히 파악하지 못해 오작동 시 대처하는 데 어려움을 겪을 수 있음

- AI는 매우 복잡한 알고리즘으로 구성되어 어떤 근거로 특정 결론에 도달했는지 추론 과정을 파악하기 어려움

• 기업이 AI를 활용하여 고객을 응대하는 경우 AI 모델에 내재된 편향으로 인해 인종, 성별 등에 대한 차별이 일어날 수 있음

○ AI는 막강한 성능과 손쉽게 활용할 수 있는 특성 등으로 인해 통제가 어렵고 범죄에 악용되기 쉬워 사회에 위협을 초래할 수 있음

• AI를 활용하여 가짜 이미지 또는 영상을 생성하는 딥페이크 범죄는 이미 심각한 수준에 도달

- 딥페이크 음란물 제작과 유포로 사회적 물의를 일으키고, 허위 정보나 가짜뉴스의 생성과 확산으로 사회적 편견을 조장

• 사이버 공격이나 생화학 무기 등 각종 살상 무기 개발에 활용되는 것에 대한 우려도 존재

○ AI의 대부인 제프리 힌튼(Geoffrey Hinton) 토론토대 교수는 2024년 노벨 물리학상 시상식에서 향후 5~20년 이내 인간을 뛰어넘는 AI가 개발될 것이므로 이에 대한 통제 방안이 시급히 마련되어야 한다고 주장

• 데미스 허사비스(Demis Hassabis) 구글 딥마인드(DeepMind) CEO도 2024년 노벨 화학상 시상식에서 AI의 위험성이 심각함을 강조

○ 일론 머스크 테슬라 CEO, 딥러닝 창시자인 요슈아 벤지오(Yoshua Bengio) 몬트리올대 교수 등은 인류가 아직 보다 발전된 AI를 받아들일 준비가 되어 있지 않다고 강조

• 인간보다 뛰어난 지능을 갖춘 AI는 인류에 심각한 위험을 초래할 수 있으므로 보다 안전하고 신뢰 가능한 AI 연구가 필요하다고 주장

○ 샘 올트먼 오픈AI CEO는 AI가 핵전쟁과 같이 인류 생존의 위협 요인이 될 수 있다고 경고하며 미 의회에 AI 규제 전담 연방기관을 신설할 것을 제안

• 오픈AI와 구글 딥마인드 전·현직 직원 13명은 공동 성명을 통해 자율적인 AI 시스템이 등장하면 인류가 이를 통제하지 못해 결국 인류의 파멸이 초래될 수 있다고 경고