5화. 신뢰가능한 AI를 개발하고 배포하기 위한 초석

○ AI는 수학적으로 정의 가능한 문제에는 효과적이나, 옳고 그름을 판단해야하는 사회적 문제에 는 사용하지 말거나 사용하더라도 반드시 인간 판단의 보조 수단으로만 활용해야 함

• AI는 인간 사회의 모습을 그대로 담고 있는 ‘데이터’로 만들어진 산물임. 사회는 다수의 편견 과 오류가 내재해 있으므로 이를 학습한 AI 모델에도 오류와 편견이 내재되어 있을 수밖에 없음
  - AI를 피고에 대한 판결에 적용하거나, 이혼 분쟁에서 누가 자녀 양육권을 갖게 할 것인 지와 같은 사법적 판단에 활용하기에는 리스크가 존재함 

○ AI 모델을 테스트하는 과정에 있어서 한정된 상황만을 고려하는 경우가 많은데, 다양한 상황 에 대해서도 충분한 테스트가 필요함

• AI 개발자는 자신과 유사한 사용자 및 본인이 일반적으로 접하는 상황에 대해서만 테스트를 하는 경향이 있음
  - 성별, 인종, 연령, 교육 수준, 문화, 성격 등 다양한 사용자에 대한 충분한 테스트가 이 루어져야 AI가 실제 생활 적용시 나타나는 문제를 줄일 수 있을 것임

○ 빅테크 등 AI 개발사들은 AI로 인한 긍정적인 효과만을 부각시키는 경향이 있기 때문에, 각국 의 정부는 AI의 한계가 무엇인지를 명확히 인지하여 적용될 수 있는 범위를 제한하여야 함

• 빅테크를 비롯하여 AI 등 기술을 활용하여 대규모 서비스를 제공하는 회사들은 기술을 항상 사회에 유익한 방향으로 적용하지 않음이 이미 오랜 시간 입증되어 왔음
  - 예를 들어 메타는 페이스북 사용자가 더 오랜 시간 페이스북을 활용하도록 알고리즘을 조작하는 등 자사 이익만을 위한 행태를 일삼은 바 있음
• 각국 정부는 AI를 적용해도 되는 영역과 그렇지 않은 영역을 분명하게 구분하여야 하며, 이 를 위해 관련 규제를 시급히 마련하여야 함
  - 빠르게 발전하는 기술에 비해 개개인과 사회는 발전에 적응하는데 오랜 시간이 소요됨
  - AI 기술에 익숙한 전문가들은 AI의 장점과 한계에 대해 보다 더 구체적인 지식을 보유 하고 있으므로, 규제 수립 과정에서 반드시 AI 전문가들과의 협업이 필요함