금감원, 금융분야 AI 위험관리 프레임워크 도입

1분기 중 AI 가이드라인 시행 예정

(서울=연합인포맥스) 윤슬기 기자 = 금융감독원이 금융권의 인공지능(AI) 활용 확산에 따른 새로운 위험에 대응하기 위해 '금융분야 AI 위험관리 프레임워크(AI RMF)'를 도입한다.

기술 진보를 넘어 산업·사회 전반의 패러다임 전환을 이끄는 AI가 금융시장에 빠르게 확산되는 가운데 금융안정과 소비자 보호를 위한 관리체계를 선제적으로 구축하겠다는 취지다.

금감원은 이 같은 내용을 담은 'AI 위험관리 프레임워크'를 도입한다고 15일 밝혔다.

최근 금융권은 AI를 활용한 대고객 서비스와 내부 업무 혁신을 잇따라 추진하고 있다.

금융당국도 망분리 규제 합리화, 데이터·인프라 제공, 각종 가이드라인 마련 등을 통해 금융권의 AI 도입을 지원해왔다.

다만 AI의 복잡성과 불투명성, 데이터 의존성에 따른 새로운 유형의 위험이 부각되면서 금융소비자 권익 침해와 금융안정 훼손 우려도 커지고 있다.

특히 금융은 실시간 거래가 이뤄지는 특성상 AI 오류가 빠르고 광범위하게 확산돼 시스템 리스크로 이어질 가능성이 높다는 점이 지적돼 왔다.

실제로 금감원이 지난해 4월 은행·카드사·증권사·보험사 등 118개 금융회사를 전수 조사한 결과, AI 거버넌스와 위험관리 체계는 전반적으로 미흡한 것으로 나타났다.

AI 관련 의사결정기구를 설치한 곳은 은행 5곳(25%), 보험사 4곳(7.5%), 증권사 1곳(2.7%)에 불과했고, 약 85%의 금융회사는 AI 윤리원칙이나 위험관리 기준조차 마련하지 못한 상태였다.

감독당국이 제시한 AI 가이드라인을 실제 적용한 비율도 약 60% 수준에 그쳤다.

이에 따라 금감원은 금융권 특수성을 반영한 자율적 지침 형태의 AI RMF를 마련해 금융회사의 AI 거버넌스와 위험관리 체계를 정비하기로 했다.

AI RMF는 법적 강제력이 없는 가이드라인으로, 각 회사의 규모와 여건에 맞춰 선택적으로 적용할 수 있도록 설계됐다.

프레임워크의 핵심은 ▲AI 거버넌스 구축 ▲AI 위험평가 체계 마련 ▲AI 위험통제 강화다.

우선 금융회사는 AI 윤리위원회나 AI 위험관리위원회 등 의사결정기구를 설치해 AI 도입과 활용에 적극 관여하도록 권고된다.

특히 최고경영자(CEO)가 AI 관련 사업계획과 위험을 명확히 인식할 수 있도록 정기 보고 체계를 갖추도록 했다.

또 AI 개발·도입 조직과 독립된 위험관리 전담 조직을 두고 AI 위험의 인식·측정·평가와 함께 관련 법규 준수 여부를 관리·감독하도록 했다.

이와 함께 AI 윤리기준을 바탕으로 위험관리 규정과 업무 매뉴얼을 정비하고 최종 의사결정 책임을 임직원이 지도록 내규화하는 방안도 포함됐다.

위험평가 단계에서는 '금융 AI 7대 원칙'을 토대로 정량적 평가체계를 구축하고 AI기본법상 고영향 AI는 위험점수와 관계없이 고위험 서비스로 분류해 관리하도록 했다.

위험통제 측면에서는 평가 결과에 따라 차등화된 관리체계를 적용하고 금융안정이나 소비자 권익 침해 우려가 큰 '초고위험 AI'는 의사결정기구를 통해 출시 여부를 재검토하도록 했다.

금감원은 업권별 협회를 통해 AI RMF(안)을 배포하고 설명회와 간담회를 거쳐 의견을 수렴한 뒤, 올해 1분기 중 최종안을 확정·시행할 계획이다.

이후 모범사례 전파와 도입 회사 실태점검을 통해 AI 거버넌스와 위험관리 프로세스가 금융회사 내부통제 체계에 안착하도록 지원한다는 방침이다.

금감원 관계자는 "금융권의 AI 활용이 빠르게 확대되는 만큼 혁신을 저해하지 않으면서도 금융소비자 보호와 금융안정을 함께 달성할 수 있는 균형 잡힌 관리체계가 필요하다"며 "AI RMF가 금융회사의 자율적 위험관리 수준을 한 단계 끌어올리는 기준점이 될 것"이라고 말했다.

sgyoon@yna.co.kr