금융硏 "AI 거버넌스는 자율적으로…금융당국, 원칙 중심 감독해야"

(서울=연합인포맥스) 윤슬기 기자 = 금융회사의 인공지능(AI) 활용을 활성화하면서도 금융안정을 확보하기 위해 금융당국이 세부 규제보다 핵심 원칙을 제시하는 '원칙 중심' AI 거버넌스를 구축해야 한다는 제언이 나왔다.

AI 개발·운영 과정의 책임자를 책무구조도로 명확히 하고, 금융규제 샌드박스를 활용해 새로운 AI 서비스의 안전성을 검증하는 등 감독체계도 정비해야 한다는 주장이다.

서정호 한국금융연구원 선임연구위원은 8일 '금융회사의 AI 거버넌스 구축을 위한 정책과제' 보고서를 통해 "감독당국은 AI 개발 및 활용과 관련된 핵심 원칙은 제시하되 금융회사가 각 AI 모델의 성격과 활용도를 감안해 스스로 적합한 거버넌스를 구현하도록 하는 것이 바람직하다"며 이같이 밝혔다.

서 선임연구위원은 "가이드라인은 어디까지나 자율성을 전제로 한 연성규율(soft regulation)이므로 단순히 이를 지키지 않았다는 이유만으로 제재해서는 안 된다"고 강조했다.

금융권 AI 규제가 지나치게 경직적으로 운영될 경우 오히려 혁신을 저해할 수 있다는 게 그의 지적이다.

AI 모델에 대한 사전 검증과 승인 절차가 복잡해질수록 AI 기반 서비스 출시가 늦어지고, 감독당국이 요구하는 체크리스트만 따르는 형식적인 내부통제 문화가 자리 잡을 가능성이 있다는 것이다.

내부 승인 절차를 우회해 외부 AI를 사용하는 '섀도우 AI(Shadow AI)'가 확산되면서 데이터 유출 위험이 커질 수 있다는 점도 부작용으로 꼽았다.

서 연구위원은 이런 부작용을 줄이기 위해 감독체계도 원칙 중심으로 운영해야 한다고 제안했다.

그는 "금융당국은 공정성, 투명성, 소비자 보호, 데이터 보안 등 핵심 원칙만 제시하고 세부적인 AI 거버넌스 설계는 금융회사 자율에 맡기는 것이 바람직하다"며 "특히 AI로 인한 모든 금융사고에 대해 사후적으로 책임자를 찾아 제재하는 '결과 편향(hindsight bias)'은 금융회사의 기술 도입을 위축시킬 수 있는 만큼 경계해야 한다"고 강조했다.

아울러 AI 시스템의 기획·도입·운영·리스크 관리 등 AI 생애주기의 단계별 최종 책임자를 책무구조도에 명확히 지정할 필요가 있다고 제언했다.

생성형 AI 활용이 급증하면서 중요 내부정보와 고객 데이터가 외부로 유출될 가능성이 커진 만큼 데이터 및 사이버보안을 AI 거버넌스의 최우선 과제로 관리해야 한다는 설명이다.

새로운 AI 서비스에 대해서는 금융규제 샌드박스를 적극 활용해야 한다고도 주장했다.

금융위원회가 추진 중인 'AI 기획형 샌드박스'를 금융권 공동 데이터 활용 인프라와 연계해 실제와 유사한 환경에서 AI 서비스를 시험하고, 특히 스스로 판단해 금융거래를 수행하는 에이전트 AI의 새로운 위험요인을 사전에 점검할 필요가 있다는 것이다.

서 선임연구위원은 "설명가능성(Explainability)과 투명성(Transparency) 등 AI 활용의 최소 요건은 감독규정 등을 통해 보다 구체화할 필요가 있다"면서도 "최신 AI 모델은 블랙박스 성격을 갖고 있어 설명가능성을 과도하게 요구하면 성능이 낮은 모델을 채택하거나 승인 절차가 불필요하게 지연될 수 있는 만큼 신중한 접근이 필요하다"고 덧붙였다.

sgyoon@yna.co.kr