[시사금융용어] AI 레드티밍(AI Red Teaming)
26.09.30.
읽는시간 0분
◆AI 레드티밍(AI Red Teaming)은 인공지능(AI) 모델의 신뢰성, 안전성을 확보하기 위해 해커 관점의 공격을 통해 취약점을 발굴하고 대응 적정성을 점검하는 모의해킹 기법이다.
공격자의 관점에서 AI 시스템의 취약점과 예상치 못한 위험을 찾아내는 보안 검증 활동으로, 서버·네트워크 등 기술적 취약점뿐 아니라 애플리케이션(앱), AI 에이전트의 행동 등 AI 시스템 전반을 점검 대상으로 한다.
과학기술정보통신부와 한국인터넷진흥원(KISA)이 2026년 7월 'AI 보안 레드티밍 가이드'를 발간하고 준비·이행·보고 단계에 따른 체계적인 점검 절차를 제시했다.
최근 금융권에서도 AI 활용이 확대되면서 기술 발전에 따라 새롭게 등장하는 보안 위협에 대한 대응 중요성이 커지고 있다.
이에 금융감독원은 올해 상반기 금융보안원과 함께 시행하는 금융권 블라인드 모의해킹 훈련에 AI 레드티밍을 처음 도입했다.
이를 통해 금융회사가 고객에게 생성형 AI 서비스를 제공하는 과정에서 발생할 수 있는 새로운 유형의 보안 위협에 대한 대응 역량을 갖췄는지 점검했다. (금융부 허동규 기자)
(서울=연합인포맥스)
저작권자 © 연합인포맥스, 무단전재 및 재배포 금지, AI 학습 및 활용 금지
허동규
