똑똑한 AI 상담원: 인간과 AI의 협업

◼ 글로벌 기업들은 AI가 단순·반복 업무를 처리하고 인간은 복잡한 상호작용과 감정적 지원에 집중하는 협업 모델을 구축하여 고객 경험과 조직 효율성을 개선

○ (업무 분업과 효율성) AI가 단순·반복적인 업무를 처리하고 인간 상담원은 전략적이고 고부가 가치 업무에 집중할 수 있음

○ (고객 경험 개선) AI의 빠른 응답과 인간의 공감 능력이 결합되어 고객 만족도를 높이고 이탈률을 낮출 수 있음. 인간과 AI의 협업 모델은 30% 이상의 고객 만족도 향상을 가져오는 것으로 조사됨

○ (AI의 지속적 학습과 품질 향상) AI는 인간 상담원과의 상호작용을 통해 학습하여 더 정확한 정보를, 인간 상담원은 AI의 분석 결과를 참고하여 더 나은 서비스를 제공할 수 있음

○ (규제 준수와 위험 관리) 인간이 최종 결정을 내려 데이터 보호와 윤리적 문제를 관리하고, AI 도구의 중간 처리 과정을 점검하여 결과물의 신뢰도를 높일 수 있음

◼ (사례①) 통신 분야의 AI 기반 상담 서비스 – 보다폰(Vodafone)의 챗봇 ‘토비(TOBi)’

○ 유럽 최대 통신 기업 보다폰은 2017년 IBM의 AI 왓슨(Watson) 기반 챗봇 토비를 도입해 고객 상담을 자동화

• 초기 버전의 토비는 전화 응대량 감소를 핵심 기능으로 설계하여 고객 상담을 웹사이트 FAQ로 유도하는 방식으로 운영됨

• 이러한 접근 방식은 단순 문의에는 효과적이었지만, 고객 만족도가 낮고 고객이 인간 상담사와 연결하기 위해 답변을 우회하는 경우가 많음

○ 2024년 거대언어모델(LLM)을 활용해 생성형 AI 기반 슈퍼봇으로 토비를 업그레이드

• 이탈리아 데이터팀은 거대언어모델을 통해 통화 녹취 기록과 후속 질문을 실시간 분석해 고객 불만의 원인을 즉시 파악하고, AI가 모든 대화를 요약·분류해 청구 오류나 특정 지역 네트워크 문제를 즉시 발견할 수 있도록 개선

• 거대언어모델을 기반으로 대화 이해력이 향상되어 고객이 자연어로 질문하면 적절한 답변 제공이 가능한 신형 토비를 도입한 이탈리아 서비스는 1년 만에 고객 만족도가 50% 증가하고 기존 챗봇 이용 시 대비 순추천고객지수(NPS)가 20% 높아짐

○ 내부 직원용 AI 슈퍼에이전트(SuperAgent)로 상담원의 업무를 지원

• 슈퍼에이전트는 챗봇과 고객의 대화 내용을 요약해 상담원에게 전달하고, 회사의 지식 데이터베이스에서 적절한 정보를 찾아주는 역할을 함

○ 2025년 마이크로소프트 애저(Microsoft Azure)와 애저 오픈AI(Azure OpenAI) 등의 솔루션을 기반으로 슈퍼토비를 개발하여 AI가 답변 불가능한 질문은 즉시 인간 상담원에게 이관

• 포르투갈에서 도입한 후 예약 업무의 첫 연락 해결률이 45%p 증가하고 온라인 순추천고객 지수가 14점 상승

○ 현재 토비는 15개국 이상에서 도입되어 하루 약 100만 건의 대화를 처리하고 있음

• 기업의 핵심성과지표(KPI)를 고객 경험 중심으로 전환해 데이터 및 프롬프트 엔지니어팀을 구축하고, 만족도 향상을 위해 템플릿 대신 거대언어모델을 활용하고 있음

○ 보다폰의 토비는 초기 자동화 지향에서 고객 경험 중심의 AI과 인간 협업 전략으로 전환에 성공한 사례로 평가됨

◼ (사례②) 금융 분야의 AI 기반 상담 서비스 - 뱅크오브아메리카(BofA)의 가상 비서 ‘에리카(Erica)’

○ 뱅크오브아메리카는 2018년 자연어 처리 기술을 도입하여 고객 문의를 이해하고 잔액 확인·결제 일정 관리·구독 추적·간단한 상담 등을 제공하는 AI 금융 비서 에리카를 모바일 앱과 온라인 뱅킹에 도입

• 에리카는 2025년 2월 기준 누적 25억 건 이상의 고객 상호작용을 처리하고(하루 약 200만 건의 문의를 처리하는 규모) 2천만 명의 고객이 이용 중

○ 에리카 도입으로 고객센터의 일상적인 문의 업무가 크게 감소해 비용을 절감하고 상담 인력이 복잡한 문제 해결에 집중할 수 있게 됨

• 2018년 초기 보고에서 에리카의 일반적인 문의 해결 시간이 평균 44초 정도로 나타날 정도로 계좌 이체·거래 내역 검색 등 기본 작업은 빠르게 수행 가능

○ 에리카 서비스 중 AI가 거래 패턴을 분석하여 맞춤형 예산 전략과 저축 계획 등을 제안하는 개인화된 재무 조언 제공 기능이 인기

• 다만 세일즈포스의 2023년 <커넥티드 금융 서비스 보고서>에 따르면, 전체 고객 중 21%만이 개인화 서비스에 만족하는 것으로 나타나 향후 개선 여지가 있어 보임

○ 내부 직원용 AI ‘에리카포임플로이스 (Erica for Employees)’를 도입해 데이터 입력과 검색을 자동화하고 있으며, 향후 인간과 AI의 협력 모델을 확대할 계획

○ 뱅크오브아메리카의 에리카는 미국 은행권에서 가장 성공적인 AI 상담원으로 평가되지만, 데이터 프라이버시와 의사결정 투명성에 대한 우려가 존재

◼ (사례③) 법률 분야의 AI 기반 상담 서비스 – 법률 AI 스타트업 하비(Harvey)의 AI 도구 ‘하비’

○ 미국 법률 AI 스타트업 하비의 AI 도구 하비는 오픈AI의 GPT4를 기반으로 개발된 법률 특화 생성형 AI 플랫폼으로, 변호사들이 합법적 근거에 기반하여 문서를 신속하게 작성·검토할 수 있도록 지원

• 영국 로펌 앨런앤드오버리(Allen & Overy)는 2023년 2월 변호사 3,500여 명이 약 4만 개의 질문을 테스트한 결과, “하비가 여러 언어와 다양한 법률 분야에서 전례 없는 효율성과 지능을 제공했다”고 평가

• 하비는 계약 검토·조항 생성·판례 조사·소송 문서 초안 작성 등의 작업을 지원하며 다국어 기능을 통해 국제적인 거래에도 활용할 수 있음

○ 2024년 맞춤형 법률 모델·워크플로우 자동화⁸·가상 데이터룸⁹ 등이 탑재된 모델이 마이크로소프트 애저 마켓플레이스에 출시되어 중소 로펌도 이용 가능

• 글로벌 회계법인 프라이스워터하우스쿠퍼스(PwC)와 법무법인 애셔스트(Ashurst) 등도 하비와 협력하여 세무·인사·법률 업무에 특화된 모델을 개발하고 있으며, 애셔스트는 4천 명 이상의 변호사와 직원이 하비를 사용 중

○ 하비는 민감한 법률 정보 전송 시 보안·프라이버시 문제를 고려하여 최종 문서는 변호사가 검토해야 하는 한계가 존재

• 캐나다의 법률 기술 기업 클리오(Clio)는 AI가 법률 사무소 업무를 75%까지 자동화할 수 있지만, 하비는 베타 버전으로 챗GPT와 마찬가지로 잘못된 정보를 제공할 위험이 있다고 경고

○ 하비의 도입 사례는 법률 사무소에서 자료 조사 및 초안 작성은 AI가 빠르게 처리하고 최종 판단과 전략은 인간 변호사가 맡는 협업 모델의 성공 가능성을 보여주고, 윤리적·법적 책임과 AI 처리 결과 검증 체계 마련의 필요성을 시사

◼ (사례④) 의료 분야의 AI 기반 상담 사례 – 구글의 의료 AI 시스템 ‘g-AMIE(Guardrailled-AMIE)’

○ 구글 리서치(Google Research)와 딥마인드(DeepMind)는 거대언어모델을 활용해 의사의 진단 과정을 돕는 의료용 AI ‘가드레일을 갖춘 설명형 의료지능 탐색기(g-AMIE, guardrailed-Articulate Medical Intelligence Explorer)’를 개발

• 의료 상담을 위한 대형언어모델 기반 AI 시스템인 AMIE는 환자와의 대화를 통해 증상을 파악하고 진단·관리 계획을 제안

• 그러나 AI의 개별 환자에 대한 진단·치료 계획 제공은 규제 대상에 해당한다는 점에서 한계가 존재해, 구글은 2025년 의사 중심 감시 프레임워크를 적용한 g-AMIE를 새롭게 발표

○ g-AMIE는 대화 에이전트·가드레일 에이전트¹⁰·SOAP 노트¹¹ 생성 에이전트로 구성된 다중 에이전트 시스템으로, 환자와 대화하면서 병력·증상을 수집하고 가드레일 에이전트가 각 응답을 검증해 개인화된 의학적 조언을 제공하지 않도록 함

• 생성된 요약 정보는 SOAP 노트 형태의 진료 기록과 환자에게 보낼 메시지로 구성되며, 담당 의사가 웹 기반 시스템에서 이를 검토·수정한 후 환자에게 전달. 환자의 병력 수집과 의사결정 과정을 분리하여 의사가 원격으로 여러 사례를 감시할 수 있음

○ 구글은 60개 사례에 대한 가상 OSCE(Objective Structured Clinical Examination)¹²에서 g-AMIE와 가드레일을 적용한 미국의 전문 간호사(Nurse Practitioner, Physician Assistant), 의사를 비교

• g-AMIE는 환자의 병력 기록의 양이 풍부하고 정확성이 높으며, 생성된 SOAP 노트의 완벽성이 뛰어나고 읽기 쉽다는 평가를 받음

• g-AMIE의 환자에 대한 차별화된 진단과 관리 계획은 동일한 가드레일 환경에서 작업한 의사·전문간호사보다 적절하다고 평가됨

• 구글은 g-AMIE가 개인화된 조언을 삼가면서도 품질이 우수한 병력 기록을 제공하지만, SOAP 노트가 길어 감독자의 편집을 요하므로 실제 임상 환경에서는 추가 연구가 필요하다고 강조

○ 구글의 g-AMIE는 의료 AI가 질문과 기록 작성을 담당하고 의사가 최종 판단을 내리는 협력 모델의 가능성을 보여줌

• 환자에게 메시지가 즉시 제공되지 않고 의사의 감독과 편집 과정을 거치도록 설계되어 의료 현장의 AI 활용 지침을 마련하는 데 중요한 참고 사례가 될 수 있음

◼ 글로벌 기업들의 인간과 AI의 협업 사례들은 공통적으로 AI의 높은 완성도와 인간과의 체계적 협업 체계가 성공 여부를 결정한다는 점을 보여줌

○ AI는 속도와 효율성을 제공하고, 인간은 신뢰와 책임성을 보완하는 구조를 설계할 때 고객 경험과 조직 효율성이 동시에 개선할 수 있음

○ 금융회사를 비롯한 기업들은 단순히 AI 솔루션을 도입하는 단계를 넘어 AI와 인간의 역할 분담에 대한 전략적 판단이 선행되어야 함