[미리보기] AI는 모르는 인간의 마음

○ 오늘날 자율주행 기술은 핸들이 필요 없는 완전 자율주행 단계에 이르렀으나, 소비자의 86%는 여전히 핸들을 원하는 ‘핸들의 역설’을 낳고 있음

• 핸들의 역설’은 인공지능(AI) 기술이 데이터를 분석하고 패턴을 찾는 데 탁월하지만, 인간의 비합리적 선택 이면에 숨겨진 복잡한 정서와 의사결정 기제를 완벽히 이해하지 못함을 의미

○ 본 보고서는 AI 기술이 광범위하게 활용되는 금융 산업에서 ‘AI가 모르는 인간의 마음’이 어떻게 작용하는지 분석하고, 고객 서비스 제공 시 고려해야 할 시사점을 도출

○ 사람은 AI가 인간보다 우수한 예측 성과를 냄에도 불구하고, 알고리즘에 대한 부정적인 인식으로 인해 AI의 조언이나 권고를 거부하는 경향을 보임

• (원인①) 알고리즘의 블랙박스 특성: AI 모델의 내부 작동 방식을 관찰하거나 이해하기 어렵다는 점은 사용자가 알고리즘을 회피하게 만듦
• (원인②) 인간의 완벽주의 편향: AI는 완벽해야 한다는 높은 기대로 인해 작은 오류에도 시스템 전체에 대한 신뢰가 급격히 하락

○ 기술적 완성도 제고와 함께 ‘블랙박스 불안을 완화하는 설계’ 및 ‘신속한 신뢰 회복 프로세스’를 정립

• 알고리즘의 투명성 제고 및 고객 참여 설계
• 알고리즘이 제시한 결과에 인간 전문가의 보증(검수와 책임)을 명시
• 오류 발생 시 원인, 시스템 한계, 향후 대응 방안 등을 투명하게 설명

○ 금융 서비스에서 주체적 경험은 고객에게 안도감과 자기효능감을 주는 핵심 기제인 동시에 서비스에 대한 애착(심리적 소유감)을 형성하는 결정적 요소

• 자기효능감: 자신이 어떤 일을 성공적으로 수행할 수 있다는 기대와 신념으로, 스스로 원하는 결과를 달성할 수 있다는 자존감을 형성
• 심리적 소유감: 대상에 대해 내 것이라고 느끼는 심리적 상태로, 단순한 이용을 넘어 브랜드(서비스 대상)와 자신을 동일시하는 경향
• 자기효능감과 심리적 소유감의 강화는 고객 만족도를 제고하고 강한 로열티를 형성
  

○ 인간 중심 AI(Human Centered AI)* 철학을 바탕으로 ‘탐색적 사용자 인터페이스(UI)’와 ‘인간-AI 상호작용 모델’을 구축
* 인간이 주도권을 갖는 AI 설계로, 기술을 인간을 대체하기보다 인간의 능력을 확장하는 슈퍼 툴(tool)로 정의

• 탐색적 사용자 인터페이스 설계: 기술은 오류 방지 및 데이터 처리(시뮬레이션) 환경을 구축하고, 최종 결정권은 고객에게 부여
• 인간-AI 상호작용 모델: 투자 포트폴리오 의사결정을 AI에게 전적으로 위임(Set and forget)하기보다 고객이 직접 최종 의사결정과 리밸런싱을 수행

○ AI가 판단하기에 비합리적일지라도, 인간은 자신의 가치관과 감정에 충실한 선택에 가치를 두는 ‘감정적 합리성’을 추구

• 인간의 뇌는 정보를 처리하기 전 기분 좋은 선택이나 공감 같은 현재의 감정을 지표로 삼아 결론을 내리는 ‘감정 휴리스틱’에 의존하며, 이는 감정적 합리성 추구로 이어짐

○ 고객의 금융 여정에 ‘정서적 인터페이스 설계’ 및 ‘하이브리드 터치’를 제공

• 정서적 인터페이스: 고객의 디지털 경험을 인간화해 지능적이면서 공감 능력이 뛰어난 디지털 플랫폼을 설계
• 하이브리드 터치: 효율적인 기술과 진정성 있는 사람 개입의 조화를 통해 최적의 고객 경험 제공

○ 금융 기술이 상향 평준화되는 시대에 금융 서비스의 진정한 경쟁력은 기술의 ‘높이’가 아니라 인간 본성을 향한 이해와 포용의 ‘깊이’에서 결정됨

• 기술이 고객의 마음에 닿기 위해서는 금융 현장에 AI 기술을 도입할 때, 기술적 신뢰 구축, 주체성 회복, 감정 자본 축적을 위한 인간과 AI의 협업이 필요