인간의 마음① 알고리즘 회피

○ 의료나 금융처럼 리스크가 크고 개인적인 영역일수록, 고객은 AI보다 사람을 더 믿고 의지하는 경향을 보임

• 글로벌 컨설팅 회사(PwC)의 설문조사 결과, AI 기술이 인간 전문가를 대체할 가능성이 낮은 영역으로 ‘금융 거래 실행’(28%)과 ‘주식 추천 및 기타 투자 자문’(27%)이 꼽힘³

• 기술의 고도화가 곧 고객의 신뢰 증대로 이어지지 않는 이유는 ‘알고리즘 회피’라는 심리적 기제가 작용하기 때문
  - 알고리즘 회피는 AI가 인간보다 우수한 예측 성과를 냄에도 불구하고, 알고리즘에 대한 부정적인 인식이나 경험으로 인해 AI의 조언이나 권고를 거부하는 경향을 의미
  

○ (원인) 알고리즘 회피는 알고리즘의 블랙박스 특성과 인간의 완벽주의 편향 때문에 발생

• 블랙박스 특성: AI 모델의 작동 방식을 관찰하거나 이해하기 어렵다는 점은 예측 가능성을 낮추고 심리적 불안감을 높여 사용자가 알고리즘을 회피하게 만듦

• 완벽주의 편향: AI는 완벽해야 한다는 높은 기대로 인해 작은 오류에도 근본적인 설계 결함으로 간주하며 신뢰하지 않는 반면, 인간 전문가의 실수는 학습 과정으로 이해⁴
  - ‘신뢰 가속의 역설’에 따르면, 초기의 알고리즘 선호가 AI의 완벽성에 대한 기대를 높여 오류 발생 시 급격한 신뢰 저하를 초래⁵

○ (방안) 기술적 완성도 제고와 함께 ‘블랙박스 불안을 완화하는 설계’ 및 ‘신속한 신뢰 회복 프로세스’를 정립

• 알고리즘의 투명성 제고 및 고객 참여 설계
  - 미국 로보어드바이저 플랫폼 ‘웰스프런트(Wealthfront)’ 사례
  △ AI 기반 맞춤형 투자 포트폴리오 추천 시 고객이 AI의 의사결정 방식을 이해할 수 있도록 구체적인 추천 사유를 제시
  △ 변수(위험 성향·투자 기간 등)를 고객이 직접 조정할 수 있는 사용자 인터페이스(UI)를 구현
  
  - 음원 스트리밍 플랫폼 ‘스포티파이(Spotify)’ 사례
  △ 고객의 데이터가 구체적으로 어떻게 수집되고 사용되는지 투명하게 안내하는 ‘프라이버시센터’를 운영
  △ 고객이 자신의 청취 기록을 AI 알고리즘에 반영하지 않도록 선택할 수 있는 기능(취향 프로필에서 제외)도 제공⁶

• 알고리즘이 제시한 결과에 인간 전문가의 보증(검수와 책임)을 명시
  - 인간 전문가의 존재가 고객의 불안감을 완화하고 시스템 전체에 대한 신뢰를 제고하는 안전지대 역할을 함
  - 특히 시장 침체기와 같은 불확실성이 큰 시기에는 인간 전문가의 존재가 더욱 중요⁷
  - 웰스프런트는 금융 관련 자격증을 보유한 전문가로 구성된 지원팀이 고객이 제기한 기술적 문제를 분석하고 해소하는 서비스를 제공
• 예기치 못한 AI 오류에 대비한 신뢰 회복 프로세스를 정립
  - 오류 발생 시 AI 서비스에 대한 신뢰가 급격히 저하하지만, 오류 발생 원인, 시스템 한계, 향후 대응 방안 등을 투명하게 설명하면 이전보다 높은 신뢰를 회복 가능⁸