무엇이 대체되고, 무엇이 남는가

○ [루틴 기반 인지 업무] 정보 처리, 문서 작성, 데이터 분석, 코딩, 번역 등 반복성과 규칙성이 높은 정형화된 업무가 AI에 의해 빠르게 대체되고 있음

○ [입문직의 역설(Entry-level Paradox)] 기존에는 주니어급 인력이 담당하며 역량을 축적하던 자료 정리·초안 작성·기본 분석 등 ‘수업형 업무’를 AI가 대체하면서, 초기 학습 및 경험 축적의 경로가 사라지고 있음

• 반복적인 업무를 처리하면서 경험을 축적하고 숙련자로 성장하는 전통적 경력 사다리가 사라지는 구조적 변화가 발생하고 있음. 이는 인력 성장 경로와 직무 진입 구조 전반의 재편 가능성을 시사

○ [금융업 현황] AI 도입에 따른 업무 수행 시간 단축 및 생산성 개선 효과가 금융업에서도 확인됨

• 골드만삭스는 AI 도입 이후 투자자 대상 투자제안서(Pitch Book)2 작성 시간을 약 50% 단축. 모건스탠리는 AI를 활용해 리서치, 회의록 정리, 자료 검색 등 문서 업무를 자동화하면서 금융 자문가의 업무 시간을 주당 약 15시간 절감

○ [맥락 해석 및 가치 판단 업무] AI는 ‘업무 자동화 가능성’ 또는 ‘인지적 노출 수준’에 따라 한계 영역이 구분됨. ▲맥락적 의존성 ▲도적적 책임과 윤리적 판단 ▲감정적 진정성과 사회적 상호작용 ▲창의적 비약³ 등 상황적 맥락 해석과 가치 판단이 요구되는 영역은 AI가 대체하기 어려움

• AI는 정답은 생성 가능하지만, 왜 정답인지 해석·판단하는 능력은 아직까지 부족해 인간의 도움이 필요

○ [조건부 우위] 인간과 AI의 결합은 인간 또는 AI의 단독 수행을 대체하기보다, 상호 보완적 역할을 수행할 때 가장 높은 성과를 창출

• 인간과 AI의 결합은 단독 수행보다 높은 성과를 창출할 수 있으나, 모든 업무에서 일관되게 우월한 것은 아니며 업무 특성에 따라 효과가 다름(Vaccaro, Almaatouq, and Malone, 2024)
  - 특히 창의적 문제 해결, 콘텐츠 생성, 정보 종합과 같이 인간의 맥락 이해 능력과 AI의 정보 처리 능력의 결합이 요구되는 업무에서는 협업 효과가 크게 나타난 반면, 정형화된 판단이나 단순 의사결정 업무에서는 AI 또는 인간 단독 수행이 더 높은 성과를 보이기도 함

○ [자동화 편향(Automation Bias)⁵ 의 함정] AI 활용이 항상 성과를 향상시키는 것은 아니며, 자동화 편향에 따른 판단 왜곡이 일어나기도 함

• 인간-AI 협업의 핵심은 AI 활용도를 높이는 것이 아니라 AI가 제시한 정답은 수용하고 오류는 식별하며 ‘적절한 신뢰’를 형성하는 데 있음(마이크로소프트, 링크드인, 2024)
  - 생성형 AI에 대한 과잉 의존(Over-reliance)과 과소 의존(Under-reliance) 모두 협업 성과를 저해. 특히 AI 작업 결과를 검증 없이 그대로 수용하는 경우 인간과 AI의 결합 성과가 감소
• 설명 가능한 AI(XAI)가 제공되더라도 사용자가 AI 작업 결과를 충분히 검증하지 않는 경우가 많으며, 설명 기능 자체만으로는 인간과 AI의 상호 보완적 효과가 향상되지 않음(Fok, 2024)
  - AI 작업 결과에 대한 설명을 제공하는 것보다 사용자가 독립적인 판단 기능을 유지하며 AI 작업 결과를 검증하는 과정이 협업 성과를 결정하는 핵심 요인
  

○ [신뢰 보정(Calibrated Trust) 기반 협업 설계] 인간-AI 협업의 핵심은 단순한 활용 여부 또는 맹신이나 배제가 아니라, 상황과 위험 수준에 따라 신뢰 수준을 어떻게 조정할 것인가에 달려 있으며, 이를 위한 신뢰 보정 체계 구축이 필수적임

• 경제협력개발기구(OECD)는 인간·컴퓨터 상호작용(HCI) 연구에서 AI의 작업 결과를 무조건 수용하거나 거부하기보다, 상황별로 신뢰 수준을 조정하고 인간의 검증·판단 기능을 결합하는 구조가 가장 높은 성과를 창출한다고 제시
• 특히 금융·법률·의료와 같이 전문적 판단이 요구되는 분야에서는 AI를 ‘조언자’가 아닌 ‘권위자’로 받아들이는 ‘인지적 항복(Cognitive Surrender)’의 위험성을 제기