○ AI 기술이 지속적으로 발전함에 따라 AI 워싱에 대한 규제와 소비자 보호의 중요성이 더욱 강조될 것이며, 기업은 투명한 AI 사용을 통해 소비자와 투자자의 신뢰를 확보함으로써 진정한 혁신을 도모할 필요
AI 워싱을 피하려면?
너도나도 AI? 말로만 AI 외치는 'AI 워싱' 주의보 3화
시리즈 총 4화
2024.08.19
읽는시간 4분
정부 및 기업
○ [규제 강화] 정부는 AI 워싱에 대한 규제를 강화함으로써 기업이 AI 사용에 대한 투명성을 높이고 허위 주장을 남발하지 않도록 유도할 필요
- 미국 증권거래위원회와 법무부, 연방거래위원회는 AI 워싱 기업을 대상으로 기소하거나 거액의 벌금을 부과하는 등의 조치를 취함으로써 AI 와 관련된 허위 또는 오해의 소지가 있는 주장을 할 경우 단속 대상이 될 수 있다는 경고 메시지를 전달
- 증권거래위원회는 지난해 말 JP모건체이스 등 대형 금융사의 AI 사용 실태에 대한 전수 조사에 착수. 고객 포트폴리오 관리에 활용되는 AI 알고리즘 모델 및 관련 마케팅 서류, 데이터에 대한 제3자 제공 현황, 컴플라이언스 교육 사항 등이 요청 내역에 포함됨⁷
- 연방거래위원회는 기업이 “AI 제품의 기능을 과장하고 있지 않나요? AI 제품이 비AI 제품보다 더 나은 것처럼 홍보하고 있나요? 제품이 실제로 AI를 사용하고 있나요?” 등의 질문을 통해 자기 검열을 강화할 것을 권고
- 영국 광고표준위원회(Advertising Standards Authority)는 AI 워싱에 대한 규칙과 법률을 제정. 여기에는 AI 와 관련하여 실질적으로 오해의 소지가 있는 진술을 금지하는 내용이 포함됨
○ [투명한 기술 사용 및 정보 제공] 기업은 실제 사용한 AI 기술과 일치하는 투명한 정보를 제공하고, 규제 기관 등의 감사나 외부 의혹에 대비하여 기록하고 문서화할 필요
- AI 기술을 홍보할 때 허위 주장을 피하고 관련 정보를 투명하게 제공함으로써 소비자와 투자자에게 신뢰를 얻어야 함
- 추가적으로 기업 내부의 각 부서가 협력하여 AI 기술 사용에 대한 정확한 정보를 공유해야 하며, AI 기술이 실제로 어떻게 사용되는지에 대한 상세한 기록을 남기고 정기적으로 업데이트를 해야 함
○ [소비자 교육] 정부나 기업은 소비자가 AI 기술에 대한 이해도를 높이고 AI와 관련된 과장된 주장에 현혹되지 않도록 소비자 대상 교육 프로그램을 운영할 필요
- 교육 프로그램 등을 제공하여 소비자가 AI 기술의 한계와 실제 활용 가능성에 대해 명확하게 이해함으로써 과대 광고 및 허위 투자 유치 등에 현혹되지 않는 역량을 함양시키는 것이 중요
소비자 입장
○ [비판적 태도 갖기] 소비자와 투자자는 기업의 AI 활용 주장에 대해 비판적 태도를 가져야 함. 사용된 AI 모델-알고리즘과 같은 기술적인 부분에 대한 구체적 언급이 있는지 확인하고, 기업이 관련 데이터와 알고리즘 유형에 대한 투명성을 유지하는지 점검할 필요
- 소비자와 투자자가 주체적으로 정보를 검토하고 검증하는 태도를 갖는 것이 중요. 기업이 AI 기술에 대해 단순히 ‘혁신적’ 또는 ‘지능적’이라는 단어를 남발하는 것이 아닌지 비판적인 시각으로 바라볼 필요
○ [투명한 설명 요구하기] 소비자는 AI 작동 방식에 대한 투명한 설명을 요구하여 기업이 책임감을 갖고 기술의 실제 성능과 한계 등을 포함해 정확한 정보를 제공하도록 유도해야 함
- AI 시스템의 데이터 출처나 알고리즘 작동 방식, 정확성을 높이기 위해 어떤 조치를 취했는지 등에 대한 설명을 요구해야 함. 데이터와 알고리즘의 편향이나 AI 환각을 피하기 위한 해결책이 없는 경우 실제로 AI 를 사용하지 않았을 가능성이 존재
⁷ 김현수-신아형, 2023.12.12, “美 SEC ‘투자수익 과장하는 AI워싱 위험’… 월街 실태 전수조사”, 《동아일보》
송원호
KB경영연구소
총 4화
너도나도 AI? 말로만 AI 외치는 'AI워싱' 주의보
![[미리보기] 너도나도 AI? 말로만 AI 외치는 'AI 워싱' 주의보](/etc.clientlibs/tam-dcp-cms/clientlibs/site/resources/images/thumbnail/economy-01-pc.jpg)
금융용어사전
