AI 워싱 사례

홈 경제 경제 심층분석

너도나도 AI? 말로만 AI 외치는 'AI 워싱' 주의보 2화

시리즈 총 4화

2024.08.19

읽는시간 4분

○ [아마존고] 무인 매장 아마존고(Amazon Go)의 ‘저스트 워크 아웃(Just Walk Out)’은 고객 퇴점 시 자동으로 결제가 청구되는 시스템으로 알려졌으나, 사실은 인도 지사 직원들이 수동으로 검토하는 것으로 밝혀짐³

매장 내 개별 제품에 센서나 칩을 부착하지 않고, 천장에 달린 센서가 실시간으로 고객과 제품을 추적하는 딥러닝 기술을 적용했다고 밝혔으나, 시스템의 상당 부분이 1 천여 명의 인도 지사 직원이 각 매장 카메라를 통해 수동으로 체크하는 방식으로 운영된다는 사실이 드러나면서 AI 워싱 논란이 제기됨

- 아마존고는 인간이 결제 청구 과정에 관여한다는 사실은 부인하지 않았지만, 직원들이 ‘저스트 워크 아웃’ 시스템을 개선하기 위해 AI가 생성한 실제 데이터에 주석을 달 뿐이며 전체 운영에 관여하는 것은 아니라고 주장⁴

아마존고 구조도

무인매장인 '아마존고'의 구조도를 나타내는 그림이다.

자료: 위키피디아

아마존고 외부 전경

'아마존고'의 외부 모습을 찍은 사진이다.

자료: 위키피디아

○ [준코] 채용 스타트업 준코(Joonko)는 AI를 기반으로 기업에 적합한 지원자를 추천한다는 허위 정보를 유포해 투자 자금을 유치했다는 이유로 미국 증권거래위원회(SEC)와 법무부로부터 기소됨

증권거래위원회는 지난 6 월 AI 를 기반으로 지원자를 선발 [그림 3] 준코 홍보 이미지한다고 속이고 고객 정보와 지원자 수, 기업 수익에 관한 허위 및 오해의 소지가 있는 진술을 하여 최소 2천 100만 달러의 투자를 유치한 혐의로 AI 기반 채용 스타트업 준코의 CEO 이자 창업자인 일릿 라즈(llit Raz)를 기소

- 준코는 AI를 사용하여 기업이 다양성, 형평성, 포용성이 존중되는 인력 조직을 구축할 수 있도록 다양한 지원자를 선발하는 데 도움을 준다고 주장했으나 조사 결과 거짓으로 밝혀짐

- 라즈는 투자 유치 시 준코가 《포천(Fortune)》 500대 기업을 포함하여 100개 이상의 고객사를 보유하고 있으며, 100만 달러 이상의 수익을 올렸을 뿐 아니라 10만 명 이상의 활성 구직자와 협력하고 있다는 등 경영 성과에 대해서도 허위 정보를 제공

- 라즈의 주장에 의심을 품는 투자자에게 허위 정보 유포 사실을 은폐하기 위해 위조된은행 거래 내역서와 계약서도 제공

준코 홍보 이미지

채용 스타트업 '준코'의 홍보 이미지이다.

자료: 준코 링크드인 계정

○ [델피아 및 글로벌프레딕션스] 미국 증권거래위원회는 AI 사용 범위에 대해 허위 및 오해의 소지가있는 진술을 한 혐의로 투자자문사 델피아(Delphia)와 글로벌프레딕션스(Global Predictions)를 기소. 양사는 제기된 혐의를 해결하고 각각 22만 5천 달러와 17만 5천 달러의 벌금을 지불하는 선에서 합의

[델피아] AI를 활용하여 어떤 기업과 트렌드가 크게 성장할 것인지 예측하여 고객이 선제적으로 투자할 수 있도록 정보를 제공했다고 주장했지만, 증권거래위원회는 델피아가 실제로는 AI 및 머신러닝 기술을 갖추지 않았다고 판단

- 델피아는 등록 투자자문사가 중요 사실에 대한 허위 진술이 포함된 광고를 유포하는 것을 금지한 마케팅 규칙을 위반한 혐의로 추가 기소됨
[글로벌프레딕션스] 홈페이지, 소셜미디어, 이메일에서 자신들이 최초의 AI 금융 자문사로 전문가 수준의 AI 기반 예측(Expert AI-driven Forecasts)을 제공한다고 주장했지만, 이에 대한 근거를 제시하지 못했고 실제로도 AI 기술을 사용하지 않음

- 홈페이지와 유튜브 채널에 실제 고객 데이터가 아닌 가상의 성과 데이터를 공개하면서 이 사실을 명시하지 않아 증권거래위원회 규정을 위반. 또한 AI 기반 예측 시스템의 우수성을 홍보했지만 실제로는 AI를 사용하지 않은 것으로 드러남

- 이러한 규정 위반에 대한 시정 조치로 마케팅 및 교육 자료 검토를 위한 규정 준수 컨설턴트를 고용하기로 증권거래위원회와 합의

델피아 홍보 이미지

'델피아 홍보' 이미지이다.

자료: 델피아 홈페이지

글로벌프레딕션스 홍보 이미지

'글로벌프레딕션스' 홈페이지에 있는 홍보 이미지이다.

자료: 글로벌프레딕션스 홈페이지

○ [오토메이터스 AI] 오토메이터스 AI(Automators AI)는 AI 기술을 활용해 온라인 스토어의 판매량을 자동으로 증가시킬 수 있다는 허위 정보를 유포하여 투자를 유치한 혐의로 연방거래위원회(FTC)에 의해 기소됨⁵

아마존이나 월마트와 같은 플랫폼에서 운영되는 온라인 스토어에 입점한 사업자들에게 자신들의 AI 기술을 활용하면 매월 4 천 달러에서 6 천 달러의 순이익을 얻고, 8 개월 후 100% 투자수익률을 달성할 수 있다고 홍보하여 2 천 200 만 달러의 투자를 유치했지만 허위 정보로 드러남

- 그들의 주장과는 달리 실제로는 AI 기술을 활용하지 않았고, 대부분의 고객이 수익은커녕 투자금마저 회수하지 못한 것으로 드러남. 이에 연방법원은 회사 운영을 중단시키고, 관련자들에게 영구적인 사업 기회 박탈과 2천200만 달러 배상을 명령

○ [오랄비] P&G의 구강 관리 브랜드 오랄비(Oral-B)는 고가의 전동칫솔을 판매하면서 AI가 치아 위치와 밝기 등을 파악해 이가 잘 닦였는지 확인할 수 있다고 광고. 그러나 《워싱턴포스트》는 “이 칫솔에 AI 기능이 정확히 어떻게 적용되는지 물었지만 회사는 대답하지 못했다”고 보도⁶

오랄비는 해당 칫솔이 AI 기술로 사용자의 칫솔질 습관을 실시간 분석하여 맞춤형 피드백을 제공한다고 주장했으나, 소비자와 전문가들은 이러한 기능이 얼마나 효과적인지에 대해 의문을 제기

- 일부 사용자는 칫솔이 제공하는 피드백이 개인화되었다고 보기 어렵거나, 예상보다 단순하다며 불만을 표시

오랄비 iO시리즈 홍보문구

'인공지능'을 탑재한 칫솔임을 강조하고 있는 '오랄비'의 광고 내용이다.

자료: 오랄비 스마트스토어

○ [코카콜라] 코카콜라는 AI를 사용하여 새로운 음료 [그림 7] 코카콜라 Y3000를 만들었다고 홍보했지만 AI 워싱임이 드러나 업계의 비난을 받음

3000 년대를 상상하며 만들었다고 홍보한 코카콜라 Y3000 은 AI 와 공동으로 제품을 개발했다고 밝혔지만, AI 가 개발 과정에서 어떻게 관여했는지에 대해서는 설명하지 않음

코카콜라 Y3000

3000년대를 상상하며 만들었다고 '홍보'한 '코카콜라' Y3000의 광고 내용이다.

자료: 코카콜라 홈페이지

³ Alex Bitter, Apr. 4, 2024, “Amazon’s just walk out actually uses 1,000 people in India”, Business Insider
⁴ Emma Roth, Apr. 18, 2024, “Amazon insists Just Walk Out isn’t secretly run by workers watching you shop”, The Verge
⁵ 2023년 8월 로만 크레스토(Roman Cresto), 존 크레스토(John Cresto), 앤드루 채프먼(Andrew Chapman)은 오토메이터스 AI를 포함해 여러 회사를 운영하면서 아마존 및 월마트의 이커머스에 AI를 적용하면 불로소득(Passive income)을 얻을 수 있다고 홍보하며 투자자를 유치했으나 AI 기술이 사용되지 않은 것으로 드러남(Federal Trade Commission, Feb. 27, 2024, “FTC Action Leads to Ban for Owners of Automators AI E-Commerce Money-Making Scheme”)
⁶ Shira Ovide, Apr. 5, 2024, “This $400 toothbrush is peak AI mania”, The Washington Post

#AI 워싱 #아마존고 #준코 #델피아 #오토메이터스 AI

더 많은 콘텐츠가 궁금하신가요? KB경영연구소 홈페이지에서 콘텐츠 더 보기

송원호

KB경영연구소

총 4화

너도나도 AI? 말로만 AI 외치는 'AI워싱' 주의보

AI 워싱을 피하려면?

2024.08.19 송원호

현재글

2024.08.19 송원호

AI 워싱의 주요 특징과 부작용

2024.08.19 송원호

[미리보기] 너도나도 AI? 말로만 AI 외치는 'AI 워싱' 주의보

2024.08.19 송원호

더 알고 싶을
내용을 추천해요