배달 앱에서 같은 우유를 주문하는데, 옆 사람보다 23% 더 비싼 가격을 내고 있다면 어떨까요? 이게 지금 미국에서 실제로 벌어지고 있는 일입니다.

The New Republic이 보도한 내용에 따르면, AI를 활용한 기업들이 소비자 데이터를 수집해 개인별로 다른 가격을 책정하고 있습니다. Vanderbilt Policy Accelerator와 Groundwork Collaborative의 조사 결과, 로열티 프로그램과 배달 앱이 소비자를 추적하고 AI로 심리 프로파일을 구축한 뒤, 이를 바탕으로 ‘당신이 지불할 수 있는 최대 금액’을 찾아내 가격을 책정한다는 겁니다.

출처: AI Isn’t Just Spying on You. It’s Tricking You Into Spending More. – The New Republic

맥도날드 앱이 수집하는 건 햄버거 주문 기록만이 아닙니다

맥도날드의 모노폴리 게임을 아시나요? 수십 년간 운영된 프로모션인데, 이제는 디지털로 바뀌었습니다. 문제는 경품을 받으려면 앱을 써야 하고, 앱을 쓰려면 엄청난 개인정보를 내줘야 한다는 거죠.

맥도날드의 약 1만 단어 분량 개인정보 정책에 따르면, 회사는 고객의 정확한 위치, 브라우징 기록, 앱 사용 패턴, 심지어 소셜 미디어 활동까지 추적할 수 있습니다. 이 데이터로 AI 모델을 훈련시키고, 고객의 “선호도, 성격, 심리적 경향, 성향, 행동, 태도, 지능, 능력, 적성”을 예측하는 심리 프로파일을 만듭니다.

맥도날드는 2027년까지 2억 5천만 명의 활성 로열티 사용자를 목표로 하고 있습니다. Vanderbilt 보고서는 이를 “국가 정보기관에 맞먹는 규모”라고 표현했습니다. 빅맥 할인 쿠폰 몇 장 받으려다 당신의 심리 데이터를 넘기는 셈이죠.

같은 우유가 사람마다 다른 가격

더 심각한 건 Instacart 같은 배달 앱입니다. Groundwork Collaborative, Consumer Reports, More Perfect Union이 공동으로 진행한 조사에서 4개 도시 437명의 쇼퍼를 동원해 동시에 같은 상품을 장바구니에 담았습니다. 결과는 충격적이었어요.

거의 4분의 3에 달하는 상품이 사람마다 다른 가격으로 표시됐고, 같은 상품의 가격 차이가 최대 23%에 달했습니다. 조사팀은 이런 가격 차이가 일부 고객에게 연간 최대 1,200달러(약 170만 원)의 추가 비용을 발생시킬 수 있다고 추정했습니다.

이게 바로 AI가 가능하게 한 ‘동적 가격 책정(Dynamic Pricing)’입니다. 항공사가 수요에 따라 티켓 가격을 바꾸는 건 익숙하죠. 하지만 AI는 이걸 완전히 다른 차원으로 끌어올렸습니다. 당신의 위치 데이터, IP 주소, 과거 구매 이력을 분석해서 “이 사람은 얼마까지 낼까?”를 실시간으로 계산하는 겁니다.

문제는 대부분의 소비자가 이 사실을 모른다는 거예요. 기업들이 숨기려 하고, 소비자는 선택지가 별로 없습니다. 바쁜 가정에서 배달 앱은 편의성 때문에 필수가 됐는데, 그 대가로 주머니가 털리고 있는 셈이죠.

로열티 프로그램이 감시법을 우회하는 방법

왜 이런 일이 가능할까요? 로열티 프로그램의 법적 허점 때문입니다. 소비자가 “자발적으로” 가입하고 혜택을 받는 구조이기 때문에, 많은 주 및 연방 감시 관련 법규가 적용되지 않습니다. 기업들은 이 틈을 적극 활용하고 있죠.

텍사스 민주당 하원의원 Greg Casar는 기업이 AI로 가격과 임금을 책정하는 방식을 규제하는 법안을 발의했지만, 공화당이 장악한 의회에서 통과될 가능성은 낮습니다. 오히려 트럼프 대통령은 이달 행정명령을 통해 “번거로운” AI 규제를 도입하는 주들에 대해 연방 자금 지원을 중단하겠다고 위협했습니다.

편의성과 공정성 사이에서

미국인의 절반이 AI에 대해 흥분보다는 우려를 느끼고, 61%가 AI 사용에 대한 더 많은 통제권을 원한다고 합니다. 하지만 AI 거품은 계속 부풀어 오르고, 소수의 빅테크 기업만 배를 불리는 중이죠.

한국도 예외는 아닙니다. 배달의민족, 쿠팡이츠 같은 플랫폼들도 비슷한 기술을 활용할 수 있는 환경입니다. 식료품 예산을 세우려 해도 이번 주 우유 값이 얼마일지 알 수 없다면, 그건 단순한 불편함이 아니라 affordability crisis입니다.

The New Republic 기사는 “AI 버블이 터지면 미국인들의 은퇴 자금이 폭락할 것”이라며, “하지만 그들이 누구를 비난할까? 현명한 미래 정책은 오늘 올바른 악당을 지목하는 데 달려 있다”고 경고합니다.

할인 쿠폰 하나 받으려다 당신의 모든 것을 내주고, 거기다 더 비싼 가격까지 치르는 아이러니. AI 시대의 소비자로 산다는 건 이런 의미일지도 모릅니다.

참고자료:

• The Loyalty Trap – Vanderbilt Policy Accelerator
• Instacart Investigation – Groundwork Collaborative