어느 날 아침, 평소처럼 이메일을 보내려고 Microsoft Outlook을 열었더니 낯선 화면이 나타났습니다. Microsoft가 제 이메일 작성을 도와주겠다며 ‘Copilot’이라는 AI 동반자를 소개하고 있었습니다. 저는 이런 동반자를 요청한 적이 없었는데 말입니다.
이는 음악 비평가이자 문화 비평가로 유명한 테드 지오이아(Ted Gioia)가 최근 자신의 블로그 ‘The Honest Broker’에서 공유한 실제 경험담입니다. 이 사례는 현재 AI 기술이 어떻게 사용자들에게 도입되고 있는지를 보여주는 상징적인 사례라고 할 수 있습니다.
선택권 없는 AI 도입의 현실
지오이아의 경험은 많은 사용자들이 공감할 수 있는 이야기입니다. Microsoft는 최근 Office 365 구독자들에게 AI 기능을 번들로 제공하면서 월 구독료를 3달러 인상했습니다. 사용자들은 원하든 원하지 않든 AI 기능에 대한 비용을 지불해야 하는 상황에 놓였습니다.
Microsoft Outlook의 AI 이메일 작성 프롬프트 (출처: The Honest Broker)
더 놀라운 사실은 지오이아가 60회 제공되는 AI 크레딧을 한 번도 사용하지 않았다는 점입니다. 그는 AI 기능을 원하지 않았고, 실제로 사용하지도 않았지만 여전히 그 비용을 지불하고 있습니다. 이는 단순한 개인적 불만이 아니라 AI 기술 도입 과정에서 발생하는 구조적 문제를 드러내는 사례입니다.
8%만이 원하는 기술의 역설
AI 기술 도입에서 가장 주목할 만한 통계가 있습니다. 최근 조사에 따르면 미국 소비자 중 단 8%만이 AI 기능에 대해 추가 비용을 지불할 의향이 있다고 답했습니다. 이는 역사상 전례 없는 현상입니다.
전기, 라디오, 전화, 냉장고, 텔레비전, 인터넷 등 과거의 혁신적 기술들은 사람들이 적극적으로 원했고, 기꺼이 돈을 지불했으며, 실제로 그 혜택을 누렸습니다. 반면 AI는 정반대의 상황에 놓여 있습니다. 사람들은 AI를 불신하거나 심지어 혐오하는 경우가 많으며, 시간이 지날수록 이런 경향이 더욱 강해지고 있습니다.
또 다른 조사에서는 소비자들이 냉장고 구매 시 AI 기능이 포함된 모델보다 다른 모델을 선호한다는 결과가 나왔습니다. 월스트리트 저널은 이를 근거로 기업들에게 “제품에서 AI를 홍보하는 것을 조심하라”고 조언하기도 했습니다.
강제 번들링의 비즈니스 모델
그렇다면 왜 기업들은 소비자들이 원하지 않는 AI 기능을 계속 밀어붙이는 걸까요? 답은 간단합니다. 독립적으로 판매하면 실패할 것이 분명하기 때문입니다.
지오이아는 이를 음식점에서 화강암을 디저트로 파는 것에 비유합니다. 아무도 화강암을 사먹지 않을 것이지만, 인기 있는 음식점이 식사 가격에 1달러를 추가하고 모든 고객에게 화강암을 제공한다면 다음과 같이 주장할 수 있습니다:
- 모든 고객이 화강암 디저트를 받는다
- 모든 고객이 그 비용을 지불한다
- 맛있는 화강암 덕분에 사업이 더 수익성이 좋아졌다
이것이 바로 실리콘밸리의 AI 회계 방식입니다. 기존 필수 서비스에 AI를 번들로 묶어 판매함으로써 손실을 숨기고 AI가 수익을 창출하는 것처럼 보이게 만드는 것입니다.
구글과 메타의 유사한 전략
Microsoft만 이런 전략을 사용하는 것은 아닙니다. 구글은 검색 결과에 AI를 강제로 통합했으며, 사용자들은 이를 선택할 수 없습니다. 실제로 구글 지원 포럼에는 AI 기능을 비활성화했음에도 불구하고 여전히 AI 개요가 표시된다는 불만이 계속 제기되고 있습니다.
메타(Meta)는 더욱 공격적인 방식을 계획하고 있습니다. 페이스북, 인스타그램, 메신저, 왓츠앱 전반에 AI 기반 프로필을 배포하며, 사용자가 원하든 원하지 않든 AI 봇이 메시지를 보내도록 하는 시스템을 구축하고 있습니다.
이런 방식으로 도입되는 AI는 본질적으로 스팸과 다르지 않습니다. 원하지 않는 메시지를 강제로 받게 되고, 이를 거부할 선택권이 없다는 점에서 전통적인 스팸과 동일한 특성을 보입니다.
보이콧조차 불가능한 상황
AI 기술의 강제 도입이 더욱 심각한 이유는 이를 거부할 방법이 거의 없다는 점입니다. AI를 완전히 보이콧하려면 다음과 같은 것들을 모두 포기해야 합니다:
- 이메일 계정
- 구글 검색
- 워드프로세서 소프트웨어
- 엑셀, 파워포인트 등의 오피스 프로그램
- 아마존 및 기타 온라인 쇼핑몰
- 스포티파이 등의 음악 스트리밍 서비스
- 많은 기업의 고객 서비스
이런 서비스들은 현대인의 일상과 업무에 필수적이기 때문에 AI를 거부하는 것은 사실상 불가능합니다. 이는 기업들이 의도한 결과이기도 합니다.
더 우려스러운 미래 전망
상황은 더욱 악화될 것으로 예상됩니다. 지오이아는 가까운 미래에 다음과 같은 일들이 벌어질 것이라고 경고합니다:
- 의사나 간호사를 만나려 해도 AI 챗봇을 먼저 거쳐야 함
- 상담이 절실히 필요한 순간에 AI만 이용 가능함
- 법률 조언을 구하려 해도 봇만 응답함
- 직장에 지원했더니 봇이 그 자리를 대신 차지함
- 응급상황에서 경찰, 소방서, 응급실에 연락해도 봇만 응답함
이는 단순한 추측이 아니라 현재 진행 방향을 볼 때 충분히 가능한 시나리오입니다. 기업들은 허락을 구하지 않고 강제로 AI를 도입하고 있으며, 이런 추세는 더욱 빨라질 것으로 보입니다.
기술적 완성도 없는 성급한 도입
가장 충격적인 사실은 AI 기술이 안정적이고 신뢰할 만한 수준에 도달하기 전에 이런 강제 도입이 이루어지고 있다는 점입니다. 매일 AI 봇이 말도 안 되는 황당한 답변을 내놓는 사례들이 보고되고 있습니다.
일반적으로는 기술이 충분히 성숙하고 안정적이 된 후에 대중에게 제공되어야 하지만, AI의 경우는 정반대입니다. 기업들은 기술을 완성시킬 방법을 모르면서도 강제 도입을 가속화하고 있습니다.
필요한 규제와 대응 방안
이런 상황에서는 법적 규제가 필요합니다. 지오이아는 다음과 같은 법률이 필요하다고 주장합니다:
- 투명성 법률: AI 사용에 대한 명확한 고지 의무
- 선택권 법률: 사용자가 AI 기능을 거부할 수 있는 권리
- 책임 법률: AI 오작동에 대한 기업의 책임 규정
- 지적재산권 법률: AI가 생성한 콘텐츠의 저작권 문제
특히 사용자 동의(opt-in) 법률이 통과된다면 AI 비즈니스 모델은 하루아침에 무너질 것입니다. 정치인들이 행동하지 않는다면 유권자 발의, 집단 소송 등 다른 방법을 동원해야 할 때입니다.
글로벌 AI 경쟁에 대한 관점
“중국보다 먼저 AI를 개발해야 한다”는 주장에 대해서도 비판적 시각이 필요합니다. 과연 우리가 도달하려는 ‘그곳’이 어디인지, 그리고 그곳이 정말 도달하고 싶은 목적지인지에 대해 의문을 제기해야 합니다.
AI 기술의 무분별한 도입으로 인해 발생하는 문제들을 고려할 때, 성급한 AI 경쟁보다는 신중한 접근이 더 현명할 수 있습니다. 다른 나라들이 먼저 그 ‘불행한 목적지’에 도달하는 것을 지켜보면서 우리는 더 나은 방향을 모색할 수 있을 것입니다.
사용자 중심의 AI 개발을 위하여
AI 기술 자체는 분명히 유용한 도구가 될 수 있습니다. 하지만 현재와 같이 사용자의 선택권을 무시하고 강제로 도입하는 방식은 바람직하지 않습니다. 진정한 혁신은 사용자가 원하고 가치를 느낄 때 자연스럽게 받아들여지는 것입니다.
기업들이 AI 기능을 독립적으로 판매하고, 사용자들이 자유롭게 선택할 수 있도록 하는 것이 건전한 시장 경제의 원칙입니다. 현재의 강제 번들링 방식은 시장의 왜곡을 가져올 뿐만 아니라 장기적으로는 AI 기술 발전에도 도움이 되지 않을 것입니다.
사용자들의 목소리와 선택권이 존중되는 AI 개발 환경을 만들어가는 것이 우리 모두의 과제입니다. 이는 단순히 기술의 문제가 아니라 우리 사회의 민주적 가치와 시장 경제의 건전성을 지키는 문제이기도 합니다.
참고자료:
- The Force-Feeding of AI on an Unwilling Public – The Honest Broker
- Microsoft increases price of Microsoft 365 bundle for consumers – GeekWire
- How Brands Can Build Consumer Trust in AI – Lippincott
- Google AI Overviews Target Of Legal Complaints In The UK And EU – Search Engine Journal
Comments