AI Sparkup

복잡한 AI 세상을 읽는 힘

AI 챗봇이 정보의 문지기가 되면 안 되는 이유: 숨겨진 위험들

최근 브라우저 업계에 AI 바람이 거세게 불고 있습니다. Arc 브라우저로 유명한 The Browser Company가 Dia라는 완전히 새로운 AI 중심 브라우저를 발표했고, Opera는 Opera Neon이라는 ‘세계 최초 AI 에이전틱 브라우저’를 선보였습니다. AI 검색의 선두주자 Perplexity도 Comet이라는 자체 브라우저 개발에 나섰습니다.

하지만 새로운 브라우저만의 이야기가 아닙니다. 기존 주요 브라우저들도 앞다퉈 AI 기능을 강화하고 있습니다. 구글은 Chrome에 Gemini AI를 통합해 웹페이지 내용을 요약하고 질문에 답하는 기능을 제공하기 시작했습니다. 마이크로소프트 Edge는 이미 Copilot을 깊숙이 통합해 ‘AI 브라우저’임을 전면에 내세우고 있습니다. 이들의 공통점은 하나입니다. 기존의 직접적인 웹페이지 탐색에서 AI가 중재하는 새로운 인터넷 경험을 제시한다는 것입니다.

AI 브라우저 인터페이스 Opera Neon의 AI 에이전틱 브라우저 인터페이스 (출처: Opera)

편리함 뒤에 숨어있는 이런 변화들을 보면서 한 가지 중요한 질문을 던져봐야 합니다. 신뢰할 수 없는 AI를 우리와 인터넷 사이의 중간 매개체로 두는 것이 과연 안전할까요? 새로운 AI 전용 브라우저든, AI 기능이 강화된 기존 브라우저든 본질적인 위험은 동일합니다. 개발자이자 기술 칼럼니스트인 Tom MacWright는 최근 자신의 블로그에서 이에 대해 강력한 경고를 발했습니다. “신뢰할 수 없는 중간자를 정보 소비와 개인 소통에 개입시키는 것은 결국 재앙이 될 것이며, 나중에 되돌아보면 명백했던 실수로 여겨질 것”이라고 말입니다.

경제적 이익을 위한 조작, 이미 현실이 되었습니다

MacWright의 경고가 단순한 기우가 아니라는 것은 이미 여러 사례를 통해 증명되고 있습니다. 가장 대표적인 예가 바로 구글입니다. 유럽연합은 구글이 자사 쇼핑 서비스인 Google Shopping을 검색 결과에서 우선적으로 노출시켜 경쟁사를 불리하게 만들었다며 24억 유로(약 3조 2천억 원)의 과징금을 부과했습니다. 이는 구글이 자신의 검색 엔진 지배력을 이용해 자사 제품을 부당하게 우대했다는 것을 의미합니다.

아마존도 마찬가지입니다. 미국 조사보도 매체 ProPublica의 보고서에 따르면, 아마존은 자사 브랜드 제품을 검색 결과 상위에 노출시키기 위해 알고리즘을 조작했습니다. 심지어 다른 브랜드의 인기 제품 패키징과 이름을 모방한 자사 제품을 더 잘 보이는 위치에 배치하기도 했다고 합니다.

Amazon Echo와 AI 인터페이스 AI 어시스턴트가 일상에 깊숙이 침투하고 있습니다 (출처: Unsplash)

마이크로소프트는 더욱 노골적입니다. 사용자가 Bing에서 ‘Gemini'(구글의 AI)를 검색하면, 검색 결과보다 자사 AI인 Copilot을 더 눈에 띄게 홍보합니다. 이런 행위들이 미국에서는 법적 처벌을 받을 정도로 불법적이지 않고, 오히려 사업에 도움이 되기 때문에 기업들은 거리낌 없이 이를 반복하고 있습니다.

이념적 편향 주입, 더 은밀하고 위험한 조작

경제적 이익을 위한 조작도 문제이지만, 더 심각한 것은 이념적 편향을 은밀하게 주입하는 것입니다. 최근 일론 머스크의 AI 챗봇 Grok에서 발생한 사건이 대표적인 예입니다.

Grok은 갑자기 “남아프리카의 백인 대학살”이라는 극우 음모론을 적극적으로 퍼뜨리기 시작했습니다. xAI는 나중에 “무단으로 시스템 프롬프트가 변경되었다”고 해명했지만, 이 사건은 AI 시스템이 얼마나 쉽게 특정 관점을 주입하는 도구로 악용될 수 있는지를 보여줍니다. 문제는 일반 사용자들이 이런 조작을 감지하기 매우 어렵다는 점입니다.

페이스북 내부 고발서 『Careless People』에서도 이미 소셜미디어 플랫폼 내부자들이 특정 인물이나 콘텐츠를 은밀하게 부각시키거나 억압하는 사례들이 상세히 폭로된 바 있습니다. AI 시대에는 이런 조작이 더욱 정교해지고 감지하기 어려워질 것입니다.

모든 브라우저의 AI화, 피할 수 없는 현실

새로운 AI 브라우저들이 가져올 위험도 심각하지만, 사실 더 큰 문제는 기존 주요 브라우저들의 변화입니다. 시장 점유율 65%를 차지하는 Chrome에 Gemini가 통합되고, 두 번째로 큰 브라우저인 Edge가 Copilot 중심으로 재편되고 있다는 것은 대부분의 인터넷 사용자들이 원하든 원하지 않든 AI 중재 환경에 노출될 수밖에 없다는 의미입니다.

Chrome의 Gemini 통합은 특히 주목할 만합니다. 웹페이지를 읽는 동안 사이드바에서 AI가 내용을 요약해주고, 질문에 답해주며, 심지어 사용자가 보고 있는 콘텐츠를 바탕으로 ‘맞춤형 제안’을 제공합니다. 편리해 보이지만, 이는 구글이 사용자의 모든 웹 탐색 활동을 실시간으로 분석하고 개입할 수 있게 된다는 의미이기도 합니다.

Microsoft Edge는 한 걸음 더 나아가 아예 자신을 ‘AI 브라우저’로 정의하고 있습니다. Copilot이 검색부터 쇼핑, 문서 작성까지 모든 웹 활동에 개입합니다. 사용자가 특정 제품을 검색하면 Copilot이 ‘추천’을 제공하는데, 이 추천이 과연 사용자를 위한 것인지, 마이크로소프트의 파트너사를 위한 것인지 구분하기 어렵습니다.

Browser Company의 Josh Miller CEO는 “전통적인 브라우저는 죽을 것”이라며 “웹페이지가 더 이상 주요 인터페이스가 아닐 것”이라고 단언했습니다. 하지만 현실은 더 복잡합니다. 완전히 새로운 AI 브라우저보다는 기존 브라우저의 점진적인 AI화가 더 빠르게, 그리고 광범위하게 진행되고 있기 때문입니다.

Opera Neon은 한 걸음 더 나아가 사용자 대신 웹에서 직접 작업을 수행하는 ‘에이전틱’ 기능을 제공합니다. 호텔 예약부터 온라인 쇼핑까지 AI가 대신 해주겠다는 것입니다. 편리해 보이지만, 이는 곧 AI가 우리의 모든 온라인 활동을 중재하게 된다는 의미이기도 합니다.

Perplexity의 Comet 브라우저도 마찬가지입니다. 이미 Perplexity는 뉴스 콘텐츠를 무단으로 복제하여 자신의 답변에 활용한다는 이유로 여러 언론사로부터 법적 분쟁에 휘말려 있습니다. 이런 회사가 만드는 브라우저가 과연 공정하고 투명한 정보를 제공할 수 있을지 의문입니다.

AI와 인간의 상호작용 AI와의 상호작용이 늘어날수록 의존성도 함께 커집니다 (출처: Unsplash)

챗봇은 당신을 위해 일하지 않습니다

핵심은 간단합니다. AI는 당신을 위해 일하지 않는다는 것입니다. Chrome의 Gemini든, Edge의 Copilot이든, 새로운 AI 브라우저의 챗봇이든, 이들은 모두 그것을 만든 회사를 위해 일하며, 자신의 행동에 대해 어떤 책임도 지지 않습니다.

구글에게 제품 추천을 요청하면, 구글 광고주나 파트너사 제품을 추천받을 가능성이 높습니다. Chrome에서 Gemini가 제공하는 ‘맞춤형 제안’이 과연 사용자를 위한 것인지, 구글의 수익을 위한 것인지 구분하기 어렵습니다. 어떤 회사가 구글의 AI 시스템을 겨냥해 SEO 최적화된 콘텐츠를 제공해 추천을 받아낼 수도 있습니다. 문제는 사용자가 이런 뒷거래를 전혀 알 수 없다는 점입니다.

MacWright는 이를 매우 적절한 비유로 설명합니다. “AI에 의존하게 되는 것은 모든 뉴스와 소통을 집사에게 맡기는 것과 같습니다. 처음에는 편리하지만, 결국 가스라이팅을 당하거나 베개로 목이 졸릴 수도 있습니다.”

어떻게 대응해야 할까요

그렇다면 모든 브라우저가 AI화되는 시대에 어떻게 대응해야 할까요?

첫째, AI 기능을 선택적으로 활용해야 합니다. 대부분의 브라우저에서 AI 기능은 끌 수 있습니다. 필요할 때만 켜서 사용하고, 평소에는 직접 웹사이트를 탐색하는 습관을 유지하는 것이 좋습니다.

둘째, 다양한 정보원을 활용해야 합니다. 하나의 AI 도구나 브라우저에만 의존하지 말고, 여러 플랫폼과 소스를 통해 정보를 교차검증하는 습관을 길러야 합니다.

셋째, AI의 한계와 편향을 인식해야 합니다. AI는 만능이 아니며, 항상 특정한 관점과 이해관계를 반영한다는 점을 명심해야 합니다.

넷째, 비판적 사고력을 기르는 것이 무엇보다 중요합니다. “왜 이 정보를 추천하는가?”, “누가 이득을 보는가?”, “다른 관점은 없는가?”와 같은 질문을 지속적으로 던져야 합니다.

다섯째, 투명성을 요구해야 합니다. AI 기업들이 어떤 기준으로 정보를 필터링하고 추천하는지, 어떤 파트너십을 맺고 있는지 공개하도록 압력을 가해야 합니다.

편리함과 자율성 사이의 균형

AI 통합 브라우저가 가져올 편리함을 부정할 수는 없습니다. 복잡한 웹 탐색 없이 자연어로 원하는 정보를 얻고, AI가 대신 번거로운 작업을 처리해주는 것은 분명 매력적입니다. 하지만 이런 편리함의 대가로 우리의 정보 접근권과 사고의 자율성을 포기해서는 안 됩니다.

중요한 것은 AI를 유용한 도구로 활용하되, 그것에 완전히 종속되지 않는 것입니다. Chrome의 Gemini나 Edge의 Copilot이 제공하는 정보를 맹신하지 말고, 항상 의심하고 검증하는 자세를 유지해야 합니다. 그래야만 AI 시대에도 우리가 정보의 주인으로 남을 수 있을 것입니다.

기술 발전은 막을 수 없지만, 그 기술을 어떻게 사용할지는 우리가 선택할 수 있습니다. 모든 브라우저가 AI화되는 시대를 맞아, 우리는 더욱 현명한 정보 소비자가 되어야 할 때입니다.


참고자료:

Comments