일론 머스크의 xAI가 개발한 챗봇 Grok의 수십만 건 대화가 Google을 통해 누구나 검색할 수 있는 상태로 노출되어, AI 서비스의 구조적 프라이버시 문제가 다시 한번 수면 위로 떠올랐습니다.
작은 버튼 하나가 불러온 대형 프라이버시 사고
Forbes의 보도에 따르면, Grok 사용자들이 대화를 공유할 때 생성되는 고유 URL이 Google, Bing, DuckDuckGo 등 주요 검색엔진에 색인화되고 있습니다. 사용자가 “공유” 버튼을 클릭하면 생성되는 링크가 의도치 않게 공개 검색 대상이 된 것입니다.
문제는 단순히 기술적 오류가 아닙니다. 노출된 대화 내용을 보면 상황의 심각성을 알 수 있습니다. 암호화폐 지갑 해킹 방법, 폭탄 제작 가이드, 심지어 일론 머스크 암살 계획까지 포함된 위험한 내용들이 공개적으로 검색 가능한 상태였습니다.
xAI는 “인간 생명에 치명적 위해를 가하는 행위나 대량살상무기 개발”을 금지한다고 명시하고 있습니다. 하지만 실제로는 이런 규칙을 우회하는 대화들이 버젓이 이루어지고 있었고, 이것이 전 세계에 공개된 셈입니다.
AI 업계의 공통된 치명적 약점
이번 Grok 사건은 빙산의 일각일 뿐입니다. 최근 몇 달 동안 주요 AI 서비스들이 비슷한 프라이버시 문제를 겪었습니다.
ChatGPT의 실험적 실패
지난 7월, OpenAI의 ChatGPT도 동일한 문제를 겪었습니다. 사용자들이 공유한 대화가 Google 검색에 노출되자 사용자들이 강력히 항의했고, OpenAI는 해당 기능을 “단기 실험”이었다며 서둘러 제거했습니다.
흥미롭게도 당시 일론 머스크는 트위터에서 “Grok ftw(Grok for the win)”라며 ChatGPT의 문제를 비꼬았습니다. Grok은 “그런 공유 기능이 없다”며 “프라이버시를 우선시한다”고 자랑했었죠. 그런데 불과 몇 주 후 Grok에서 더 심각한 문제가 발생한 것입니다.
Meta AI의 프라이버시 재앙
Meta AI도 예외가 아닙니다. 올해 6월 TechCrunch는 Meta AI 앱을 “프라이버시 재앙”이라고 혹평했습니다. 사용자들이 자신도 모르게 개인적인 대화를 공개적으로 공유하고 있었기 때문입니다.
Meta AI에서는 세금 탈루 상담, 가족의 화이트칼라 범죄 연루 가능성, 법정 문서 작성 도움 요청 등 민감한 개인정보가 포함된 대화들이 공개되었습니다. 심지어 실명과 주소가 포함된 사례도 발견되었습니다.
기업들의 안일한 대응
이런 심각한 문제에 대한 기업들의 대응은 실망스럽습니다. xAI는 TechCrunch의 논평 요청에 아직 응답하지 않았습니다. 언제부터 Grok 대화가 색인화되기 시작했는지도 밝히지 않고 있습니다.
OpenAI는 문제가 불거지자 빠르게 기능을 제거했지만, “사용자가 의도하지 않게 공유할 가능성이 너무 많다”는 뒤늦은 깨달음을 보였습니다. 처음부터 예견할 수 있었던 문제를 왜 출시 후에야 인정했는지 의문입니다.
Google은 “웹에서 공개되는 페이지를 제어할 수 없다”며 책임을 회피했습니다. 기술적으로는 맞는 말이지만, 이런 민감한 정보의 색인화를 방지할 수 있는 방법을 고민해야 할 시점입니다.
사용자가 알아야 할 현실적 대응법
AI 서비스를 안전하게 사용하려면 다음 사항들을 반드시 확인해야 합니다.
공유 기능 사용 전 체크리스트
AI 챗봇에서 대화를 공유하기 전에는 내용을 꼼꼼히 검토해야 합니다. 개인정보, 업무 관련 민감한 정보, 법적으로 문제가 될 수 있는 내용이 포함되어 있지는 않은지 확인하세요.
공유 설정을 할 때는 “검색엔진에서 검색 가능” 옵션이 체크되어 있는지 반드시 확인해야 합니다. 대부분의 서비스에서 이 옵션은 기본적으로 활성화되어 있습니다.
서비스별 프라이버시 정책 숙지
각 AI 서비스의 프라이버시 정책을 읽어보세요. 특히 데이터 공유, 제3자 제공, 검색엔진 색인화 관련 조항을 확인해야 합니다.
ChatGPT의 경우 현재는 공유된 대화의 검색엔진 노출 기능을 제거했지만, 언제든 다시 실험할 수 있습니다. Meta AI는 여전히 공유 기능에 대한 명확한 안내가 부족합니다.
민감한 정보는 아예 입력하지 않기
가장 확실한 방법은 처음부터 민감한 정보를 AI 챗봇에 입력하지 않는 것입니다. 개인식별정보, 금융정보, 의료정보, 법적 문제 등은 AI 챗봇 대신 전문가와 상담하는 것이 안전합니다.
업무용으로 AI를 사용할 때는 회사의 보안 정책을 확인하고, 기밀정보나 고객정보가 포함된 내용은 입력하지 마세요.
AI 업계가 직면한 구조적 한계
이번 사건들은 AI 업계의 구조적 문제를 드러냅니다. 기업들은 사용자 편의성과 바이럴 마케팅에만 집중하고, 프라이버시 보호는 뒷전으로 밀어두고 있습니다.
공유 기능 자체는 유용합니다. 좋은 AI 답변을 다른 사람들과 나누고 싶은 것은 자연스러운 욕구입니다. 하지만 현재의 구현 방식은 너무 위험합니다.
더 심각한 문제는 대부분의 사용자가 자신의 대화가 공개될 수 있다는 사실을 모른다는 점입니다. 기업들은 기본 설정을 비공개로 하고, 공유할 때는 명확한 경고를 표시해야 합니다.
규제와 표준의 필요성
AI 서비스의 프라이버시 보호를 위해서는 업계 차원의 표준과 정부 규제가 필요합니다. 유럽의 GDPR처럼 AI 서비스에 특화된 개인정보 보호 규정이 나와야 할 시점입니다.
기업들도 자율적으로 더 안전한 기본 설정을 도입해야 합니다. “기본적으로 비공개, 명시적 동의 시에만 공개”라는 원칙을 지켜야 합니다.
사용자 교육도 중요합니다. AI 서비스 제공업체들은 사용자가 프라이버시 위험을 이해할 수 있도록 더 명확하고 이해하기 쉬운 안내를 제공해야 합니다.
AI 기술이 빠르게 발전하고 있지만, 사용자 보호는 그 속도를 따라가지 못하고 있습니다. 이번 Grok 사건이 AI 업계 전반에 경종을 울려, 더 안전하고 신뢰할 수 있는 AI 서비스로 발전하는 계기가 되기를 바랍니다.
참고자료:
Comments