AI 애호가 열 명 중 여섯 명이, 가까운 친구나 부모나 의사에게도 안 하는 이야기를 챗봇에는 털어놓습니다. 그리고 같은 주에, AI가 그렇게 들은 내용을 앱 경계를 넘어 계속 기억하겠다는 발표가 나왔습니다.

DuckDuckGo가 미국 성인 약 2,000명을 조사한 결과, AI 사용자의 3분의 1이 신뢰하는 사람에게도 하지 않은 이야기를 AI에 했다고 답했습니다. 스스로를 AI 애호가라 부르는 사람들 사이에서는 그 비율이 56%까지 올라갔죠. 공교롭게도 같은 주에 Anthropic은 채팅과 Claude Cowork의 메모리를 하나로 합치고, 저장된 내용을 사용자가 직접 열람·편집·삭제할 수 있게 했다고 밝혔습니다. 두 소식을 한 문장으로 묶으면 이렇습니다. 사람들은 이미 AI에 비밀을 맡기고 있는데, 이제 그 기억이 더 오래, 더 넓게 남는다는 것.

출처:

• DuckDuckGo Research: The AI Privacy Problem – DuckDuckGo
• Claude’s memory works everywhere, and you decide what’s in it – Anthropic

사람들은 이미 챗봇을 비밀 창구로 쓴다

조사 숫자는 꽤 구체적입니다. AI를 쓰는 부모의 43%가 누구에게도 말한 적 없는 것을 AI에 털어놓았다고 답했습니다. 자녀가 없는 사용자의 25%보다 훨씬 높은 수치죠. 웹 검색은 보통 단어 몇 개로 끝나지만, AI 대화는 더 길고 개인적인 입력을 유도합니다. 그래서 검색어가 관심사를 드러낸다면, AI 대화는 생각의 흐름과 말투까지 드러냅니다.

문제는 그다음입니다. 응답자의 53%는 대부분의 챗봇이 기본적으로 대화 내용을 학습에 쓴다는 사실을 몰랐거나 확신하지 못했습니다. AI 채팅이 법 집행기관에 소환될 수 있다는 걸 아는 사람은 25%뿐이었죠. 대화가 어떻게 저장되고 검토되고 공개되는지에 관한 기본 사실 여섯 가지를, 응답자의 43%가 모르고 있었습니다.

정리하면 이렇습니다. 사람들은 가장 사적인 이야기를 AI에 맡기면서, 정작 그 이야기가 어디로 가는지는 잘 모릅니다. DuckDuckGo가 던지는 경고의 핵심이 여기 있습니다.

이제 그 기억은 앱을 넘어 남는다

Anthropic의 이번 변경은 이 상황에 정확히 겹칩니다. 지금까지 채팅에서 나눈 대화와 Claude Cowork(작업 자동화 앱)가 기억하는 내용은 따로 놀았습니다. 채팅에서 몇 달에 걸쳐 쌓은 맥락도, 막상 Cowork에 일을 시키면 처음부터 다시 설명해야 했죠. 이번 통합으로 그 둘이 하나가 됐습니다. 채팅에서 알려준 팀 지표 정의를 Cowork가 만드는 분기 보고서가 그대로 가져다 쓰는 식입니다.

기억하는 방식도 달라졌습니다. 예전에는 대화가 끝난 뒤 내용을 요약해 저장했다면, 이제는 대화 도중에 주제를 실시간으로 메모리에 추가합니다. “이건 기억해둬”라고 말하지 않아도, 프로젝트 마감이 9월로 옮겨졌다고 흘리듯 말하면 다음 대화가 이미 그걸 알고 있습니다.

편해진 만큼, 남는 것도 많아집니다. 한 번 말한 내용이 앱을 넘나들며 계속 따라온다는 뜻이니까요.

그래서 오늘 한 번은 열어봐야 한다

여기서 이번 발표의 진짜 실용 지점이 나옵니다. Claude는 기억하는 모든 것을 설정의 ‘주제(Topics)’ 아래 짧은 파일 목록으로 보여줍니다. 각 항목을 읽고, 고치고, 지울 수 있습니다. 회사의 옛 이름을 한 파일에서 바로잡으면 이후 모든 대화가 바뀐 이름을 씁니다.

민감한 주제는 기본적으로 저장하지 않습니다. 건강, 인종, 종교, 정치 성향, 성 정체성 같은 항목은 사용자가 설정에서 직접 켜지 않는 한 메모리에 들어가지 않죠. 켜더라도 민감한 내용이 저장될 때마다 앱이 알려줍니다. 정부 발급 신분증 번호나 범죄 이력, 이민 신분처럼 아예 저장하지 않는 항목도 따로 정해져 있습니다.

DuckDuckGo 조사가 보여준 불안의 상당 부분은 “내가 뭘 맡겼는지 모른다”에서 옵니다. 그렇다면 반대로, 저장된 목록을 한 번 열어 직접 확인하고 필요 없는 걸 지우는 일이 지금 할 수 있는 가장 구체적인 대응입니다. 이 메모리 기능은 Free·Pro·Max 요금제에서 기본으로 켜져 있습니다. 편리함을 누리든 꺼두든, 그 선택을 하려면 먼저 안에 뭐가 쌓여 있는지 봐야 합니다.

참고자료: Claude Cowork finally remembers what you told the app in chat – TechCrunch