2030년의 어느 아침을 떠올려봅니다. 많은 예측대로 그때쯤엔 인간을 능가하는 AI가 흔해졌다고 칩시다. 차 한 잔을 타 들고 노트북을 켠 나는, 그다음 무엇을 하고 있을까요. 여전히 챗GPT 창에 프롬프트를 입력하고 있을까요, 아니면 터미널에 Claude Code를 켜두고 몇 시간째 엔터 키만 누르고 있을까요. AI 에세이스트 Gwern은 이 질문에서 출발해, 지금과는 다른 형태의 AI 비서가 필요하다는 제안을 내놓았습니다.

Gwern은 이 제안에 “가디언 엔젤(Guardian Angel)”이라는 이름을 붙였습니다. 강력한 LLM이 몇 년 안에 전 세계 곳곳에 깔리고, 인터넷은 물론 일상 전반을 지배하게 될 텐데도, 지식노동자든 일반인이든 이걸 생산성으로 바꾸고 사이버 보안까지 지킬 뚜렷한 그림이 아직 없다는 문제의식에서 시작하죠.

출처: Guardian Angels: LLM Personalization for Productivity and Security – Gwern.net

나를 대체하는 비서가 아니라, 나를 닮은 비서

가디언 엔젤의 핵심 아이디어는 단순합니다. AI 비서는 “누구에게나 똑같이 친절한 챗봇 페르소나”를 흉내 내는 대신, 한 사람의 성격과 가치관, 판단 기준을 학습해서 그 사람 자체를 흉내 내야 한다는 것입니다. 업무를 대신 처리해주는 대리인이 아니라, 나 자신의 디지털 쌍둥이에 가까운 존재입니다.

Gwern은 이걸 “본인-대리인 문제(principal-agent problem)”를 푸는 방법으로 설명합니다. 원래 이 문제는 대리인(비서, 직원, 에이전트)이 본인(의뢰인)의 이익과 다르게 행동할 위험을 가리키죠. 그런데 대리인이 본인의 가치관과 판단 기준을 그대로 학습해서 움직인다면, 애초에 둘 사이의 간극 자체가 줄어듭니다. 사람은 “무엇을 할 가치가 있는가”를 정하는 데 집중하고, 그 판단을 실행하는 구체적인 방법은 자신을 닮은 AI에게 맡기는 구조입니다. 마치 여러 명의 대리인을 거느린 회사의 경영진처럼요.

나만을 위한 존재라서 더 안전하다

가디언 엔젤 구상에는 보안 측면도 함께 들어 있습니다. Gwern은 이런 개인화된 AI가 딥페이크나 피싱, 정교하게 조작된 가짜 정보 같은 공격으로부터 사람을 지키는 방패 역할도 할 수 있다고 봅니다.

이유는 간단합니다. 범용 챗봇은 누구의 요청이든 그럴듯하게 들리면 따르도록 설계돼 있어서, 교묘한 프롬프트 공격에 속아 엉뚱한 일을 저지르는 “혼란한 대리인” 문제가 생기기 쉽죠. 반면 가디언 엔젤은 처음부터 단 한 사람만을 위해 만들어진 존재입니다. 그 사람이 아닌 누군가의 지시를 그대로 따른다는 것 자체가 이 AI의 존재 이유와 모순되기 때문에, 공격자가 파고들 틈이 훨씬 좁아진다는 논리입니다.

고정된 모델로는 만들 수 없다

Gwern은 지금 흔히 쓰이는 방식, 그러니까 미리 학습을 마치고 고정된 모델에 프롬프트만 잘 짜 넣는 방식으로는 이런 AI를 만들 수 없다고 못박습니다. 컨텍스트 창의 한계와 정적인 데이터 수집 방식이, 지식노동을 돕는 데도 창작을 돕는 데도 지금의 챗봇이 기대에 못 미치는 이유라는 겁니다.

대신 그는 몇 가지 기법을 조합해야 한다고 제안합니다. 모델이 실시간으로 계속 갱신되는 학습 방식, 사용자에게 직접 질문을 던져 선호와 판단 기준을 캐내는 능동적 학습, 그리고 명령창 기반으로 모든 상호작용을 꼼꼼히 기록해두는 인터페이스입니다. 이런 조합을 통해 가디언 엔젤이 정지된 최신 모델과 견줄 만한 성능을 유지하면서도, 시간이 지날수록 그 사람을 더 정확히 닮아가도록 만들 수 있다는 구상입니다.

누가 이걸 만들 수 있을까

Gwern은 이 프로젝트가 오픈소스 커뮤니티가 힘을 모아 진행할 수도 있다고 보면서도, 실제로는 스타트업 형태가 더 현실적이라고 말합니다. 높은 수준의 보안이 필요한 데다, 국가 수준의 공격 세력까지 상대해야 하는 만큼, 처음엔 최고경영자나 연구자 같은 고급 사용자를 대상으로 시작해 점차 일반 사용자로 넓혀가는 편이 맞다는 거죠.

AI를 “내 일을 대신 해주는 도구”로 보느냐, “나 자신을 정교하게 확장한 존재”로 보느냐는 완전히 다른 설계로 이어집니다. 가디언 엔젤이 던지는 질문은 결국 하나입니다. 내가 AI에게 기대하는 건 나보다 더 뛰어난 누군가인지, 아니면 나를 가장 잘 아는 또 다른 나인지 하는 것입니다.