AGENTS.md 파일에 공들여 작성한 지침들, 정성껏 조율한 시스템 프롬프트들. 그런데 새 모델 버전이 나온 뒤 AI 도구가 예전 같지 않다고 느낀 적 있으신가요? 실제로 당신의 프롬프트가 문제일 수 있습니다.

GitHub 엔지니어 Sean Goedecke가 쓴 글에서 흥미로운 관점을 제시했습니다. 개발자들이 AGENTS.md, CLAUDE.md 같은 프롬프트 파일에 점점 더 많은 시간을 쏟고 있는데, 이것이 코드 기술 부채보다 더 위험한 형태의 부채가 될 수 있다는 주장입니다.

출처: Prompts are technical debt too – seangoedecke.com

코드 부채와 프롬프트 부채, 무엇이 다른가

“모든 코드는 기술 부채다”라는 말은 개발 업계에서 오래된 격언입니다. 코드를 추가할수록 시스템의 복잡성과 유지보수 비용이 쌓인다는 뜻이죠. 그래서 현명한 엔지니어는 코드를 최소한으로 작성하려 합니다.

그런데 지금 많은 프로젝트에서는 프롬프트가 그 자리를 채우고 있습니다. AGENTS.md, CLAUDE.md, 각 기능별 시스템 프롬프트, MCP 서버 설정, 커스텀 스킬 파일까지. AI 도구를 중심으로 만들어지는 프로젝트일수록 프롬프트의 양은 코드만큼이나 방대해지고 있습니다.

문제는 두 부채의 성질이 다르다는 데 있습니다. 코드 부채가 터지면 에러 메시지가 뜨거나 빌드가 깨집니다. 눈에 보이죠. 반면 프롬프트 부채는 조용히 썩습니다. 모델 버전이 바뀌면서 정교하게 작성했던 프롬프트가 효과를 잃어도, 당신은 그냥 “요즘 Claude가 좀 이상하네” 또는 “새 모델이 생각보다 별로네”라고 느낄 뿐입니다.

프롬프트는 모델에 종속된다

프롬프트 부채가 코드 부채보다 더 위험한 이유는 모델 종속성 때문입니다.

AI 기업들도 새 모델이 출시될 때마다 프롬프트를 처음부터 다시 조율합니다. GPT-5.4에서 완벽하게 작동하던 프롬프트가 GPT-5.5에서는 맞지 않을 수 있고, 매번 “이 모델을 어떻게 다루는지”를 새로 배워야 합니다.

1월에 공들여 만든 프롬프트 설정이 2월에는 무의미해지거나, 오히려 성능을 떨어뜨릴 수 있습니다. 더 나쁜 건, 그 사실을 알아채기 어렵다는 점입니다. AI 시스템의 성능은 원래 측정하기 까다롭고, 약한 모델조차 특정 작업에서는 놀라울 만큼 잘 작동하기 때문에 저하 여부를 판단하기가 쉽지 않습니다.

오래된 코드는 손대지 않으면 대체로 안정적으로 작동합니다. 하지만 프롬프트는 모델이 업그레이드될 때마다 흔들립니다. 모델 업그레이드를 건너뛰는 선택도 있지만, 지금처럼 발전 속도가 빠른 시기에는 현실적이지 않습니다. 정교하게 조율된 GPT-4.1 기반 설정은 단순하게 구성된 최신 모델 기반 설정보다 결국 뒤처질 가능성이 높습니다.

그렇다면 어떻게 쓸 것인가

Goedecke의 결론은 명확합니다. 대부분의 사람은 Claude Code, Codex, Cursor, Copilot처럼 전문 팀이 관리하는 AI 도구를 최대한 기본 설정으로 쓰는 것이 낫다고 말합니다. 그 팀들이 매 모델마다 프롬프트를 평가하고 조율하는 작업을 대신 해주기 때문입니다.

AGENTS.md를 작성해야 한다면, 행동 방식을 지시하는 내용(“단계적으로 생각해”, “당신은 숙련된 엔지니어입니다” 같은 문구)은 피하는 것이 좋습니다. 이런 지침들은 이미 구식이 됐거나, 다음 모델 업데이트에서 구식이 될 가능성이 높습니다. 대신 프로젝트의 구체적인 사실들, 즉 특정 디렉토리 구조나 네이밍 규칙처럼 모델이 바뀌어도 유효한 정보만 담는 편이 낫습니다.

AI가 자동으로 AGENTS.md를 채우게 두는 것도 주의가 필요합니다. 코드를 검토 없이 채우게 두지 않는 것처럼, 프롬프트도 직접 작성하고 기회가 생길 때마다 줄여나가는 것이 이 글의 핵심 조언입니다.

정교한 설정이 능력처럼 느껴지는 시대에, “적게 설정하는 것이 더 나은 전략일 수 있다”는 이 관점은 한 번쯤 생각해볼 만합니다.