AI 덕분에 코드는 이제 어느 정도 알아서 써집니다. 그런데 그 코드를 검토하고 방향을 잡아주는 사람의 마음은, 오히려 예전보다 더 지쳤습니다.

데이터 검증 도구와 AI 에이전트 프레임워크를 만드는 회사 Pydantic의 팀원이, 자기 회사 블로그에 개발자로서 느끼는 솔직한 심경을 적었습니다. AI가 업계를 대체할지 말지를 논하는 글이 아닙니다. LLM으로 코딩하는 게 “정말 유용하면서 동시에 정말 사람을 불안정하게 만든다”는 두 가지 사실이 동시에 존재한다는 걸, 있는 그대로 인정하는 글입니다.

출처: The Human-in-the-Loop is Tired – Pydantic

코딩이 갖고 있던 작은 보상들이 사라졌다

Pydantic AI 프레임워크를 관리하는 동료 다우어는 매일 아침 눈을 뜨면 PR 30개가 쌓여 있다고 말합니다. 누군가의 AI가 밤새 돌려서 만들어낸 것들이죠. 하나하나 순간적으로 판단을 내려야 합니다. 이 검토 자체를 다시 AI에게 맡기고 싶은 유혹이 컸다고 그는 털어놓습니다. 하지만 그 순간 든 생각은 이거였습니다. “그럼 나는 여기서 대체 뭘 하고 있는 거지?”

저자 자신도 비슷합니다. 최근 몇 달 동안 AI가 실행할 계획서 하나를 쓰는 데 꼬박 이틀을 쓴 날이 있었습니다. 조건을 다듬고 또 다듬었는데, 결과물은 여전히 이해할 수 없이 엉뚱했습니다. React 훅을 스토리북 파일로 잘못 옮기거나, 존재하지 않는 컴포넌트를 지어내는 식이었습니다. 실력이 부족해서가 아니라, 복잡한 작업 전체에 걸쳐 의도를 일관되게 유지하지 못해서 생기는 문제였습니다.

저자는 이 상태에 이름을 붙입니다. “인간 보상 함수 문제”라는 것. 머신러닝에서 보상 함수는 에이전트에게 무엇이 좋은 결과인지 알려주는 역할을 합니다. 손으로 코드를 짤 때는 쉽지 않아도 그 안에 작은 보상들이 곳곳에 있었습니다. 머릿속으로 문제를 풀어내는 순간, 꼬여 있던 로직을 이해하는 순간, 코드가 컴파일되는 순간. AI가 이런 작업 상당 부분을 대신하면서, 그 보상들도 함께 사라졌습니다. 남은 건 검토와 감독이라는 인지적 부담뿐이죠. 만족스러운 부분은 줄고, 소모되는 부분만 늘었습니다.

밤 2시의 프롬프트, 그리고 외로움

이 상태는 업무 강도 자체를 밀어 올립니다. 저자는 얼마 전 거의 새벽 2시까지 프롬프트를 계속 고쳐 쓴 적이 있다고 말합니다. 계획을 거의 완성했다는 느낌이 계속 들었기 때문입니다. 실제로는 그렇지 않았지만요. 동료 마르셀루는 Claude Code 세션이 멈췄을 때 이렇게 농담했습니다. “그냥 세션 5개를 동시에 열어. 다른 세션에 피드백 주느라 바빠서 멈춘 것도 못 느낄걸.” 농담이지만 지금 이 순간을 정확히 짚은 말이기도 합니다. 동시에 시작할 수 있는 일의 개수는 크게 늘었는데, 제대로 끝낼 수 있는 일의 개수는 그대로입니다. 그건 여전히 병렬로 나눌 수 없는 자원, 그러니까 사람의 뇌 하나에 달려 있으니까요.

여기에 외로움도 따라옵니다. AI와 코딩하는 건 철저히 혼자 하는 작업입니다. 원래 같으면 동료에게 질문을 던지거나, 문제를 소리 내어 설명하며 실마리를 찾거나, 뭔가 풀렸을 때 그 기쁨을 함께 나눴을 순간들이 조용히 프롬프트 한 줄로 대체됩니다. 협업 문화가 원래 약한 팀이라면 이 거리는 더 벌어지죠. 결과물의 질도 매번 다릅니다. 어떤 날은 훌륭하고 어떤 날은 형편없는데, 그 차이를 미리 알 수가 없습니다. 이런 불확실한 보상 패턴은 손을 떼기 어렵게 만드는 중독성으로 이어집니다.

그래도 남는 것

저자는 이 변화를 예전 반응형 웹 디자인 전환에 비유합니다. 픽셀 단위로 완벽한 레이아웃을 다루던 디자이너들이 한때 크게 반발했지만, 결국 살아남은 건 비율과 위계를 보는 안목이었지 픽셀 하나하나를 통제하는 능력이 아니었습니다. 지금도 비슷합니다. 코드를 한 줄씩 직접 짜지 않는다고 해서 엔지니어로서의 가치가 줄어드는 게 아닙니다. 다만 이제는 훨씬 많은 양의 결과물을 걸러내는 품질 관문 역할을 해야 하기 때문에, 무엇이 좋은 결과인지 아는 감각은 오히려 더 중요해졌습니다.

저자가 주목하는 건 자신이 깊이 이해하는 영역일수록 AI를 잘 이끌 수 있다는 점입니다. 반대로 익숙하지 않은 영역으로 갈수록 결과물은 그럴듯하기만 하고 실제로는 부정확해집니다. 모델이 뭘 모르는지 스스로 모르기 때문에, 그 빈틈을 확신에 찬 태도로 채워 넣는 것. 이건 사실 아주 인간적인 실패 패턴이기도 합니다.

그 사이에서 새로운 습관도 자리 잡고 있습니다. 저자는 복잡한 계획을 세운 뒤, 새 AI 세션에게 “이 계획이 완전히 실패했다고 가정하고 이유를 진단해보라”고 시키는 사전 부검을 하곤 합니다. 이틀 내내 세부사항에 파묻혀 있느라 놓친 허점을 찾아내는 데 도움이 된다고 말합니다. 동료 중 한 명은 자신이 과거에 남긴 수천 개의 코드 리뷰 코멘트에서 규칙을 뽑아내 AI 지침 파일을 만들기도 했습니다. 수년간 쌓인 암묵적인 판단 기준을 AI가 따를 수 있는 형태로 옮겨놓은 셈입니다. 전문성이 사라지는 게 아니라, 다른 형태로 정제되고 있다는 뜻입니다.

저자는 글을 이렇게 맺습니다. 코드를 짜는 일이 병목이었던 적은 사실 없었다고. 진짜 병목은 언제나 사람의 주의력과 판단력, 시스템 전체를 일관되게 그려낼 수 있는 능력이었다고 말입니다. 코드 짜기가 그 병목을 가려왔을 뿐이라는 겁니다. 그 일이 자동화되면서, 원래부터 희소했던 이 능력들이 이제야 눈에 띄기 시작했다는 게 저자의 결론입니다.