소프트웨어 개발 업계 대가 Martin Fowler와 MIT·Stanford 등 연구진이 동시에 지적한 AI 코딩 도구의 현실적 한계와 미래 가능성을 분석합니다.
AI 코딩 도구의 시대입니다. GitHub Copilot, ChatGPT, Claude 같은 도구들이 개발자의 일상을 바꿔놓았죠. 하지만 정말 AI가 인간 개발자를 완전히 대체할 수 있을까요?
최근 발표된 두 가지 중요한 자료가 이 질문에 대한 흥미로운 답을 제시합니다. 소프트웨어 개발 업계의 거장 Martin Fowler가 자신의 블로그에 올린 솔직한 견해와, Cornell·MIT·Stanford·UC Berkeley 연구진이 2025년 국제머신러닝학회(ICML)에서 발표한 연구 결과를 통해 AI 코딩의 현실을 들여다봅시다.
AI 코딩, 어떻게 쓰느냐가 핵심
Martin Fowler는 현재 나오는 AI 코딩 효과 연구들에 대해 날카로운 지적을 합니다. “AI가 정말 개발 속도를 높이나? 코드 품질을 개선하나 망치나?” 같은 질문에 답하려는 초기 설문조사들이 있는데, 여기에 큰 맹점이 있다는 겁니다.
바로 개발자들이 AI를 사용하는 방식을 제대로 구분하지 않고 있다는 점입니다.
방식 1: 자동완성 스타일 (대부분의 개발자)
- GitHub Copilot 같은 도구 사용
- 코드를 타이핑하면 AI가 다음 줄을 제안해주는 식
- Fowler가 말하는 “fancy auto-complete(고급 자동완성)”
방식 2: 파일 편집 스타일 (고급 사용자)
- AI가 직접 소스코드 파일을 읽고 편집하도록 함
- 구체적인 작업을 AI에게 맡기고 결과를 받아보는 방식
- AI에서 진짜 가치를 뽑아내는 사람들이 선호하는 방법
Fowler는 방식 1은 별로 유용하지 않다고 단언합니다. 정말 AI를 잘 활용하는 개발자들은 자동완성 기능을 그다지 중요하게 여기지 않는다는 거죠.
문제는 대부분의 설문조사가 이 두 방식을 구분하지 않고 뭉뚱그려서 “AI 코딩 효과”를 측정한다는 점입니다. 이렇게 나온 데이터는 사람들을 잘못된 결론으로 이끌 수 있다고 경고합니다.
학계가 밝힌 AI의 한계점들
MIT의 Armando Solar-Lezama 교수가 이끈 연구팀은 더 구체적인 한계점들을 제시합니다. AI가 아직 진짜 개발자가 되기 어려운 이유들이죠.
대규모 코드베이스의 벽
수백만 줄의 코드로 이뤄진 실제 프로젝트에서 AI는 여전히 헤맵니다. UC Berkeley의 Koushik Sen 교수는 메모리 안전성 버그를 예로 듭니다.
“버그가 발생한 곳과 원인이 되는 곳이 전혀 다른 경우가 많습니다. 전체 메모리 관리 방식을 바꿔야 할 수도 있죠.”
이런 복잡한 문제 해결에는 코드의 의미를 깊이 이해하고 장기적 관점에서 설계를 바꿀 수 있는 능력이 필요합니다. 현재 AI는 이 부분에서 자주 헛짚거나 엉뚱한 제안을 내놓습니다.
인간-AI 협업의 어려움
연구진이 지적하는 또 다른 문제는 소통입니다. Solar-Lezama 교수의 말을 들어보세요.
“소프트웨어 개발의 큰 부분은 공통된 어휘와 이해를 만드는 것입니다. 문제가 무엇인지, 어떤 기능을 원하는지에 대한 적절한 은유를 찾아내는 일이죠.”
현재 AI 도구들은 대부분 프롬프트 엔지니어링에 의존합니다. 개발자가 AI에게 정확히 무엇을 원하는지 설명하는 데 너무 많은 시간이 걸린다면, 그냥 직접 코딩하는 게 나을 수 있습니다.
환각은 버그가 아니라 특징이다
Fowler는 흥미로운 관점을 제시합니다. AI의 ‘환각(hallucination)’을 문제로만 볼 게 아니라는 거죠.
“환각은 LLM의 버그가 아니라 특징입니다. 실제로는 핵심 기능이죠. LLM이 하는 일은 모두 환각을 만드는 것이고, 우리는 그중 유용한 것들을 찾아내는 거예요.”
이런 관점에서 보면 같은 질문을 여러 번 다르게 물어보는 것이 중요합니다. AI가 내놓는 다양한 답변들을 비교해보면, 답변 자체만큼이나 그 차이점에서도 유용한 정보를 얻을 수 있다는 겁니다.
특히 숫자를 물어볼 때는 최소 3번은 물어봐야 한다고 Fowler는 조언합니다. AI에게 계산을 직접 시키지 말고, 계산하는 코드를 만들어달라고 요청하는 것도 좋은 방법입니다.
간과하기 쉬운 보안 위험
Fowler가 특히 경고하는 부분은 보안입니다. AI 도구들이 공격 표면을 크게 넓힌다는 거죠.
치명적인 3요소
Simon Willison이 제시한 ‘AI 에이전트의 치명적 3요소’를 소개합니다:
- 개인 데이터 접근권한
- 신뢰할 수 없는 외부 콘텐츠 노출
- 외부 소통 경로
웹페이지를 읽어달라고 AI에게 부탁했는데, 그 페이지에 흰 글씨로 숨겨진 악성 명령어가 있다면? AI는 속아서 여러분의 개인정보를 빼낼 수도 있습니다.
브라우저에서 작동하는 AI 에이전트는 더 위험합니다. 악성 웹페이지가 AI를 속여서 다른 탭의 은행 사이트에 접속해 돈을 이체하도록 만들 수도 있거든요.
개발자의 미래는?
그럼 개발자들은 어떻게 해야 할까요? Fowler의 답은 솔직합니다. “모른다.”
“프로그래밍의 미래가 어떻게 될지, 지금 개발 분야에 뛰어들어야 할지, AI가 주니어 개발자를 없앨지, 시니어 개발자들이 미리 도망쳐야 할지… 전혀 모릅니다.”
하지만 한 가지는 확실히 조언합니다. 실험해보라는 것입니다. 다른 사람들이 어떻게 AI를 활용하는지 읽어보고, 가능하면 직접 실험해보라고 합니다. 특히 작업 흐름의 세부사항에 주의를 기울이라고 강조하죠.
AI 버블은 확실하다
Fowler는 단호합니다. “AI 버블인가요? 당연히 버블이죠!”
역사상 모든 주요 기술 발전에는 경제적 버블이 따라왔다고 합니다. 운하, 철도, 인터넷 모두 그랬죠. 이 버블이 언제 터질지는 모르지만 100% 확실히 터질 거라고 예측합니다.
하지만 버블이 터져도 모든 게 사라지지는 않습니다. 닷컴 버블이 터졌을 때 Pets.com과 Webvan은 망했지만, 아마존은 살아남았죠.
새로운 추상화 레벨에서 일하기
Solar-Lezama 교수는 흥미로운 미래 전망을 제시합니다. 완전 자동화가 목표가 아니라, 더 높은 추상화 레벨에서 작업할 수 있게 되는 것이 진짜 변화라는 겁니다.
“결국 사람을 위한 소프트웨어를 만들어야 하고, 그러려면 무엇을 만들고 싶은지 파악하는 일은 여전히 필요합니다.”
인간의 감독은 여전히 중요합니다. Notre Dame 대학의 Shreya Kumar 교수도 강조합니다. “신뢰할 수 있는 시스템을 원한다면 반드시 인간이 루프 안에 있어야 합니다.”
현실적 조언들
이 모든 분석을 바탕으로 몇 가지 실용적인 조언을 정리해봅시다:
AI 도구 활용 시
- 자동완성 수준을 넘어서 AI가 직접 파일을 편집하도록 하는 워크플로우 실험해보기
- 같은 질문을 다양하게 여러 번 물어보고 답변 비교하기
- 숫자나 계산이 필요하면 최소 3번은 확인하기
보안 측면에서
- AI에게 외부 웹페이지를 읽어달라고 할 때 주의하기
- 개인정보나 중요 데이터에 AI가 접근하는 경우 추가 검증 단계 두기
- 브라우저 기반 AI 에이전트 사용 시 특별한 주의 필요
커리어 관점에서
- 당장 개발자를 그만둘 필요는 없지만 AI 도구 활용법 꾸준히 학습하기
- 다른 개발자들의 AI 활용 사례와 워크플로우 세부사항 관심 갖기
- 직접 실험해보고 경험 공유하기
AI가 개발자를 완전히 대체하기보다는, 개발자가 더 높은 레벨의 문제 해결에 집중할 수 있게 도와주는 방향으로 발전할 가능성이 높습니다. 중요한 건 이 변화의 흐름을 이해하고 적응하는 것이겠죠.
AI 도구의 한계를 명확히 인식하면서도, 그 가능성을 적극적으로 탐색하는 균형잡힌 접근법이 필요한 시점입니다.
참고자료:
Comments