AI 코딩 도구를 쓰면 생산성이 10배, 100배 오른다고들 합니다. 그런데 왜 소프트웨어는 여전히 엉망이고, 오픈소스 프로젝트들은 외부 기여를 막기 시작했을까요?
소프트웨어 엔지니어 Steven Wittens가 자신의 블로그 Acko.net에 올린 에세이는 이 질문에 불편하지만 날카로운 답을 내놓습니다. 그의 핵심 주장은 단순합니다. LLM이 만드는 결과물은 본질적으로 위조품(forgery)이라는 것입니다.
출처: The L in “LLM” Stands for Lying – Acko.net (Steven Wittens, 2026년 3월 4일)
“위조”라는 프레임
Wittens는 LLM을 둘러싼 논쟁이 늘 같은 두 축을 맴돈다고 지적합니다. 창의적·생산적이라는 긍정론과, 게으름·지식 부패·표절이라는 부정론. 그런데 정작 핵심을 짚는 단어는 빠져 있다고 말합니다. 바로 ‘위조’입니다.
그가 정의하는 위조란 이렇습니다. 반 고흐 스타일의 그림에 반 고흐 서명을 붙이면 위조화다. 데이터를 조작한 연구 논문은 위조 논문이다. 위조인지 아닌지는 그것을 본 사람이 판단하는 게 아니라 만들어진 방식에 내재합니다. 아무도 보지 않는 개인 소장품이라도, 위조는 위조입니다.
이 논리를 LLM에 적용하면 결론은 명확합니다. LLM은 개인이 스스로 만들 수 있었을 결과물—혹은 타인의 결과물—을 더 빠르게 모방해내는 도구입니다. 모방 자체는 법적으로 허용됩니다. 문제는 그 모방물을 진본 대신 쓰려는 순간 발생합니다.
개발 현장에서 벌어지는 일
Wittens는 추상적 비판에서 멈추지 않고 실제 현장의 풍경을 묘사합니다.
오픈소스 메인테이너들은 이미 피해를 체감하고 있습니다. GitHub 이력을 부풀리려는 기여자들이 AI가 생성한 엉성한 코드로 PR(Pull Request)을 보내오고 있고, 메인테이너가 피드백을 주면 그걸 다시 AI에 붙여넣는 악순환이 반복됩니다. 결국 일부 프로젝트는 외부 기여를 막았고, curl 프로젝트는 버그 바운티 제도를 폐지했습니다.
팀 내부 상황도 비슷합니다. AI 도구 덕분에 신입 엔지니어가 빠르게 성과를 내는 것처럼 보이지만, 실제로는 초반 몇 주의 학습 과정을 AI에 넘긴 것뿐입니다. 그 결과물은 겉보기엔 그럴듯해도 깊이가 없고, 코드베이스 전반에 평범한 중간값을 주입합니다. Wittens는 말합니다. “2026년 현재, 신입이 주석이 가득한 상세한 PR을 제출하면 모든 내용을 의심하라.”
베테랑도 예외가 아닙니다. 수년 경력자도 AI로 당혹스러운 실수를 저지르는 걸 여러 번 목격했다고 그는 씁니다. 공동 조종사(co-pilot)가 아니라 그냥 자동 조종(auto-pilot)이라는 겁니다.
AI가 구조적으로 거짓말을 할 수밖에 없는 이유
에세이의 가장 도발적인 부분은 마지막입니다. Wittens는 LLM이 출처를 제대로 밝히는 것이 기술적으로 불가능하다고 주장합니다.
LLM이 출처를 언급하거나 인용할 수 있는 건, 학습 데이터에 그런 패턴이 많았기 때문에 자연스럽게 흉내내는 것입니다. 현재 텍스트 흐름에서 적절해 보일 때만 그렇게 할 뿐, 실제로 정보를 어디서 가져왔는지 추적하는 능력은 없습니다. 그의 표현을 빌리면 “인용 역할극(citation role-play)”입니다.
그렇다면 해법은 무엇일까요? Wittens는 LLM이 추론과 동시에 올바른 출처 귀속을 수행해야만 이 문제가 해결된다고 말합니다. 어떤 코드가 기존 코드베이스에서 복사된 것인지, 어떤 정보가 실제로 어디서 왔는지를 밝힐 수 있어야 한다는 것입니다. 하지만 오늘날 모델 구조에서 이는 사실상 불가능하고, AI 탐지 도구들이 우회적으로 이 문제를 해결하려 시도하는 것 자체가 본말전도라고 지적합니다.
필연이 아닌 선택의 문제
Wittens의 에세이가 다른 AI 비판론과 구별되는 지점은 여기에 있습니다. 그는 AI를 쓰지 않는 게 시대에 뒤처지는 일이라는 ‘불가피성의 프레임’ 자체를 문제 삼습니다. 비디오 게임 업계처럼 소비자가 적극적으로 AI 생성 콘텐츠를 거부하고 플랫폼에 투명성을 요구하는 사례는, 이 불가피성이 그저 하나의 선택지일 뿐임을 보여준다고 말합니다.
에세이는 길고 논점이 많습니다. 소프트웨어 생태계의 구조적 문제, 절차적 생성(procedural generation)과의 비교, 저작권 법리에 대한 견해까지 폭넓게 다룹니다. 위조품 프레임이 흥미롭게 느껴진다면 원문을 직접 읽어볼 만합니다.
참고자료:
답글 남기기