GPT나 Claude API를 직접 써본 개발자라면 한 번쯤 이런 경험을 했을 겁니다. 분명 시스템 프롬프트로 동작을 설정했는데, 모델이 자꾸 자기 방식대로 응답하려 합니다. AI 랩들이 자사 인터페이스에 맞게 모델 자체를 훈련시키고 있기 때문입니다.

테크 애널리스트 Drew Breunig이 OpenAI의 파인튜닝 플랫폼 종료 발표를 계기로, 대형 AI 랩들이 자사 하네스를 모델에 직접 학습시키는 트렌드와 그 의미를 짚었습니다.

출처: The Cost of Overfitting the Harness – Drew Breunig

하네스란 무엇인가

‘하네스(harness)’는 AI 모델이 실제로 동작하는 환경, 즉 인터페이스와 그 안에서 정의된 행동 방식을 말합니다. Claude.ai, ChatGPT 같은 1st party 제품이 대표적입니다. 대화 형식, 응답 스타일, 툴 사용 방식 등 모델이 ‘어떻게 행동할지’를 규정하는 틀이 하네스입니다.

문제는 이 하네스 설계가 모델 가중치 안에 직접 학습되고 있다는 점입니다.

무슨 일이 일어나고 있나

5월 7일, OpenAI가 개발자용 파인튜닝 플랫폼을 단계적으로 종료한다고 발표했습니다. OpenAI는 그동안 GPT 모델을 자신의 데이터로 직접 재훈련할 수 있는 API를 제공해왔는데, 신규 사용자는 즉시 접근이 막혔고 기존 사용자도 2027년 1월 이후엔 새 훈련 작업을 만들 수 없게 됩니다. 표면적 이유는 “모델이 이미 충분히 강력해졌기 때문”입니다. 하지만 테크 애널리스트 Drew Breunig은 다른 각도에서 이 움직임을 읽습니다.

대형 AI 랩들은 자사 제품(Claude.ai, ChatGPT)에 최적화된 동작 방식을 모델 훈련 과정에서부터 심어넣고 있습니다. 모델이 1st party 하네스에 맞게 ‘오버피팅’되는 셈입니다. 그 결과, 서드파티 환경에서 모델을 쓸 때 예상치 못한 저항이 생깁니다.

실제 사례도 있습니다. 개발자 Mario Zechner는 오픈소스 AI 인터페이스인 Pi 하네스에서 Claude를 쓰다가 이 문제를 직접 겪었습니다. Pi 하네스의 설정대로 모델을 동작시키려 했는데, Claude가 매 단계마다 자신이 훈련된 1st party 방식으로 행동하려 해서 충돌이 생겼습니다.

파인튜닝은 이 문제를 우회하는 탈출구였습니다. 모델의 기본 동작을 개발자 입맛에 맞게 조정할 수 있었으니까요. 그 탈출구가 닫히고 있습니다.

가전제품이 된 AI

Breunig은 이 흐름이 계속된다면, 프론티어 모델은 “범용 플랫폼”이 아니라 “가전제품(appliance)”에 가까워질 것이라고 봅니다.

세탁기는 강력하지만 세탁 이외의 용도로 쓸 수 없습니다. 내부 구조를 바꿀 수도 없습니다. 마찬가지로, 하네스가 내장된 AI 모델은 제조사가 설계한 방식으로만 잘 작동하고, 그 범위를 벗어나면 저항이 커집니다.

기업 입장에서는 이게 나쁘지 않습니다. 동작이 예측 가능하고 안정적이니까요. 하지만 그 대가는 락인(lock-in)입니다. 특정 랩의 모델과 그 생태계에 더 깊이 묶이게 됩니다.

개발자와 서드파티 빌더 입장에서는 선택지가 좁아지는 흐름입니다. 모델을 내 앱에 맞게 조정하는 것이 점점 어려워지고, 대신 내 앱을 모델의 설계에 맞춰야 하는 상황이 늘어날 수 있습니다.

참고자료:

• Comparing System Prompts Across Claude Versions – Drew Breunig
• Fine-tuning now available for GPT-4o – OpenAI