몇 년 전까지 데이터 사이언티스트의 실력은 “얼마나 좋은 모델을 만드는가”로 평가받았습니다. 지금은 다릅니다. AI를 실제 프로덕션에 돌리는 회사일수록, 데이터 사이언티스트는 모델을 새로 만드는 시간보다 이미 돌아가는 AI 시스템을 감독하고 관리하는 시간을 더 많이 씁니다.

KDnuggets의 커리어 칼럼니스트 Nate Rosidi가 2025~2026년 채용 공고와 급여 데이터를 근거로 이 변화를 정리했습니다. LinkedIn은 AI 리터러시와 LLM 활용 능력을 전 세계에서 가장 빠르게 성장하는 스킬 두 가지로 꼽았고, 인력 분석 업체 Lightcast에 따르면 AI 관련 채용 공고의 51%가 이제 전통적인 IT 직군 바깥에서 나옵니다.

출처: Data Scientists Are Becoming AI Managers, Not Model Builders – KDnuggets

몸값을 올리는 건 모델 성능이 아니다

AI 스킬을 가진 인력은 56%의 임금 프리미엄을 받고, 미국에서 AI 스킬을 요구하는 채용 공고는 그렇지 않은 공고보다 연봉이 약 1만 8천 달러 더 높습니다. 이 프리미엄을 만드는 스킬은 프롬프트 엔지니어링, 검색증강생성(RAG) 연동, MLOps, 거버넌스 워크플로입니다.

반대로 대시보드 제작, SQL 작성, 데이터 정제, 기본적인 시각화처럼 예전엔 데이터 사이언티스트의 일과였던 작업들은 생성형 AI가 대신 처리하고 있습니다. 숫자가 가리키는 패턴은 일관됩니다. 프리미엄은 모델을 처음부터 학습시킬 수 있는 사람이 아니라, 모델을 워크플로에 끼워 넣고 정직하게 작동하게 유지하며 결과에 책임질 수 있는 사람에게 붙습니다.

실제로 늘어난 다섯 가지 업무

가장 뚜렷한 신호는 멀티에이전트 인프라의 성장입니다. LangGraph, CrewAI, AutoGen 같은 프레임워크가 데이터 수집부터 피처 엔지니어링, 모델 평가, 리포트 작성까지 사람 개입 없이 처리하는 경우가 늘었습니다. 가트너는 멀티에이전트 시스템 관련 문의가 2024년 1분기부터 2025년 2분기 사이 1,445% 급증했다고 보고했고, 2026년 말까지 기업 애플리케이션의 40%가 AI 에이전트를 내장할 것으로 전망합니다.

이 인프라를 관리하는 데이터 사이언티스트는 복잡한 과업을 에이전트가 실행할 수 있는 하위 작업으로 쪼개고, 신뢰할 수 있는 피드백 루프를 설계하고, 실패가 연쇄되기 전에 잡아내는 가드레일을 만듭니다. 소프트웨어에 적용된 시스템 관리 스킬인 셈입니다.

두 번째는 프로덕션 격차를 메우는 감독 업무입니다. 2025년 말, 완전 자율 에이전트에 대한 기대는 프로덕션 현실과 부딪혔습니다. 예측 불가능하고 감사하기 어려웠기 때문이죠. 그래서 업계는 명확한 경계와 조건부 로직, 사람이 개입하는 체크포인트를 가진 구조화된 워크플로 쪽으로 옮겨갔습니다. 기업의 3분의 2가 에이전트 실험을 해봤지만 실제 가치를 낼 만큼 확장한 곳은 적고, 10곳 중 8곳이 데이터 제약을 주요 걸림돌로 꼽습니다. 데이터 사이언티스트는 지금 이 파일럿과 프로덕션 사이의 격차에서 대부분의 시간을 보냅니다.

세 번째는 모델 평가와 프롬프트 엔지니어링입니다. 모델 성능을 지속적으로 추적하고, 실패를 감지하고, 재학습 주기를 관리하는 일이 MLOps라는 독립된 전문 분야로 자리 잡았습니다. 프롬프트 엔지니어링 직무는 2025년 한 해 동안 135.8% 늘었는데, 이 일은 사실상 품질 엔지니어링과 구조적으로 비슷합니다. 시스템이 멀쩡히 작동하다 멈추는 순간을 고객보다 먼저 잡아내는 게 목적이라는 점에서 그렇습니다.

네 번째는 거버넌스입니다. EU AI Act, NIST AI 위험관리 프레임워크, OWASP의 LLM 애플리케이션 10대 취약점 목록이 만들어낸 규제 영역은 프롬프트 인젝션 취약점 테스트, 출력값 검증, 의존성 검토 같은 기술적 작업을 요구합니다. “AI 거버넌스 리드”는 2023년만 해도 거의 없던 직함이었지만 지금은 별도 채용 카테고리로 등장하고 있습니다. 이 역할이 법무팀이나 보안팀이 아니라 데이터 사이언티스트 쪽에 붙는 이유는 통제 장치 자체가 기술적이기 때문입니다. 정책만 아는 사람이 아니라 시스템을 직접 읽을 수 있는 사람이 필요한 겁니다.

다섯 번째는 비즈니스 임팩트 해석입니다. Monte Carlo의 2025년 조사에 따르면 에이전트형 AI의 단계별 정확도는 75~90% 수준인데, 이게 3단계짜리 체인을 거치면 누적 정확도가 약 50%까지 떨어집니다. 이 정확도 수준에서, 도메인과 시스템의 실패 양상을 아는 사람이 사실상 제품의 신뢰성을 책임지는 층이 됩니다. 누적 오류율을 비즈니스 리스크로 번역하고, 무엇을 출시해도 안전한지 판단하고, 고객에게 문제가 드러났을 때 원인을 설명하는 일이죠.

왜 이 일은 에이전트가 대신할 수 없는가

이 다섯 업무를 관통하는 공통점이 있습니다. 전부 제도적 맥락과 책임 소재를 요구한다는 점입니다. 50%의 종단 정확도는 자동화된 환불 처리에는 용납되지 않지만, 초안 이메일 작성에는 괜찮고, 내부 추천 시스템에는 그 중간 어디쯤입니다. 어느 쪽인지 판단하는 일 자체가 업무이고, 이 판단은 모델이 좋아진다고 저절로 쉬워지지 않습니다.

다음 포트폴리오는 노트북이 아니다

Rosidi는 데이터 사이언티스트가 다음 커리어를 준비할 때 보여줄 결과물도 달라진다고 말합니다. 이제 눈에 띄는 포트폴리오는 또 하나의 Kaggle 노트북이 아니라, 평가 하네스나 실패 로그가 기록된 멀티에이전트 워크플로, 혹은 기존 시스템에 대한 거버넌스 리뷰입니다. 채용 담당자들이 채용공고에 실제로 적어 넣기 시작한 항목들이기도 합니다. 모델을 만들 줄 아는 사람과, 그 모델을 믿고 맡길 수 있는 사람을 가르는 지점이 바로 여기에 있습니다.