급성장하는 생성형 AI 시장

생성형 AI 시장이 폭발적으로 성장하고 있습니다. 가트너(Gartner)의 최신 보고서에 따르면, 2025년 전 세계 생성형 AI 지출이 6,440억 달러에 도달할 것으로 전망되며, 이는 2024년 대비 76.4%나 증가한 수치입니다. 이처럼 엄청난 성장세를 보이는 생성형 AI 시장은 기업의 IT 전략과 투자 방향에 큰 영향을 미치고 있습니다.

이번 글에서는 가트너의 생성형 AI 지출 전망 보고서를 바탕으로, 생성형 AI 시장의 현황과 미래 전망, 그리고 기업 IT 리더들이 알아야 할 주요 인사이트를 살펴보겠습니다.

 출처: Gartner – 2025년 생성형 AI 지출 전망 (2025년 3월)

2025년 생성형 AI 지출 전망

전체 시장 규모 및 성장률

가트너의 보고서에 따르면, 2025년 생성형 AI 관련 지출이 6,440억 달러에 이를 것으로 예상됩니다. 이는 2024년 3,650억 달러에서 76.4% 증가한 수치로, 생성형 AI에 대한 투자가 계속해서 가속화되고 있음을 보여줍니다.

이러한 시장 성장은 다른 연구 기관의 조사 결과와도 일치합니다. 펜실베이니아 대학교 와튼 스쿨의 AI 연구센터(AI at Wharton)에 따르면 AI 도입이 전년 대비 130% 성장했으며, 딜로이트(Deloitte)는 기업의 74%가 생성형 AI 이니셔티브의 ROI 목표를 달성했거나 초과 달성했다고 보고했습니다.

산업별 투자 동향

생성형 AI 투자는 전 산업에 걸쳐 증가하고 있지만, 특히 금융 서비스, 헬스케어, 소매업 및 제조업에서 높은 성장세를 보이고 있습니다. 기업들은 고객 서비스 개선, 운영 효율성 향상, 새로운 제품 및 서비스 개발 등을 위해 생성형 AI를 도입하고 있습니다.

IBM의 최근 조사에 따르면, 2025년 기업들이 생성형 AI에 투자하는 주요 분야는 다음과 같습니다:

• 고객 서비스 자동화 (45%)
• 콘텐츠 생성 및 마케팅 (38%)
• 개발자 생산성 향상 (36%)
• 데이터 분석 및 인사이트 생성 (32%)
• 업무 프로세스 자동화 (30%)

지출 구조의 특징: 하드웨어 중심 지출

하드웨어 지출 비중 및 세부 내역

가트너 보고서에서 가장 주목할 만한 점은 2025년 생성형 AI 지출의 약 80%가 하드웨어에 집중될 것이라는 전망입니다. 세부적으로 살펴보면:

• 디바이스: 3,983억 달러 (99.5% 성장)
• 서버: 1,806억 달러 (33.1% 성장)
• 소프트웨어: 372억 달러 (93.9% 성장)
• 서비스: 278억 달러 (162.6% 성장)

 출처: Visual Capitalist – 빅테크 기업의 AI 데이터센터 투자 (2024년 12월)

가트너의 분석가 John Lovelock은 “디바이스 시장은 가장 큰 놀라움이었다. 이는 수요보다는 공급 측면에 의해 주도되는 시장”이라고 설명했습니다. 그는 “소비자와 기업이 AI 지원 디바이스를 찾고 있는 것이 아니라, 제조업체가 이를 생산하고 판매하고 있다. 2027년까지는 AI가 탑재되지 않은 PC를 구매하는 것이 거의 불가능해질 것”이라고 덧붙였습니다.

향후 지출 구조의 변화 전망

많은 사람들이 시장이 성숙함에 따라 하드웨어에서 소프트웨어와 서비스로 지출 비율이 점차 이동할 것이라고 예상할 수 있지만, Lovelock의 견해는 다릅니다. 그는 “시간이 지남에 따라 하드웨어에 유리한 방향으로 비율이 더 변화한다”고 말했습니다. “더 많은 소프트웨어가 생성형 AI 기능을 갖게 되겠지만, 생성형 AI 소프트웨어에 직접 지출되는 금액은 줄어들 것이다. 생성형 AI는 소프트웨어 가격의 일부로 제공되는 내장 기능이 될 것”이라고 예측했습니다.

이러한 전망은 기술 예산 책정과 인프라 계획에 깊은 영향을 미칩니다. 시간이 지남에 따라 하드웨어에서 소프트웨어로 지출을 전환할 것으로 예상하는 조직은 지속적인 하드웨어 요구 사항을 고려하여 재무 모델을 재조정해야 할 수 있습니다.

기업 내부 생성형 AI 프로젝트의 실패 요인

가트너 보고서는 많은 내부 생성형 AI 개념 증명(PoC) 프로젝트가 기대한 결과를 제공하지 못했다는 냉정한 현실을 강조합니다. Lovelock은 이를 “패러독스”라고 부르며, 대규모 투자에도 불구하고 기대치가 감소하고 있다고 지적합니다.

주요 실패 요인

Lovelock은 생성형 AI 이니셔티브를 계속 좌절시키는 세 가지 주요 장벽을 구체적으로 지적했습니다:

1. 데이터 부족 또는 품질 문제: 많은 조직이 생성형 AI 시스템을 효과적으로 훈련하거나 구현하기에 충분한 고품질 데이터가 없습니다.
2. 조직 구성원의 변화 저항: 사용자들이 새로운 도구를 채택하거나 AI 기능을 통합하기 위해 워크플로우를 조정하는 데 어려움을 겪고 있습니다.
3. ROI 부족: 프로젝트가 구현 비용을 정당화할 만한 측정 가능한 비즈니스 가치를 제공하지 못하는 경우가 많습니다.

IBM의 최근 보고서에서도 비슷한 도전 과제가 확인되었습니다. 기업들이 생성형 AI 도입 시 직면하는 상위 5대 과제는 다음과 같습니다:

1. 데이터 정확성 또는 편향성에 대한 우려 (45%)
2. 모델을 맞춤화하기 위한 독점 데이터 부족 (42%)
3. 생성형 AI 전문 지식 부족 (42%)
4. 충분한 재정적 정당화 또는 비즈니스 케이스 부족 (42%)
5. 데이터 및 정보의 프라이버시 또는 기밀성에 대한 우려 (40%)

이러한 통찰은 생성형 AI의 주요 과제가 기술적 한계가 아니라 조직의 준비도 요소임을 보여줍니다.

기업 AI 전략의 변화: 내부 개발에서 상용 솔루션으로

접근 방식 변화의 이유

가트너 전망은 2025년 이후 야심찬 내부 프로젝트에서 예측 가능한 구현과 비즈니스 가치를 제공하는 상용 솔루션으로의 전환을 예상합니다.

이러한 전환은 맞춤형 생성형 AI 솔루션 구축이 종종 예상보다 더 많은 과제를 제시한다는 인식이 커지고 있음을 반영합니다. Lovelock의 실패율에 대한 언급은 많은 조직이 상업적 옵션을 선호하는 이유를 강조합니다.

기술 리더들에게 이는 처음부터 맞춤형 애플리케이션을 구축하기보다는 기존 시스템에 생성형 AI 기능을 내장한 벤더 솔루션을 우선시해야 함을 시사합니다. Lovelock이 언급했듯이, 이러한 기능은 점점 더 별도의 생성형 AI 제품이 아닌 표준 소프트웨어 기능의 일부로 제공될 것입니다.

상용 솔루션 도입 시 고려 사항

기업이 내부 개발에서 상용 솔루션으로 전환할 때 고려해야 할 주요 사항은 다음과 같습니다:

1. 통합 용이성: 선택한 솔루션이 기존 시스템 및 워크플로우와 얼마나 쉽게 통합되는지
2. 데이터 프라이버시 및 보안: 벤더가 데이터 보호에 대한 엄격한 표준을 준수하는지
3. 맞춤화 옵션: 솔루션이 조직의 특정 요구 사항에 맞게 조정될 수 있는 정도
4. 확장성: 솔루션이 조직의 성장과 진화하는 요구 사항을 수용할 수 있는지
5. 총 소유 비용(TCO): 장기적 관점에서 상용 솔루션의 비용 구조

한국 기업을 위한 시사점

국내 AI 도입 현황

한국은 AI 기술 채택에 있어 선도적인 위치를 차지하고 있습니다. 경제협력개발기구(OECD)의 ‘Digital Economy Outlook 2024’ 보고서에 따르면, 한국은 IoT(53%), 빅데이터 분석(40%), AI 기술(28%) 채택률에서 1위를 차지했으며, 클라우드 컴퓨팅 채택(70%)에서는 5위를 기록했습니다.

한국개발연구원(KDI) 연구에 따르면, 50인 이상 기업 중 약 19.1%의 직원들이 이미 AI의 영향을 받고 있습니다. 산업별로는 전기 및 가스 업종(73.5%), 금융/보험(43.8%), 정보통신(34.6%), 교육 서비스(27.2%), 제조업(22.4%) 순으로 AI 영향률이 높게 나타났습니다.

특히 주목할 만한 점은 한국은행의 보고서에 따르면, AI 도입이 한국의 GDP를 최대 12.6% 증가시킬 것으로 예상된다는 점입니다. 생산성은 최대 3.2% 상승할 것으로 전망됩니다.

효과적인 AI 전략 수립을 위한 제언

글로벌 동향과 국내 현황을 고려할 때, 한국 기업은 다음과 같은 전략적 접근이 필요합니다:

1. 하드웨어 투자 계획 재검토: 가트너의 전망대로 하드웨어 중심의 지출 구조가 이어진다면, 한국 기업들도 AI 인프라에 대한 장기적 투자 계획을 수립해야 합니다.
2. 데이터 전략 강화: 내부 AI 프로젝트 실패의 주요 원인인 데이터 품질 및 양 문제를 해결하기 위해 체계적인 데이터 관리 전략이 필요합니다.
3. 상용 솔루션과 내부 개발의 균형: 완전한 내부 개발보다는 산업별 특화된 상용 솔루션을 도입하고, 필요한 부분만 내부 개발로 보완하는 하이브리드 접근법을 고려해야 합니다.
4. AI 인재 육성: 생성형 AI 전문성 부족 문제를 해결하기 위해 전문 인력 확보와 함께 기존 직원의 AI 리터러시 향상이 중요합니다.
5. 변화 관리 강화: 기술 도입 못지않게 중요한 것은 조직 구성원들의 변화 수용성입니다. 체계적인 변화 관리 전략을 통해 AI 도입의 성공률을 높일 수 있습니다.

결론: 변화하는 생성형 AI 시장에 대한 대응

가트너의 생성형 AI 지출 전망은 기업 IT 리더들에게 중요한 시사점을 제공합니다. 2025년 6,440억 달러에 이를 것으로 예상되는 생성형 AI 시장은 하드웨어 중심의 지출 구조를 유지하면서, 내부 개발보다는 상용 솔루션 중심으로 변화할 전망입니다.

성공적인 AI 도입을 위해서는 데이터 품질, 인력 전문성, 변화 관리 등의 도전 과제를 체계적으로 해결해야 합니다. 또한, 단순히 트렌드를 따라가는 것이 아니라 자사의 비즈니스 목표와 환경에 맞는 AI 전략을 수립하는 것이 중요합니다.

결국 2025년 생성형 AI 지출 가속화 속에서 성공은 투자 규모만으로 결정되지 않을 것입니다. 조직의 준비도와 정렬하고, 세 가지 주요 실패 요인을 극복하며, 점점 더 내장되는 생성형 AI 기능을 활용하기 위한 전략을 개발하는 기업이 이 급속히 진화하는 기술 환경에서 가장 많은 가치를 창출할 것입니다.

---

참고자료:

• Gartner forecasts gen AI spending to hit $644B in 2025: What it means for enterprise IT leaders
• Gartner Forecasts Worldwide GenAI Spending to Reach $644 Billion in 2025
• AI Adoption Challenges
• 1 in 5 workers at mid- to large-size Korean companies already affected by AI
• Bank of Korea reports AI adoption boosts South Korea’s GDP by 12.6%