ChatGPT에 “샌프란시스코 스테이크하우스 영수증 만들어줘”라고 입력하면 몇 초 만에 진짜 같은 영수증이 만들어집니다. 종이 주름까지 재현된 이 영수증은 인간 검토자가 구분할 수 없을 정도로 정교해서, 2024년 0%였던 AI 생성 가짜 영수증이 2025년 9월에는 전체 사기성 경비 청구의 14%를 차지하게 됐습니다.

핵심 포인트:

• 9개월 만에 0%→14% 급증: 경비 관리 플랫폼 AppZen에 따르면 AI로 생성된 가짜 영수증이 2024년에는 전무했으나 2025년 9월 전체 사기성 문서의 14%를 차지. 핀테크 기업 Ramp는 90일간 100만 달러 이상의 사기성 청구서 적발
• “눈을 믿지 마라”는 시대: SAP Concur는 고객들에게 “보이는 것을 믿지 말라”고 경고. 커피 얼룩, 구겨진 가장자리, 실제 메뉴와 일치하는 항목까지 재현돼 시각적 검증이 무력화
• 기술 장벽 제로의 역설: 포토샵 같은 전문 기술 없이도 누구나 몇 초 만에 제작 가능. 사기 방지 협회는 “5년 전처럼 기술적 능력이 필요하지 않다”며 진입 장벽 소멸을 지적

“이게 진짜일까, 가짜일까?”

링크드인에 올라온 한 장의 사진이 화제가 됐습니다. 프랑스 레스토랑 체인점 영수증인데, 구겨지고 얼룩진 모습이 너무나 자연스러워 보였죠. 그런데 이건 ChatGPT의 최신 이미지 생성 모델 4o가 만든 가짜였습니다.

TechCrunch가 직접 테스트해 봤습니다. “샌프란시스코 애플비 레스토랑 영수증”이라고 요청하자 몇 초 만에 그럴듯한 영수증이 나왔어요. 물론 계산이 좀 이상하긴 했지만(AI는 아직 수학을 못하거든요), 포토샵으로 몇 분만 손보면 완벽하게 만들 수 있는 수준이었습니다.

문제는 이게 더 이상 실험실 이야기가 아니라는 겁니다.

회사 경비 청구가 위험해졌다

숫자가 말해줍니다. 경비 관리 플랫폼 AppZen의 데이터를 보면, AI로 생성된 가짜 영수증이 2024년에는 아예 없었어요. 그런데 2025년 9월에는 전체 사기성 문서의 14%를 차지하게 됐습니다. 단 9개월 만에 일어난 일이죠.

핀테크 기업 Ramp는 지난 90일 동안 100만 달러가 넘는 사기성 청구서를 적발했습니다. SAP의 7월 조사는 더 충격적인데요, CFO의 70%가 자기 회사 직원들이 AI로 경비 사기를 시도하고 있다고 믿고 있었고, 10%는 실제로 그런 일이 있었다고 확신했습니다.

세계 최대 경비 관리 플랫폼 중 하나인 SAP Concur의 크리스 주노 수석 부사장은 고객들에게 이렇게 말합니다. “이 영수증들이 너무 잘 만들어져서, 우리는 고객들에게 ‘눈을 믿지 말라’고 말합니다.”

포토샵도 필요 없는 시대

예전에는 가짜 영수증을 만들려면 포토샵 같은 프로그램을 다룰 줄 알아야 했어요. 어느 정도 기술이 필요했죠. 그런데 지금은요? ChatGPT에 “스타벅스 영수증 만들어줘”라고 입력하면 끝입니다.

사기 방지 전문가 협회의 메이슨 와일더 연구 이사는 이렇게 설명합니다. “사람들이 이걸 하는 데 진입 장벽이 제로입니다. 5년 전이라면 필요했을 기술적 능력이나 적성 같은 게 이제는 전혀 필요 없어요.”

사기 연구에서는 “사기 삼각형”이라는 개념이 있습니다. 사기가 일어나려면 세 가지 요소가 필요하다고 하는데요. 동기, 합리화, 그리고 기회입니다. AI는 바로 이 ‘기회’ 요소를 극적으로 확대시켰습니다. 이제 누구나, 언제든지, 몇 초 만에 가짜 영수증을 만들 수 있으니까요.

실제로 2024년 조사에서 직원 24%가 경비 사기를 저질렀다고 시인했고, 15%는 고려 중이라고 답했습니다. 더 놀라운 건, 영국 공공 부문 의사 결정자의 42%가 허위 경비 청구를 제출한 적이 있다고 인정했다는 사실입니다.

AI vs AI: 탐지 전쟁의 시작

그렇다면 어떻게 막을 수 있을까요? 아이러니하게도 답은 또 AI입니다.

Expensify, SAP Concur, AppZen 같은 기업들은 AI로 만든 가짜 영수증을 찾아내는 AI 도구를 개발하고 있어요. 이 소프트웨어는 이미지의 메타데이터를 스캔해서 AI 플랫폼이 만들었는지 확인합니다.

OpenAI도 대응에 나섰습니다. ChatGPT로 생성된 모든 이미지에는 C2PA 표준에 따른 메타데이터가 포함됩니다. 타임스탬프, 소프트웨어 정보, 출처 표시 등이 숨어 있는 거죠.

하지만 허점이 있습니다. 스크린샷을 찍거나 사진을 다시 찍으면 메타데이터가 사라져요. 너무 쉽게 우회할 수 있다는 얘기죠.

그래서 기업들은 더 복잡한 방법을 쓰기 시작했습니다. 단순히 이미지만 보는 게 아니라 맥락 정보를 교차 검증하는 겁니다. 같은 서버 이름이 반복되는지, 시간이 말이 되는지, 출장 기록과 일치하는지 등을 확인하죠.

Ramp의 캘빈 리 제품 관리 선임 이사는 이렇게 설명합니다. “AI 기술은 인간이 시간이 지나면서 놓칠 수 있는 세부 사항을 높은 수준으로 집중해서 볼 수 있습니다.”

“보는 것이 믿는 것”은 끝났다

이 문제가 경비 청구에만 그치지 않는다는 게 더 큰 문제입니다. 호주 경쟁소비자위원회는 2023년 한 해 동안 사기로 31억 달러 이상의 손실이 발생했다고 보고했어요. 결제 리디렉션 사기가 급증하고 있는데, AI로 만든 가짜 청구서가 그 역할을 톡톡히 하고 있습니다.

전통적인 시각 검증은 이제 통하지 않습니다. 종이 영수증이 사라지고 디지털 문서가 표준이 되면서, 물리적 보안 기능도 함께 사라졌거든요. 눈으로 확인하는 것만으로는 더 이상 충분하지 않아요.

기업들은 빠르게 적응해야 합니다. 은행 거래 내역과 매칭하고, 이상한 지출 패턴을 자동으로 감지하고, 여러 겹의 검증 시스템을 갖춰야 해요. 어쩌면 블록체인 기술로 거래를 검증하는 방법도 확대될 수 있겠죠.

“보는 것이 믿는 것”이었던 시대는 끝났습니다. 이제 우리는 AI가 만든 완벽한 가짜와 함께 살아가는 법을 배워야 합니다. 회사 경비 청구서를 받을 때마다, 청구서가 날아왔을 때마다, 한 번 더 의심하고 확인하는 게 일상이 되어 버렸습니다.

---

참고자료:

• New image-generating AIs are being used for fake expense reports – Ars Technica
• Workers are scamming their employers using AI-generated fake expense receipts – TechRadar
• Can you spot a financial fake? How AI is raising our risks of billing fraud – The Conversation
• ChatGPT’s new image generator is really good at faking receipts – TechCrunch

Like?