리스크를 계산하고 관리하는 게 본업인 사람들이 “이건 너무 위험해서 못 맡겠다”고 손을 든다면, 그건 정말로 심각한 신호일 겁니다. AI가 바로 그런 상황을 만들어내고 있습니다.
Financial Times의 보도에 따르면, AIG, WR Berkley, Great American 같은 주요 보험사들이 미국 규제당국에 기업 보험에서 AI 관련 배상책임을 제외해달라고 요청하고 있습니다. 한 보험업계 관계자는 AI 모델의 출력값을 “블랙박스 같아서 예측이 불가능하다”고 표현했죠. AI를 도입하는 기업들이 점점 늘어나는데, 정작 사고가 나면 보험으로 보상받지 못할 수도 있다는 이야기입니다.
출처: AI is too risky to insure, say people whose job is insuring risk – TechCrunch
이미 현실이 된 AI 사고들
보험사들이 이렇게 극단적인 조치를 고려하는 건 그럴 만한 이유가 있습니다. 최근 몇 년간 AI가 일으킨 사고들을 보면 피해 규모가 상상을 초월하거든요.
Google의 AI Overview는 한 태양광 기업이 법적 문제에 휘말렸다고 허위로 표시했다가 1억 1,000만 달러(약 1,500억 원) 규모의 명예훼손 소송에 휘말렸습니다. Air Canada는 자사 챗봇이 멋대로 만들어낸 할인 혜택을 법원 명령으로 인정해줘야 했고요. 영국 엔지니어링 기업 Arup은 더 충격적입니다. 딥페이크로 만든 가짜 임원이 화상회의에 등장해서 직원들을 속이고 2,000만 파운드(약 340억 원)를 빼돌렸죠.
보험사가 진짜 두려워하는 것
흥미로운 건 보험사들이 개별 사고 자체를 두려워하는 게 아니라는 점입니다. Aon의 사이버 부문 책임자 Kevin Kalinich는 Financial Times와의 인터뷰에서 이렇게 말했습니다. “한 회사가 4억~5억 달러 손실을 입는 건 우리가 감당할 수 있어요. 문제는 AI 에이전트 하나가 오작동해서 동시에 수천 건의 배상 청구가 발생하는 거죠.”
이게 바로 보험업계가 말하는 ‘시스템적 연쇄 리스크’입니다. 많은 기업들이 같은 AI 시스템을 쓰고 있는데, 그 시스템이 한 번에 망가지면 어떻게 될까요? 보험사 입장에서는 악몽 같은 시나리오입니다.
WR Berkley가 제안한 면책 조항을 보면 이 공포가 얼마나 심각한지 알 수 있습니다. “AI를 실제로 사용했든 사용했다고 주장되든, 제품이나 업무 흐름에서 아주 작은 부분만 관여했든” 모두 보상에서 제외한다는 내용이거든요. AIG는 “당장 시행할 계획은 없지만 배상 청구가 늘어날 경우를 대비해 옵션을 마련해두고 싶다”고 밝혔습니다.
절충안을 찾는 보험사들
모든 보험사가 완전히 손을 뗀 건 아닙니다. 일부는 제한적이나마 보장을 제공하려 노력하고 있어요. QBE는 EU AI 법에 따른 벌금을 보험 한도의 2.5%까지만 보장하는 상품을 내놨고, Chubb는 특정 AI 사고는 보장하되 “광범위한 동시다발적 사고”는 제외하는 조건을 달았습니다.
하지만 보험 중개인들은 이런 약관을 꼼꼼히 읽어야 한다고 경고합니다. 겉보기엔 새로운 보장을 제공하는 것처럼 보이지만, 실제로는 보호 범위를 축소하는 경우도 있거든요.
기업들은 어쩌란 말인가
이 상황이 기업들에게 던지는 메시지는 명확합니다. AI를 도입할 때 보험으로 리스크를 전가할 수 있다고 안심하면 안 된다는 거죠. 보험업계 자체가 AI 리스크를 제대로 이해하지 못하고 있고, 그래서 보장을 거부하고 있으니까요.
아이러니한 건 AI가 ‘너무 예측 불가능하다’는 이유로 보험에서 제외되고 있다는 점입니다. 보험이란 게 본래 예측 불가능한 미래의 리스크를 관리하는 산업인데 말이죠. AI는 이제 보험 산업의 기본 전제 자체를 흔들고 있습니다.
참고자료:
답글 남기기