얼굴 인식 기술이 편의성과 보안이라는 명분으로 우리 일상 깊숙이 자리 잡았지만, 전 세계 1억 명 이상의 안면 차이를 가진 사람들은 운전면허 갱신, 은행 앱 접속, 정부 서비스 이용조차 어려운 현실에 직면했습니다. 기술의 효율성이라는 그럴듯한 포장 아래 숨겨진 구조적 배제, 그 실체를 들여다봅니다.
핵심 포인트:
- 기계가 “당신은 인간이 아니다”라고 말할 때: Freeman-Sheldon 증후군을 가진 Autumn Gardiner는 차량관리국에서 면허증 사진을 찍을 수 없었습니다. 시스템이 그녀의 얼굴을 계속 거부했기 때문입니다.
- 1억 명의 배제, 단순한 불편이 아닌 생존의 문제: 안면 차이를 가진 사람들은 공항 게이트, 금융 앱, 정부 웹사이트 접속에서 반복적으로 차단됩니다. 대체 수단 없이 얼굴 인식만 제공하는 서비스 설계가 필수 시스템 접근을 원천 차단하고 있습니다.
- “정상” 얼굴만 학습한 AI의 맹점: 대부분의 얼굴 인식 알고리즘은 ‘전형적인’ 얼굴로만 구성된 데이터셋으로 훈련됩니다. 눈 사이 거리, 턱 크기 같은 표준화된 측정 방식은 다양한 얼굴을 애초에 고려하지 않았습니다.
“여기 이 기계가 내게 인간 얼굴이 없다고 말하고 있어요”
코네티컷주에서 환경 보존 자선단체의 보조금 관리자로 일하는 Autumn Gardiner는 지난해 결혼 후 이름을 변경하려고 차량관리국을 방문했습니다. 직원이 사진을 업데이트해야 한다고 하자, 문제가 시작됐죠.
사진을 찍을 때마다 시스템이 거부했습니다. 직원들이 계속 불려 나왔고, 모두가 지켜보는 가운데 반복해서 사진을 찍었어요. Gardiner는 Freeman-Sheldon 증후군을 가지고 있습니다. ‘휘파람 얼굴 증후군’이라고도 불리는 이 희귀 유전 질환은 얼굴과 두개골 주변 근육에 영향을 미쳐 입이 작아지는 특징이 있습니다.
“굴욕적이고 이상했어요. 여기 이 기계가 내게 인간 얼굴이 없다고 말하고 있는 거잖아요.” Gardiner의 말입니다.
Gardiner만의 문제가 아닙니다. WIRED가 인터뷰한 안면 차이를 가진 여러 사람들은 얼굴 인식 기술이 일상화되면서 현대 사회 참여가 점점 어려워지고 있다고 말합니다.
Arizona에 사는 Crystal Hodges는 Sturge-Weber 증후군으로 얼굴 일부에 보라색 ‘포트와인 얼룩’이 있습니다. 작년에 남편과 함께 대형 신용평가기관에서 신용점수를 확인하려다 얼굴 인증 서비스가 작동하지 않았죠. “5~8번 시도했어요. 다른 조명도 써보고 했지만 계속 거부당했죠. 남편은 수염이 있는데도 바로 인증됐어요.”
Maryland 거주자 Noor Al-Khaled는 몇 달째 사회보장국 온라인 계정을 만들지 못하고 있습니다. 희귀한 두개안면 질환인 Ablepheron Macrostomia를 가진 그녀에게 온라인 계정은 서류를 빠르게 전송할 수 있는 필수 도구입니다. “셀카를 찍어야 하는데, 신분증과 사진이 일치해야 하거든요. 안면 차이 때문인지 계속 일치하지 않는다고 나와요.”
시력 문제로 운전을 하지 못하는 Al-Khaled에게 온라인 접근은 더욱 절실합니다. “감정적으로는 사회에서 배제되는 느낌이에요.”
기술이 전제하는 ‘정상’이라는 환상
Face Equality International(FEI)는 안면 차이 관련 단체들의 연합체입니다. 이들의 추산에 따르면 전 세계적으로 1억 명 이상이 안면 차이를 가지고 살아갑니다. FEI의 연구에 따르면 이들은 공항 여권 게이트, 사진 앱, 소셜 미디어 영상 필터, 화상 통화 배경 흐림 효과 등에서 문제를 겪습니다.
얼굴 인식 기술의 작동 방식을 보면 문제의 근원이 보입니다. 얼굴의 주요 포인트를 매핑하고 알려진 얼굴 데이터베이스와 비교하는 방식이죠. 이 시스템의 정확도는 학습에 사용된 데이터의 다양성과 품질에 크게 의존합니다.
여기에 치명적인 문제가 있습니다. FEI가 지적한 바와 같이, 대부분의 얼굴 인식 알고리즘은 주로 ‘전형적인’ 얼굴로 구성된 데이터셋으로 훈련됩니다. 인간 얼굴의 폭넓은 다양성을 고려하지 못하는 거죠.
눈 사이의 거리, 턱의 크기 같은 측정 방식 자체가 이미 ‘정상’ 얼굴을 전제합니다. 구순구개열, 안면마비, 얼굴 재건 수술을 받은 사람들의 얼굴은 이런 시스템에서 일관되게 인식되지 않습니다.
Oregon State University의 심리학 교수이자 안면 차이 연구 전문가인 Kathleen Bogart는 말합니다. “장애인이나 안면 차이를 가진 사람들을 개발 과정에 포함시키지 않으면, 아무도 이런 문제를 생각하지 않게 됩니다. AI가 이 문제를 증폭시켰지만, 뿌리는 AI가 나타나기 훨씬 전부터 존재했던 과소 대표와 편견에 있어요.”
만능 망치가 된 얼굴 인식의 위험
Present Moment Enterprises의 설립자 Greta Byrum은 FEI에 프로보노 작업을 제공했습니다. 그녀는 “얼굴이 다른 사람들의 사례는 이런 시스템이 작동하지 않을 때 무엇이 잘못될 수 있는지 보여주는 탄광의 카나리아”라고 말합니다.
“얼굴 인식 기술이 모든 것이 못으로 보이는 망치 중 하나가 되고 있어요.”
지난 10년간 머신러닝과 AI의 급속한 발전으로 다양한 얼굴 인식 기술이 만들어졌습니다. 휴대전화에서 호텔 방까지, 얼굴이 디지털 키로 작동하는 세상이 됐죠. 경찰은 얼굴 인식 시스템을 널리 배치했고(아시아인과 흑인에 대한 부정확성과 편향이 자주 발견됐습니다), 정부 서비스, 사기 방지 시스템, 금융 기관들이 AI를 통한 신원 확인을 사용합니다. 최근엔 소셜 미디어와 포르노 웹사이트까지 연령 확인 수단으로 얼굴 스캔을 도입했습니다.
이런 ‘인증’ 얼굴 확인은 여러 형태를 취합니다. 셀카를 기존 신분증과 자동으로 비교하거나, 생체 확인 테스트로 짧은 영상을 찍어 실제 사람임을 증명하도록 요구하기도 하죠. 대체로 이런 생체 인식 시스템은 눈 사이 거리나 턱 크기 같은 얼굴 특징을 측정해 ‘얼굴 지문’을 만듭니다.
이런 감시 기술은 많은 사람에게 효과적일 수 있지만, 안면 차이를 가진 사람들은 감지하지 못할 수 있습니다. 기저의 머신러닝 기술이 다양한 얼굴을 포함한 데이터셋으로 훈련되지 않았기 때문입니다.
시스템 실패 후 남는 것: 미로 속 표류
얼굴 인증 시스템이 실패하면 도움을 찾기가 어렵습니다. 스트레스 상황에 더 많은 압박을 더하는 거죠.
New York에서 활동하는 배우이자 동기부여 연사인 Corey R. Taylor는 두개안면 이상을 가지고 있습니다. 작년에 소액을 받기 위해 금융 앱을 사용하다가 얼굴 인증 시스템이 셀카와 신분증 사진을 매칭하지 못했습니다. 시스템을 작동시키려면 다른 자세를 취해야 했죠. “말 그대로 눈을 올리고 얼굴을 왜곡해야 했어요.” 회사에 이메일을 보냈지만 정형화된 답변만 받았습니다.
“기계가 당신의 얼굴 때문에 당신이 진짜가 아니라고 말하는 것만큼 비인간적인 건 없어요.”
“대체 수단의 부족은 사람들이 때때로 이런 기술 시스템의 미로에 갇히게 만듭니다.” Byrum의 말입니다.
사회보장국 대변인은 얼굴 인증의 대체 옵션이 제공되며 모든 사람이 서비스에 접근할 수 있도록 “헌신”한다고 말했습니다. 기관 자체는 얼굴 인식 시스템을 운영하지 않고 Login.gov와 ID.me를 인증 서비스로 사용한다고 합니다.
ID.me 대변인은 “접근성은 ID.me의 핵심 우선순위”라며 이전에 안면 차이를 가진 사람들을 도왔다고 말했습니다. 하지만 WIRED가 접촉한 후에야 Al-Khaled를 직접 돕겠다고 제안했다는 점이 시사적입니다.
효율성이라는 명분 뒤에 숨은 질문
Gardiner는 결국 차량관리국 직원이 시스템을 수동으로 재정의해서 면허증을 받을 수 있었습니다. 자신의 안면 차이를 설명해야 했지만요. “얼굴 때문에 많은 것을 겪어왔지만, 나온 후에 그냥 울었어요. 네, 내가 다르고 어울리지 않는다는 걸 상기시키는 것 같았거든요.”
그녀는 아는 주의회 의원에게 이 경험을 전했고, 의원은 차량관리국장과 직원 교육에 대해 논의했습니다. 궁극적으로 긍정적인 반응이었죠. 하지만 문제는 여기서 끝나지 않았습니다. “차량관리국 경험 후에 여권도 갱신해야 했어요. 그런데 여권 사진에서도 똑같은 문제를 겪었죠.”
FEI의 Hannah Saunders는 “기술을 바꾸는 장기적 해결책도 가능하겠지만, 현재 가장 우려하는 건 사람들이 일자리에 지원하고, 자신의 돈에 접근하고, 가족과 함께 여권 심사를 통과할 수 있어야 한다는 것”이라고 말합니다.
FEI CEO Phyllida Swift는 여러 기업으로부터 협력 제안을 받았지만 아직 공식 협약을 성사시키지 못했다고 합니다. “이것이 기술 기업들의 우선순위 목록에서 상당히 낮은 위치에 있다는 느낌”이라는 겁니다.
얼굴 인식을 도입하는 모든 서비스가 답해야 할 질문입니다. 당신의 시스템은 누구를 배제하고 있나요? 시스템이 실패할 때 사람들은 어디로 가야 하나요? 편의성과 효율성이라는 명분이 1억 명의 배제를 정당화할 수 있을까요?
참고자료:
- When Face Recognition Doesn’t Know Your Face Is a Face – WIRED
- Facial Recognition Technology Challenges for People with Facial Differences – Face Equality International
답글 남기기