사용자가 직접 나이를 입력하면 그걸 믿을 수밖에 없을까요? OpenAI는 다른 방법을 찾았습니다. ChatGPT가 이제 사용자의 행동 패턴을 분석해 18세 미만인지 스스로 판단하고, 청소년에게 유해할 수 있는 콘텐츠를 자동으로 차단합니다.
OpenAI가 ChatGPT에 ‘나이 예측(Age Prediction)’ 기능을 본격 도입했습니다. 이 기능은 AI 모델이 사용자의 행동과 계정 정보를 종합 분석해 18세 미만 사용자를 자동으로 식별하고, 청소년에게 적합한 보호 장치를 적용하는 시스템입니다. OpenAI는 지난 12월 청소년 안전 가이드라인을 발표한 바 있으며, 이번 기능은 그 구체적 실행 방안입니다.
출처: Our approach to age prediction – OpenAI
AI가 나이를 추측하는 방법
ChatGPT의 나이 예측 모델은 단순히 사용자가 입력한 생년월일만 보지 않습니다. 계정이 생성된 지 얼마나 됐는지, 주로 언제 활동하는지, 시간이 지나면서 사용 패턴이 어떻게 변하는지를 종합적으로 분석하죠. 예를 들어 평일 낮 시간대에 주로 활동하고, 계정 생성 후 얼마 안 된 사용자라면 학생일 가능성이 높다고 판단할 수 있습니다.
이 모델이 18세 미만으로 추정하면 ChatGPT는 자동으로 다음과 같은 콘텐츠를 차단합니다:
- 폭력적이거나 잔인한 내용
- 미성년자에게 위험한 행동을 유도할 수 있는 바이럴 챌린지
- 성적, 로맨틱하거나 폭력적인 롤플레이
- 자해 관련 콘텐츠
- 극단적 미용 기준이나 불건강한 다이어트, 외모 비하 등
만약 성인 사용자가 잘못 분류됐다면 어떻게 될까요? Settings > Account에서 셀카를 찍어 본인 인증을 하면 즉시 전체 기능을 복구할 수 있습니다. OpenAI는 신원 확인 서비스 Persona를 통해 이 과정을 처리합니다.
플랫폼 안전의 새로운 접근
이번 조치는 ChatGPT가 연루된 청소년 자살 소송과 상원 청문회 이후 나온 대응입니다. 하지만 OpenAI만의 고민은 아닙니다. Instagram, YouTube, TikTok, Roblox 등 주요 플랫폼들도 최근 유사한 연령 감지 기술을 도입하고 있어요.
전통적인 방식은 사용자가 직접 나이를 입력하는 것이었지만, 이건 쉽게 우회할 수 있다는 한계가 있었습니다. 행동 패턴 기반 예측은 이 문제를 기술적으로 해결하려는 시도죠. OpenAI는 “정보가 불확실하거나 불완전할 때는 더 안전한 경험을 기본값으로 설정한다”고 밝혔습니다.
부모는 자녀의 ChatGPT 사용을 더욱 세밀하게 관리할 수도 있습니다. 학부모 통제 기능을 통해 사용 가능한 시간대를 설정하거나, 메모리 기능이나 모델 학습 참여 여부를 조절할 수 있고, 자녀가 심각한 정서적 어려움을 겪는 신호가 감지되면 알림을 받을 수 있습니다.
이 기능은 현재 전 세계적으로 적용되고 있으며, EU에서는 지역 규정에 맞춰 몇 주 내에 도입될 예정입니다. OpenAI는 미국심리학회, ConnectSafely 같은 전문 기관과 협력하며 청소년 안전 정책을 지속적으로 개선해나갈 계획입니다.
참고자료:
답글 남기기