AI Sparkup

복잡한 AI 세상을 읽는 힘

구글의 혁신적인 AI 스캠 방지 기술로 더 안전한 인터넷 사용하기

﹒

﹒

4 minutes

최근 온라인 스캠(사기)이 점점 더 정교해지고 있는 가운데, 구글이 이를 효과적으로 차단하기 위해 AI 기술을 적극 활용하는 새로운 방법을 발표했습니다. 크롬 브라우저, 검색, 안드로이드 등 다양한 플랫폼에서 온디바이스 AI 모델인 Gemini Nano를 활용하여 사용자를 온라인 스캠으로부터 더욱 안전하게 보호하는 기술이 도입되었습니다. 이러한 최신 AI 기반 보안 기술이 어떻게 작동하고 우리의 온라인 활동을 어떻게 더 안전하게 만들어 주는지 살펴보겠습니다.

온라인 스캠의 증가와 위험성

온라인 스캠은 사용자의 금전이나 개인정보를 탈취하려는 악의적인 행위자들이 만든 속임수입니다. 이러한 스캠은 점점 더 교묘해지고 있으며, 기존의 보안 시스템으로는 탐지하기 어려운 방식으로 진화하고 있습니다.

특히 가장 흔한 유형 중 하나인 ‘기술 지원 스캠(Tech Support Scam)’은 컴퓨터에 심각한 문제가 발생했다는 가짜 경고를 보여주며 사용자에게 특정 전화번호로 연락하게 하여 불필요한 서비스나 소프트웨어를 구매하도록 유도합니다. 이러한 스캠은 웹사이트나 브라우저 팝업을 통해 확산되며, 종종 마이크로소프트나 구글과 같은 신뢰할 수 있는 기업을 사칭합니다.

기술 지원 스캠 예시 기술 지원 스캠의 예시 (출처: TechSpot)

구글의 AI 기반 스캠 방지 기술 소개

구글은 이러한 온라인 스캠을 효과적으로 차단하기 위해 AI 기술을 적극 활용하고 있습니다. 주요 혁신 중 하나는 온디바이스 대형 언어 모델(LLM)인 Gemini Nano를 크롬 브라우저에 통합한 것입니다.

크롬에서의 Gemini Nano 활용

크롬 브라우저의 ‘향상된 보호 모드(Enhanced Protection Mode)’에 Gemini Nano를 통합함으로써, 온라인 스캠 탐지 능력이 크게 향상되었습니다. 이전의 표준 보호 모드보다 피싱 및 기타 온라인 위협으로부터 두 배 더 강력한 보호 기능을 제공하는 향상된 보호 모드에 AI의 힘이 더해진 것입니다.

구글 크롬 보안 그룹 제품 관리자인 자시카 바와(Jasika Bawa)는 “온디바이스 접근 방식은 위험한 웹사이트에 대한 즉각적인 통찰력을 제공하고, 이전에 보지 못한 스캠에 대해서도 보호 기능을 제공할 수 있게 합니다”라고 설명했습니다.

Gemini Nano가 크롬에서 어떻게 작동하는지 살펴보면:

  1. 사용자가 잠재적으로 위험한 페이지로 이동하면, 특정 트리거(예: 키보드 잠금 API 사용)가 발생합니다.
  2. 크롬은 온디바이스 Gemini Nano LLM을 사용하여 페이지를 평가합니다.
  3. LLM은 페이지의 의도 등 보안 신호를 추출합니다.
  4. 이 정보는 Safe Browsing으로 전송되어 최종 판정을 내립니다.
  5. 만약 페이지가 스캠으로 판단되면, 크롬은 경고 메시지를 표시합니다.

Gemini Nano의 스캠 방지 작동 방식 Gemini Nano를 활용한 스캠 방지 작동 원리 (출처: Google Security Blog)

안드로이드에서의 AI 보안 기능

구글은 안드로이드 기기에서도 AI를 활용한 스캠 방지 기능을 강화하고 있습니다. Chrome 안드로이드 버전에 새로운 AI 기반 경고 시스템을 도입하여 악의적이거나 스팸성 알림에 대한 경고를 제공합니다.

웹사이트 알림을 허용한 경우, 악의적인 사이트가 알림을 통해 사용자를 속이려 할 수 있습니다. 크롬의 온디바이스 머신러닝 모델이 의심스러운 알림을 감지하면, 사용자에게 경고를 표시하고 해당 사이트의 알림 구독을 취소할 수 있는 옵션을 제공합니다.

안드로이드 크롬의 AI 기반 스팸 알림 경고 안드로이드 크롬의 AI 기반 스팸 알림 경고 시스템 (출처: TechCrunch)

또한 구글은 메시지 앱과 전화 앱에도 AI 기반 스캠 탐지 기능을 추가하여, 통화나 문자를 통한 사기 시도를 차단하는 기능을 강화했습니다.

구글 검색에서의 AI 스캠 방지

구글 검색에서도, AI는 하루에 수억 개의 악의적인 검색 결과를 감지하고 차단하는 데 활용되고 있습니다. 구글의 AI 기반 스캠 탐지 시스템은 이전보다 20배 더 많은 수의 사기성 페이지를 포착할 수 있게 되었습니다.

이 기술은 특히 항공사 고객 서비스를 사칭하는 사기 캠페인을 탐지하는 데 성공적으로 활용되고 있습니다. 구글은 이러한 유형의 사기를 80% 이상 감소시켰다고 보고했습니다. 이는 웹에서 방대한 양의 텍스트를 분석하고, 조직화된 사기 캠페인을 식별하며, 새로운 위협을 감지할 수 있는 AI의 능력 덕분입니다.

구글의 새로운 보고서인 “검색에서의 사기 퇴치(Fighting Scams on Search)”에 따르면, AI는 다양한 언어에서 작동하며, 한 언어에서 발견된 사기를 다른 언어로 검색하는 사용자들도 보호할 수 있게 해줍니다.

온디바이스 AI의 장점: 속도와 개인정보 보호

구글의 스캠 방지 기술에서 특히 주목할 만한 점은 온디바이스 AI 접근 방식입니다. 이는 AI 처리가 서버가 아닌 사용자의 기기에서 직접 이루어진다는 의미입니다.

이 접근 방식의 두 가지 주요 이점:

  1. 개인정보 보호: Gemini Nano의 웹사이트 분석이 로컬에서 이루어지므로, 모든 브라우징 정보가 구글로 전송될 필요가 없습니다.
  2. 속도: 로컬 처리는 인터넷을 통해 데이터를 주고받는 것보다 훨씬 빠릅니다. 이는 의심스러운 사이트나 스팸 알림에 대해 거의 즉각적인 경고를 제공할 수 있다는 의미입니다.

구글의 보안 전문가들에 따르면, 악성 사이트는 평균적으로 10분 미만 동안만 존재하기 때문에, 온디바이스 보호는 이전에 크롤링되지 않은 공격을 감지하고 차단할 수 있게 해줍니다. 또한 사이트가 실제 사용자에게 보여지는 방식을 볼 수 있어, 보안 크롤러를 회피하기 위해 설계된 악성 사이트도 더 효과적으로 감지할 수 있습니다.

사용자를 위한 실용적 조언

구글의 AI 기반 스캠 방지 기술을 최대한 활용하려면, 다음과 같은 조치를 취하는 것이 좋습니다:

크롬 향상된 보호 모드 활성화 방법

크롬 브라우저에서 Gemini Nano의 혜택을 받으려면, ‘향상된 보호 모드’를 활성화해야 합니다:

  1. 크롬 브라우저를 엽니다.
  2. 오른쪽 상단의 세 개의 점(메뉴)를 클릭합니다.
  3. “설정”으로 이동합니다.
  4. 왼쪽에서 “개인정보 보호 및 보안”을 클릭합니다.
  5. “보안”을 클릭합니다.
  6. “안전 브라우징” 아래에서 “향상된 보호” 옵션을 선택합니다.

스캠으로부터 자신을 보호하기 위한 일반적인 팁

구글의 AI 보안 기능 외에도, 다음과 같은 일반적인 보안 수칙을 따르는 것이 중요합니다:

  • 긴급함을 강조하거나 개인 정보를 요구하는 예상치 못한 메시지를 주의하세요.
  • 이메일이나 메시지의 링크를 클릭하기 전에 신중하게 생각하세요. 특히 발신자를 모르거나 무언가 이상하게 느껴지는 경우에는 더욱 주의하세요.
  • 웹사이트나 서비스가 로그인 정보나 개인 정보를 요구할 때는, 정당한 사이트인지 확인하세요. 주소창에 “https://”가 있는지 확인하세요.
  • 중요한 계정에는 각각 다른 강력한 비밀번호를 사용하세요. 비밀번호 관리자 사용을 고려해보세요.
  • 크롬에서 의심스러운 것을 발견하면, 크롬의 신고 기능을 사용하여 구글에 알려주세요. 이는 시스템을 개선하고 구글 AI가 학습하는 데 도움이 됩니다.

미래 전망

구글은 계속해서 기술 지원 스캠 외에도 택배 추적 스캠, 미납 통행료 스캠 등 다른 유형의 스캠을 감지하기 위해 AI 기술을 확장할 계획입니다. 또한 Gemini의 성장하는 능력을 활용하여 웹사이트 콘텐츠에서 추가적인 신호를 추출하고, 이를 통해 탐지 능력을 더욱 강화할 예정입니다.

안드로이드 기기에서도 이러한 기능을 확대하여, 더 많은 사용자들이 스캠으로부터 보호받을 수 있도록 할 계획입니다. 또한 연구팀과 협력하여 콘텐츠 내 프롬프트 인젝션이나 타이밍 우회와 같은 잠재적인 취약점에 대한 해결책을 모색 중입니다.

결론

온라인 세계는 학습, 일, 소통을 위한 놀라운 기회로 가득하지만, 사기와 같은 위험도 항상 존재합니다. 구글의 AI 기반 스캠 방지 기술의 도입은 매우 긍정적인 진전이며, 구글이 첨단 기술을 활용하여 우리의 디지털 생활을 더 안전하게 만들기 위해 노력하고 있음을 보여줍니다.

Gemini Nano와 같은 온디바이스 AI 모델을 활용한 분석 및 알림에 대한 AI 기반 경고와 같은 도구를 통해, 크롬은 스캠을 식별하고 차단하는 데 더욱 스마트해지고 있습니다. 이러한 기능들은 강력한 새로운 보안 계층을 제공하지만, 사용자 자신의 주의 깊은 브라우징 습관과 결합될 때 가장 효과적입니다. 기술과 정보를 갖춘 사용자가 함께할 때, 인터넷은 훨씬 더 안전한 공간이 될 수 있습니다.

참고자료:

Comments

More posts