스마트폰 온디바이스 AI 사기 탐지는 어디까지 믿을 수 있나

스마트폰 제조사들이 내놓는 온디바이스 AI 사기 탐지 기능은 통화나 문자 내용을 외부 서버로 보내지 않고 기기 안에서 위험 신호를 찾는다는 점을 내세웁니다. 방향은 분명 의미가 있습니다. 다만 "온디바이스"라는 말이 데이터가 절대 기기 밖으로 나가지 않는다거나 법적 요건을 자동으로 충족한다는 뜻은 아닙니다. 기능마다 처리 범위가 다르고, 위험 점수나 신고 데이터처럼 기기 밖으로 나가는 정보도 남습니다.

이 글은 Google Pixel의 Scam Detection, Google Play Protect, Apple의 Impersonation Risk Detection을 공식 문서 기준으로 비교합니다. 어떤 데이터가 기기 안에 머무는지, 어떤 정보가 밖으로 나갈 수 있는지, 그리고 사용자가 실제 설정에서 확인해야 할 지점을 정리합니다.

공식 문서로 확인한 세 가지 사례

Pixel Scam Detection: 통화 오디오는 기기 안에서 처리된다

Google은 2025년 3월 보안 블로그에서 Pixel의 통화 사기 탐지를 소개했습니다. 핵심은 통화 중 대화 패턴을 기기 안에서 실시간으로 분석해 사기 가능성을 경고한다는 점입니다. Pixel 9 이상에서는 Gemini Nano 기반 온디바이스 모델을, Pixel 6 이상의 일부 기기에서는 더 작은 온디바이스 머신러닝 모델을 사용한다고 설명합니다.

프라이버시와 관련해 Google이 명시한 범위는 다음과 같습니다.

• 통화 오디오는 일시적으로 처리되며, 통화 녹음이나 전사본을 기기에 저장하거나 Google 또는 제3자에게 전송하지 않는다.
• 기능은 기본적으로 꺼져 있고, 사용자가 직접 켜야 한다.
• 켜져 있으면 통화 시작 시와 통화 중간에 참가자에게 알리는 신호음이 울린다.
• 연락처에 저장된 사람과의 통화에는 사용되지 않고, 사기 가능성이 있는 통화에만 적용된다.

2026년 2월 후속 발표에서는 지원 국가와 기기를 넓히고, Samsung Galaxy S26 시리즈로 확장한다고 밝혔습니다. Google Messages의 사기 탐지도 20개 이상 국가로 확대됐고, 일부 최신 플래그십 기기에서는 Gemini 온디바이스 모델을 활용한다고 설명합니다.

여기서 중요한 한계도 함께 나옵니다. Google 스스로 "Scam Detection은 100% 정확하지 않으며 사기범은 계속 수법을 바꾼다"고 안내합니다. 기기·국가·SIM·언어 조건이 붙고, 모든 통화를 검사하지도 않습니다. 온디바이스 처리와 탐지 성능은 별개의 문제입니다.

Google Messages: 기기 안 처리지만 신고하면 일부가 공유된다

Google Messages의 사기 탐지는 스팸 보호 설정의 일부로 동작하며, 연락처에 없는 상대와의 대화를 대상으로 합니다. Google은 메시지 처리가 기기 안에서 이뤄진다고 설명합니다. 여기까지만 보면 "온디바이스"의 전형적인 장점처럼 보입니다.

그러나 사용자가 대화를 신고하면 이야기가 달라집니다. Google은 신고 시 발신자 세부 정보와 해당 발신자와 주고받은 최근 메시지를 Google과 통신사에 공유할 수 있다고 안내합니다. 사기 탐지 자체는 기기 안에서 이뤄지지만, 신고라는 사용자 행동을 거치면 일부 데이터가 외부로 나갑니다. "온디바이스"와 "전체 데이터 흐름이 기기 안"은 같은 말이 아닙니다.

Play Protect: 온디바이스와 클라우드가 결합된 구조다

Google Play Protect는 앱 설치와 실행을 보호하는 기능입니다. 공식 개발자 문서는 Play Protect가 온디바이스 구성요소와 클라우드 기반 구성요소를 함께 사용한다고 설명합니다. 매일 자동 검사, 사용자가 요청하는 전체 검사, 오프라인 검사를 제공하고, Google Play 밖에서 설치되는 앱에는 실시간 검사와 온디바이스 머신러닝, 유사도 비교를 적용합니다.

여기서도 "0바이트 전송"은 성립하지 않습니다. 의심 앱이 발견되면 Google 서버에 검증을 요청할 수 있고, 알려지지 않은 앱에 대해서는 사용자 동의를 받아 앱 데이터를 Google에 업로드하는 코드 수준 검사를 제안하기도 합니다. 평소 검사는 기기 안에서 상당 부분 처리되지만, 새로운 위협을 확인하는 과정에서는 클라우드가 개입합니다.

Apple Impersonation Risk Detection: 통화 감시가 아니라 위험 점수다

Apple은 iOS 27과 iPadOS 27부터 Impersonation Risk Detection을 제공합니다. 이 기능은 은행이나 정부 기관, 신뢰하는 사람을 사칭해 결제나 계정 변경을 유도하는 사회공학적 사기를 겨냥합니다.

작동 방식은 Google의 통화 내용 분석과 다릅니다. Apple은 기기와 Apple 계정 정보를 분석해 Unknown, Medium, High 세 단계의 위험 수준을 산출하고, 지원하는 앱에 위험 수준만 전달합니다. 앱은 그 결과를 받아 추가 인증, 지연, 경고 표시 같은 후속 조치를 스스로 결정합니다.

Apple이 밝힌 프라이버시 범위도 구체적입니다.

• 상호작용 패턴, 타이밍, 맥락, 기본 센서 데이터를 기기 안에서 분석한다.
• Apple은 위험 수준 산출에 사용된 기기 데이터를 받지 않는다.
• Apple은 사진, 메시지, 메일의 내용을 분석하지 않는다.
• 앱에는 위험 수준만 전달되고, 산출에 쓰인 원본 정보는 전달되지 않는다.

단, 이 기능은 통화나 문자의 내용을 직접 감시하는 기능이 아니며, iOS 27 이상에서 지원하는 앱에서만 동작합니다. 설정 변경이 최대 24시간 뒤 적용될 수 있다는 점도 공식 문서에 명시돼 있습니다.

기능별 데이터 흐름 비교

표에서 알 수 있듯 온디바이스 AI의 공통점은 원본 데이터를 가능한 한 기기 안에 두려는 설계입니다. 반면 기기 밖으로 나가는 정보의 종류와 시점은 기능마다 다릅니다. "온디바이스"라는 한 단어로 모든 데이터 흐름을 설명할 수 없습니다.

온디바이스가 해결하지 못하는 네 가지

1. 기기 밖으로 나가는 데이터가 0은 아니다

온디바이스 처리는 원본 음성이나 메시지를 서버로 보내는 부담을 줄입니다. 그러나 모델 업데이트, 위협 인텔리전스, 사용자 신고, 위험 점수, 오류 진단 데이터는 여전히 네트워크를 사용할 수 있습니다. 어떤 기능은 위험 점수만 공유하고, 어떤 기능은 사용자가 신고할 때 메시지 일부를 공유합니다. 프라이버시를 평가할 때는 "무엇을 처리하는가"보다 "무엇이 기기 밖으로 나가는가"를 먼저 봐야 합니다.

2. 온디바이스라고 해서 GDPR·PIPA 준수가 자동으로 끝나지는 않는다

기기 안에서 데이터를 처리하면 전송 과정의 위험은 줄어듭니다. 하지만 GDPR 제5조의 목적 제한, 최소 수집, 보관 기간, 무결성·기밀성 원칙은 여전히 적용됩니다. 국내 개인정보 보호법도 처리 목적과 법적 근거, 최소 수집, 보관 기간, 정보주체 권리를 요구합니다.

온디바이스 프로파일링도 개인정보 처리에 해당할 수 있습니다. 위험 점수가 기기 밖으로 나가거나 계정 정보와 결합된다면, 그 결합 과정과 보관 기간도 검토 대상입니다. "기기 안에서 처리했으니 법적으로 완벽하다"는 문장은 기술 설명이 아니라 과장입니다.

3. 오탐과 미탐은 사용자 경험을 바꾼다

사기 탐지 모델은 정상 통화를 사기로 경고할 수 있고, 새로운 수법을 놓칠 수도 있습니다. Google과 Apple 모두 공식 문서에서 탐지가 완벽하지 않다는 취지의 한계를 밝히고 있습니다. 오탐이 반복되면 사용자가 경고를 무시하게 되고, 미탐은 실제 피해로 이어질 수 있습니다. 그래서 탐지 기능은 경고와 함께 사용자가 직접 확인할 수 있는 절차를 제공해야 합니다.

4. 기기·지역·언어·앱 지원 편차가 크다

Pixel Scam Detection은 Pixel 기기와 특정 국가·SIM·언어 조건에서 동작합니다. Apple의 기능은 iOS 27 이상과 지원 앱이 필요합니다. Play Protect도 Google Play 서비스가 있는 Android 기기라는 전제가 붙습니다. 같은 "온디바이스 AI"라도 내 기기에서 실제로 쓸 수 있는지부터 확인해야 합니다.

사용자가 실제로 확인할 설정

온디바이스 AI 기능은 제품마다 설정 위치와 기본값이 다릅니다. "AI 기능을 모두 기기 안에서 처리"하는 보편적인 스위치는 없습니다. 아래는 공식 문서에 나온 실제 경로입니다.

• Pixel 통화 사기 탐지: Phone 앱에서 더보기 → 설정 → Scam Detection으로 들어가 직접 켭니다. 기본값은 꺼짐이고, 켜면 통화 참가자에게 신호음이 들립니다.
• Google Messages 사기 탐지: 스팸 보호 설정에 포함됩니다. 연락처에 없는 상대의 대화를 대상으로 하며, 원하지 않으면 스팸 보호 자체를 끌 수 있습니다.
• Android 앱 보호: Google Play Protect가 켜져 있는지 확인하고, 알 수 없는 출처의 APK를 설치할 때 뜨는 경고를 무시하지 않는 것이 기본입니다.
• iPhone·iPad: 설정 → 개인정보 보호 및 보안 → Impersonation Risk Detection에서 'Share with App Developers'를 켭니다. 지원 앱에서만 동작하고, 설정 변경은 최대 24시간 뒤 반영될 수 있습니다.

여기에 하나를 더하면, 운영체제와 보안 패치를 최신 상태로 유지하는 것입니다. 온디바이스 모델도 결국 기기 소프트웨어의 일부이므로, 패치가 끊긴 기기에서는 최신 위협에 대한 보호 수준을 보장하기 어렵습니다.

서비스 문구를 볼 때 확인할 세 가지 질문

1. 무엇을 기기 안에서 처리하는가? 통화 음성, 문자 내용, 앱 설치 정보, 계정 패턴 중 어느 것인지 확인합니다.
2. 무엇이 기기 밖으로 나가는가? 위험 점수, 신고 데이터, 모델 업데이트, 진단 로그를 구분합니다.
3. 실패했을 때 어떻게 되는가? 오탐 시 해제 방법, 미탐 시 사용자 확인 절차, 지원 기기·국가·언어 범위를 확인합니다.

이 세 질문에 답하지 못하는 "완벽한 프라이버시" 문구는 근거가 약합니다.

자주 묻는 질문

Q1. 온디바이스 AI면 통화 내용이 절대 서버로 가지 않나요?

기능에 따라 다릅니다. Google은 Pixel 통화 사기 탐지에서 통화 오디오와 전사본을 저장하거나 전송하지 않는다고 설명합니다. 반면 Google Messages는 사용자가 대화를 신고할 때 발신자 정보와 최근 메시지를 공유할 수 있고, Play Protect는 의심 앱 검증이나 사용자 동의 기반 코드 검사에서 클라우드를 사용합니다. 기능별 공식 설명을 확인해야 합니다.

Q2. 비행기 모드에서도 사기 탐지가 완전히 동작하나요?

"완전히"는 아닙니다. Play Protect는 알려진 위협에 대한 오프라인 검사를 제공하지만, 새로운 위협 정보는 네트워크가 복구된 뒤 동기화됩니다. Pixel 통화 탐지는 기기 안에서 처리되지만, 기능 활성화와 모델 업데이트에는 네트워크가 필요할 수 있습니다. 오프라인 동작 여부는 기능마다 다릅니다.

Q3. 온디바이스 AI를 쓰면 GDPR·PIPA 문제가 사라지나요?

아닙니다. 온디바이스 처리는 전송 위험을 줄이는 설계일 뿐, 목적 제한·최소 수집·보관 기간·법적 근거·정보주체 권리 같은 의무를 대신하지 않습니다. 위험 점수나 신고 데이터가 기기 밖으로 나간다면 그 흐름도 개인정보 처리로 검토해야 합니다.

온디바이스 AI를 판단하는 기준

온디바이스 AI 사기 탐지는 원본 데이터를 기기 안에 두려는 실용적인 접근입니다. 통화 음성을 서버로 보내지 않고 실시간 경고를 주는 Pixel의 사례, 앱 설치를 온디바이스와 클라우드로 나눠 검사하는 Play Protect, 원본 대신 위험 수준만 앱에 전달하는 Apple의 사례는 각각 다른 방식으로 프라이버시 부담을 줄입니다.

그러나 "온디바이스"는 면책 문구가 아닙니다. 기기 밖으로 나가는 데이터, 탐지의 정확도, 지원 범위, 법적 근거는 기능마다 다릅니다. 제품을 고를 때는 어떤 데이터가 어디에서 처리되고, 무엇이 남으며, 실패했을 때 사용자가 무엇을 할 수 있는지를 확인하는 편이 "0바이트", "완벽한 보호" 같은 문구보다 훨씬 유용합니다.

---

참고 문헌 및 공식 자료

• Google Security Blog, New AI-Powered Scam Detection Features to Help Protect You on Android (2025-03-04)
• Google Security Blog, Staying One Step Ahead: Strengthening Android’s Lead in Scam Protection (2026-02-25)
• Google Phone app Help, Use Scam Detection
• Google for Developers, Play Protect On-device protections
• Apple Support, About Impersonation Risk Detection (2026-09-14)
• 국가법령정보센터, Personal Information Protection Act (영문)
• EUR-Lex, Regulation (EU) 2016/679 (GDPR)

---

관련 글

• AI 기반 사이버 위협 대응 가이드
• 바이브 코딩의 한계와 현실: 과장된 기대를 걷어내는 법
• AI·테크 주제 글 모아보기