Executive Summary

2025년 이후 계정 탈취(Account Takeover, ATO)는
더 이상 사람이 피싱 메시지를 보내거나
악성 링크를 던지는 수준이 아니다.

최신 공격은 AI가 직접 계정을 털어가는 구조(AI-Orchestrated ATO) 로 진화했고,
이 공격 방식은 기존의 FDS(Fraud Detection System), MFA, IAM 정책을
근본적으로 무력화한다.

특히 다음의 결합이 위험을 극대화하고 있다.

• Synthetic Identity Generation

• Credential Replay Automation

• Behavioral Biometrics Evasion

• AI-driven Phishing Infrastructure

• LLM-based Customer Impersonation

• Autonomous Session Hijacking

본 보고서는 AI 기반 ATO의 전체 공격 체인, 기술적 기반, 규제 리스크,
기업의 대응 전략을 심층적으로 분석한다.

---

1. AI ATO가 고도화된 배경

AI 기반 ATO는 다음 세 요소가 맞물리면서 폭발적으로 증가했다.

1) Credential Exposure Ecosystem 성장

다크웹에는 이미 수십억 건의 로그인 정보가 노출된 상태다.
AI는 이 데이터를 자동 정제·분류·우선순위 선정까지 수행하며
ATO 성공률을 극대화한다.

2) Enterprise Login Surface 확장

기업들은 다음을 동시에 운영한다.

• 웹 로그인

• 모바일 로그인

• 고객센터 인증

• API 기반 토큰 발급

• 소셜 로그인

AI는 이 모든 경로를 탐색하고
"가장 성공률 높은 공격경로"를 계산한다.

3) Behavioral Authentication 회피 기술의 진화

보안 시스템은 사용자의 입력 속도·패턴·IP 이동·클릭 구조 등을 분석하지만
AI 봇이 이를 그대로 에뮬레이션하면서
사람과 구분이 불가능한 수준의 합성 사용자 행위(Synthetic Behavioral Identity) 가 등장했다.

---

2. AI 기반 ATO 공격 벡터 구조 (MITRE ATLAS 기준)

(1) Credential Replay Enhancement (T1589-SX)

AI가 유출된 자격증명을 수백만 건 단위로 자동 검증하며
성공 가능성이 높은 후보군만 골라낸다.

(2) MFA Prompt Manipulation (T1621)

MFA 피로도 공격(푸시 알림 반복)을
AI가 사용자 로그 분석 기반으로 최적화하여 수행.

(3) Synthetic Session Hijacking (T1539-S2)

실제 사용자의 세션 패턴을 모방한 뒤
세션 토큰을 탈취하거나, 세션 혼동을 유발하는 구조.

(4) AI-driven Support Impersonation (T1650-S3)

고객센터 또는 CS봇을 속여
비밀번호 재설정·OTP 재발급을 유도하는 공격.

(5) Risk-based Authentication Bypass

AI가 과거 로그인 데이터를 학습하여
정상 사용자와 동일한 리스크 프로필을 재현한다.

---

3. AI 기반 ATO Attack Chain 분석

AI ATO의 주요 공격 흐름은 다음과 같이 구성된다.

---

1단계: Identity Graph Construction

AI는 다음 데이터를 기반으로
피해자의 "Identity Graph"를 재구성한다.

• 이메일

• 로그인 ID

• 전화번호

• SNS 활동

• 배송 주소

• 과거 구매 패턴

• IP 기반 위치 정보

이는 단순 개인정보가 아니라
사용자 행동 스펙트럼(Behavioral Spectrum) 을 모델링하는 단계다.

---

2단계: Credential Validation Automation

AI는 다음을 병렬로 실행한다.

• Credential Stuffing

• Password Spraying

• Authentication Flow Mapping

이 과정에서 기업 로그인 시스템의
Rate-Limit, Lockout Threshold, MFA Trigger 구간 등을 자동 탐지한다.

---

3단계: MFA/OTP 우회

AI는 다음 기법을 사용한다:

1) MFA Fatigue Attack 자동화

사용자에게 반복적으로 Approval 요청을 보내
오탐으로 눌러버리게 유도.

2) SMS Routing Attack

통신사 CS를 속여 전화번호 변경 후
OTP를 받아내는 공격.

3) SIM Swap 기반 ATO

사칭 AI가 통신사 상담원과 대화해
번호 변경 또는 eSIM 재발급 성공.

---

4단계: Account Compromise & Lateral Movement

계정 탈취 성공 후에는
다음 단계가 자동화될 수 있다:

• 결제수단 변경

• 주소 변경

• 보안 이메일 변경

• 비밀번호 재설정

• 저장된 카드 사용

• API 토큰 발급 후 외부 시스템 침투

특히 API 토큰이 발급되면
더 이상 사람의 개입 없이
AI가 자동으로 공격을 확장할 수 있다.

---

4. 실제 사례 분석 (2024–2025)

사례 A — 글로벌 이커머스 기업 ATO 자동화 공격

AI가 고객센터 플로우를 학습한 뒤
“유창한 불만 고객 톤”을 복제하여
주소 변경 → 재배송 요청 → OTP 회수까지 자동 처리.
기업 손실: 12억 원 상당.

사례 B — 금융기관 MFA 우회

AI 모델이 고객의 과거 로그인 기록을 분석해
“리스크 기반 인증 점수”를 우회할 수 있는
로그인 지문을 완벽히 재현.
결과적으로 계정 4,800개 탈취.

사례 C — 통신사 기반 SIM Swap 고도화

실제 고객 음성·문체까지 복원한 음성 합성 AI가
상담원에게
“기기 분실로 인한 긴급 eSIM 요청”을 전달.
약 200여 건의 금융 피해가 연쇄 발생.

---

5. 법적·규제 리스크 분석

GDPR Article 32 — 적절한 보안조치 의무

AI 기반 사칭으로 인한 계정 탈취는
“본인확인 절차의 기술적 미흡”으로 평가될 수 있음.

ISO/IEC 27001 A.9 — 접근통제 실패

ATO를 방지하기 위한 다중 통제 필요.

국내 개인정보보호법 제29조 — 안전성 확보조치 위반

특히 OTP·전화번호 변경 절차가 공격에 취약한 경우
기업 법적 책임이 발생할 가능성 높음.

금융보안원 ATO 대응 가이드라인 위반

ATO 인지·차단 체계가 미흡할 경우
제재·과징금 가능.

---

6. 대응 전략 (하이레벨 전문가 버전)

1) Continuous Behavioral Authentication (CBA) 적용

Static MFA가 아닌
입력 패턴·디바이스 엔트로피·네트워크 반응 속도 등을 기반으로
사용자를 지속적으로 평가하는 방식.

---

2) Synthetic User Detection Model 구축

AI가 생성한 행동을 탐지하기 위해
다음 특성을 점수화해야 한다.

• Response Burstiness

• Entropy Distribution

• Behavioral Variance

• Non-human Pattern Recognition

---

3) High-Risk Workflow Segmentation

전화번호 변경·OTP 재발급·결제 수정 등은
다음 2가지 이상 적용해야 한다.

• Human-in-the-loop

• Risk-based Step-up Authentication

• Device Binding

• Out-of-band Verification

---

4) Adversarial AI Red Team 운영

AI가 실행하는 ATO 공격을
내부에서 반복적으로 시뮬레이션해야 하며
NIST 800-63-3, NIST AI RMF 기반 체계가 필요하다.

---

5) Session Integrity Hardening

AI가 세션을 가로채지 못하도록:

• Token Binding

• IP Reputation Correlation

• Session Rotation

• Browser/Device Fingerprinting 강화

---

결론 및 전망

AI 기반 ATO는
기존의 피싱·스미싱을 뛰어넘어
계정 생태계 전체를 공격 자산으로 전환하는 공격군이다.

2025년 이후 기업은 필연적으로 다음을 요구받는다.

• MFA만으로는 방어 불가능

• Behavioral Authentication 필수화

• CS 플로우 전면 재설계

• Synthetic Identity Detection 표준화

• “AI가 털어가는 계정”에 대한 규제 프레임워크 강화

사이버헬퍼는 이러한 공격 흐름을 기반으로
협박·사칭·유포 범죄 대응 기술을
‘AI ATO Defense Stack’으로 확장해
기업과 사용자 보호 체계를 고도화할 것이다.