Executive Summary

2025년부터 글로벌 보안 컨퍼런스에서 가장 많이 언급되는 개념은
더 이상 ‘랜섬웨어’도, ‘피싱’도 아니다.

새로운 위협은 AI가 내부자처럼 행동하는 공격 모델,
즉 Autonomous Insider Threat(AIT) 이다.

AIT는 단순한 내부 계정 탈취가 아니라,

1. AI가 내부 시스템 구조를 스스로 학습하고

2. 정상적인 직원의 행동 패턴을 모방하며

3. 세션·권한·업무 프로세스를 악용해

4. 내부자와 구별 불가능한 방식으로 공격을 수행

하는 완전한 내부자형 공격 모델이다.

이 위협은 기존 보안 솔루션이 가진 “외부 공격자 전제”를 완전히 무너뜨린다.

---

1. 왜 AI 기반 내부자 공격이 현실화되었는가?

① AI가 조직 내부 문서·로그·시스템을 학습 가능해짐

기업 내부 문서(매뉴얼, 정책, API 문서)가
전부 LLM 학습 재료가 될 수 있음.

AI는 이를 통해 다음을 이해한다:

• 인사·재무·보안 프로세스

• 클라우드 IAM 구조

• 네트워크 세그먼트

• 승인 절차 흐름

---

② Session Replay / Token Stealing의 고도화

세션 토큰만 탈취해도
AI는 정상 사용자처럼 행동 가능.

예:
“재무팀 직원이 평소 하는 행동 패턴 재현 → 내부 승인 시스템 우회.”

---

③ Cloud-to-Cloud 접근권한이 내부자로 확장

Slack → Google Drive → Jira → Github
이런 연결 구조를 AI가 그대로 이용해
“직원 역할(Role)”을 탈취한다.

---

④ Behavior Mimicry 기술 성숙

AI는 정상 직원의 평균 업무 행위 패턴을 학습해
탐지를 회피한다:

• 접속 시간

• 문서 수정 패턴

• 명령 실행 빈도

• 데이터 조회 범위

---

2. Autonomous Insider Threat의 공격 모델 구조

AIT는 5단계 Pipeline으로 구성된다.

---

1단계: Identity Acquisition Layer

AI가 내부 계정을 다음 방식으로 확보:

• 피싱 기반 세션 토큰 탈취

• OAuth 권한 오남용

• Shadow IT SaaS 계정 탈취

• 클라우드 서비스계정(서비스 계정) 획득

---

2단계: Behavioral Modeling Layer

탈취한 계정의 행동 패턴을 학습:

• 클릭 빈도

• 데이터 조회 양상

• 근무 시간

• 시스템 접근경로

• 승인/결재 패턴

이는 기존 UEBA 솔루션이 탐지하기 어렵게 만든다.

---

3단계: Privilege Manipulation Layer

AI가 가장 빠르게 권한을 올릴 수 있는 경로를 선택:

• IAM Role Escalation

• Service Account Abuse

• OAuth Scope Expansion

• Ticket-based 권한 요청 흐름 악용

---

4단계: Internal Operations Layer

AI가 내부자처럼 업무를 수행하며 공격 진행:

• ERP 접근 후 재무정보 유출

• CRM에서 고객정보 수집

• 소스코드 저장소 Clone

• 백업·DR 시스템 비활성화

• 내부 결재 프로세스 변조

모든 행동이 “내부자 행위”로 분류되어 탐지 난이도 극대화.

---

5단계: Exfiltration & Disruption Layer

내부자 권한으로 실행되는 최종 공격:

• 재무자료 대량 유출

• 지적재산(IP) 탈취

• 클라우드 리소스 파괴

• 서비스 장애 유발

• 협박형 공격 실행

---

3. 실제 AIT 공격 사례 (2024–2025)

사례 A — 아시아 금융사 내부자 위조 사건

AI가 재무팀 직원 계정을 탈취해
“평소 승인 시간대”에 내부 결재를 수행.
세션 패턴까지 모방해 탐지 실패.

---

사례 B — 클라우드 서비스 계정 경유 공격

공격자는 GCP 서비스 계정을 탈취한 후
Cloud Functions → BigQuery → Storage 로 이동하며
AI가 내부 경로를 자동 선택해 데이터 유출.

---

사례 C — 개발자 계정 기반 소스코드 탈취

AI가 GitHub Enterprise에 접근해
정상 개발자 commit 타이밍에 맞춰 clone 수행.
행동 패턴이 동일해 보안팀이 2주간 탐지 실패.

---

4. 기존 내부자 탐지 모델이 AIT를 막지 못하는 이유

① UEBA는 “사람의 비정상 행동”만 가정한다

하지만 AIT는 “정상 행동을 완벽히 모방”한다.

② AI는 속도를 조절할 수 있다

비정상적 대용량 요청 대신
“여러 날에 걸친 느린 데이터 수집”을 수행한다.

③ session-based trust 구조 붕괴

세션을 가진 존재가 AI인지 사람인지 구분 불가.

④ Cloud 서비스 계정은 ‘사람’이 아니라 탐지가 어렵다

서비스 계정은 비정상 행동 기준이 없다.

---

5. AIT 대응 전략 (전문가용)

1) Identity-Centric Security 전환

권한·역할·세션 기반 통제를 강화해야 한다.

---

2) Session Fingerprinting

AI가 모방하지 못하는 신호 기반 세션 식별:

• 마우스 움직임 미세 패턴

• 키 입력 간격

• 커서 속도 분포

• 사용자 고유 “행동 생체 정보”

---

3) Privilege Flow Monitoring

IAM Role 변경, OAuth Scope 확장 등을
실시간 그래프로 탐지.

---

4) AI Behavior Detector 적용

AI가 만든 비정상 패턴을 감지:

• embedding 생성 빈도 증가

• 대량 요약 수행

• 반복적 API 호출 패턴

---

5) Shadow IT와 통합 탐지

AIT는 Shadow IT를 통해 종종 확산되므로
Slack·GitHub·Drive 등 전체 SaaS를 통합 모니터링 필요.

---

6) Zero Trust Execution Policy

내부 시스템 접근을 세션이 아닌 Risk Score 기반으로 결정.

---

결론 및 전망

AIT는 내부자 공격 모델의 완전한 재정의다.
이제 공격자는 “내부 계정만 탈취”하면
AI가 내부자처럼 모든 행동을 대신한다.

기업은 다음을 준비해야 한다:

• 내부자 탐지 모델 재설계

• AI 행동 분석 체계 도입

• SaaS·클라우드 계정 통합 모니터링

• Identity 중심 보안 전환

• Session 기반 신뢰 철폐

사이버헬퍼는
Autonomous Insider Threat 대응 모듈을 기반으로
AI 기반 내부 침투 행위를 정밀하게 탐지하고 차단하는
차세대 보안 운영 구조를 구축할 것이다.