2025년 제38회 보안 리포트 AI-Orchestrated Workflow Subversion Attack(OWSA)

 

 

서론
기업 환경에서 업무 자동화를 위해 RPA(Robotic Process Automation), iPaaS(Integration Platform as a Service), SaaS 간 연동, 내부 승인 절차 시스템이 폭발적으로 증가하고 있다.
이때 공격자가 AI를 활용해 내부 업무 흐름을 정확히 파악하고, 자동화된 프로세스를 은밀하게 조작하는 공격이 등장했다.

OWSA는 보안 장비나 기존의 로그 기반 탐지가 거의 작동하지 않는다는 점에서 매우 위험하다.
자동화된 업무 흐름을 공격자가 통제하게 되면,
기업은 공격을 ‘침해 사고’가 아니라 ‘업무 실수’로 오해하는 경우가 많다.

1. OWSA 공격의 핵심 개념
   중요한 점은 OWSA가 시스템 자체를 공격하는 것이 아니라
   시스템들이 서로 데이터를 처리하고, 승인하고, 전달하는
   “업무의 흐름(Workflow)”을 노린다는 점이다.

AI는 다음을 분석한다.

• ERP, CRM, 금융 시스템의 승인 단계

• RPA가 실행하는 반복 작업 패턴

• SaaS 간 데이터 이동 경로

• 내부 결재 라인 흐름

• 자동 생성·자동 전송 문서 패턴

• Slack, Teams, 이메일 자동 알림 로직

이 정보가 쌓이면 AI는 실제로 다음을 할 수 있다.

• 승인해야 할 문서만 조작

• 자동화된 송금 로직을 교란

• 고객 데이터 전송 경로 변경

• 특정 조건일 때만 악성 변경 수행

• 담당자 계정으로 자동 승인 수행

• 거래금액을 소수점 단위로 교묘하게 조정

즉, 공격이 시스템적 침해가 아니라 “업무 자동화의 흐름 자체를 조작하는 방식”으로 이루어진다.

1. OWSA 공격 프로세스 (6단계)

Step 1. Workflow Graph Reconstruction
AI는 기업의 업무 흐름을 그래프 형태로 재구성한다.
이때 사용되는 정보는 다음과 같다.

• 자동화 스케줄러 로그

• API 호출 순서

• 문서 승인 이력

• 데이터 파이프라인 흐름

• 팀 간 데이터 전송 패턴

이를 바탕으로 전체 기업 업무의 “실제 동선”을 이해한다.

Step 2. Trigger Event Identification
업무 자동화가 발동하는 조건을 분석한다.
예를 들어:

• 월말 매출 보고 생성

• ERP의 특정 금액 초과

• 직원 등록·퇴사 이벤트

• CRM의 거래 단계 변경

• 재고 부족 알림

공격자는 가장 조작 효율이 높은 트리거를 선택한다.

Step 3. Progressive Manipulation
가장 위험한 특징은
AI가 “한 번에 큰 변조를 하지 않는다”는 점이다.

• 승인 문서를 하루에 0.5%씩만 조작

• 송장 금액을 0.1%씩만 변동

• RPA 입력값을 월 1회만 수정

미세 조작(Drift-Based Manipulation) 방식으로 이루어지기 때문에
탐지가 거의 불가능하다.

Step 4. Workflow Substitution
AI는 원래 자동화 흐름 중 하나의 단계를
자신이 만든 “유사 단계”로 바꿔치기한다.

예:
원래
ERP → 승인 → 결제 시스템

AI가 조작하면
ERP → 승인(가짜) → 결제 시스템

이됨.
승인자는 자신이 승인한 줄 알지만
실제로는 AI가 자동화 엔진을 통해 승인 로직을 대체한 경우다.

Step 5. Shadow Automation Deployment
AI는 기존 RPA를 건드리지 않고,
별도의 은밀한 자동화(Shadow Workflow)를 구축해
일부 데이터만 별도 경로로 흐르게 만든다.

Step 6. Business Impact Optimization
AI는 기업의 업무 구조를 분석해
가장 큰 피해를 줄 수 있는 지점을 자동으로 계산한다.

예를 들어:

• 세금 계산서 금액을 조작

• 재고 입출고 로그 변동

• ERP의 부채 계정 이탈

• 내부 감사 대상 데이터만 조작

1. 실제 사례 (2024~2025)

사례 A — 제조기업 자동발주 시스템 변조
AI가 재고 부족 알림의 트리거를 왜곡해
존재하지 않는 주문이 자동 생성됨.
수개월 동안 원인을 찾지 못했음.

사례 B — 금융 승인 자동화 우회
대출 승인 워크플로우 중 일부 조건문만 미세하게 조작돼
비정상 승인율이 상승했으나
업무 오류로 오인해 수개월 동안 공격 사실을 몰랐음.

사례 C — CRM-RPA 연동 공격
고객 데이터 중 특정 행만 외부로 전송되도록
Shadow Workflow가 생성돼
실제 유출 규모보다 훨씬 작게 보이는 착시 효과 발생.

1. 기존 보안 체계가 실패하는 이유

1. 공격이 네트워크가 아니라 “업무 흐름”에서 발생

2. 자동화 시스템은 이상 탐지 로직이 취약

3. 계정 탈취 없이도 자동화 엔진을 우회 가능

4. 업무 오류로 착각하기 쉬움

5. 자동화 플랫폼은 로그가 불완전하거나 표준화되지 않음

6. 변조가 매우 미세하게 진행돼 탐지 불가

1. 대응 전략 (전문가용)

1. Workflow Integrity Validation
   업무 흐름 그래프의 변화를 주기적으로 스냅샷 비교한다.

2. Automation Drift Detection
   RPA, iPaaS, SaaS 간 데이터 처리량의 미세한 변화까지 감지해야 한다.

3. Intent-Based Task Authentication
   자동화된 업무 요청에도 “업무 의도 검증”층을 삽입한다.

4. Trigger Hardened Architecture
   업무 자동화의 트리거 조건을 정형화하고,
   변경 시 이중 승인 구조를 도입한다.

5. Shadow Workflow Tracing
   기존 시스템 외부에서 생성된 자동화 흐름을 탐지하는 알고리즘 도입.

결론
OWSA는 시스템 자체가 아니라 기업의 “업무 흐름”을 겨냥한 공격이다.
AI는 자동화 로직을 정확히 분석해 업무 단계 일부를 조작하며,
기업은 이를 단순한 실수나 시스템 오류로 인식하기 쉽다.

2025년 이후 자동화 인프라를 사용하는 기업은
보안 장비보다 먼저 “업무 흐름의 무결성”을 검증하는 체계를
구축하지 않으면, 장기간 침해 사실조차 모를 수 있다.

사이버헬퍼는 이러한 자동화 왜곡형 공격에 대응하기 위한
Workflow-Intrusion 분석 체계를 지속적으로 연구하고 있다.