AI 연계(AI-Enabled) 악성코드 - 개발 속도 향상, 성공률은 높이지 않음

 

공격자들은 AI를 적극 활용하고 있습니다.

AI로 제작한 악성코드를 기존 보안 제품에서 탐지 못하는 것 처럼 인식되기도 합니다.

 

 

Unit42에서 마침 좋은 내용을 공개했습니다.

 

The State of AI-Enabled Malware August 2026: From Brand Abuse to Agentic Execution

https://unit42.paloaltonetworks.com/ai-enabled-malware-analysis/

The State of AI-Enabled Malware August 2026: From Brand Abuse to Agentic Execution

 

Unit 42가 405개 AI 연계 악성코드 샘플을 분석한 결과 97%(393개)는 샌드박스·연구 저장소·내부 테스트 환경 밖으로 나가지 못했고, 실제 엔드포인트에 도달한 것은 12개(약 3%)에 불과했다고 합니다.

 

 

Unit 42의 "AI-Enabled Malware" 정의

 

우선 AI-Enalbed Malware의 의미를 AI로 정리해봤습니다.

 

"We included any sample where AI integration was either a functional component of the malware, a feature of its delivery mechanism or part of its branding."

 

즉 세 가지를 모두 포함하는 매우 넓은 정의입니다:

 

유형설명비중

 

종류	설명	갯수
AI 브랜딩만 차용	파일명에 "ChatGPT" 포함, AI앱 설치파일 사칭 — AI 기능 전혀 없음	97% 중 대다수
LLM이 코드 작성을 도움	FunkSec처럼 AI가 코드 생성을 가속	실제 관찰된 주요 유형
AI가 기능적 컴포넌트	에이전틱 실행 루프, AI가 공격 결정	아직 소수

 

AI-Enabled Malware가 아직 보안업계에서도 완전히 합의되지 않았고, 한국어로도 통일된 번역이 없습니다.

편의상 'AI 연계'로 번역했습니다.

 

관련 기사 

 

AI Speeds Up Malware Development, Not Its Success Rate: Analysis (2026.08.26)

https://www.securityweek.com/ai-speeds-up-malware-development-not-its-success-rate-analysis

AI Speeds Up Malware Development, Not Its Success Rate: Analysis

 

 

왜 코드 개발 외에는 성공적이지 않은가

 

AI를 통한 요약입니다.

 

1. 탐지가 "코드를 어떻게 썼는가"가 아니라 "코드가 무엇을 하는가"를 봄

가장 근본적인 이유입니다. 기사의 핵심 문장이 이를 정확히 표현합니다: "기존 방어체계가 기존 악성코드를 잡는 것과 동일한 방법으로 모든 샘플을 잡았다 — 샌드박스 실행, 행위 기반 탐지, 디지털 서명 이상, 패킹/암호화 수준 측정. AI 연계 샘플을 탐지하기 위해 새로운 탐지 방법이 필요하지 않았다."

 

즉 AI가 코드를 얼마나 빠르고 깔끔하게 생성해줘도, 실행 시 파일을 암호화하고 C2에 연결하고 레지스트리를 건드리는 행위 자체는 사람이 짠 악성코드와 동일합니다. 샌드박스와 행위 기반 탐지는 코드의 출처가 아니라 런타임 행위를 보기 때문에 AI 생성 여부는 탐지 회피에 도움이 되지 않습니다.

 

2. 97%가 실전 배포에 실패한 세 가지 이유

 

Unit 42는 실제 엔드포인트에 도달하지 못한 샘플들을 세 그룹으로 분류했습니다:

 

그룹 1 — 개념 증명(PoC) 코드: 로컬·내부 네트워크만 대상으로 설정되어 있고, 실제 공격자라면 절대 남기지 않을 디버그 출력으로 가득 차 있으며, 연구소나 대학이 한 번만 업로드한 것들. AI가 코드 작성을 도와줬지만, **실전 배포를 위한 운영(인프라 구축, C2 서버, 전달 채널)**은 별개 문제였고 해결되지 않았습니다.

 

그룹 2 — 방어 테스트용: 짧은 시간 내에 동일 소스에서 동일 파일을 반복 업로드하는 패턴 — 자사 방어 체계를 AI 악성코드로 테스트하는 조직들. 공격이 아닌 방어 검증 목적으로 사용된 것입니다.

 

그룹 3 — AI 브랜딩만 차용: 실제 AI 기능은 전혀 없고 유명 AI 앱 설치파일로 포장된 일반적인 페이로드들. AI가 코드에 관여한 것이 아니라 이름만 빌린 것으로, 실질적 이점이 없었습니다.

 

3. 성공한 12개가 보여주는 것 — AI가 아니라 전통적 전달 방식이 결정적

실제로 엔드포인트에 도달한 12개 샘플을 보면 성공 요인이 명확합니다:

• Recipe Lister: 정상적인 디지털 서명 + 요리 앱으로 위장 — AI가 도운 것은 코드 생성이었지만 실제 전달은 서명 위장이라는 전통적 기법
• Oyster 백도어: Dropbox 설치파일로 위장, Dropbox를 발행자로 표시한 서명 — 역시 전통적 사회공학적 전달 방식
• FunkSec 랜섬웨어: AI가 개발 사이클을 가속시켜 신속하게 여러 버전을 만들 수 있었지만, 탐지는 동일한 행위 기반 방법으로 이뤄짐

즉 성공한 경우에도 AI의 기여는 코드 생성 속도였고, 실제 침투 성공은 전달 방식·서명·위장이라는 전통적 요소에 달려 있었습니다.

 

4. "AI 코드 = 탐지 불가"라는 가정이 틀렸음이 확인됨

공격자와 일부 미디어가 암묵적으로 가정하는 "AI로 코드를 생성하면 시그니처가 없어 탐지가 어렵다"는 논리가 이 데이터로 반박됩니다. 탐지는 코드 시그니처보다 행위·패킹·C2 통신 이상에 의존하기 때문에, AI가 매번 조금씩 다른 코드를 생성해도 행위 패턴이 바뀌지 않는 한 탐지를 피하지 못합니다.

 

정리 — AI가 공격에서 실제로 바꾼 것과 바꾸지 못한 것

공격 단계AI 영향이유

코드 작성 속도	높음 — 실제 변화	코드 생성은 AI의 강점 영역
개발 반복 속도	높음 (FunkSec 사례)	빠른 변형 생성 가능
행위 기반 탐지 회피	없음	탐지는 코드 출처가 아닌 런타임 행위를 봄
샌드박스 회피	없음	샌드박스는 실행 결과를 관찰
디지털 서명 신뢰도	없음	AI는 합법적 서명 인증서를 만들어줄 수 없음
운영 인프라(C2, 전달)	없음	코드 외 전체 공격 운영 영역

한 줄 결론: AI는 공격자의 "개발실"을 빠르게 만들어줬지만, "전쟁터"에서 방어를 뚫는 능력은 아직 바꾸지 못했습니다.

 

 

그동안 의문점 

 

AI를 이용한 공격에서 얘기가 나왔을 때 의문을 가졌습니다.

'AI로 악성코드를 자동화 만들 수는 있지, 그런데 그 공격을 못 막을까 ?'

 

첫째, 우선 AI가 만든 악성코드도 보안 프로그램에서 탐지 할 수 있습니다.

다만, AI가 엄청난 양을 찍어낸다면 그중에 몇 개를 놓칠 수 있습니다.

그런 방식은 이미 20년 전부터 공격자가 사용하던 방식입니다

 

둘째, 보안 제품을 완전히 우회할 수 없습니다.

AI가 완전 새로운 공격 방식을 찾는게 아니라면, 기존 공격 방식과 유사합니다.

AI로 만든 악성코드라고 했을 때 보안 제품이 100% 방어는 못하는 것도, 100% 뚫리지도 않습니다.

 

보안 제품에 탐지 되지 않는 기법이라도 보안 제품에서 대부분 바로 적용 가능합니다.

 

문제는 '물량'입니다.

20년 전 백신 업체에 큰 문제가 되었던건 분석가가 하나하나 대응 할 때 공격자들이 대량으로 악성코드를 찍어냈기 때문입니다.

AI 시대에 악성코드를 대량으로 찍어 내고 조금씩 다르게 변화를 준다면 대응하는 입장에서는 어려움을 겪을 수 있습니다.