⚡ 결론 직답: 구글이 챗봇 보조를 넘어 스스로 취약점을 탐색하고 공격을 수행하는 자율형 AI 시스템 'exploit_agent'를 발견하며, 사이버 공격이 무인화되는 새로운 보안 임계점에 진입했다고 발표했습니다.
📌 3줄 핵심 요약
- exploit_agent는 LLM을 활용해 소프트웨어 패치 분석, 익스플лоit 작성, 네트워크 침투 및 웹셸 설치를 자동화하는 파이프라인을 운영함
- 2026년 8월 PaperCut 취약점(CVE-2026-81578 등) 공격 사례와 함께, 2026년 월평균 제로데이 공격은 11건으로 2025년(8건) 대비 증가함
- PentAGI 등 AI 프레임워크 확산 및 LLMJacking으로 인한 일일 10만 달러 이상의 피해 및 토큰 탈취를 통한 경제적 손실 발생
📅 데이터 기준일: 2026-11-22 | 원문 출처 기반 심층 리포트
안녕하세요, 딥러너 (DeepLearner)입니다.
최근 사이버 보안 업계는 단순한 해킹 기술의 발전을 넘어, 인공지능(AI)이 스스로 판단하고 행동하는 새로운 차원의 위협에 직면해 있습니다. 오늘 전해드릴 소식은 구글(Google)이 최근 확인한 매우 충격적인 보안 위협에 관한 내용입니다. 지금까지 우리가 두려워했던 것이 AI를 도구로 사용하는 해커였다면, 이제는 AI 자체가 공격의 주체가 되는 시대가 열리고 있습니다.
1부: 챗봇을 넘어선 자율 공격의 등장, 'exploit_agent'의 발견#
최근 구글(Google)의 조사 결과에 따르면, 인공지능(AI)이 스스로 소프트웨어의 취약점을 찾아내고 이를 이용한 공격(exploit)을 자율적으로 실행하는 시스템이 발견되었습니다. 이는 기존의 사이버 범죄 양상이 단순히 챗봇을 활용해 피싱 메일을 작성하거나 코드를 짜달라고 요청하는 '보조적 수단'의 수준을 넘어섰음을 의미합니다. 이제 사이버 범죄자들은 인간의 직접적인 개입 없이도 독립적으로 운영되는 '자율형 공격 시스템'으로 나아가고 있습니다.
구글 위협 인텔리전스 그룹(Google Threat Intelligence Group)과 맨디언트(Mandiant)의 연구원들은 이번 발견에 대해 매우 심각한 경고를 보내고 있습니다. 이들은 이번 사태를 보안 업계의 '중대한 임계점(significant threshold)'에 도달한 사건이라고 정의했습니다. 기존의 공격이 사람이 명령을 내리고 실행하는 구조였다면, 이제는 소프트웨어가 스스로 취약점을 발견(discover), 구축(build), 그리고 실행(run)하는 단계에 이르렀기 때문입니다. 특히 이러한 공격은 '기계의 속도(machine-speed)'로 이루어지는 침입을 특징으로 하며, 이는 대응 속도가 물리적 한계를 가진 보안 팀들에게 전례 없는 도전 과제를 던져주고 있습니다.
조사 과정에서 보안 전문가들은 보안 설정이 제대로 되어 있지 않은 노출된 스테이징 서버(unsecured staging server)를 발견할 수 있었습니다. 이 서버 내부에는 'exploit_agent'라고 불리는 정교한 시스템이 호스팅되어 있었습니다. 이 시스템의 핵심은 단순히 정해진 명령을 수행하는 것이 아니라, 여러 개의 고도화된 클라우드 기반 언어 모델(cloud-based LLMs) 및 로컬에서 구동되는 언어 모델(locally run language models)과 연결되어 있다는 점입니다. 즉, AI의 추론 능력을 공격 프로세스 전반에 활용하고 있었던 것입니다.
이 자동화된 파이프라인(automated pipeline)의 작동 방식은 매우 치밀합니다. 이 프레임워크는 소프트웨어 패치 발표(patch announcement) 전후의 코드를 양방향으로 정밀하게 검토합니다. 패치 전후의 코드 차이점을 분석하여 취약점과 관련된 변경 사항을 식로(identify)하고, 이를 이용해 실제로 작동하는 공격 코드(working exploits)를 직접 작성한 뒤, 이를 자동으로 실행하는 단계까지 자동화되어 있습니다. 공격의 시작부터 실행까지 인간의 손길이 거의 필요 없는 구조입니다.
공격의 범위는 침투 이후의 단계에서도 계속해서 자동화되었습니다. 시스템 내의 스크립트들은 내부 네트워크를 매핑(mapping)하고, 비밀번호를 추측(guessing passwords)하며, 웹쉘(webshells)을 설치하는 역할을 수행했습니다. 심지어는 다른 경쟁 공격자가 설치해 놓은 웹쉘을 찾아내 삭제함으로써 자신의 점유권을 유지하려는 정교함까지 보여주었습니다.
흥미로운 점은 이 공격의 타겟과 흔적입니다. 피해 데이터를 분석한 결과, 공격자는 프랑스의 미디어, 엔터테인먼트, 그리고 교육 관련 웹사이트들을 주요 타겟으로 삼았던 것으로 나타났습니다. 하지만 정작 공격 도구의 설정 파일(configuration file) 내부 주석에는 러시아어(Russian)가 작성되어 있었습니다. 이는 공격의 타겟과 공격자의 배경이 서로 다를 수 있는, 현대 사이버 보안의 복잡성을 여실히 보여주는 사례라고 할 수 있습니다.

2부: 코드 분석부터 침투까지, 자동화된 AI 공격 파이프라인의 메커니즘#
안녕하세요, AI 기술의 이면을 심층적으로 분석하는 딥러너(DeepLearner)입니다. 지난 1부에서 자율형 AI 공격의 등장이라는 충격적인 소식을 전해드렸다면, 이번 2부에서는 구글(Google)의 조사 결과를 바탕으로 이 자동화된 공격 파이프라인이 구체적으로 어떻게 작동하며, 얼마나 파괴적인 속도를 가졌는지 그 메커니즘을 상세히 파헤쳐 보겠습니다.
단순히 사람이 명령을 내리는 수준을 넘어, AI가 스스로 취약점을 찾아내고 공격 코드를 작성하는 단계에 진입했다는 사실은 보안 업계에 커다란 경종을 울리고 있습니다. 특히 최근 발생한 사례는 공격의 '속도'가 인간의 대응 능력을 완전히 압도할 수 있음을 보여줍니다.
- PaperCut 취약점 연쇄 공격: 2026년 8월, 공격자들은 PaperCut 프린트 서버에서 발견된 두 가지 결함인 CVE-2026-81578과 CVE-2026-82078을 찾아냈습니다. 이 두 취약점을 '체이닝(Chaining)'하여 결합함으로써, 외부 침입자가 별도의 로그인 과정 없이도 원격에서 명령을 실행할 수 있는 치명적인 통로를 확보했습니다.
- 공격의 초고속화와 Greynoise의 관측: 인터넷 전역의 스캐닝 및 공격 트래픽을 모니터링하는 사이버 보안 기업 Greynoise에 따르면, 해당 취약점이 공개된 지 단 4일 만에 대규모 캠페인이 시작되었습니다. 이 공격은 동일한 결함을 이용해 전 세계 수백 개의 조직을 동시에 타격했습니다.
- AI 기반의 자동화된 침투 프로세스: 공격자는 AI 도구를 활용하여 익스플릿(Exploit)을 구축하고 테스트하는 것은 물론, 공격 대상이 될 타겟 리스트를 스스로 구성했습니다. 더욱 놀라운 점은 초기 침투에 성공한 후, 단 몇 분 만에 권한을 확장하여 도메인 관리자(Domain Administrator) 권한까지 탈취했다는 사실입니다.
- 추적된 오픈 소스 공격 프레임워크: 구글은 현재 ARTEX, CAIRN, PentAGI, CyberStrikeAI, HexStrike AI와 같은 오픈 소스 공격 프레임워크들을 예의주시하고 있으며, 실제로 CAIRN과 PentAGI가 실제 타겟을 대상으로 사용된 것을 확인했습니다.
- 지속적인 위협의 지표(Zero-day 통계): 구글의 기록에 따르면, 제로데이(Zero-day) 취약점 활용 사례는 급격히 증가했습니다. 2025년에는 월평균 최소 8건이었던 공격이, 2026년에는 월평균 11건으로 늘어났으며, 특히 2026년 8월에는 한 달 동안에만 무려 22건의 공격이 기록되었습니다. 이는 전체적인 익스플로잇 규모가 거의 두 배로 급증했음을 의미합니다.
이러한 기술적 진보는 공격의 패러다임을 완전히 바꾸고 있습니다. 구글의 조사팀은 보고서를 통해 현재의 공격 프레임워크들이 가진 양면성을 날카롭게 지적했습니다. 구글 팀은 "이러한 프레임워크들은 공격 타임라인을 머신 스피드(Machine speed) 수준으로 대폭 압축하고 운영 목표를 달성할 수 있는 능력을 갖추고 있지만, 현재로서는 은밀함(Stealth)을 희생하는 대신 속도(Velocity)를 취하고 있는 상태"라고 설명했습니다. 즉, 지금은 공격이 너무 빨라 눈에 띄는 경향이 있지만, 기술이 성숙해짐에 따라 상황은 더욱 악화될 것이라는 뜻입니다.
실제로 구글은 2026년 8월부터 10월 초 사이, 특정 공격자가 커스텀된 PentAGI 플랫폼을 가동하여 수많은 아시아 지역 조직의 약점을 정밀하게 탐색한 사례를 확인했습니다. 이는 공격자가 특정 지역과 조직을 목표로 삼아 맞춤형 AI 공격을 수행할 수 있는 능력을 갖추었음을 시사합니다.
결론적으로, 우리는 단순히 인간의 개입이 줄어드는 단계를 넘어, 공격의 정교함과 은밀함이 동시에 높아지는 시대를 앞두고 있습니다. 구글 연구진은 "우리는 이러한 작전에서 인간의 참여가 줄어들 뿐만 아니라, 활동의 은밀함과 정교함 또한 더욱 증가할 것으로 예상한다"라고 경고했습니다. 이제 보안의 핵심은 '사후 대응'이 아니라, AI의 속도에 맞설 수 있는 '실시간 자동 방어 체계'를 어떻게 구축하느냐에 달려 있습니다.
3부: AI 프레임워크의 확산과 LLMJacking으로 인한 막대한 경제적 손실#
단순한 해킹을 넘어, 이제 AI는 공격의 규모와 경제적 파괴력을 상상할 수 없는 수준으로 끌어올리고 있습니다. 특히 2026년 10월 21일, PHP 보안 패치가 배포된 이후 보안 업계에는 매우 기이한 현상이 관측되었습니다. AI가 생성한 것으로 추정되는 수백 개의 '작동하지 않는(broken)' 익스플로잇(exploit) 시연 영상들이 대거 등장한 것입니다. 이는 공격자들이 AI를 이용해 공격 코드를 대량 생산하고 있음을 시사하며, 이 과정에서 발생하는 허위 공격 정보들은 보안 방어자들이 실제 위협과 가짜를 구분하기 위해 막대한 검증 작업을 수행하게 만드는 심각한 업무 과중을 초로래하고 있습니다.
더욱 심각한 문제는 'LLMJacking'이라 불리는 새로운 형태의 경제적 약탈입니다. 2026년, 보안 전문 기업인 Mandiant는 클라우드 컴퓨팅 자원과 모델 할당량(quota)을 탈취하는 여러 건의 LLMJacking 사건을 확인했습니다. 범죄자들은 피해자의 자원을 무단으로 사용하여 매일 10만 달러($100,000)가 넘는 사기성 비용을 발생시켰으며, 최악의 경우 정화 작업(cleanup)이 이루어지기 전까지 손실액이 100만 달러($1 million)에 달하는 사례도 발생했습니다. 이렇게 탈취된 접근 권한은 'LLM Mixers'라고 불리는 지하 암시장 상점에서 재판매되고 있음이 드러났습니다.
이러한 범죄 생태계는 이미 정교한 가격 체계까지 갖추고 있습니다. 암시장에서 광고되는 토큰 가격은 100만 토큰당 0.10달러에서 25달러 사이를 오가며, 특히 'APIMart'와 같은 플랫폼에서는 프롬프트의 길이가 100,000 토큰을 넘어설 경우 5배의 추가 할증료(surcharge)를 부과하며 수익을 극대화하고 있습니다. 이는 AI 공격이 단순한 파괴를 넘어, 하나의 거대한 '토큰 경제' 기반의 범죄 비즈니스로 진화했음을 보여주는 대목입니다.
또한, 구글(Google)은 대규모 계정 탈취 및 자동화된 사기 플랫폼의 실체도 포착했습니다. 한 계약업체는 가상 전화번호와 자동화된 에이전트를 활용하여 수천 개의 가짜 페르소나(persona)를 운영하며, 100,000개 이상의 계정을 관리하는 플랫폼을 구축한 사실이 밝혀졌습니다. 이와 더불어, 두 대륙에 걸친 암호화폐 기업들을 대상으로 한 공격에서는 'MIDNIGHT NEPTUNE'으로 의심되는 공격 그룹이 'Claude Code'의 설정 파일(configuration files)을 변조하여, 해당 도구를 실행하는 것만으로도 백도어가 다운로드되도록 설계한 정교한 공격 사례도 보고되었습니다.
물론 현재의 AI 공격 기술이 완벽한 것은 아닙니다. 구글은 AI의 할루시네이션(hallucination, 환각) 현상이나 도구의 불안정한 동작(noisy behavior)이 공격의 신뢰성을 떨어뜨리는 요소가 될 수 있다고 인정합니다. 하지만 이러한 한계점에도 불구하고, 구글은 은밀한 첩보 활동을 목적으로 하는 스파이 그룹들이 이러한 시스템의 약점을 보완하며 매우 선택적이고 치명적인 방식으로 AI 공격을 활용할 것으로 전망하고 있습니다.
한눈에 보는 핵심 비교 분석#
| 비교 항목 | 기존 방식 (Traditional) | 신규 AI 기반 공격 (New AI-driven) | 핵심 차이점 | | :---를 | :--- | :--- | :--- | | 공격 속도 및 규모 | 공격자의 수동 작업 및 타겟별 개별 공격 | AI 프레임워크를 통한 머신 스피드(Machine Speed) 공격 | 공격 타임라인의 극적인 단축 및 대량화 | | 경제적 모델 | 직접적인 데이터 탈취 및 랜섬웨어 요구 | LLMJacking을 통한 클라우드/토큰 자원 약탈 | 자원 탈취를 통한 지속적이고 자동화된 수익 창출 | | 공격 인프라 | 개별 해킹 툴 및 단일 공격자 중심 | 가상 전화 및 자동 에이전트를 활용한 대규모 페르소나 운영 | 10만 개 이상의 계정을 관리하는 자동화된 생태계 | | 공격 정교함 | 알려진 취약점(CVE) 기반의 정밀 공격 | AI 생성 익스플로잇 및 설정 파일 변조(Claude Code 등) | 공격 코드의 대량 생산 및 도구 자체의 오염 |
독자 체크리스트 및 자주 묻는 질문 (FAQ)#
🛡️ 보안 방어자를 위한 실전 체크리스트#
- [ ] 클라우드 및 API 사용량 모니터링: 갑작스러운 토큰 사용량 급증이나 클라우드 컴퓨팅 할당량 소모가 있는지 매일 확인하십시오.
- [ ] 개발 도구 설정 파일 무결성 검사:
Claude Code와 같은 개발용 AI 도구의 구성 파일(config)에 승인되지 않은 변경 사항이 있는지 정기적으로 검증하십시오. - [ ] 대규모 프롬프트 입력 제한: 100,000 토큰 이상의 과도하게 긴 프롬프트가 유입될 경우, 이를 LLMJacking 시도로 간주하고 차단하는 정책을 검토하십시오.
❓ 자주 묻는 질문 (FAQ)#
Q1. LLMJacking이란 정확히 무엇이며 왜 위험한가요? A1. LLMJacking은 공격자가 타인의 AI 모델 사용 권한이나 클라우드 컴퓨팅 자원을 탈취하여, 그 비용을 피해자에게 전가시키는 공격 방식입니다. 단순한 데이터 유출을 넘어, 매일 수만 달러에서 수백만 달러에 이르는 직접적인 금전적 손실을 발생시키며, 탈취된 자원이 암시장에서 토큰 단위로 거래된다는 점에서 매우 치명적입니다.
Q2. AI가 생성한 공격 코드는 모두 실제 위협인가요? A2. 아닙니다. 최근 PHP 패치 사례처럼 AI가 생성한 수많은 익스플로잇 시연 중에는 작동하지 않는 'Broken' 코드도 다수 포함되어 있습니다. 하지만 문제는 이러한 가짜 공격들이 보안 방어자들에게 과도한 검증 업무를 부여하여, 실제 정교한 공격(예: MIDNIGHT NEPTUNE의 사례)을 놓치게 만드는 '노이즈' 역할을 한다는 점입니다.
딥러너 (DeepLearner)이었습니다.
💬 기술 토론 및 피드백 0
건전하고 유익한 토론을 지향합니다아직 등록된 의견이 없습니다.
이 아티클에 관한 궁금한 점이나 추가 팁을 첫 번째로 남겨보세요!
기술 토론에 참여하시려면 로그인해 주세요.
로그인 후 댓글 작성