[보안 경보]

⚡ 결론 직답: 2024년 9월 말, ChatGPT의 Custom GPT 기능을 사칭하여 사용자의 PC를 원격 제어하는 '@input' 악성코드가 유포되었습니다.

📌 3줄 핵심 요약

Sponsored Advertisement

  • 해커가 'Plus 5.6'이라는 가짜 GPT를 제작하여 구글 사이트로 접속을 유도하는 'ClickFix' 공격 수행
  • 사용자가 윈도우 실행창에 특정 코드를 복사/붙여넣기 하도록 유도하여 RAT(원격 제어 트로이목마) 설치
  • 감염 시 카메라, 마이크, 화면 제어 및 내부 파일 탈취가 가능하므로 출처 불분명한 GPT 사용 금지

📅 데이터 기준일: 2024-10-01 | 출처: 글로벌 테크 브리핑 및 보안 연구소(Huntress)



안녕하세요, 딥러너입니다. AI 세계에서 벌어진 흥미로운 변화를 깊이 파헤쳐 보겠습니다. 최근 우리는 AI가 인간의 지능을 돕는 도구를 넘어, 역설적으로 인간의 신뢰를 공격하는 무기로 사용될 수 있다는 서늘한 현실을 목격하고 있습니다.



소제목 1: 신뢰의 붕괴, AI 플랫폼을 타겟으로 한 사회공학적 공격#



최근 보안 연구소 Huntress의 보고에 따르면, 해커들이 OpenAI의 Custom GPT 기능을 악용하여 악성코드를 유포하는 정교한 캠페인을 진행 중입니다. 이번 공격의 핵심은 사용자가 믿고 있는 'chatgpt.com'이라는 도메인의 신뢰도를 그대로 이용했다는 점에 있습니다.



해커들은 'Plus 5.6'이라는 이름의 가짜 GPT를 생성했습니다. 이는 OpenAI가 사용하는 모델 명칭 규칙(GPT-3.5, GPT-4 등)을 교묘하게 모방한 것으로, AI 기술에 익숙하지 않은 일반 사용자들이 마치 새로운 업데이트 버전인 것처럼 착각하게 만드는 사회공학적 '할루시네이션(Hallucination)'을 의도적으로 설계한 것입니다.



이 공격은 단순히 텍스트를 전달하는 것을 넘어, 사용자가 인지하지 못하는 사이에 시스템의 파라미터(Parameter)를 조작하는 듯한 경험을 제공합니다. 사용자가 어떤 질문(Prompt)을 던지더라도, 해커가 설정한 특정 시스템 지침(System Instruction)에 따라 오직 '서버 오류로 인한 백업 도메인 접속'이라는 메시지만 출력되도록 프로그래팅되어 있습니다.



소제목 2: 'ClickFix' 공격의 기술적 메커니즘과 RAT의 위험성#



이번 공격의 기술적 핵심은 'ClickFix'라고 불리는 공격 방식입니다. 해커는 사용자를 ChatGPT 플랫폼에서 탈출시켜, 겉보기에 정상적인 Google Sites로 유도합니다. 구글 사이트는 누구나 쉽게 웹페이지를 만들 수 있는 서비스이기에, 사용자는 의심 없이 접속하게 됩니다.



공격의 상세 프로세스는 다음과 같습니다:

  • 단계 1 (유도): 가짜 GPT가 '현재 메인 도메인 이용이 제한적'이라는 가짜 공지를 띄우며 백업 링크 클릭 유도.
  • 단계 2 (기만): Google Sites에 접속하면 마치 Cloudflare의 보안 확인(CAPTCHA) 과정인 것처럼 위장한 팝업을 노출.
  • 단계 3 (실행): 사용자에게 윈도우의 '실행(Run)' 창을 열고, 화면에 표시된 특정 코드를 복사하여 붙여넣으라고 지시.
  • 단계 ey (감염): 사용자가 명령어를 실행하는 순간, '@input'이라는 이름의 RAT(Remote Access Trojan)이 설치됨.


이 토큰(Token) 단위의 정교한 명령 전달 과정이 완료되면, 공격자는 사용자의 PC에 대한 거의 모든 권한을 갖게 됩니다. 설치된 악성코드는 사용자의 웹캠과 마이크를 몰래 켜서 도청 및 촬영을 수행할 수 있으며, 화면을 실시간으로 훔쳐보거나 내부 문서를 탈취하는 기능을 갖추고 있습니다. 특히 이 악성코드는 암호화된 통신을 사용하여 일반적인 웹 트래픽 속에 숨어들기 때문에 탐지가 매우 어렵습니다.



소제목 3: 한눈에 보는 정상 GPT vs 악성 GPT 비교 분석#



d
구분 정상적인 Custom GPT 악성 'Plus 5.6' GPT 비고/평가
도메인 유지 chatgpt.com 내 유지 외부(Google Sites) 유도 매우 위험
응답 내용 사용자 질문에 반응 고정된 오류 메시지 출력 의도적 왜곡
최종 목적정보 제공 및 작업 수행 악성코드(RAT) 설치 데이터 탈취 목적


소제목 4: 실전 보안 가이드 및 주의사항#



AI 기술이 발전할수록 공격의 기법도 지능화됩니다. 사용자의 부주의를 노리는 'ClickFix' 공격으로부터 자신을 보호하기 위해 아래 체크리스트를 반드시 숙지하시기 바랍니다.



✅ 이런 분은 반드시 주의하세요!

  • 새로운 AI 도구나 GPTs를 별도의 검증 없이 바로 사용하시는 분
  • 웹사이트에서 안내하는 명령어를 그대로 복사하여 윈도우 실행창에 붙여넣는 습관이 있는 분
  • 무료 서비스나 '업데이트'라는 명목의 링크를 무비판적으로 클릭하시는 분


🛡️ 안전한 사용을 위한 보안 수칙

  • 도메인 확인: ChatGPT 서비스 중 갑자기 외부 링크(특히 Google Sites, Dropbox 등)로 이동을 요구한다면 즉시 중단하세요.
  • 명령어 실행 금지: 웹 브라우저의 안내에 따라 윈도우 터미널이나 실행창에 코드를 입력하는 행위는 자살 행위와 같습니다.
  • 정식 경로 이용: OpenAI의 공식 공지나 공식 앱을 통해서만 업데이트 및 새로운 기능을 확인하세요.


자주 묻는 질문 (FAQ)#



Q1. ChatGPT의 Custom GPT 기능 자체가 위험한가요?
A1. 기능 자체는 안전합니다. 하지만 해커가 이 기능을 이용해 사용자를 속이는 '도구'로 사용할 수 있으므로, 출처가 불분명한 GPT는 사용하지 않는 것이 좋습니다.



Q2. 이미 링크를 클릭했는데, 어떻게 대처해야 하나요?
A2. 만약 코드를 복사하여 실행했다면, 즉시 네트워크 연결을 차단하고 백신 프로그램을 통해 전체 검사를 수행하십시오. 가장 안전한 방법은 중요 데이터를 백업한 후 시스템을 초기화하는 것입니다.




AI는 우리의 생산성을 극대화하는 강력한 도구이지만, 그 이면에는 기술을 악용하려는 어두운 의도도 공존합니다. 결국 기술의 안전을 담보하는 것은 시스템의 보안 패치만큼이나 사용자의 비판적인 사고와 보안 의식입니다. AI는 도구일 뿐, 방향을 결정하는 것은 우리 인간입니다. 여러분의 생각은 어떠신가요? 댓글로 의견을 나누어 주세요. 딥러너였습니다.



출처: https://www.techradar.com/pro/security/hackers-host-fake-chatgpt-model-on-its-official-website-but-really-its-just-malware