전압 글리치로 뚫린 Nvidia의 봉인... 8GB 채굴 카드, 80GB A100급으로 부활 대표 썸네일

⚡ 결론 직답: 연구원 Kate가 전압 결함 주입 공격으로 Nvidia CMP 170HX의 락을 해제해, 8GB/10GB 메모리를 8GB로 확장하고 120개 이상의 SM을 활성화하는 데 성공했습니다.

📌 3줄 핵심 요약

  • 전압 결함 주입(Voltage fault injection) 기술을 이용해 GA100 다이의 잠긴 퓨즈를 재설정하여 CMP 170HX의 하드웨어 제한을 해제했습니다.
  • 8GB/10GB HBM2e를 80GB로 확장하고, SM(Streaming Multiprocessors)을 70개에서 최대 126개로 늘려 기존 A100(108개)보다 높은 연산력을 확보했습니다.
  • 단일 FP16 벤치마크로는 A100을 능가할 수 있으나, Tensor 성능, ECC, NVLink 등 핵심 기능의 완전한 복구 여부는 아직 검증되지 않았습니다.

📅 데이터 기준일: 2026-11-18 | 원문 출처 기반 심층 리포트



안녕하세요, 딥러너 (DeepLearner)입니다.

최근 하드웨어 보안 업계에 큰 파장을 일으킨 소식이 전해졌습니다. 엔비디아(Nvidia)가 자사 칩의 성능을 인위적으로 제한하기 위해 적용해 둔 하드웨어적 '봉인'이 예상치 못한 공격으로 인해 해제되었다는 내용인데요. 단순한 소프트웨어 해킹을 넘어, 물리적인 전압 조작을 통해 칩의 근본적인 설계를 바꿔버린 이번 사건의 디테일을 깊이 있게 살펴보겠습니다.

1부: 전압 글리치 공격으로 드러난 Nvidia의 하드웨어 보안 취약점#



엔비디아(Nvidia)는 지난 10여 년간 자사의 실리콘 칩이 소유자에게조차 비밀을 유지할 수 있도록 정교한 보안 기술을 적용해 왔습니다. 하지만 최근 'Kate'라는 이름으로 활동하는 한 연구원이 자신의 개인 블로그를 통해 발표한 연구 결과는, 엔비디아의 이러한 보안 장벽이 단 한 번의 '전압 글리치(Voltage Fault Injection)'만으로도 무너질 수 있음을 증명해 보였습니다. 이번 공격은 엔비디아의 데이터 센터용 가속기인 A100의 핵심인 Ampere 다이(die), 즉 GA100 칩을 대상으로 진행되었습니다.

연구원이 사용한 방법은 매우 치명적입니다. 칩이 부팅되는 결정적인 순간에 전력 공급을 의도적으로 교란하는 '전압 결함 주입(Voltage fault injection)' 공격을 통해, 엔비디무가 원래 '쓰기 불가능(unwritable)'하도록 설계해 둔 퓨즈(fuses)를 강제로 작동시킨 것입니다. 이를 통해 원래는 비활성화되어 있던 메모리와 연산 유닛을 다시 활성화할 수 있게 되었습니다. 그 결과, 본래 채굴용으로 제작되어 성능이 제한되었던 CMP 170HX 카드가 마치 80GB 용량의 A100급 성능을 내는 것처럼 동작하게 된 것입니다. 놀라운 점은, 이렇게 해제된 카드가 8GB의 HBM을 80GB로 확장할 수 있을 뿐만 아니라, 연산 유닛인 SM(Streaming Multiprocessors) 역시 현재 일반 판매용 A100에서 활성화되어 있는 108개를 넘어 120개에서 최대 126개까지 작동할 수 있다는 사실입니다.

물론, 이번 발견이 가져온 "A100보다 빠르다"라는 주장에 대해서는 신중한 접근이 필요합니다. 해당 성능 향상 주장은 단 하나의 FP16 벤치마크 결과에 기반하고 있기 때문입니다. 텐서(Tensor) 성능이나 ECC(오류 교정 코드), NVLink, 그리고 MIG(Multi-Instance GPU)와 같은 핵심적인 기능들에 대해서는 아직 테스트가 완료되지 않았거나 불완지된 상태입니다. 즉, 연산 속도 측면에서의 잠재력은 확인되었으나, 엔비디아의 고성능 데이터 센터 환경을 구성하는 핵심 기능들이 이 '부활한' 카드에서도 완벽히 작동할지는 미지수입니다.

이러한 사건의 배경에는 엔비디아의 과거 전략이 자리 잡고 있습니다. 이번 공격의 대상이 된 CMP 170HX는 엔비디아가 2021년에 출시한 수동 냉각 방식의 채굴 전용 카드입니다. 당시 이더리움(Ethereum) 채굴 열풍으로 인해 GeForce 그래픽 카드의 가격이 폭등하자, 엔비디아는 GA100 다이를 채굴용으로 돌려 게이머들의 수요를 보호하려 했습니다. 당시 엔비디아는 "GeForce는 게이밍을 위해 만들어졌고, CMP는 채굴을 위해 만들어졌다(GeForce Is Made for Gaming, CMP Is Made to Mine)"라는 슬로건을 내걸고, RTX 3060과 같은 제품에 해시레이트 제한을 거는 등 명확한 시장 분리 전략을 펼쳤습니다.

결과적으로 CMP 170HX는 8GB 또는 10GB의 HBM2e 메모리를 탑재하고, 70개의 SM과 PCIe Gen1 인터페이스를 갖추었으며, 비디오 출력 기능조차 없는 제한적인 사양으로 출시되었습니다. 하지만 이 카드의 밑바닥에는 수천 달러를 호가하는 고성능 가속기에 들어가는 것과 동일한 다이가 숨겨져 있었습니다. 펌웨어와 퓨즈를 통해 물리적인 잠재력을 8GB 수준으로 숨겨두었을 뿐, 실제 하드웨어 내부에는 80GB에 달하는 HBM을 수용할 수 있는 잠재력이 잠들어 있었던 것입니다. 이번 연구는 엔비디아가 소프트웨어적 제약을 넘어 하드웨어 수준에서 구축한 '봉인'이 얼마나 취약할 수 있는지를 극명하게 보여주었습니다.

Sponsored Advertisement

2부: 8GB CMP 170HX의 변신, 80GB HBM과 126개 SM의 잠재력#



안녕하세요, 테크 에디터 딥러너(DeepLearner)입니다. 최근 전 세계적인 HBM(고대역폭 메모리) 공급 부족 사태가 심화되면서, 시장에서는 상상도 못 했던 일이 벌어지고 있습니다. 이미 수년 전 퇴역하여 버려진 것으로 간주되었던 5년 전의 채굴용 그래픽 카드가 갑자기 모두의 선망 대상이 된 것입니다. 현재 HBM은 사실상 품절 상태나 다름없기에, 소프트웨어적인 잠금 장치 뒤에 숨겨진 고성능 메모리를 강제로 열어젖히는 기술은 그 자체로 엄청난 가치를 지니게 되었습니다.

사실 이러한 시도가 처음은 아닙니다. Amogh Munikote와 동료들이 진행했던 cmpunlocker라는 커뮤니티 프로젝트를 통해, 패치된 드라이버를 사용하여 8GB 용량의 카드를 64GB까지 확장하고 연산 능력을 복구하려는 시도가 이미 존재했었습니다. 하지만 당시의 기술은 PCIe Gen2 인터페이스에 머물러 있었고, NVLink, ECC(오류 교정 코드), 그리고 MIG(Multi-Instance GPU) 파티셔닝과 같은 핵심 기능들을 활성화하는 데는 한계가 있었습니다. 하지만 이번에 공개된 Kate 연구원의 성과는 단순한 소프트웨어 모딩의 한계를 뛰어넘어 하드웨어의 물리적 제약을 허물었다는 점에서 차원이 다릅니다.

이번 변신의 핵심은 바로 '전압 결함 주입(voltage fault injection)'이라는 기술입니다. 이는 하드웨어 보안 분야에서 널리 알려진 기법으로, 아주 작은 마이크로컨트롤러 보드를 사용하여 GPU와 전압 조절기(voltage regulator) 사이의 신호 라인에 접근합니다. 칩이 부팅되는 순간 전력 공급을 아주 짧은 시간 동안 의도적으로 교란함으로써, 원래는 수정이 불가능하도록 설계된 퓨즈 컨트롤러를 자극하여 잠겨 있던 퓨즈를 태워버리는 방식입니다.

  • 연산 성능(Throughput) 비교: Kate의 테스트 결과, 언락된 카드는 FP16 fused-multiply-add 연산에서 약 85.9 TFLOP/s의 성능을 기록했습니다. 이는 일반적인 리테일용 A100의 성능인 약 72.5 TFLOP/s보다 약 1.2배나 높은 수치입니다.
  • SM(Streaming Multiprocessors) 활성화 현황: Nvidia가 수율 문제로 인해 리테일용 A100에서는 전체 128개의 SM 중 108개만 활성화하여 출하하는 반면, 이번에 언락된 카드는 120개에서 126개 사이의 SM을 사용할 수 있습니다.
  • 미검증 및 미완성 기능: 이번 성능 향상은 단일 OpenCL 벤치마크를 통한 non-tensor FP16 성능에 국한됩니다. Tensor-core 성능, ECC, NVLink, 그리고 MIG 파티셔닝 기능은 아직 테스트되지 않았거나 미완성 상태입니다.
  • 하드웨어적 제약 사항: NVLink는 아직 완전히 작동하지 않아 추가적인 보드 수술이 필요한 상태이며, PCIe 대역폭 또한 추가적인 하드웨어 개조 없이는 Gen4로 끌어올릴 수 없습니다.


놀라운 점은 이 과정에 최첨단 인공지능이 개입되었다는 사실입니다. Kate는 이 전압 결함 주입용 보드를 설계하는 과정에서 OpenAI의 GPT-6 Astra를 활용했다고 밝혔습니다. 인공지섭 모델을 훈련시키는 데 쓰이는 바로 그 가속기를, 역설적으로 인공지능 모델이 물리적으로 해킹하는 데 도움을 준 셈입니다. 이는 마치 AMD의 보안 프로세서를 우회하거나 Tesla 자동차의 유료 기능을 해제할 때 사용되었던 공격 방식과도 궤를 같이합니다.

결론적으로, 이 카드는 단순히 벤치마크 점수 하나를 높인 '가짜 A100'이 아닙니다. 비록 ECC나 MIG 같은 데이터 센터급 핵심 기능이 완벽하지 않고, $20,000에 달하는 고가 장비를 그대로 복제한 것도 아니지만, 버려진 채굴용 GA100 다이(die)가 가진 본래의 잠재력을 극한까지 끌어올린 결과물이라고 평가할 수 있습니다. 이번 연구가 남긴 가장 묵직한 메시지는 단순히 '무료 연산 능력'을 얻었다는 사실이 아니라, 한 번 설정되면 되돌릴 수 없는 퓨즈(fuse) 시스템조차 전압 조절만으로 조작될 수 있다는 보안상의 치명적인 허점을 드러냈다는 점에 있습니다.

3부: 'A100보다 빠른 성능'의 실체와 미검증된 핵심 기능의 한계#



이번에 밝혀진 기술적 취약점은 단순히 소프트웨어적인 허점을 넘어, 하드웨어의 물리적 구조를 건드리는 심각한 사안을 담고 있습니다. 연구원 Kate의 보고에 따르면, GA100과 같은 칩셋에서는 운영자가 "더 많은 퓨즈를 태움으로써(blowing more fuses) 제한을 완화"하는 역설적인 상황이 발생할 수 있습니다. Kate는 이 취약점을 발견한 후 공개하기 전, Nvidia의 제품 보안 팀(product security team)에 해당 내용을 먼저 알렸다고 밝혔습니다. 그러나 이후 다른 연구자가 동일한 문제를 독립적으로 발견한 뒤에야 비로한 공개가 이루어졌습니다. 현재 Nvidia 측은 이에 대해 공식적인 입장을 내놓지 않고 있으며, 이미 시장에 유통된 카드들의 경우 문제의 원인이 이미 출고된 실리콘(silicon) 자체에 내재되어 있기 때문에 제조사로서도 취할 수 있는 조치가 극히 제한적인 상황입니다.

이러한 발견은 단발적인 사건이 아니라, Ampere 아키텍처 시대를 관통하는 광범위한 보안 연구의 연장선에 있습니다. 지난 2년 동안 학계의 연구팀들은 Nvidia GPU에서 'Rowhammer'를 이용한 비트 플립(bit flips) 현상을 증명해 왔으며, 최근에는 Nvidia가 해결책으로 권고했던 ECC(Error Correction Code) 기능마저 무력화하는 성과를 보여주기도 했습니다. 특히 Kate의 이번 연구는 애리조나 주립대학교(Arizona State)의 연구원 Jon Pry가 2026년 6월에 발표한 논문인 "A Canary in the Crypto Mine"의 성과를 직접적으로 계승하고 있습니다. 해당 논문은 GPU 보안 보조 프로세서(security coprocessor) 내의 스택 보호(stack protection) 기능을 무력화한 바 있는데, 이처럼 Nvidia 실리콘의 보안 기능들이 마케팅에서 강조되었던 것보다 훨씬 취약하다는 사실이 지속적으로 증명되고 있습니다.

물론 이 기술을 저렴한 AI 서버 구축을 위한 '가성비 루트'로 생각하는 분들이 계실 수도 있겠지만, 실제 적용에는 매우 치명적인 한계점들이 존재합니다. Kate의 보고에 따르면, 단 하나의 카드를 언락(unlock)하는 데에만 최소 1시간에서 최대 48시간까지 소요될 수 있습니다. 더욱 심각한 것은 하드웨어의 불확실성입니다. 그녀가 테스트한 10개의 카드 중 하나는 전체 80GB를 기대했던 것과 달리, 정상적인 메모리가 64GB에 불과했습니다. 이 과정은 단순한 소프트웨어 패치가 아니라 물리적인 리워크(physical rework)와 카드별 정밀한 튜닝을 필요로 합니다. 무엇보다 한 번 태워버린 퓨즈(fuse burns)는 되돌릴 수 없는 영구적인 변화이기 때문에, 단 한 번의 실수만으로도 카드를 완전히 못 쓰게 만들 수 있습니다.

이러한 위험성을 두고 분석가 Ken Ashe는 이 작업을 두고 "인두기를 든 실리콘 고고학(silicon archaeology with a soldering iron)"이라고 매우 날카롭게 표현했습니다. 그는 단 한 번의 성공은 '해킹'에 불과하지만, 이를 열 대 이상의 카드에서 반복적으로 재현할 수 있어야 비로소 '인프라'라고 부를 수 있다고 지적했습니다. 경제적인 측면에서도 상황은 낙관적이지 않습니다. 흔히 드라마틱하게 비교되는 가격대, 즉 수천 달기 수준의 채굴용 카드와 약 20,000달러에 육박하는 A100의 가격 차이는 안정적인 공급망에 의한 것이 아니라 변동성이 매우 큰 중고 시장의 일시적인 현상입니다. 실제로 170HX 카드는 첫 소프트웨어 언락 기술이 알려지기 전에는 250달러 수준에서 거래되기도 했으나, 내부의 잠재력을 확인한 구매자들이 몰리면서 가격이 1,000달러 이상으로 급등했습니다.

결국 이번 연구가 우리에게 주는 메시지는 '저렴한 대안'이라는 달콤한 유혹보다는 '경고'에 가깝습니다. 메모리 자원이 극도로 부족한 현재의 AI 시장 상황에서, 우리가 이미 보유하고 있는 하드웨어에는 제조사가 인정하고 싶지 않은 훨씬 더 많은 기능이 숨겨져 있을 수 있습니다. 특히 고성능 다이(die)와 메모리 구성을 저사양 패키지로 재구성하여 판매하는 이전 세대 하드웨어의 경우, 그 숨겨진 잠재력을 가두고 있는 잠금장치들이 생각만큼 견고하지 않다는 사실이 이번 사건을 통해 여실히 드러났습니다.

한눈에 보는 핵심 비교 분석#



비교 항목 기존 방식 (Standard/Official) 신규 기술/이슈 (Unlocked/Hack) 핵심 차이점
보안 메커니즘 ECC 및 스택 보호 기능 활성화 퓨즈를 태워 제한 완화 (Bypassing) 보안 기능의 의도적 무력화 및 영구적 변형
메모리 신뢰성 제조사 보증 규격 (예: 80GB) 검증되지 않은 용량 (예: 664GB 발견) 하드웨어 결함 및 불완전한 언락 위험
작업 방식 소프트웨어 드라이버 업데이트 물리적 리워크 및 인두기 작업 단순 패치가 아닌 '실리콘 고고학' 수준의 난이도
경제적 구조 안정적인 기업용 공급망 기반 변동성 큰 중고 시장 (170HX 사례) 기술 노출에 따른 급격한 가격 변동성


독자 체크리스트 및 자주 묻는 질문 (FAQ)#



🔍 실전 도입 전 체크리스트#

  • [ ] 물리적 리스크 감수 여부: 퓨즈를 태우는 작업은 되돌릴 수 없으며, 실패 시 카드를 폐기해야 함을 인지하고 있는가?
  • [ ] 하드웨어 상태 검증: 언락 후 메모리 용량이 기대치(80GB)와 다르게 작동할 수 있음을 대비한 예비 예산이 있는가?
  • [ ] 전문 장비 및 기술 보유: 단순 소프트웨어 조작이 아닌, 정밀한 물리적 튜닝과 리워크를 수행할 환경이 갖춰져 있는가?


❓ 자주 묻는 질문 (FAQ)#



Q1. 이 방식을 통해 대규모 AI 인프라를 구축하는 것이 가능한가요? A1. 현재로서는 매우 어렵습니다. 분석가 Ken Ashe가 언급했듯이, 한두 번의 성공 사례는 '해킹'일 뿐입니다. 이를 안정적인 '인프라'로 만들기 위해서는 수십 대의 카드에서 동일한 결과가 재현 가능한 높은 재현성과 안정성이 담보되어야 하는데, 현재의 방식은 물리적 위험과 불확실성이 너무 큽니다.

Q2. 170HX 카드의 가격 상승은 계속될 전망인가요? A2. 시장의 수요와 공급에 따라 변동성이 매우 큽니다. 이미 기술이 알려진 후 250달러에서 1,000달러 이상으로 급등한 사례가 있듯이, 중고 시장의 특성상 정보의 확산 속도에 따라 가격이 불안정하게 움직일 수 있으므로 주의 깊은 관찰이 필요합니다.

딥러너 (DeepLearner)이었습니다.


🔗 원문 참고 및 출처: Voltage glitch unlocks 80GB on Nvidia's CMP 170HX, but 'faster than an A100' rests on a single benchmark