[AI/하드웨어] "게임기에서 AI 서버로" 탈옥된 PS5, 초당 100+ 토큰 생성하는 로컬 AI 구동 성공

안녕하세요, 딥러너입니다. AI 세계에서 벌어진 흥미로운 변화를 깊이 파헤쳐 보겠습니다.

최근 하드웨어 커뮤니티를 뒤흔든 놀라운 소식이 전해졌습니다. 단순한 게임 플레이를 넘어, 탈옥된 PlayStation 5(PS5)가 강력한 로컬 AI 추론 엔진으로 재탄생했다는 소식입니다. 이는 마치 고성능 스포츠카의 엔진을 추출하여 초고속 데이터 처리용 서버로 개조한 것과 같은 충격적인 기술적 진보를 보여줍니다.

소제목 1: 시장 배경과 이슈의 본질 (한국 독자 관점)#

최근 전 세계적으로 개인정보 보호와 비용 절감을 위해 클라우드 AI 대신 내 컴퓨터에서 직접 돌리는 '로컬 LLM(Large Language Model)'에 대한 관심이 뜨겁습니다. 특히 한국의 개발자 및 AI 연구자들 사이에서도 저사양 하드웨어에서 어떻게 더 큰 파라미터를 가진 모델을 구동할 것인가가 핵심 과제 중 하나입니다.

기존의 탈옥된 PS5 환경에서는 AI 모델을 CPU의 페이로드(Payload) 형태로 실행해야 했습니다. 이 방식은 시스템의 CPU를 점유하여 홈 화면을 멈추게 할 위험이 있었고, 사용할 수 있는 메모리(RAM) 또한 약 6.25GB 수준으로 극히 제한적이었습니다. 이는 덩치가 큰 최신 AI 모델을 돌리기에는 턱없이 부족한 수치였습니다.

하지만 이번에 공개된 새로운 업데이트는 하드웨어의 잠재력을 완전히 깨웠습니다. 단순한 소프트웨어 실행을 넘어, PS5의 GPU(그래픽 처리 장로)에 직접 접근할 수 있는 통로를 확보함으로써, 게이밍 콘솔을 하나의 독립적인 'AI 가속기'로 변모시킨 것입니다.

소제목 2: 심층 스펙 분석 및 핵심 기술 해설#

이번 기술 혁신의 핵심은 'PS5LM'의 네이티브 앱화와 'PS5_Vulkan' 드라이버의 활용에 있습니다. 개발자 u/AdIllustrious7246는 기존의 제한적인 방식을 탈피하여 다음과 같은 기술적 성취를 이뤄냈습니다.

• GPU 가속 및 토큰 생성 속도 혁신: PS5_Vulkan 드라이버를 통해 AMD 기반의 PS5 GPU에 명령을 전달함으로써, 텍스트 생성 속도가 비약적으로 상승했습니다. 특히 Llama 3.2 3B 모델의 경우 초당 124개의 토큰을 쏟아내는 성능을 보여주었습니다.
• 메모리(RAM) 한계 돌파: CPU 페이로드 방식에서 발생하던 병목 현상을 제거하여, 가용 RAM을 기존 6.25GB에서 최대 11.4GB까지 확장했습니다. 이는 더 많은 파라미터를 가진 모델을 로드할 수 있음을 의미합니다.
• 통합 모니터링 대시보드: 실시간 토큰 생성 속도, GPU/CPU 사용률, 전력 소모량, 온도, 그리고 KV 캐시와 모델 간의 메모리 분할 현황을 한눈에 볼 수 있는 대시보드를 구축했습니다.
• 멀티 디바이스 인터페이스: llama.cpp의 Web UI를 지원하여, 웹 브라우저를 통해 다른 로컬 기기에서도 PS5 AI와 채팅할 수 있는 환경을 제공합니다.

물론 모델이 텍스트를 생성하는 과정에서 발생할 수 있는 할루시네이션(Hallucination, 환각 현상) 문제는 모델 자체의 한계이지만, 하드웨어적 제약으로 인해 모델의 크기를 줄여야만 했던 과거의 제약은 이번 업데이트로 상당 부분 해소되었습니다.

소제목 3: 한눈에 보는 비교 분석 (E-E-A-T 데이터 테이블)#

기존의 CPU 기반 실행 방식과 이번에 발표된 GPU 네이티브 실행 방식의 차이를 비교하면 기술적 진보가 얼마나 극적인지 알 수 있습니다.

<

비교 항목	기존 CPU 페이로드 방식	신규 GPU 네이티브 방식	평가
주요 연산 장치	CPU (Central Processing Unit)	GPU (Graphics Processing Unit)	GPU 가속으로 속도 급증
가용 RAM 용량	약 6.25 GiB	최대 11.4 GiB	대형 모델 구동 가능
Llama 3.2 3B 속도	-	약 124 tokens/s	매우 쾌적한 수준
Qwen 27B 구동	구동 불가/시스템 프리징	약 20 tokens/s	중형 모델 구동 성공

소제목 4: 실전 활용 가이드 및 주의사항#

이 기술은 놀랍지만, 일반 사용자들에게는 몇 가지 주의사항이 따릅니다.

✅ 이런 분께 추천합니다:

• 남는 고사양 콘솔을 활용해 저비용 AI 서버를 구축하고 싶은 하드웨어 매니아
• 오프라인 환경에서 개인화된 AI 비서를 구축하려는 보안 중시 사용자
• 로컬 LLM의 성능 한계를 실험하고자 하는 AI 연구자

⚠️ 이런 분은 패스하세요:

• 콘솔의 정품 보증 및 온라인 서비스(PSN) 이용이 필수적인 게이머 (탈옥 시 서비스 이용 불가)
• 하드웨어 변조에 따른 시스템 불안정성을 감당하기 어려운 사용자
• 단순히 게임만을 목적으로 하는 일반 사용자

자주 묻는 질문 (FAQ)#

Q1. PS5를 탈옥하면 게임 플레이에 문제가 생기나요?
네, 그렇습니다. 탈옥된 기기는 소니의 공식 네트워크 서비스(PSN)에 접속할 수 없으며, 멀티플레이 게임 이용이 불가능해집니다. 오직 로컬 AI 구동이나 싱글 플레이 위주의 활용이 가능합니다.

Q2. 챗GPT처럼 인터넷 없이도 대화가 가능한가요?
네, 이것이 로컬 LLM의 가장 큰 장점입니다. 모든 연산이 PS5 내부의 GPU와 RAM에서 이루어지므로, 인터넷 연결 없이도 완전히 오프라인 상태에서 대화형 AI를 사용할 수 있습니다.

필자의 한마록 & 결론#

이번 소식은 하드웨어의 경계가 허물어지고 있음을 보여주는 상징적인 사건입니다. 게임을 위해 태어난 하드웨어가 인류의 새로운 지능을 처리하는 도구로 변모하는 과정은 경이롭기까지 합니다. 물론 GPU 부족 현상과 같은 경제적 이슈는 여전히 남아있지만, 우리가 가진 기존 자원을 재발견하는 이러한 시도는 매우 가치 있습니다.

AI는 도구일 뿐, 방향을 결정하는 것은 우리 인간입니다. 여러분은 여러분의 오래된 게임기를 AI 서버로 바꾸고 싶으신가요? 여러분의 생각은 어떠신지 댓글로 들려주세요. 딥러너였습니다.

출처: https://www.tomshardware.com/video-games/playstation/jailbroken-ps5s-can-now-run-local-ai-models-at-over-100-tokens-per-second-fork-of-ps5lm-goes-native-and-accesses-gpu-and-more-ram