PS5LM - 탈옥한 PS5에서 llama. — GeekNews on Telegram

@GeekNewsHada

GeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly

PS5LM - 탈옥한 PS5에서 llama.cpp로 모든 GGUF 모델을 콘솔에서 네이티브 실행

- 탈옥한 PS5에서 AI 모델을 실행하고 노트북/휴대폰/코딩 도구가 사용하는 가정용 모델 서버로 만드는 오픈소스
- OpenAI와 Anthropic 호환 API, 브라우저 채팅을 제공해 Claude Code 같은 도구와 연결 가능. 요청한 기기와 질문, 생성 중인 응답을 TV에서도 실시간으로 확인
- llama.cpp의 Vulkan 백엔드로 RDNA 2 GPU를 활용하며, 모델과 컨텍스트에 공유 메모리 11.4GB를 사용할 수 있음. 지원 범위는 llama.cpp가 처리하는 아키텍처와 양자화 형식을 따름
- PS5 Slim에서 Qwen 3.5 9B의 Q4_K_M 모델은 초당 55토큰, Qwen 3…

https://news.hada.io/topic?id=35496