Um avanço significativo no uso de consoles para inteligência artificial foi alcançado com a adaptação do PS5 com jailbreak para rodar modelos de IA localmente na GPU. O projeto, chamado PS5LM Plus, foi desenvolvido pelo usuário u/AdIllustrious7246 — também conhecido como abhi245y no GitHub — e baseia-se no trabalho original do PS5LM, um port não oficial do llama.cpp feito por Mert Cobanov.
A principal mudança está no aproveitamento da GPU do console. Enquanto a versão anterior só funcionava com a CPU, limitada a cerca de 6 GiB de memória, a nova versão passa a usar até 11,4 GiB e integra o chip gráfico via Vulkan, com suporte ao driver RADV. Isso permite que modelos como Llama 3.2 3B rodem a cerca de 124 tokens por segundo e o Qwen 3.8 27B chegue a cerca de 20 tokens por segundo.
O suporte a modelos como Llama, Qwen e Gemma sem depender de serviços em nuvem representa um salto em autonomia e privacidade para usuários interessados em experimentar IA localmente. A solução é especialmente relevante no Brasil, onde o acesso a serviços de nuvem pode ser limitado por custo ou latência.
O projeto está disponível no Reddit e no GitHub, e ainda é experimental. A comunidade de desenvolvedores e entusiastas de hardware tem acompanhado de perto os avanços, com expectativas de que a plataforma possa se tornar uma alternativa acessível para testes de IA em ambientes domésticos.
