~/guides/run-llm-in-browser
Rode um LLM no seu navegador
Um modelo de linguagem pode rodar dentro de uma página da web usando o chip gráfico do seu aparelho, sem instalação e sem conta. Teste abaixo e depois veja o que é preciso: tamanhos de download, velocidades medidas, navegadores compatíveis e limites.
Teste aqui
O motor da Mentria roda o modelo nesta aba. Na primeira vez, ele baixa o modelo e o salva no navegador. Depois disso, inicia em segundos e funciona offline.
Seu prompt é processado neste aparelho, não em um servidor. Veja Privacidade.
Como funciona
O WebGPU dá a uma página da web acesso ao seu chip gráfico. Os navegadores agora deixam as páginas rodarem seus próprios programas na GPU, o mesmo chip que os jogos usam. O motor da Mentria, escrito do zero para WebGPU, executa cada etapa do modelo como pequenos programas de GPU.
O modelo é comprimido para caber. Cada um dos seus números é guardado em 4 bits, ou cerca de 1 bit no caso do 27B, em vez dos 16 de costume. É assim que um modelo com 800 milhões de números vira um download de 490 MB.
Ele escreve um token de cada vez. Seu prompt é dividido em tokens, pedaços de palavras, e o modelo prevê o próximo token várias vezes seguidas na sua GPU, nas velocidades medidas abaixo.
Do que você precisa
- Um navegador com WebGPU. A maioria dos navegadores atuais tem; a tabela abaixo mostra onde.
- Memória livre. O modelo e a memória de trabalho dele precisam caber na memória gráfica do seu aparelho. Em celulares e Macs, essa memória é compartilhada com tudo o que estiver aberto.
- Espaço em disco para o download. O navegador guarda o modelo até você limpar os dados do site ou ele precisar do espaço.
- Alguns minutos na primeira vez em uma conexão lenta.
| Navegador | Onde funciona hoje |
|---|---|
| Chrome, Edge e outros navegadores baseados no Chromium | Ativado por padrão no Windows, no macOS e no ChromeOS (desde a versão 113), na maioria dos celulares com Android 12 ou mais recente (desde a 121) e no Linux com algumas GPUs (desde a 144). |
| Safari | Ativado por padrão no Safari 26 no macOS, no iOS e no iPadOS. |
| Firefox | Ativado por padrão no Windows (desde a 141) e nos Macs com Apple Silicon (desde a 145 no macOS 26, e a 147 em versões anteriores do macOS). Ainda não no Linux nem no Android. |
Segundo a página de status de implementação do grupo do WebGPU.
Qual modelo seu aparelho roda
| Modelo | Download | Onde a Mentria usa |
|---|---|---|
| Qwen3.5 0.8B | 490 MB | Qualquer aparelho com WebGPU, incluindo celulares. |
| Qwen3.5 2B | 1,4 GB | Aparelhos com pelo menos 8 GB de memória. |
| Qwen3.5 4B | 2,8 GB | Computadores com memória suficiente e alguns celulares Android topo de linha. |
| Bonsai 27B | 3,8 GB | Computadores com placa de vídeo dedicada e Macs com Apple Silicon. |
A Mentria começa com o menor modelo e oferece um maior quando seu aparelho aguenta. Você pode trocar no Chat IA. Os quatro também conseguem ver imagens.
Qual a velocidade
| Modelo | Inicia em | Primeira palavra | Velocidade |
|---|---|---|---|
| Qwen3.5 0.8B | 2,5 s | 0,1 s | 157 tokens/s |
| Qwen3.5 2B | 4,1 s | 0,2 s | 62 tokens/s |
| Qwen3.5 4B | 7,4 s | 0,4 s | 25 tokens/s |
| Bonsai 27B | 9,0 s | 1,2 s | 39 tokens/s |
Um token equivale a cerca de três quartos de uma palavra em inglês, então 25 tokens por segundo é mais rápido do que a maioria das pessoas lê. Aqui o 27B supera o 4B porque o motor o executa com configurações ajustadas para GPUs da Apple, que os modelos menores ainda não usam.
Medido com o benchmark da Mentria em um Apple M4 Pro com 24 GB de memória, no Chrome 154, em outubro de 2026. Inicia em: tempo para carregar um modelo já salvo. Primeira palavra e velocidade: medianas de três execuções de uma resposta de 120 tokens. No seu aparelho os números serão outros, e a demonstração acima mostra os dele.
Os limites
- O primeiro download é grande. De 490 MB a 3,8 GB. Nos dados móveis isso pesa, por isso a Mentria pergunta antes em conexões lentas ou limitadas.
- Celulares têm menos espaço. Os navegadores de celular fecham uma aba que usa memória demais, por isso os celulares ficam com os modelos menores.
- Modelos pequenos erram mais. São bons para explicar, reescrever e resumir, e bem mais fracos que os grandes modelos na nuvem em fatos e raciocínio. Confira tudo o que for importante.
- Eles leem poucas páginas por vez. Um modelo no navegador trabalha com um contexto limitado, então documentos muito longos precisam ser divididos.
- Ele exige muito da sua GPU. Respostas longas gastam bateria e esquentam o aparelho, como um jogo.
- O navegador pode apagá-lo. Se o espaço em disco ficar baixo, o navegador pode excluir o modelo salvo, e a próxima execução baixa tudo de novo.
Use na Mentria
- Chat IA: converse com o modelo, mostre imagens e escolha um modelo maior.
- Anotar imagem: receba uma descrição, o texto ou tags de uma imagem.
- Frase motivacional: um modelo pequeno ajustado para escrever frases originais.
- Privacidade: o que fica no seu aparelho e o que usa a rede.
Atualizado em 9 de outubro de 2026.