~/guides/run-llm-in-browser
Ejecuta un LLM en tu navegador
Un modelo de lenguaje puede funcionar dentro de una página web con el chip gráfico de tu dispositivo, sin instalar nada y sin cuenta. Pruébalo aquí abajo y luego mira qué hace falta: tamaños de descarga, velocidades medidas, navegadores compatibles y límites.
Pruébalo aquí
El motor de Mentria ejecuta el modelo en esta pestaña. La primera vez descarga el modelo y lo guarda en tu navegador. Después arranca en segundos y funciona sin conexión.
Tu prompt se procesa en este dispositivo, no en un servidor. Más información en Privacidad.
Cómo funciona
WebGPU le da a una página web acceso a tu chip gráfico. Los navegadores ya permiten que las páginas ejecuten sus propios programas en la GPU, el mismo chip que usan los juegos. El motor de Mentria, escrito desde cero para WebGPU, ejecuta cada paso del modelo como pequeños programas de GPU.
El modelo está comprimido para que quepa. Cada uno de sus números se guarda en 4 bits, o en 1 bit aproximadamente en el caso del 27B, en lugar de los 16 habituales. Así un modelo con 800 millones de números se convierte en una descarga de 490 MB.
Escribe un token cada vez. Tu prompt se divide en tokens, fragmentos de palabras, y el modelo predice el siguiente token una y otra vez en tu GPU, a las velocidades medidas más abajo.
Qué necesitas
- Un navegador con WebGPU. La mayoría de los navegadores actuales lo tienen; la tabla de abajo muestra dónde.
- Memoria libre. El modelo y su memoria de trabajo tienen que caber en la memoria gráfica de tu dispositivo. En móviles y Mac, esa memoria se comparte con todo lo demás que tengas abierto.
- Espacio en disco para la descarga. El navegador conserva el modelo hasta que borres los datos del sitio o necesite el espacio.
- Unos minutos la primera vez si tu conexión es lenta.
| Navegador | Dónde funciona hoy |
|---|---|
| Chrome, Edge y otros navegadores basados en Chromium | Activado por defecto en Windows, macOS y ChromeOS (desde la versión 113), en la mayoría de los móviles con Android 12 o posterior (desde la 121) y en Linux con algunas GPU (desde la 144). |
| Safari | Activado por defecto en Safari 26 en macOS, iOS y iPadOS. |
| Firefox | Activado por defecto en Windows (desde la 141) y en los Mac con chip de Apple (desde la 145 en macOS 26, y la 147 en versiones anteriores de macOS). Todavía no en Linux ni en Android. |
Según la página de estado de implementación del grupo de WebGPU.
Qué modelo puede usar tu dispositivo
| Modelo | Descarga | Dónde lo usa Mentria |
|---|---|---|
| Qwen3.5 0.8B | 490 MB | Cualquier dispositivo con WebGPU, móviles incluidos. |
| Qwen3.5 2B | 1,4 GB | Dispositivos con al menos 8 GB de memoria. |
| Qwen3.5 4B | 2,8 GB | Ordenadores con memoria suficiente y algunos móviles Android de gama alta. |
| Bonsai 27B | 3,8 GB | Ordenadores con tarjeta gráfica dedicada y Mac con chip de Apple. |
Mentria empieza con el modelo más pequeño y te ofrece uno más grande cuando tu dispositivo lo admite. Puedes cambiarlo en Chat IA. Los cuatro también pueden ver imágenes.
A qué velocidad funciona
| Modelo | Arranca en | Primera palabra | Velocidad |
|---|---|---|---|
| Qwen3.5 0.8B | 2,5 s | 0,1 s | 157 tokens/s |
| Qwen3.5 2B | 4,1 s | 0,2 s | 62 tokens/s |
| Qwen3.5 4B | 7,4 s | 0,4 s | 25 tokens/s |
| Bonsai 27B | 9,0 s | 1,2 s | 39 tokens/s |
Un token equivale aproximadamente a tres cuartos de una palabra en inglés, así que 25 tokens por segundo es más rápido de lo que lee la mayoría de la gente. Aquí el 27B supera al 4B porque el motor lo ejecuta con ajustes optimizados para las GPU de Apple, que los modelos más pequeños todavía no usan.
Medido con el benchmark de Mentria en un Apple M4 Pro con 24 GB de memoria, en Chrome 154, en octubre de 2026. Arranca en: tiempo de carga de un modelo ya guardado. Primera palabra y velocidad: medianas de tres ejecuciones de una respuesta de 120 tokens. En tu dispositivo los resultados serán distintos, y la demo de arriba muestra los suyos.
Los límites
- La primera descarga es grande. De 490 MB a 3,8 GB. Con datos móviles eso importa, así que Mentria pregunta antes en conexiones lentas o con límite de datos.
- Los móviles tienen menos espacio. Los navegadores móviles cierran una pestaña que usa demasiada memoria, así que en el móvil se usan los modelos más pequeños.
- Los modelos pequeños se equivocan más. Son buenos para explicar, reescribir y resumir, pero mucho más débiles que los grandes modelos en la nube en datos y razonamiento. Comprueba todo lo que sea importante.
- Leen unas pocas páginas a la vez. Un modelo en el navegador trabaja con un contexto limitado, así que los documentos muy largos hay que dividirlos.
- Hace trabajar mucho a tu GPU. Las respuestas largas gastan batería y calientan el dispositivo, igual que un juego.
- El navegador puede borrarlo. Si te queda poco espacio en disco, el navegador puede eliminar el modelo guardado, y la próxima vez se volverá a descargar.
Úsalo en Mentria
- Chat IA: conversa con el modelo, muéstrale imágenes y elige un modelo más grande.
- Anotar imagen: obtén una descripción, el texto o etiquetas de una imagen.
- Cita motivadora: un modelo pequeño ajustado para escribir citas originales.
- Privacidad: qué se queda en tu dispositivo y qué usa la red.
Actualizado el 9 de octubre de 2026.