~/guides/run-llm-in-browser
Faire tourner un LLM dans votre navigateur
Un modèle de langage peut tourner dans une page web, sur la puce graphique de votre appareil, sans installation et sans compte. Essayez-en un ci-dessous, puis voyez ce qu’il faut : tailles de téléchargement, vitesses mesurées, navigateurs compatibles et limites.
Essayez ici
Le moteur de Mentria exécute le modèle dans cet onglet. La première fois, il télécharge le modèle et l’enregistre dans votre navigateur. Ensuite, il démarre en quelques secondes et fonctionne hors ligne.
Votre demande est traitée sur cet appareil, pas sur un serveur. Voir Confidentialité.
Comment ça marche
WebGPU donne à une page web l’accès à votre puce graphique. Les navigateurs permettent désormais aux pages d’exécuter leurs propres programmes sur le GPU, la puce qu’utilisent aussi les jeux. Le moteur de Mentria, écrit de zéro pour WebGPU, exécute chaque étape du modèle sous forme de petits programmes GPU.
Le modèle est compressé pour tenir. Chacun de ses nombres est stocké sur 4 bits, ou environ 1 bit pour le 27B, au lieu des 16 habituels. C’est ainsi qu’un modèle de 800 millions de nombres devient un téléchargement de 490 Mo.
Il écrit un jeton à la fois. Votre demande est découpée en jetons, des morceaux de mots, et le modèle prédit le jeton suivant encore et encore sur votre GPU, aux vitesses mesurées plus bas.
Ce qu’il vous faut
- Un navigateur avec WebGPU. La plupart des navigateurs récents l’ont ; le tableau ci-dessous indique où.
- De la mémoire libre. Le modèle et sa mémoire de travail doivent tenir dans la mémoire graphique de votre appareil. Sur les téléphones et les Mac, cette mémoire est partagée avec tout ce qui est ouvert.
- De l’espace disque pour le téléchargement. Le navigateur conserve le modèle jusqu’à ce que vous effaciez les données du site ou qu’il ait besoin de place.
- Quelques minutes la première fois sur une connexion lente.
| Navigateur | Où il fonctionne aujourd’hui |
|---|---|
| Chrome, Edge et les autres navigateurs basés sur Chromium | Activé par défaut sous Windows, macOS et ChromeOS (depuis la version 113), sur la plupart des téléphones Android 12 ou plus récents (depuis la 121) et sous Linux avec certains GPU (depuis la 144). |
| Safari | Activé par défaut dans Safari 26 sous macOS, iOS et iPadOS. |
| Firefox | Activé par défaut sous Windows (depuis la 141) et sur les Mac à puce Apple (depuis la 145 sous macOS 26, et la 147 sur les versions antérieures de macOS). Pas encore sous Linux ni sur Android. |
D’après la page état de l’implémentation du groupe WebGPU.
Quel modèle votre appareil peut faire tourner
| Modèle | Téléchargement | Où Mentria l’utilise |
|---|---|---|
| Qwen3.5 0.8B | 490 Mo | Tous les appareils compatibles WebGPU, téléphones compris. |
| Qwen3.5 2B | 1,4 Go | Les appareils avec au moins 8 Go de mémoire. |
| Qwen3.5 4B | 2,8 Go | Les ordinateurs qui ont assez de mémoire, et certains téléphones Android haut de gamme. |
| Bonsai 27B | 3,8 Go | Les ordinateurs avec une carte graphique dédiée, et les Mac à puce Apple. |
Mentria commence par le plus petit modèle et en propose un plus grand quand votre appareil le permet. Vous pouvez en changer dans Chat IA. Les quatre savent aussi regarder des images.
À quelle vitesse il tourne
| Modèle | Démarre en | Premier mot | Vitesse |
|---|---|---|---|
| Qwen3.5 0.8B | 2,5 s | 0,1 s | 157 jetons/s |
| Qwen3.5 2B | 4,1 s | 0,2 s | 62 jetons/s |
| Qwen3.5 4B | 7,4 s | 0,4 s | 25 jetons/s |
| Bonsai 27B | 9,0 s | 1,2 s | 39 jetons/s |
Un jeton correspond à environ trois quarts d’un mot anglais : 25 jetons par seconde, c’est donc plus rapide que la lecture de la plupart des gens. Ici, le 27B dépasse le 4B parce que le moteur le fait tourner avec des réglages optimisés pour les GPU Apple, que les plus petits modèles n’utilisent pas encore.
Mesuré avec le banc d’essai de Mentria sur un Apple M4 Pro avec 24 Go de mémoire, dans Chrome 154, en octobre 2026. Démarre en : chargement d’un modèle déjà enregistré. Premier mot et vitesse : médianes de trois exécutions d’une réponse de 120 jetons. Les résultats varient selon l’appareil, et la démo ci-dessus affiche les vôtres.
Les limites
- Le premier téléchargement est volumineux. De 490 Mo à 3,8 Go. En données mobiles, cela compte : Mentria demande donc d’abord sur les connexions lentes ou limitées.
- Les téléphones ont le moins de place. Les navigateurs mobiles ferment un onglet qui utilise trop de mémoire, donc les téléphones utilisent les plus petits modèles.
- Les petits modèles se trompent plus souvent. Ils sont bons pour expliquer, reformuler et résumer, mais bien plus faibles que les grands modèles en ligne sur les faits et le raisonnement. Vérifiez tout ce qui compte.
- Ils lisent quelques pages à la fois. Un modèle dans le navigateur travaille avec un contexte limité, donc les très longs documents doivent être découpés.
- Il sollicite fortement votre GPU. Les longues réponses consomment de la batterie et font chauffer l’appareil, comme un jeu.
- Le navigateur peut l’effacer. Si l’espace disque manque, le navigateur peut supprimer le modèle enregistré, et la prochaine exécution le télécharge à nouveau.
L’utiliser sur Mentria
- Chat IA : discutez avec le modèle, montrez-lui des images et choisissez un modèle plus grand.
- Annoter une image : obtenez une description, le texte ou des étiquettes pour une image.
- Citation motivante : un petit modèle ajusté pour écrire des citations originales.
- Confidentialité : ce qui reste sur votre appareil et ce qui utilise le réseau.
Mis à jour le 9 octobre 2026.