Exécution locale
Les modèles tournent dans un processus llama.cpp isolé sur la machine qui fournit la puissance de calcul.
IA locale · agents connectés
dllm permet de converser avec des modèles exécutés sur vos propres machines, de piloter vos nœuds depuis une application Flutter et d’activer le mode connecté uniquement lorsque vous en avez besoin.
Le problème
Les outils classiques imposent leur infrastructure, exposent des réglages techniques ou rendent difficile la compréhension du trajet des données.
dllm sépare clairement l’application, l’orchestration et le runtime. Vous choisissez quand rester local et quand connecter vos machines.
Fonctionnalités
Les modèles tournent dans un processus llama.cpp isolé sur la machine qui fournit la puissance de calcul.
L’application Flutter centralise conversations, organisations, nœuds, modèles et état des tâches.
Supabase gère l’authentification et le contrôle distant sans ouvrir de port public entrant.
La disponibilité, la batterie, la pression thermique et l’usage actif restent prioritaires.
Comment ça marche
Téléchargez l’application et, si besoin, l’agent adapté à votre machine.
Utilisez le mode local ou connectez votre organisation avec Supabase.
L’agent orchestre le modèle et diffuse la réponse dans la console.
Indicateurs publics
comptes créés
utilisateurs actifs
actions traitées
Chargement non bloquant des indicateurs…
Vous demandez
« Résume ce document sans envoyer son contenu vers un service d’inférence tiers. »
Agent dllm
L’agent reçoit une intention explicite, vérifie les ressources disponibles, contrôle llama.cpp et rapporte son état. Il n’agit pas hors des commandes autorisées et ne remplace pas un avis professionnel.
Comprendre l’agentRéponses claires
Oui. Le mode local est conçu pour fonctionner sans backend, compte ni authentification. Un compte est nécessaire uniquement pour les fonctions connectées.
Le modèle s’exécute dans un processus llama.cpp isolé sur un nœud que vous contrôlez, par exemple un Mac Apple Silicon ou un agent Linux.
Non. Les communications connectées sont sortantes et authentifiées. Aucun port entrant public n’est requis.
Créez votre compte ou commencez par découvrir l’application.