LLMs en local avec Ollama et Laravel AI SDK : expérimentez l'IA sans frais ni fuite de données

Pour une TPE ou une PME, intégrer l'intelligence artificielle dans ses applications web est aujourd'hui accessible — mais les coûts peuvent rapidement devenir incontrôlables. Chaque appel à l'API OpenAI ou Anthropic est facturé, et une session de débogage intensive peut générer des dizaines, voire des centaines d'appels. Multipliez cela par une équipe de développeurs et vous obtenez une facture significative avant même d'avoir livré la moindre fonctionnalité en production.

Il existe une alternative sérieuse : faire tourner des modèles de langage directement sur vos machines, gratuitement et sans envoyer vos données à l'extérieur. C'est exactement ce que permet la combinaison Ollama + Laravel AI SDK.

Cet article s'inspire de l'article original de Hafiz sur dev.to.

Qu'est-ce qu'Ollama et pourquoi s'y intéresser ?

Ollama est un outil léger qui télécharge et sert des modèles de langage open-source localement sur votre machine. Une fois lancé, il expose une API HTTP sur localhost:11434, compatible avec le format OpenAI. Parmi les modèles disponibles : Llama 3, Mistral, Qwen, Phi-3, et des dizaines d'autres.

Pour une PME, les avantages sont concrets :

• Zéro coût à l'usage : pas de facturation au token, pas d'abonnement cloud requis pour développer et tester.
• Confidentialité des données : vos prompts, vos documents, vos données métier ne quittent jamais votre infrastructure. C'est un point critique si vous traitez des données sensibles (contrats, données clients, informations RH).
• Pas de dépendance réseau : une fois le modèle téléchargé, tout fonctionne hors ligne.
• Pas de limite de débit : vous pouvez lancer votre suite de tests autant de fois que nécessaire sans vous soucier des quotas.

La contrepartie est matérielle : les grands modèles nécessitent de la RAM et idéalement une GPU. Mais pour le développement et les tests, des modèles plus légers (7B paramètres) tournent correctement sur un MacBook récent ou une workstation standard.

Intégration avec le Laravel AI SDK : un seul changement de configuration

Le Laravel AI SDK traite Ollama comme un provider natif, au même titre qu'OpenAI ou Anthropic. La bascule se fait via une variable d'environnement — aucune modification de code applicatif n'est nécessaire.

Installation et démarrage d'Ollama

# Installation (macOS)
brew install ollama

# Téléchargement d'un modèle
ollama pull llama3

# Démarrage du serveur
ollama serve

Sur Linux, un script d'installation officiel est disponible. Le serveur écoute alors sur http://localhost:11434.

Configuration dans Laravel

Dans votre fichier .env :

AI_PROVIDER=ollama
AI_OLLAMA_BASE_URL=http://localhost:11434
AI_OLLAMA_MODEL=llama3

Dans config/ai.php (selon la structure de votre SDK) :

'ollama' => [
    'base_url' => env('AI_OLLAMA_BASE_URL', 'http://localhost:11434'),
    'model'    => env('AI_OLLAMA_MODEL', 'llama3'),
],

Vos agents et chaînes de traitement existants fonctionnent immédiatement sans aucune autre modification. C'est la force du Laravel AI SDK : l'abstraction du provider est complète.

Le workflow recommandé : local en dev, cloud en production

L'approche la plus pragmatique pour une équipe consiste à utiliser Ollama pendant tout le cycle de développement et de test, puis à basculer sur un provider cloud (OpenAI, Anthropic, Mistral API) uniquement en production — où les performances et la qualité du modèle ont un impact réel sur l'utilisateur final.

┌─────────────────────────────────────────────┐
│  Environnement local / CI                   │
│  Ollama (Llama3, Mistral...)                │
│  → Gratuit, privé, sans limite              │
└────────────────────┬────────────────────────┘
                     │  Variable d'env
┌────────────────────▼────────────────────────┐
│  Production                                 │
│  OpenAI / Anthropic / Mistral API           │
│  → Performances optimales, SLA garanti      │
└─────────────────────────────────────────────┘

Concrètement, dans votre pipeline CI/CD :

# .env.testing
AI_PROVIDER=ollama
AI_OLLAMA_MODEL=phi3  # Modèle léger pour les tests automatisés

# .env.production
AI_PROVIDER=openai
OPENAI_API_KEY=sk-...

Cette approche vous permet de valider la logique de vos agents sans générer de coûts, et de réserver les appels cloud aux scénarios où la qualité du modèle est critique.

Points de vigilance avant d'adopter cette approche

Ollama en local n'est pas une solution universelle. Voici ce qu'il faut garder en tête :

Performances variables selon le matériel. Un modèle 13B sur une machine sans GPU dédié peut être lent. Pour des tests automatisés, privilégiez des modèles légers comme phi3 ou qwen2:1.5b.

Qualité des modèles open-source. Pour des tâches complexes (raisonnement avancé, génération de code critique), les modèles open-source 7B restent en retrait par rapport à GPT-4o ou Claude 3.5 Sonnet. L'objectif n'est pas de remplacer le cloud en production, mais de ne pas payer pour développer.

Attention à la cohérence des comportements. Si votre logique applicative dépend de caractéristiques spécifiques à un modèle (format de réponse, respect strict d'instructions), testez bien le comportement en production avec le provider final.

Infrastructure de production. Si vous souhaitez utiliser Ollama en production (pour des raisons de confidentialité absolue, par exemple), cela nécessite un serveur dédié avec une GPU correcte. Le coût infrastructure reste à évaluer face au coût API.

Conclusion

Pour les équipes PHP/Symfony et Laravel qui souhaitent intégrer l'IA dans leurs applications sans exploser leur budget de développement, Ollama représente une solution mature et immédiatement opérationnelle. La compatibilité native avec le Laravel AI SDK rend la bascule triviale : une variable d'environnement suffit.

Au-delà de l'aspect financier, la question de la souveraineté des données est souvent déterminante pour les PME qui traitent des informations sensibles. Pouvoir expérimenter, prototyper et tester des fonctionnalités IA sans que vos données quittent votre réseau est un avantage réel.

L'approche recommandée reste pragmatique : Ollama en développement et CI, provider cloud en production. Vous maîtrisez vos coûts, vous préservez la confidentialité pendant les phases d'exploration, et vous disposez des meilleures performances là où elles comptent vraiment.