Architecture multi-fournisseurs : ne jamais dépendre d'un seul LLM

Quand vous construisez un produit sur l'IA générative, la tentation est de choisir un seul fournisseur — celui qui a le meilleur modèle à l'instant T — et de tout construire par-dessus. C'est rapide, simple, et les guides d'intégration sont excellents.

C'est aussi un piège.

Les trois risques de l'IA mono-fournisseur

1. Pannes et limites de débit des fournisseurs

Chaque fournisseur de LLM a des pannes. Il impose aussi des limites de débit qui changent sans préavis. Si tout votre produit dépend de l'API d'un seul fournisseur, un changement de quota ou une panne régionale paralyse votre produit pour tous les utilisateurs simultanément.

2. Dépréciation des modèles

Les modèles sont dépréciés. Le modèle autour duquel vous avez construit vos prompts aujourd'hui n'existera peut-être plus dans six mois. Migrer d'un modèle à un autre n'est pas qu'un changement d'API — cela signifie ré-ajuster chaque prompt, re-valider chaque format de sortie et re-calibrer la précision. Le faire sous la contrainte (votre modèle vient d'être déprécié) est douloureux.

3. Levier commercial

Si votre produit ne fonctionne qu'avec un seul fournisseur, c'est ce fournisseur qui fixe vos prix. Il peut modifier les conditions, restreindre l'accès ou donner la priorité à d'autres clients. Vous n'avez aucune position de négociation car vous ne pouvez pas partir.

Comment fonctionne l'architecture multi-fournisseurs d'Uptech

À travers nos trois produits, nous utilisons une abstraction unifiée qui normalise le chat, l'appel d'outils, le streaming et l'usage de tokens entre les fournisseurs :

Zitounix fonctionne sur quatre fournisseurs interchangeables :

• Alibaba Qwen-VL (par défaut, avec rotation de repli automatique entre Qwen3.x-Plus et Qwen-VL-Max)
• Google Gemini 2.5 Flash (avec une chaîne de modèles de repli)
• Ollama (auto-hébergé, BYOK — utilisable sans API key en localhost)
• OpenRouter (agrégateur routant vers des modèles gratuits)

Quand un modèle atteint un quota ou une limite de débit, le système bascule automatiquement vers le candidat suivant. L'utilisateur ne voit pas l'échec — il voit le résultat.

Vitary fonctionne sur deux fournisseurs configurables :

• Alibaba Qwen-Plus (DashScope, endpoint compatible OpenAI)
• Ollama Cloud (gpt-oss:120b)

Les deux sont appelés via un adaptateur unifié avec un fetchImpl injectable pour des tests déterministes. La configuration passe entièrement par des variables d'environnement — aucun fournisseur n'est codé en dur.

Amar Studio fonctionne sur six fournisseurs via une abstraction partagée ChatRequest/ChatResponse :

• Anthropic Claude (Opus/Sonnet/Haiku)
• Google Gemini (2.5 Pro/Flash, contexte 1M)
• OpenAI GPT
• xAI Grok 3
• Ollama (local)
• Google Antigravity (passerelle unifiée avec rotation multi-comptes sur 429)

Le coût d'ingénierie

Le multi-fournisseur représente plus de travail d'ingénierie :

• Une couche d'abstraction unifiée (chaque fournisseur a une API légèrement différente)
• Des vérifications de santé et un statut en direct par fournisseur
• Une logique de repli et de rotation automatique
• Une adaptation des prompts par fournisseur (chaque modèle répond différemment)
• Des benchmarks entre fournisseurs (nous lançons des audits de référence comparant Gemini et Qwen)

Mais la contrepartie est la résilience opérationnelle et la liberté commerciale. Quand Alibaba Qwen subit un pic de limite de débit, Zitounix bascule vers Gemini de façon transparente. Quand un modèle est déprécié, nous passons au suivant sans re-architecturer. Et nous ne sommes jamais dans une négociation où nous ne pouvons pas partir.

Une note sur Ollama

Ollama mérite une mention particulière. Il nous permet d'exécuter des modèles localement — sur la machine de l'utilisateur ou sur notre propre infrastructure. Pour les cas d'usage sensibles à la vie privée (données de santé, données cliniques), cela signifie que les données ne quittent jamais le contrôle de l'utilisateur. Pour les cas d'usage sensibles au coût, cela signifie un coût par appel nul. C'est le repli ultime : aucune dépendance à un fournisseur, aucune limite de débit, aucun transfert de données.

---

L'architecture multi-fournisseurs est un principe de conception fondamental pour tous les produits Uptech. Ce n'est pas une fonctionnalité — c'est une stratégie commerciale.