Ce qu'il faut retenir
- Azure OpenAI n'est pas souverain : Microsoft est soumis au Cloud Act américain, même pour ses datacenters français.
- Les frais PTU (Provisioned Throughput Units) peuvent multiplier la facture par 2 à 5 par rapport au tarif pay-as-you-go affiché.
- La migration hors d'Azure OpenAI est coûteuse : formats propriétaires, dépendances aux API Microsoft, re-formation des modèles fine-tunés.
- Des alternatives souveraines françaises existent avec des certifications SecNumCloud et HDS que Microsoft ne peut pas obtenir.
- Pour les entreprises soumises à DORA, HDS ou NIS2, Azure OpenAI ne satisfait pas les exigences d'auditabilité et de localisation des données.
Pourquoi Azure OpenAI Service n'est pas une solution souveraine
Microsoft propose Azure OpenAI Service depuis des datacenters situés en France (France Central) et en Europe. Cette proximité géographique est souvent interprétée à tort comme une garantie de souveraineté. Elle ne l'est pas, et pour des raisons structurelles qui ne peuvent pas être résolues par Microsoft.
Le Cloud Act : une juridiction qui suit l'entreprise, pas les données
Le Cloud Act américain de 2018 permet aux autorités fédérales US d'exiger l'accès aux données détenues ou contrôlées par des entreprises américaines, quel que soit le pays d'hébergement. Microsoft, entreprise américaine cotée au NASDAQ, est pleinement soumise à cette loi. Un datacenter à Paris n'y change rien.
Ce que cela signifie concrètement
Si les autorités américaines (FBI, DOJ, etc.) émettent une injonction au titre du Cloud Act, Microsoft est légalement tenue d'y répondre, y compris pour des données stockées dans ses datacenters français. Microsoft peut contester cette injonction en justice, mais elle ne peut pas la refuser unilatéralement. Et vous, en tant que client, n'êtes pas nécessairement informé de cette démarche.
L'impossibilité d'obtenir SecNumCloud
L'ANSSI a clairement indiqué que les fournisseurs cloud soumis à une législation extraterritoriale étrangère ne peuvent pas obtenir la qualification SecNumCloud. Microsoft en a fait l'expérience : malgré des années de négociation et la création de structures juridiques dédiées (Microsoft France SAS), la qualification SecNumCloud reste hors de portée pour Azure.
Pour les entreprises qui manipulent des données sensibles (OIV, OSE, secteur de la santé), SecNumCloud est une exigence, non une option.
Les frais cachés d'Azure OpenAI : PTU, storage, egress
La tarification d'Azure OpenAI semble simple au premier regard : un tarif par million de tokens en mode pay-as-you-go. En pratique, les entreprises qui déploient Azure OpenAI en production découvrent trois postes de coût supplémentaires majeurs.
Les PTU (Provisioned Throughput Units)
En mode pay-as-you-go, Azure OpenAI est soumis à des limites de débit (rate limits) strictes : typiquement 10 000 à 40 000 tokens par minute selon le modèle et la région. Pour une utilisation en production avec plusieurs utilisateurs simultanés, ces limites sont atteintes rapidement.
La solution proposée par Microsoft est le mode PTU (Provisioned Throughput Units) : on réserve une capacité fixe, facturée à l'heure, qu'on l'utilise ou non. Le prix d'un PTU pour GPT-4o en France Central est de l'ordre de 2 à 3 € par heure. Pour une équipe de 50 développeurs actifs, une réservation minimale de 100 PTU représente 1 750 à 2 600 € par mois, soit 21 000 à 31 000 € par an — rien que pour la capacité de calcul, hors tokens.
Les frais de stockage pour le fine-tuning
Si vous souhaitez fine-tuner un modèle GPT-4 sur vos données métier, Azure OpenAI facture le stockage des datasets d'entraînement et des modèles résultants. Sur de grands volumes de données (plusieurs Go), cela représente entre 50 et 200 € par mois de stockage, plus le coût du job de fine-tuning lui-même (facturation à l'heure GPU, généralement entre 30 et 80 € par run).
Les frais d'egress (données sortantes)
Chaque appel à l'API Azure OpenAI génère des données sortantes vers votre infrastructure. À 0,08 € par Go de données sortantes (tarif Azure standard hors zone Europe), pour un usage intensif (100 utilisateurs, 50 requêtes/jour de 4 000 tokens chacune), on atteint facilement 5 à 15 Go de données sortantes par mois, soit un surcoût de 5 à 15 € par mois — modeste, mais qui s'accumule.
Latences et disponibilité : la réalité terrain
Azure OpenAI en mode pay-as-you-go présente des latences variables selon la charge globale de Microsoft, non de votre seule instance. En heures de pointe (14h-17h CET), les temps de réponse pour GPT-4o peuvent dépasser 8 à 15 secondes pour des requêtes de 2 000 tokens, ce qui dégrade significativement l'expérience utilisateur.
En mode PTU, les latences sont plus stables mais pas garanties contractuellement en dessous de certains seuils. Le SLA Azure OpenAI garantit 99,9 % de disponibilité mensuelle (soit jusqu'à 8,7 heures d'indisponibilité acceptable par an), ce qui peut être insuffisant pour des applications critiques.
Vendor lock-in Microsoft : le piège silencieux
Au-delà des coûts, le risque de dépendance à Azure OpenAI est structurellement élevé pour plusieurs raisons :
- Formats de fine-tuning propriétaires : les modèles fine-tunés sur Azure OpenAI ne sont pas exportables. Si vous investissez dans la personnalisation d'un modèle GPT-4, cet investissement est perdu en cas de migration.
- Intégration dans l'écosystème Azure : Azure OpenAI se connecte naturellement à Azure Cognitive Search, Azure Functions, Power Platform, Copilot Studio. Chaque intégration supplémentaire renforce la dépendance.
- Évolution tarifaire unilatérale : Microsoft a modifié ses conditions tarifaires plusieurs fois depuis 2023. Les contrats Enterprise Agreement offrent une certaine stabilité, mais pas de garantie de prix sur plus de 12 mois.
- Absence de portabilité des données : l'historique des conversations, les embeddings stockés dans Azure AI Search et les configurations de prompts système ne sont pas facilement transférables vers un autre prestataire.
Tableau comparatif : Azure OpenAI vs alternatives souveraines
| Critère | Azure OpenAI Service | OVH AI Endpoints | Scaleway ML Suite | On-premise open source | Intelligence Privée |
|---|---|---|---|---|---|
| Souveraineté | Non (Cloud Act) | Partielle | Partielle | Totale | Totale |
| SecNumCloud | Non | En cours | Non | N/A | Oui (infra) |
| Modèles disponibles | GPT-4o, GPT-4 Turbo | Llama, Mistral | Mistral, Llama | Tout modèle open source | ELODIE 32B, KEVINA 32B |
| Tarification | Tokens + PTU | Tokens | Tokens + GPU/h | Infrastructure seule | Forfait mensuel |
| Fine-tuning | Oui (propriétaire) | Non | Non | Oui (open source) | Oui (données métier) |
| Portabilité données | Faible | Moyenne | Moyenne | Totale | Totale |
| Performances français | Très bonnes | Bonnes | Bonnes | Variables | Excellentes |
| Support FR dédié | Non | Oui | Oui | Dépend intégrateur | Oui, inclus |
| Coût opérationnel | Élevé (TCO) | Moyen | Moyen | Élevé (RH) | Prévisible |
| Risque juridique RGPD | Élevé | Faible | Faible | Très faible | Très faible |
OVH AI Endpoints
OVH propose depuis 2024 des endpoints API pour des modèles open source (Llama 3, Mistral) hébergés dans ses datacenters français. La tarification est en tokens, sans frais de PTU. OVH est une entreprise française non soumise au Cloud Act, ce qui représente un avantage souveraineté réel. Les limites : le catalogue de modèles est plus restreint qu'Azure, le support aux modèles propriétaires est absent, et la certification SecNumCloud est en cours mais pas encore obtenue pour les services IA.
Scaleway ML Suite
Filiale du groupe Iliad (Xavier Niel), Scaleway propose des GPU H100 à la location et des services d'inférence pour modèles open source. L'écosystème est orienté développeurs, avec une API compatible OpenAI (drop-in replacement). Scaleway est française, les datacenters sont en France, mais la suite ML n'est pas encore qualifiée SecNumCloud. Convient aux équipes techniques capables de gérer leurs propres stacks MLOps.
On-premise open source
Déployer des modèles open source (Llama 3.3 70B, Mistral Large, Qwen 2.5) sur infrastructure propre offre la souveraineté maximale. Le coût en infrastructure GPU est significatif (un serveur H100 80 Go coûte entre 20 000 et 30 000 € neuf), mais amorti sur 3-5 ans, il peut s'avérer compétitif pour un usage intensif. Le coût caché réside dans les ressources humaines : un ingénieur MLOps senior coûte entre 60 000 et 90 000 €/an.
Guide de décision DSI : quel choix pour quel contexte
Votre choix doit dépendre de trois facteurs combinés : le niveau de sensibilité de vos données, votre capacité technique interne, et votre horizon de budget.
| Profil entreprise | Recommandation | Justification |
|---|---|---|
| PME, données peu sensibles, équipe tech limitée | Intelligence Privée ou OVH AI Endpoints | Simplicité opérationnelle, souveraineté, coût maîtrisé |
| ETI, secteur réglementé (santé, finance) | Intelligence Privée ou on-premise | SecNumCloud, HDS, auditabilité, personnalisation |
| Grand groupe, équipe MLOps, budget important | On-premise open source + Scaleway GPU | Contrôle total, fine-tuning libre, coût optimisé à grande échelle |
| Entreprise déjà sur Azure, données non sensibles | Azure OpenAI avec DPA renforcé | Intégration facilitée, mais accepter le risque résiduel Cloud Act |
| OIV / OSE / administration | On-premise + certification SecNumCloud obligatoire | Exigence réglementaire non négociable |
Audit gratuit de votre configuration Azure OpenAI
Intelligence Privée accompagne les DSI dans l'évaluation de leur dépendance à Azure OpenAI et la définition d'une trajectoire de migration souveraine adaptée à leur contexte réglementaire.
Demander un audit gratuit →FAQ
Azure OpenAI est-il conforme RGPD ?
Microsoft propose des Data Processing Agreements (DPA) conformes au RGPD, et les données peuvent être hébergées en Europe. Cependant, la conformité RGPD ne garantit pas la souveraineté : le Cloud Act américain s'applique à Microsoft indépendamment du DPA. Pour des données très sensibles, une analyse juridique approfondie est indispensable avant tout déploiement.
Peut-on migrer d'Azure OpenAI vers une solution souveraine ?
Oui, mais avec des coûts et délais à anticiper. Les prompts système, les workflows LangChain/Semantic Kernel, et les données d'embedding sont généralement portables. Les modèles fine-tunés sur Azure OpenAI ne le sont pas — ils devront être re-entraînés. Comptez 3 à 6 mois pour une migration complète d'un système en production.
OVH AI Endpoints est-il une vraie alternative à Azure OpenAI ?
Pour les cas d'usage nécessitant des modèles open source (Llama, Mistral), OVH AI Endpoints est une alternative solide et souveraine. Pour les entreprises dépendantes de GPT-4o spécifiquement (qualité sur l'anglais, raisonnement avancé), la transition vers un modèle open source peut nécessiter une adaptation des prompts et workflows. ELODIE 32B d'Intelligence Privée offre un compromis : performance comparable sur le français métier, avec souveraineté totale.