Draait uw AI bij OpenAI/Azure of on-premise? Vergelijk data-residency, EU AI Act, SOC 2, Llama-licentie en H100-kosten voor ChatGPT Enterprise vs. private AI.

Voor Nederlandse MKB- en enterprise-organisaties die generatieve AI inzetten komt vroeg of laat dezelfde deployment-vraag op tafel: draaien we het AI-model in de cloud van OpenAI (eventueel via Azure), of hosten we een eigen model op private infrastructuur? Die vraag gaat expliciet over waar het model draait — niet over welke modelarchitectuur, niet over maatwerk versus SaaS, niet over technieken als RAG of fine-tuning. Voor de vraag welke modelarchitectuur (open-source Llama vs. commerciële API), zie /vergelijk/open-source-ai-vs-commercieel; voor de maatwerk-vs-SaaS-afweging, zie /vergelijk/custom-ai-vs-kant-en-klare-ai; voor de techniek-keuze tussen RAG en fine-tuning, zie /vergelijk/rag-vs-fine-tuning.
ChatGPT Enterprise is het zakelijke SaaS-aanbod van OpenAI met GPT-5-toegang, SAML SSO, onbeperkt gebruik binnen redelijke limieten en een stevige privacy-garantie: klantprompts en -outputs worden niet gebruikt om modellen te trainen. OpenAI publiceert een officiële SOC 2 Type 2-rapportage (meest recente periode 1 januari – 30 juni 2025) en houdt ISO/IEC 27001:2022 en ISO/IEC 27701:2019 certificeringen aan, zie Enterprise privacy at OpenAI. OpenAI publiceert geen sticker-prijs voor Enterprise; volgens OpenAI's eigen Enterprise-pricing documentatie en secundaire bronnen ligt de onderhandelde ruimte doorgaans tussen $45 en $75 per gebruiker per maand, bij een minimum van 150 seats en een jaarcontract.
Private AI is de tegenhanger: het model draait op infrastructuur die uw organisatie (of een in Europa gevestigde hoster) beheert, hetzij on-premise, hetzij in een eigen EU-VPC. In de praktijk betekent dit open-weight modellen zoals Meta's Llama 3.x of Mistral AI's open-weight familie via een inference-stack als vLLM, Hugging Face TGI of Ollama, gehost op H100/H200-GPU's. De totale maandlast wordt dan niet bepaald door een seat-prijs maar door GPU-uren: AWS P5 (8× H100) kost ongeveer $31,46 per uur on-demand, Azure ND H100 v5 (8× H100) ongeveer $98,32 per uur — per maand grofweg €20.000 tot €60.000 afhankelijk van GPU-mix en region.
De relevante tussenweg is Azure OpenAI Service met Data Zone Standard (EUR): hetzelfde GPT-model als ChatGPT Enterprise, maar verwerking blijft binnen de EU Data Boundary. Strict genomen is dat nog steeds Microsoft-infrastructuur (dus geen private AI volgens onze definitie), maar het GDPR-profiel wijkt wezenlijk af van ChatGPT Enterprise US-tenants. In deze vergelijking behandelen we "ChatGPT Enterprise" als parent-categorie inclusief Azure OpenAI EU-deployments; "private AI" houden we voor echte self-hosted of EU-sovereign oplossingen.
Waarom deze keuze steeds scherper wordt: de EU AI Act is gefaseerd in werking en Annex III markeert HR-scoring, kredietbeoordeling, onderwijs en juridische besluitvorming als high-risk AI. Tegelijk bevestigt een lopende Schrems III-procedure bij het Gerecht EU dat het EU-US Data Privacy Framework (Commission Implementing Decision 2023/1795) juridisch onder druk blijft, met een voortzetting op de lijn van Schrems II (C-311/18). Voor bedrijven in zorg, financieel toezicht (AFM/DNB-scope), juridische dienstverlening en kritieke infrastructuur onder NIS2 wordt dat niet langer theoretisch — het wordt een audit-vraag. Wie kan aantonen waar data verwerkt wordt, wie erbij kan en onder welk rechtsgebied, komt goedkoper door een DPIA dan wie dat niet kan.
Opgesteld met AI-tools en gecontroleerd door het redactieteam van CleverTech — tech-leads met ervaring in AI, procesautomatisering en IT-consulting.
SaaS-deployment van OpenAI (direct of via Azure OpenAI Service): GPT-5-toegang, SAML SSO, no-training-op-klantdata, onder OpenAI/Microsoft-infrastructuur en DPA.
Self-hosted of EU-sovereign deployment van open-weight modellen (Llama, Mistral) op eigen GPU-infrastructuur of EU-private cloud, onder eigen DPIA en rechtsregime.
Scroll voor meer →
| Kenmerk | ChatGPT Enterprise | Private AI |
|---|---|---|
| Deployment-locatie | OpenAI US / Azure EU Data Zone | On-premise of EU-sovereign VPC |
| Prijsmodel | $45-$75/seat/maand, min. 150 seats, jaarcontract | GPU-uren + MLOps FTE (hybride CapEx/OpEx) |
| Minimale jaarlast (indicatief) | ~$108.000 bij 150 seats × $60 | ~€150.000-€400.000 (GPU + ops + software) |
| Break-even punt (indicatief) | Aantrekkelijker onder ~150-250 intensieve gebruikers | Aantrekkelijker boven ~150-250 intensieve gebruikers + gevoelige data |
| Data-residency garantie | EU-resident via Azure Data Zone EUR; US bij standaard ChatGPT Enterprise | Volledig in eigen jurisdictie |
| CLOUD Act / FISA-702 exposure | Ja (US-parent company) | Nee (bij EU-hosting onder EU-entiteit) |
| EU AI Act Annex III compliance | Mogelijk met extra DPIA + SCC-documentatie | Eenvoudiger aantoonbaar, maar open-source-exemptie Art. 2(12) dekt high-risk NIET |
| Model-kwaliteit (generiek reasoning) | GPT-5 frontier-niveau | Llama 3.3 70B / Mistral Large 3: ~80-90% van GPT-5 op benchmarks |
| Fine-tuning op eigen data | Beperkt tot custom GPTs / system prompts | Volledig mogelijk op modelgewichten |
| Certificering (out-of-the-box) | SOC 2 Type 2, ISO 27001, ISO 27701 via OpenAI Trust Portal | Klant erft niets automatisch; certificering via eigen scope |
| Time-to-productive | Dagen (SSO + rollout) | 6-12 weken (infra + MLOps + testing) |
| Model-updates | Automatisch door OpenAI/Azure | Eigen regie (risk én flexibiliteit) |
| Schaalbaarheid (piekverkeer) | Automatisch opgevangen door provider | Handmatige GPU-provisioning of hybride fallback |
| Sub-processor-transparantie | OpenAI / Microsoft DPA met eigen sub-processor-lijst | Volledig in eigen scope |
ChatGPT Enterprise wint op time-to-productive, frontier model-kwaliteit en out-of-the-box certificering; private AI wint op data-residency, jurisdictie-controle en marginale kosten boven een bepaald gebruikersvolume. De keuze is geen ideologische — hij volgt uit drie concrete variabelen: datagevoeligheid (verwerk je YMYL/medische/financiele data onder NIS2 of AI Act Annex III?), gebruikersvolume (onder of boven ~150-250 intensieve seats?), en aanwezige MLOps-volwassenheid (is er interne capaciteit voor model-ops, of is dat een risico?).
Voor MKB met 20-150 gebruikers zonder strikte data-residency-eisen (retail, media, generieke kennisorganisaties) is Azure OpenAI Service met Data Zone EUR of directe ChatGPT Enterprise vrijwel altijd de juiste keuze — de GDPR- en SOC 2-compliance is out-of-the-box, model-kwaliteit ligt op frontier-niveau en de totale kosten blijven onder €150.000 per jaar. Voor zorginstellingen (NEN 7510 / EPD-integratie), financiele dienstverleners onder AFM/DNB-toezicht, juridische dienstverleners met beroepsgeheim, en organisaties met >150 intensieve gebruikers én gevoelige datastromen, kantelt de business-case richting private AI — niet primair op kosten, maar op jurisdictie-controle en audit-narratief. Een hybride aanpak (ChatGPT Enterprise voor generieke productiviteit + private AI voor DPIA-gevoelige flows) is vaak de volwassen middenweg.
Een kort gesprek geeft vaak meer duidelijkheid dan nog een blogpost. We kijken kosteloos mee naar jouw situatie en geven onafhankelijk advies.