Open Source oder proprietär: Welche KI-Modelle zum Mittelstand passen

Die Frage nach dem richtigen Sprachmodell ist im Mittelstand längst keine technische Detailfrage mehr. Sie entscheidet darüber, wo Unternehmensdaten verarbeitet werden, wie abhängig ein Betrieb von einzelnen Anbietern wird und welche Kosten in drei Jahren auf der Rechnung stehen. Zwei Wege stehen offen: proprietäre Modelle, die per Schnittstelle aus der Cloud bezogen werden, und offene Modelle, deren Gewichte sich herunterladen und selbst betreiben lassen. Dieser KI-Modelle Vergleich ordnet beide Wege ein – nüchtern, mit überprüfbaren Fakten (Stand: September 2026).

Die Kriterien: Worauf es bei der Auswahl ankommt

Bevor Modellnamen fallen, lohnt der Blick auf die eigenen Anforderungen. Die Modelllandschaft ändert sich im Quartalsrhythmus, die Kriterien bleiben stabil.

• Datenschutz und Datenstandort: Wo werden Eingaben verarbeitet und gespeichert? Werden sie zum Training verwendet? Gibt es vertraglich zugesicherte Regionen in der EU?
• Kosten: Nutzungsbasierte Abrechnung pro Token gegenüber fixen Kosten für Hardware, Cloud-Instanzen und Personal. Bei geringem Volumen ist die API meist günstiger, bei hohem, planbarem Volumen kann sich der Eigenbetrieb rechnen.
• Leistung: Genügt ein kleineres Modell für Klassifikation, Zusammenfassung oder Entwürfe – oder braucht es ein großes Modell für anspruchsvolle Analyse und Programmierung?
• Anpassbarkeit: Lässt sich das Modell mit eigenen Daten feinjustieren, oder bleibt es bei Prompts und Retrieval?
• Betrieb und Know-how: Wer betreut Infrastruktur, Updates, Sicherheit und Überwachung?
• Lizenz: Was darf mit dem Modell und seinen Ergebnissen geschehen – auch in eigenen Produkten?
• Abhängigkeit: Wie leicht ist ein Wechsel, wenn Preise steigen, Modelle abgekündigt werden oder Bedingungen sich ändern?

Begriffsklärung: „Open Weight“ ist nicht „Open Source“

Im Sprachgebrauch werden frei herunterladbare Modelle oft pauschal als Open Source bezeichnet. Das ist ungenau. Die Open Source Initiative verlangt in ihrer Open Source AI Definition 1.0 neben den Modellparametern auch den vollständigen Code für Training und Betrieb sowie ausreichend detaillierte Informationen über die Trainingsdaten. Die meisten bekannten Modelle erfüllen das nicht: Sie veröffentlichen die Gewichte, nicht aber Trainingsdaten und vollständige Trainingsverfahren. Präziser ist daher der Begriff „Open Weight“.

Für Unternehmen ist dieser Unterschied weniger philosophisch als praktisch. Entscheidend ist die jeweilige Lizenz – und die reicht von sehr freizügig bis deutlich eingeschränkt.

Wer ein offenes Modell einsetzt, wählt nicht nur Technik, sondern einen Lizenzvertrag – und der sollte vor dem ersten Prototyp gelesen werden.

Weg 1: Proprietäre Modelle per API

Die großen Anbieter – darunter OpenAI, Anthropic und Google mit Gemini – stellen ihre leistungsstärksten Modelle ausschließlich über Schnittstellen und eigene Anwendungen bereit. Der Vorteil liegt auf der Hand: kein eigener Betrieb, sofortiger Zugang zu sehr leistungsfähigen Modellen, laufende Verbesserungen ohne eigenes Zutun. Die Kehrseite sind Abhängigkeit und die Frage, wo die Daten landen.

Beim Datenstandort unterscheiden sich die Angebote spürbar:

• OpenAI gibt in seiner Entwicklerdokumentation an, dass über die API gesendete Daten standardmäßig nicht zum Training der Modelle verwendet werden. Protokolle zur Missbrauchserkennung werden bis zu 30 Tage aufbewahrt. Für die Region Europa (EWR und Schweiz) bietet OpenAI Speicherung und Verarbeitung für unterstützte Endpunkte und Modelle an – allerdings nur nach Freigabe und in Verbindung mit angepassten Aufbewahrungsregeln.
• Anthropic bietet über die eigene Claude-API laut Dokumentation derzeit nur die Verarbeitungsoptionen „global“ und „us“; eine EU-Region ist dort nicht verfügbar. Wer Claude mit Datenverarbeitung in der EU nutzen will, kann laut Anthropic auf Google Cloud ausweichen: Dort gibt es einen Multi-Region-Endpunkt „eu“, der Anfragen innerhalb der Europäischen Union verteilt – gegen einen Aufpreis von 10 Prozent gegenüber dem globalen Endpunkt.
• Google stellt Gemini über seine Cloud-Plattform ebenfalls mit regionalen und multiregionalen Endpunkten bereit. Beim EU-Multi-Region-Endpunkt bleibt die Verarbeitung laut Google innerhalb der EU-Mitgliedstaaten; daneben führt die Dokumentation einzelne Regionen auf, etwa in Deutschland und Frankreich. Welche Modelle in welcher Region verfügbar sind, variiert und sollte vor Vertragsschluss in der aktuellen Dokumentation geprüft werden.

Für den Mittelstand heißt das: Der Weg über einen großen Cloud-Anbieter, bei dem ohnehin ein Vertrag besteht, kann die Frage des Datenstandorts oft einfacher lösen als der Direktbezug beim Modellhersteller.

Weg 2: Offene Modelle im eigenen Betrieb

Offene Modelle lassen sich auf eigenen Servern, in einem deutschen Rechenzentrum oder bei einem europäischen Cloud-Anbieter betreiben. Die Daten verlassen dann die selbst gewählte Umgebung nicht. Zudem lassen sich die Modelle mit eigenen Daten feinjustieren und dauerhaft in einer festen Version einfrieren – ein Vorteil für Prozesse, die reproduzierbar sein müssen.

Mistral AI

Mistral AI ist ein französisches Unternehmen mit Sitz in Paris, gegründet im April 2023. Im Dezember 2025 veröffentlichte es die Modellfamilie Mistral 3, bestehend aus dem großen Modell Mistral Large 3 und den kleineren Ministral-3-Modellen mit 3, 8 und 14 Milliarden Parametern – laut Mistral alle unter der Apache-2.0-Lizenz. Diese Lizenz erlaubt die kommerzielle Nutzung, Veränderung und Weitergabe ohne Lizenzgebühren. Nicht alle Mistral-Modelle sind jedoch offen: Die Modellübersicht des Unternehmens weist einige Modelle als „Premier“ aus, also nur über das kommerzielle Angebot nutzbar, andere unter abweichenden Lizenzen.

Meta Llama

Metas Llama-Modelle sind frei herunterladbar, stehen aber unter einer eigenen Community-Lizenz mit Bedingungen. Wer Produkte mit Llama weitergibt, muss laut Llama-4-Lizenz sichtbar „Built with Llama“ angeben; abgeleitete Modelle müssen mit „Llama“ im Namen beginnen. Unternehmen mit mehr als 700 Millionen monatlich aktiven Nutzern brauchen eine gesonderte Lizenz von Meta. Für europäische Unternehmen besonders relevant: Die Nutzungsrichtlinie zu Llama 4 gewährt die Rechte an den multimodalen Modellen der Reihe nicht an Personen mit Wohnsitz oder Unternehmen mit Hauptgeschäftssitz in der EU. Endnutzer von Produkten, die solche Modelle enthalten, sind davon ausgenommen. Mittelständler sollten die Lizenz der konkreten Version daher vor dem Einsatz juristisch prüfen lassen.

Weitere offene Modelle

Auch Anbieter proprietärer Spitzenmodelle veröffentlichen inzwischen offene Gewichte. OpenAI etwa stellt mit gpt-oss-120b ein Modell unter der Apache-2.0-Lizenz bereit. Die Auswahl wächst also – die Prüfpflicht bleibt.

Was der Eigenbetrieb verlangt

Der Preis der Kontrolle ist Verantwortung. Größere Modelle benötigen leistungsfähige Grafikprozessoren, der Betrieb erfordert Kenntnisse in Infrastruktur, Sicherheit und Modellpflege. Für viele Mittelständler ist deshalb ein Zwischenweg realistisch: offene Modelle bei einem europäischen Hosting-Anbieter oder als verwalteter Dienst in einer EU-Region, statt eigener Hardware im Keller.

Empfehlung nach Einsatzzweck

Einstieg und allgemeine Wissensarbeit

Für Texte, Zusammenfassungen, Recherche und Entwürfe ohne besonders schutzwürdige Daten ist ein proprietäres Modell über ein Unternehmensangebot oder eine API meist der schnellste Weg. Wichtig sind klare Nutzungsregeln – etwa über eine KI-Richtlinie fürs Unternehmen – und vertraglich geprüfte Datenschutzzusagen.

Sensible Daten

Bei Personaldaten, Gesundheitsdaten, Konstruktionsunterlagen oder Vertragsinhalten zählt der Datenstandort. Zwei Optionen bieten sich an: proprietäre Modelle über einen Cloud-Anbieter mit zugesicherter EU-Verarbeitung oder ein offenes Modell, betrieben in einer selbst kontrollierten Umgebung. Wer interne Dokumente anbinden will, kombiniert das Modell häufig mit Retrieval-Augmented Generation (RAG) – dafür genügt oft ein kleineres Modell.

Eigene Produkte und Dienstleistungen

Wer KI in eigene Software oder Kundenangebote einbaut, sollte Abhängigkeiten früh begrenzen. Offene Modelle unter freizügigen Lizenzen wie Apache 2.0 bieten hier die größte Freiheit. Sinnvoll ist eine Architektur, in der das Modell austauschbar bleibt – über eine einheitliche Schnittstelle, sodass ein Wechsel zwischen API-Anbieter und eigenem Modell ohne Neuentwicklung möglich ist.

Checkliste für die Modellwahl

1. Anwendungsfälle nach Schutzbedarf der Daten einteilen.
2. Für jeden Fall den erforderlichen Datenstandort festlegen.
3. Lizenz des Modells lesen – insbesondere Einschränkungen für Produkte, Namensregeln und regionale Ausschlüsse.
4. Kosten über drei Jahre vergleichen: API-Gebühren gegenüber Hosting, Hardware und Personal.
5. Mit eigenen Beispieldaten testen statt sich auf Ranglisten zu verlassen.
6. Austauschbarkeit technisch absichern.
7. Vertragsunterlagen, Auftragsverarbeitung und Aufbewahrungsfristen vom Datenschutzbeauftragten prüfen lassen.

Fazit

Die Entscheidung zwischen proprietären und offenen KI-Modellen ist keine Glaubensfrage, sondern eine Abwägung nach Einsatzzweck. Proprietäre Modelle bieten schnellen Zugang zu hoher Leistung, verlangen aber einen genauen Blick auf Datenstandort und Abhängigkeit. Offene Modelle versprechen Kontrolle und Anpassbarkeit, setzen aber Betriebskompetenz und sorgfältige Lizenzprüfung voraus. Für die meisten Mittelständler liegt die Antwort in einer Kombination: API-Modelle für den breiten Einstieg, offene Modelle dort, wo Daten oder eigene Produkte es verlangen – und eine Architektur, die beides zulässt.

Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Anlage-, Steuer- oder Rechtsberatung dar. Maßgeblich ist die individuelle Prüfung durch qualifizierte Berater.

Quellen

• OpenAI – Data controls in the OpenAI platform – https://developers.openai.com/api/docs/guides/your-data
• Anthropic – Data residency (Claude Platform Docs) – https://platform.claude.com/docs/en/manage-claude/data-residency
• Anthropic – Claude on Google Cloud (Claude Platform Docs) – https://platform.claude.com/docs/en/build-with-claude/claude-on-vertex-ai
• Google Cloud – Data residency (Generative AI) – https://docs.cloud.google.com/vertex-ai/generative-ai/docs/learn/data-residency
• Mistral AI – Introducing Mistral 3 – https://mistral.ai/news/mistral-3/
• Mistral AI – Models Overview – https://docs.mistral.ai/getting-started/models
• Annuaire des Entreprises (data.gouv.fr) – Mistral AI – https://annuaire-entreprises.data.gouv.fr/entreprise/mistral-ai-952418325
• Meta – Llama 4 Community License Agreement – https://github.com/meta-llama/llama-models/blob/main/models/llama4/LICENSE
• Meta – Llama 4 Acceptable Use Policy – https://github.com/meta-llama/llama-models/blob/main/models/llama4/USE_POLICY.md
• OpenAI – gpt-oss-120b Model Card (Hugging Face) – https://huggingface.co/openai/gpt-oss-120b
• Open Source Initiative – The Open Source AI Definition 1.0 – https://opensource.org/ai/open-source-ai-definition