Der Modellmarkt bietet 2026 mehr Auswahl als je zuvor: große Cloud-Modelle, offen verfügbare Modelle zum Selbstbetrieb, europäische Angebote und kleine spezialisierte Varianten. Benchmarks helfen bei der Vorauswahl, beantworten aber nicht die entscheidende Frage: Welches Modell erledigt die eigene Aufgabe mit den eigenen Dokumenten zu vertretbaren Kosten, auf einem akzeptablen Datenweg und mit einem realistischen Ausstieg?
Drei Modellklassen und wann sie passen
| Klasse | Stärken | Grenzen | Typischer Einsatz |
|---|---|---|---|
| Große Cloud-Modelle | Hohe Qualität bei komplexen Aufgaben, kein eigener Betrieb | Datenweg zum Anbieter, nutzungsabhängige Kosten, Abhängigkeit bei Preis und Modellwechsel | Analysen, anspruchsvolle Entwürfe, Agenten mit Freigabe |
| Offen verfügbare Modelle im eigenen oder europäischen Betrieb | Datenkontrolle, planbare Kosten, Anpassbarkeit | Betriebsaufwand, Qualitätsunterschiede je Aufgabe, Pflege von Updates | Interne Wissenssuche, Klassifikation, Verarbeitung sensibler Daten |
| Kleine spezialisierte Modelle | Schnell, günstig, auch ohne Internetverbindung | Enger Aufgabenbereich, wenig Flexibilität | Sortierung, Extraktion, Routing, Vorverarbeitung |
Viele produktive Systeme kombinieren zwei Klassen: ein kleines Modell für Vorverarbeitung und Routing, ein großes für die anspruchsvollen Schritte. Das senkt Kosten und begrenzt, welche Daten das externe Modell überhaupt erreichen.
Ein Bewertungsprotokoll in fünf Schritten
- Testfälle sammeln: Einige Dutzend reale Fälle mit eigenen Dokumenten, Sprachen, Formaten und bekannten Fehlerquellen. Beispiele des Anbieters sind ungeeignet.
- Kriterien gewichten: Ergebnisqualität, Kosten je tausend Fälle, Antwortzeit, Datenstandort, Vertragsbedingungen und Ausstiegsaufwand erhalten Gewichte, die vor dem Test festgelegt werden.
- Blind bewerten: Die Bewertenden sehen nicht, welches Modell ein Ergebnis erzeugt hat.
- Gesamtkosten rechnen: Nutzung, Betrieb, Integration und ein möglicher Wechsel über zwölf Monate, nicht der Preis pro Anfrage.
- Entscheidung dokumentieren: Ergebnis, Begründung und ein Termin zur Überprüfung in sechs Monaten.
Wie ein solches Testset aufgebaut und gepflegt wird, beschreibt der Beitrag zur Evaluation von KI-Ergebnissen.
Souveränität konkret: vier Fragen an jeden Anbieter
- Wo werden Eingaben verarbeitet und gespeichert, und wer hat dort Zugriff?
- Werden Eingaben oder Ausgaben zur Weiterentwicklung des Modells verwendet, und lässt sich das vertraglich ausschließen?
- Welche Dokumentation stellt der Anbieter bereit? Für Modelle mit allgemeinem Verwendungszweck gelten seit August 2025 Pflichten zu technischer Dokumentation, Urheberrechtsregeln und einer Zusammenfassung der Trainingsinhalte; der zugehörige Verhaltenskodex macht diese Angaben vergleichbar.
- Wie lange dauert ein Wechsel realistisch, wenn Prompts, Evaluation und Integration angepasst werden müssen?
Die europäische Politik arbeitet mit dem AI Continent Action Plan an zusätzlicher Rechenkapazität und Angeboten in der EU. Das erweitert die Auswahl, ersetzt aber nicht die eigene Prüfung des konkreten Anbieters.
Abstraktionsschicht: sinnvoll oder Scheinfreiheit?
Eine technische Schicht, die den Modellanbieter austauschbar macht, lohnt sich, wenn ein Wechsel realistisch vorgesehen ist, etwa weil mehrere Modelle parallel genutzt werden oder regulatorische Gründe einen Anbieterwechsel wahrscheinlich machen. Wird ein Wechsel nur theoretisch offengehalten, kostet die Schicht Entwicklungszeit und verdeckt Unterschiede zwischen Modellen, die für die Qualität relevant sind. In diesem Fall schützt eine dokumentierte Entscheidung mit beschriebenem Ausstiegspfad besser.
Die Modellqualität ist selten der Grund, warum eine Auswahl im Betrieb scheitert. Häufiger passen Kosten bei steigender Nutzung, Datenweg oder Betriebsverantwortung nicht zu dem, was im Test angenommen wurde. Diese drei Punkte gehören deshalb mit demselben Gewicht in die Bewertung wie die Antwortqualität.
Wann die Entscheidung erneut geprüft wird
Vier Auslöser rechtfertigen eine erneute Bewertung: eine neue Modellgeneration des gewählten oder eines konkurrierenden Anbieters, eine Preisänderung, ein neuer Anwendungsfall mit anderen Anforderungen und ein Vorfall im Betrieb. Ob das Problem überhaupt beim Modell liegt oder bei Quellen und Prozess, klärt vorab der Beitrag RAG oder Fine-Tuning. Welche Abhängigkeiten über das Modell hinaus entstehen, zeigt der Beitrag zu Cloud-Wechsel und KI-Lock-in.