Hinter der Zauberkiste
Teil 1: Kann Mistral im Ministerium mitarbeiten?

26. Juni 2026 8 Min. Lesezeit Florian Hesse

Ein europäisches KI-Modell im Ministerialalltag: Wie Mistral funktioniert und wo es zuverlässig unterstützt.

Worum es in dieser Reihe geht. Künstliche Intelligenz wirkt von außen oft wie eine Zauberkiste: oben die Frage hinein, unten die Antwort heraus, dazwischen scheinbar Magie. Diese Reihe schaut genauer hin. Wir geben einem KI-Modell einen alltäglichen Arbeitsauftrag aus der Ministerialverwaltung – unmittelbar in Agile Office – und bewerten nüchtern: Was leistet es, wo liegen die Grenzen, und worauf ist zu achten? Teil 1 untersucht Mistral. Spätere Teile prüfen mit demselben Auftrag weitere Modelle (etwa DeepSeek), sodass am Ende ein belastbarer Vergleich möglich ist.

Token-Visualisierung: Wie Text in Tokens zerlegt wird
Token sind Textbausteine: Längere Wörter werden in mehrere Bausteine zerlegt.

Zunächst: Was ist KI – und was nicht?

Hilfreich ist nicht das Bild eines allwissenden Computers, sondern das eines sehr belesenen, aber unerfahrenen neuen Teammitglieds. Es hat außergewöhnlich viel gelesen und formuliert schnell sauberes Deutsch. Zugleich gilt: Es war bei den Vorgängen des Hauses nie dabei, es kennt die Akten nur, wenn man sie ihm vorlegt – und wo ihm Wissen fehlt, ergänzt es Lücken mitunter überzeugend, aber falsch. In der Fachsprache heißt das „halluzinieren“;[1] dazu später mehr.

Die eigentliche Frage lautet deshalb nicht „Kann KI zaubern?“, sondern:

Erledigt dieses Teammitglied einen realen Arbeitsauftrag zuverlässig genug, um spürbar zu entlasten – statt zusätzlichen Prüfaufwand zu erzeugen?

In der Verwaltung kommt eine zweite Frage sogar zuerst:

Kurz erklärt: „Souveränität“. Manche KI-Dienste übertragen jeden Text auf fremde Server außerhalb der eigenen Kontrolle. Für ein Ministerium ist das häufig ausgeschlossen.[3] Ein Vorteil von Mistral als europäischem Anbieter: Viele Modelle lassen sich im eigenen Haus betreiben – das Teammitglied arbeitet also ausschließlich in Ihrem Gebäude und trägt keine Akte hinaus. Agile Office ist für genau diesen Betrieb ausgelegt.

Ein Blick in die Kiste: die Modellfamilie von Mistral

„Mistral“ bezeichnet kein einzelnes Programm, sondern eine Modellfamilie – vom kleinen, schnellen und sehr günstigen Modell bis zum großen, leistungsstarken und entsprechend teureren. Die Modelle werden wie Werkzeuge gewählt: passend zur Aufgabe.

ModellEinordnungGeeignet fürPreis* (Input / Output)
Mistral Medium 3.5leistungsstärkstes Modellanspruchsvolle Analyse, mehrstufiges Schlussfolgernhoch (1,25 € / 6,40 €)
Mistral Large 3vielseitiger Generalistbelastbare Zusammenfassungen, gute Entwürfemittel (0,50 € / 1,50 €)
Mistral Small 4effizientes Standardmodellumfangreiche Routinearbeitniedrig (0,10 € / 0,30 €)
Ministral 3schlanke Modelle (Edge)einfaches Sortieren und Klassifizierensehr niedrig (ab 0,10 €)
OCR 3TexterkennungLesen eingescannter Papierakten2 € / 1.000 Seiten
Mistral Embedsemantische Sucheinhaltliches Auffinden von Dokumenten0,10 €

* Preise je „Million Token“ – einmal für eingegebenen Text (Input), einmal für erzeugten Text (Output).

Entscheidend ist: Es muss nicht ein Modell für alles sein. Für die Suche eignet sich ein günstiges Modell, für das Verfassen von Texten ein leistungsfähigerer Generalist, für die Prüfung ein besonders sorgfältiges Modell. Diese Arbeitsteilung untersuchen wir im Test.

Was bedeutet „Token“?

Dieser Begriff begegnet einem überall – und er ist der Schlüssel zum Verständnis von Kosten und Grenzen der KI.[2] Im Kern:

Ein Token ist ein kleiner Textbaustein – weniger als ein Satz, oft weniger als ein ganzes Wort. Häufige Wörter wie „und“ oder „der“ sind je ein Token. Längere oder seltene Wörter werden in mehrere Bausteine zerlegt.

Zwei Faustregeln:

  • Im Deutschen entspricht ein Wort etwa 1,5 bis 2 Token. Eine Seite Fließtext (rund 500 Wörter) umfasst somit ungefähr 750 bis 1.000 Token.
  • Lange Komposita sind aufwendiger, als sie aussehen: „Onlinezugangsgesetz“ wird nicht als ein Wort verarbeitet, sondern in mehrere Bausteine zerlegt (etwa Online | zugangs | gesetz). Deutsche Fachtexte benötigen daher tendenziell mehr Token als vergleichbare englische.

Warum das praktisch bedeutsam ist – in zweifacher Hinsicht:

Token sind die Abrechnungseinheit. Berechnet wird pro Token, und zwar für die Eingabe und für die Ausgabe. Ein Modell, das eine 80-seitige Akte zusammenfasst, verarbeitet zehntausende Token – das verursacht Kosten.

Token bestimmen die „Gedächtnisgrenze“. Jedes Modell kann nur eine begrenzte Menge Token gleichzeitig berücksichtigen – das sogenannte Kontextfenster. Man kann es sich wie die Größe eines Schreibtischs vorstellen: Passt der gesamte Vorgang gleichzeitig darauf, oder muss das Modell blättern und verliert dabei den Anfang aus dem Blick?

Merksatz: Token sind zugleich der Preis und die Gedächtnisgrenze.

Wer das verstanden hat, versteht einen Großteil der Diskussionen über KI.

Der Test: ein gewöhnlicher Vorgang

Statt über „KI im Allgemeinen“ zu sprechen, geben wir dem Modell einen konkreten, realistischen Auftrag und gliedern ihn in vier nachvollziehbare Schritte, sämtlich in Agile Office.

Der fiktive Auftrag: Zum Thema „Stand der OZG-Umsetzung im Geschäftsbereich“ geht eine Anfrage ein. Die einschlägigen Unterlagen sind zu sichten, zu bewerten und in einen Antwortentwurf zu überführen.

  • Schritt 1 – Finden. „Alle Dokumente zum Thema ermitteln.“ Hier zeigt die semantische Suche (Embeddings) ihre Stärke.
  • Schritt 2 – Ordnen. Die Treffer nach Relevanz sortieren und als Suchknoten speichern.
  • Schritt 3 – Erarbeiten. Aus den Unterlagen erzeugt das Modell: eine Zusammenfassung, eine Handlungsempfehlung sowie den Entwurf eines Antwortschreibens in angemessener Amtssprache.
  • Schritt 4 (optional) – Prüfen. Ein zweites Modell kontrolliert die Handlungsempfehlung – ein digitales Vier-Augen-Prinzip.
Kurz erklärt: „halluzinieren“. Bei dünner Quellenlage neigen Modelle dazu, Lücken überzeugend, aber unzutreffend zu füllen.[1] Daher der zweite Blick: Ein sorgfältiges Modell prüft, ob jede Aussage tatsächlich durch die Akte gedeckt ist.

Das Testszenario

Dieser Abschnitt ist der Werkstattbericht: Er beschreibt genau, wie wir den Test aufsetzen – Umgebung, vorbereitetes Aktensystem, Ablauf und Protokoll.

Umgebung: Plattform Agile Office, ein eigens eingerichteter Testmandant mit identischem Datenbestand. KI-Funktion „Mein A&O“ als Chatbot. Betrieb des Modells lokal (über LM Studio, Mistral-kompatibel) – damit keine Daten das Haus verlassen. Modell-Einstellung: niedrige „Temperatur“ (möglichst reproduzierbare Ausgaben).

Das vorbereitete Aktensystem umfasst zwölf fiktive Dokumente in gemischten Formaten (Word, PDF, Excel, Text), verteilt auf vier E-Akten mit je zwei Vorgängen. Die Struktur folgt der xDomea-Dreistufigkeit: Akte → Vorgang → Dokument.

AkteVorgangDokumenteRelevanz
A – OZG-SteuerungA1 – Sachstand Q1/202601–03hoch
A2 – Kleine Anfrage OZG04–06hoch
B – BundID und EfAB1 – BundID-Anbindung07mittel
B2 – EfA-Nachnutzung08mittel
C – Online-KommunikationC1 – Barrierefreiheit09Ablenker
C2 – Reden12Ablenker
D – Innere VerwaltungD1 – Beschaffung DMS10Ablenker
D2 – Datenschutz11Ablenker

Anlegen und Konfigurieren – Schritt für Schritt

  1. E-Akte anlegen: Titel und Beschreibung erfassen, Objekttyp zuweisen.
  2. Vorgänge anlegen: innerhalb jeder Akte je zwei Vorgänge erzeugen.
  3. Dokumente ablegen: je Dokument über Quickstore in den vorgesehenen Vorgang einstellen, Dokumentenklasse zuweisen und Metadaten erfassen.
  4. Berechtigungen festlegen: Testkonto mit Leserecht ausstatten.
  5. Indexierung sicherstellen: vor dem Test prüfen, dass „Mein A&O“ die Akten erfasst hat.

Durchführung – wo genau geklickt wird

Schritt 1 – Finden: Globale Suche nach „Onlinezugangsgesetz (OZG)“ → Trefferliste sichten → als Suchordner speichern.

Schritt 2 – Ordnen: Suchordner als Kontext für „Mein A&O“ bereitstellen → Prompt P2 eingeben → Relevanz-Reihenfolge festhalten.

Schritt 3 – Erarbeiten: Prompts P3 (Zusammenfassung), P4 (Handlungsempfehlung) und P5 (Antwortschreiben) nacheinander eingeben → Ausgaben speichern.

Schritt 4 – Prüfen: Auf zweites Modell umstellen → Prompt P6 eingeben → Fehler/Lücken protokollieren.

Die verwendeten Prompts (wortgleich für alle Modelle)

  • P1 (Finden): „Onlinezugangsgesetz (OZG)“
  • P2 (Ordnen): „Sortiere die gefundenen Dokumente nach Relevanz für die Frage ‚Stand der OZG-Umsetzung im Geschäftsbereich‘ – das relevanteste zuerst – und begründe die Reihenfolge in je einem Satz.“
  • P3 (Zusammenfassung): „Fasse den Sachstand zur OZG-Umsetzung in höchstens zehn Sätzen zusammen. Stütze jede Aussage auf die Unterlagen.“
  • P4 (Handlungsempfehlung): „Leite aus dem Sachstand eine Handlungsempfehlung für die Leitung ab (höchstens fünf Punkte), mit kurzer Begründung je Punkt.“
  • P5 (Antwortschreiben): „Entwirf ein Antwortschreiben zur Beantwortung der Kleinen Anfrage in sachlicher Amtssprache.“
  • P6 (Prüfung): „Prüfe die Handlungsempfehlung und das Antwortschreiben auf sachliche Richtigkeit, Vollständigkeit und auf nicht durch die Unterlagen gedeckte Aussagen.“

Was wir protokollieren

Für jeden Lauf werden festgehalten: Modell und Version, Betriebsart (lokal/Cloud), Datum und Uhrzeit, der Prompt im Wortlaut, die vollständige Ausgabe, sofern sichtbar die Token-/Kostenabschätzung, die Antwortzeit sowie Auffälligkeiten (etwa erfundene Angaben).

Der Bewertungsmaßstab

Jeder Schritt wird auf einer Skala von 1 (mangelhaft) bis 5 (sehr gut) beurteilt. Dieser Maßstab bleibt für jedes Modell identisch.

KürzelBewertungskriteriumIn Alltagssprache
K1TrefferqualitätWerden die richtigen Akten gefunden?
K2SortierlogikSteht das Wichtigste oben?
K3FaktentreueIst alles belegt – oder wird ergänzt?
K4VollständigkeitFehlt ein wesentlicher Aspekt?
K5Sprache und FormEntspricht es der Amtssprache?
K6NachvollziehbarkeitSind die Aussagen belegbar?
K7SouveränitätBleiben die Daten im Haus?
K8KostenWie viele Token – und damit welche Kosten?
K9Tempo und StabilitätSchnell und verlässlich genug?

Ergebnisse mit Mistral

Diese Sektion wird nach den Testläufen mit den tatsächlichen Beobachtungen, Beispielausgaben und Bewertungen ergänzt.

Das Gesamtbild

SchrittGeeignetstes Mistral-ModellBewertung (Ø)Kurzkommentar
1 Finden[…][_/5][…]
2 Ordnen[…][_/5][…]
3 Erarbeiten[…][_/5][…]
4 Prüfen[…][_/5][…]

Fazit: verlässliche Unterstützung oder Spielerei?

Mistral ist keine Zauberkiste, wohl aber ein erstaunlich leistungsfähiges Werkzeug, sofern es richtig eingesetzt wird: ein günstiges Modell für die Suche, ein leistungsfähiger Generalist für das Verfassen, ein sorgfältiges Modell für die Prüfung. Für die Verwaltung besonders relevant: Der Betrieb ist im eigenen Haus möglich, ohne dass eine Akte das Gebäude verlässt.

Was die KI nicht leistet: eigenverantwortlich entscheiden oder zeichnen. Die abschließende Verantwortung – und die letzte Prüfung – verbleibt beim Menschen.[4][5] Genau dafür ist Schritt 4 vorgesehen.

Ausblick

Im zweiten Teil erhält dasselbe Vorgehen einen Vergleichspartner: Der identische Auftrag geht etwa an DeepSeek, bewertet nach demselben Maßstab. So wird nachvollziehbar, welches Modell überzeugt – und ob sich der Unterschied im Verwaltungsalltag tatsächlich bemerkbar macht.

Für einen sauberen Vergleich gilt durchgängig: derselbe Agile-Office-Mandant, derselbe Aktenbestand, dieselbe Aufgabenstellung, derselbe Bewertungsmaßstab. Modellversion und Betriebsart werden bei jedem Lauf dokumentiert.

Über den Autor

Florian Hesse ist studierter Wirtschaftsingenieur (B.Sc.) mit Schwerpunkt Informationstechnologie und seit 2019 in der Digitalisierung der öffentlichen Verwaltung tätig. Als Senior Consultant und Senior Project Manager bei der LCSI SaaS Operations Services GmbH hat er langjährige Praxis bei der Einführung von eAkte- und Dokumentenmanagement-Lösungen, in der Systemintegration und im Prozessdesign. Seit Kurzem verantwortet er dort zusätzlich als Produktmanager das KI-gestützte Meta-DMS A&O Agile Office.

  1. Huang, L. et al. (2023). A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. ACM Transactions on Information Systems. doi:10.1145/3703155
  2. Jurafsky, D. & Martin, J. H. (2026). Speech and Language Processing, 3rd ed. Online manuscript.
  3. Bundesministerium für Digitales und Staatsmodernisierung. Digitale Souveränität in der öffentlichen Verwaltung. bmds.bund.de
  4. Grundgesetz für die Bundesrepublik Deutschland, Artikel 20 (Rechtsstaatsprinzip).
  5. Verwaltungsverfahrensgesetz (VwVfG), § 39 Begründung des Verwaltungsaktes.
  6. Schwartz, R. et al. (2022). Towards a Standard for Identifying and Managing Bias in Artificial Intelligence. NIST Special Publication 1270.
  7. Grundgesetz für die Bundesrepublik Deutschland, Artikel 3 (Gleichheitsgrundsatz).