"Wir würden gerne einen KI-Chatbot für unsere internen Handbücher bauen – aber sollen wir wirklich unsere gesamte Dokumentation bei einem amerikanischen Anbieter hochladen?" Diese Frage hören wir in nahezu jedem Erstgespräch mit Mittelständlern, die KI produktiv einsetzen wollen. Die Sorge ist berechtigt – und lösbar, sobald man versteht, wo in der Architektur die Daten tatsächlich landen.
Das RAG-Prinzip in einem Satz
Retrieval-Augmented Generation (RAG) bedeutet: Ein Sprachmodell beantwortet Fragen nicht aus seinem Trainingswissen, sondern durchsucht zuerst Ihre eigenen Dokumente (Handbücher, Protokolle, Verträge) und formuliert die Antwort auf dieser Grundlage. Das Sprachmodell "lernt" Ihre Daten dabei nicht dauerhaft – es liest sie nur im Moment der Anfrage.
Wo die Daten wirklich landen – die eigentliche Architektur-Frage
Der entscheidende Punkt bei Data Sovereignty ist nicht "Nutzen wir KI oder nicht", sondern: Wo laufen die drei Bausteine eines RAG-Systems?
- Die Dokumentenablage – wo liegen die Rohdaten (Verträge, Handbücher, Protokolle)?
- Die Vektordatenbank – wo werden die durchsuchbaren "Fingerabdrücke" der Dokumente gespeichert?
- Das Sprachmodell selbst – bei welchem Anbieter läuft die eigentliche Textgenerierung?
Wer alle drei Bausteine unreflektiert bei US-Cloud-Anbietern bucht, hat de facto seine gesamte Wissensbasis in die USA exportiert – auch wenn die Nutzeroberfläche in Deutschland gehostet wird.
Data Sovereignty heißt nicht "keine Cloud nutzen". Es heißt: bei jedem der drei Bausteine bewusst entscheiden, wo er läuft – statt es dem Standard-Setting eines US-Anbieters zu überlassen.
Mistral AI als europäische Alternative
Für den Baustein "Sprachmodell" muss die Wahl nicht zwangsläufig auf einen US-Anbieter fallen. Mistral AI, ein französisches Unternehmen, bietet leistungsfähige Sprachmodelle, die – je nach gewähltem Zugang – innerhalb der EU betrieben werden können. Für Mittelstandsprojekte mit Datenschutzanforderungen ist das ein naheliegender Baustein.
Praxisbeispiel: Wissensdatenbank ohne Datenabfluss
In der Praxis sieht eine datenhoheitsbewusste Architektur so aus: Die Original-Dokumente bleiben auf einem deutschen Server. Nur die für die Suche notwendigen, nicht direkt rückführbaren Vektor-Repräsentationen werden in einer Datenbank vorgehalten, deren Serverstandort explizit geprüft und vertraglich fixiert ist (siehe unsere Auftragsverarbeitungsvereinbarung). Die eigentliche Textantwort generiert ein europäisch betriebenes Sprachmodell. Ergebnis: Ihre Mitarbeiter bekommen denselben Chatbot-Komfort wie mit einer US-Standardlösung – nur ohne den unkontrollierten Datenabfluss.
Fazit
KI-Assistenten und Datenhoheit schließen sich nicht aus. Sie erfordern nur, dass jemand die Architektur einmal bewusst durchdenkt, statt die Standardeinstellungen eines US-Tools unreflektiert zu übernehmen. Genau diese Architekturentscheidung treffen wir mit unseren Mittelstandskunden gemeinsam am Anfang jedes KI-Projekts.
