Es gibt einen einfachen Test, ob eine KI wirklich lokal läuft: Ziehen Sie das Netzwerkkabel. Wenn sie weiterarbeitet, ist sie Ihre.
Für Unternehmen, deren Daten nicht in fremde Hände dürfen oder sollen — Steuerkanzleien, Arztpraxen, Personalabteilungen, Finanzbuchhaltungen — ist das die Kernfrage. Sprachmodelle lassen sich heute auf eigener Hardware betreiben: offene Modelle wie Llama, Mistral oder Qwen, installiert auf einem Rechner in Ihrem Haus. Was Sie dem Modell geben, wird auf diesem Rechner verarbeitet; eine Anfrage an einen externen Dienst findet dabei nicht statt. Diese Eigenschaft können Sie mit dem Kabel-Test selbst überprüfen.
Warum ein „DSGVO-konform“-Etikett allein Ihre Frage nicht beantwortet
Wer nach datenschutzfreundlicher KI sucht, findet vor allem Cloud-Angebote, die mit deutschem Server-Standort werben. Ob ein solches Angebot für Ihre Datenklasse genügt, ist eine Rechtsfrage — unter anderem, weil der US CLOUD Act am Firmensitz des Anbieters ansetzt, nicht am Standort der Server. Diese Frage beantwortet Ihr Datenschutzbeauftragter oder Anwalt, nicht wir. Bei lokaler Ausführung steht für die Verarbeitung selbst schlicht kein Anbieter zwischen Ihnen und dem Modell.
Dabei ist der Alltag längst hybrid: Wer Personio, DATEV oder andere Fachanwendungen nutzt, hat dafür in aller Regel einen Auftragsverarbeitungs-Vertrag. Das offene Leck ist aus unserer Sicht der Copy-Paste-Moment daneben — wenn ein Arbeitszeugnis, eine Bewerbung oder eine Mandanten-Mail in ein Chat-Fenster wandert, das nie einen Vertrag gesehen hat. Genau für diese Momente braucht es ein Werkzeug im Haus.
Nicht alles muss lokal — die Datenklassen-Frage
Die großen Cloud-Modelle sind den lokalen nach den gängigen Vergleichsmessungen in der Spitze überlegen und für vieles der richtige Ort. Die Arbeitsregel lautet: je Datenklasse das passende Werkzeug. Öffentliche Inhalte und Texte ohne Personenbezug — große Cloud-Modelle. Auftragsverarbeitung mit EU-Vertrag — europäische Anbieter. Mandanten-, Patienten-, Personal- und Finanzdaten — lokal.
Wichtig dabei: Ob eine Datenklasse das Haus verlassen darf, entscheidet Ihr Datenschutzbeauftragter — das ist seine Rolle, nicht unsere. Unsere Arbeit beginnt danach: die Vorgaben in einen funktionierenden Arbeitsplatz übersetzen. Welche Aufgabe läuft mit welchem Modell, was bleibt im Haus — und womit arbeiten Ihre Leute so gut, dass der Griff zum privaten Chat-Fenster unnötig wird. Die Installation ist der kleinste Teil davon.
Was lokale KI heute realistisch kann
- Diktat und Transkription: Besprechungen, Vermerke, Briefe — gesprochen, lokal in Text verwandelt
- Dokumente auslesen und zusammenfassen: Posteingang vorsortieren, Belege erfassen, Verträge auf definierte Punkte durchsehen — die Bewertung bleibt beim Menschen
- Firmenwissen befragbar machen: die viertausend PDFs im Ablage-Ordner als durchsuchbare Wissensbasis
Und die Grenzen, bevor Sie sie selbst finden: Lokale Modelle sind kleiner als die großen Cloud-Systeme. Für die Aufgaben oben reicht das in vielen Fällen — für manche Aufgaben nicht. Der Einstieg läuft auf einem Rechner der 1.500-bis-3.000-Euro-Klasse mit ordentlicher Grafikkarte; wer größere Modelle will, investiert mehr. Was diese Klasse konkret leistet, haben wir nachgemessen: der Messbericht. Ob Ihre Aufgaben in die erste oder die zweite Kategorie fallen, ist genau das, was vorab geprüft gehört.
Wer das anbietet — und selbst so arbeitet
Daniel Papcke, ConsultD, Hamburg. Die Regel „je Datenklasse das passende Werkzeug“ stammt aus der eigenen Arbeitspraxis: Sensible Auswertungen laufen bei uns auf einer eigenen Maschine mit lokalen Modellen, Cloud-KI bekommt nur zu sehen, was sie sehen darf. Wie diese Arbeitsweise aussieht, dokumentieren die Befunde — geprüfte Ideen mit Zahlen und Verdikt.
Der Weg: erst prüfen, dann Pilot
- Prüfung zuerst. Passt lokale KI zu Ihrem Fall — oder reicht ein einfacherer Weg? Das klären wir in einem kostenlosen Vorgespräch, auf Wunsch als Teil des Prüfstands. Es kann dabei herauskommen, dass Sie keine lokale KI brauchen. Auch das ist ein Ergebnis.
- Pilot-Installation. Zwei bis drei definierte Anwendungsfälle, aufgesetzt auf Hardware in Ihrem Haus, mit Einweisung Ihres Teams. Festpreis, Übergabe, fertig — kein Wartungsvertrag, kein Dauerbetrieb durch uns. Auf Wunsch ein jährlicher Update-Tag, an dem neue Modelle eingespielt werden.
- Offengelegt: Prüfung und Umsetzung sind getrennte Aufträge. Sie können nach der Prüfung woanders bauen lassen — oder gar nicht.
Vorgespräch anfragen: daniel@consultd.de · +49 40 3071 4778
Der Maschinenraum — alle Werkstattberichte auch per E-Mail
Messberichte, Befunde und Praxis-Einblicke aus echtem KI-Betrieb, geschrieben für Entscheider. Double-Opt-in, jederzeit abmeldbar, Versand über unsere eigene Infrastruktur in der EU — Details in der Datenschutzerklärung.