Prompt Injection einkalkuliert
Manipulierte Eingaben oder versteckte Anweisungen in Dokumenten und Webseiten können ein Modell umlenken. Kein Modell ist dagegen immun, deshalb begrenzt die Architektur, was eine Manipulation anrichten kann.
Sprachmodelle bringen neue Risiken mit: Prompt Injection, Datenabfluss, unklare Verarbeitungsorte. Ich baue KI-Systeme so, dass die Sicherheit in der Architektur steckt und nicht davon abhängt, dass sich das Modell an Regeln hält.
Eingabe im Chat
Hat Max Müller (max@example.com) die Rechnung RE-2026-042 schon bezahlt?
Das sieht das Modell
Hat [PERSON_1] ([EMAIL_1]) die Rechnung RE-2026-042 schon bezahlt?
In der Antwort setzt der Server die echten Werte wieder ein. Name und E-Mail-Adresse verlassen Ihr System nicht.
LLM-Sicherheit
Ein Sprachmodell lässt sich überreden. Deshalb entscheidet es nicht über Rechte, Daten oder Aktionen.
Manipulierte Eingaben oder versteckte Anweisungen in Dokumenten und Webseiten können ein Modell umlenken. Kein Modell ist dagegen immun, deshalb begrenzt die Architektur, was eine Manipulation anrichten kann.
Regeln wie „sag das nur Admins“ gibt es nicht. Was eine Zielgruppe nicht sehen darf, bekommt das Modell gar nicht erst, also kann es auch niemand herauslocken.
Lesen ja, Ändern oder Versenden erst nach Bestätigung. Wer fragt, ergibt sich aus der Anmeldung, nie aus dem, was das Modell behauptet.
Jedes Tool darf nur, was es muss: lesend statt schreibend, nur die eigenen Mandantendaten, vom Server vor jedem Abruf geprüft.
Testfragen prüfen nicht nur die Antwortqualität, sondern auch, ob die KI Vertrauliches preisgibt oder sich zu Aktionen überreden lässt.
Betriebsprotokolle zeigen Abläufe und Kosten, aber keine Gesprächsinhalte. Chats werden nach einer mit Ihnen festgelegten Frist gelöscht.
PII-Filter
Bevor ein Text das Sprachmodell erreicht, ersetzt der Filter personenbezogene Daten durch Platzhalter. Einsetzbar in eigenen Systemen und als Baustein vor bestehenden KI-Werkzeugen.
E-Mail-Adressen, Telefonnummern, IBANs, Kartennummern: zuverlässig per Muster erkannt, ohne Dienstleister.
Open-Source-Modelle erkennen Namen und Adressen. Der Klartext bleibt bei Ihnen.
Google Cloud Sensitive Data Protection (Frankfurt) erkennt auch deutsche Ausweis- und Steuernummern, Amazon Bedrock Guardrails unter anderem Namen und Anschriften.
Datenschutz & DSGVO
Ehrlich formuliert: „Anwendung in Frankfurt, KI-Verarbeitung in der EU“ statt „nur in Deutschland“, wenn es nicht stimmt. EU-Endpunkte werden technisch erzwungen. Worauf es bei KI in der EU ankommt
Nur Anbieter, die Training mit Ihren Daten vertraglich ausschließen. Wo möglich ohne Speicherung beim Anbieter (Zero Data Retention).
Datenflüsse, Unterauftragsverarbeiter und Verarbeitungsorte dokumentiert: die technische Basis für AVV und Datenschutz-Folgenabschätzung. Technische Sicht, keine Rechtsberatung.
Klarer KI-Hinweis im Chatfenster, nachvollziehbare Datenflüsse und dokumentierte Entscheidungen zu Modellen und Anbietern.
Besonders sensible Daten
Für Personalakten, Verträge, Entwicklungsunterlagen oder Gesundheitsdaten gibt es Wege ohne öffentliche Cloud-KI.
Offene Sprachmodelle laufen auf Ihrer eigenen Hardware, z. B. mit llama.cpp. Keine Daten verlassen Ihr Haus. Die Qualität liegt etwas unter den großen Cloud-Modellen, reicht aber für viele Aufgaben.
Offene Modelle in einer Confidential-GPU-VM in Frankfurt: Speicher und GPU sind hardwareseitig abgeschirmt, auch der Cloud-Betreiber sieht nicht hinein. Leistungsstarke Modelle ohne eigene Hardware. So funktioniert Confidential Computing
Interne Unterlagen lokal oder vertraulich verarbeiten, unkritische Aufgaben über die leistungsstärksten Cloud-Modelle. Die Plattform wählt je Aufgabe den passenden Weg.
Weitere KI-Themen
Die Bausteine lassen sich einzeln einsetzen und kombinieren.
Kontakt
Ein fertiger Projektplan ist nicht nötig. Schildern Sie kurz, was Sie beschäftigt – gemeinsam klären wir, wo KI und Software für Sie einen echten Unterschied machen.
Telefon
Adresse
Ich arbeite remote mit Ihnen zusammen, egal wo Ihr Unternehmen sitzt. Vor Ort bin ich vor allem in der Region Nürnberg/Regensburg und rund um Amberg, bei Bedarf auch darüber hinaus.