Überblick — KI im Unternehmen — Sicherheit & Risiko — Beispiele aus Projekten.
Kernaussage: Unternehmen müssen spezifische Massnahmen ergreifen, um sich gegen Prompt-Injection-Angriffe zu schützen, indem sie typische Fehler erkennen und beheben.
Toleranz gegenüber unsicheren Eingaben
Ein typischer Fehler besteht darin, Nutzereingaben unzureichend zu validieren. Oftmals wird der Fokus auf die Funktionalität des KI-Modells gelegt, während Eingabedaten weniger kritisch betrachtet werden. Dies kann Angreifern ermöglichen, durch manipulierte Eingaben das Modell in unvorhergesehener Weise zu beeinflussen. Zur Korrektur sollten Unternehmen strenge Validierungsregeln implementieren, die sowohl Format- als auch Inhaltsprüfung der Eingaben umfassen.
Fehlende Eingrenzung der Modellantworten
Ein weiterer häufiger Fehler ist die fehlende Begrenzung der möglichen Antworten des KI-Modells. Das Modell kann dadurch in einen unkontrollierten Zustand geraten, besonders wenn Input-Prompts unzureichend definiert sind. Zur Behebung sollte die Ausgabe des Modells auf vordefinierte Muster beschränkt werden. Unternehmen sollten Regeln und Filter entwickeln, die sicherstellen, dass nur vertrauenswürdige und sinnvolle Ausgaben an den Endnutzer gelangen.
Unzureichende Monitoring-Mechanismen
Viele Unternehmen versäumen es, ausreichende Monitoring-Mechanismen zu implementieren, die Anomalien in der Eingabe oder der Ausgabe der KI-Modelle erkennen können. Die Einführung von Echtzeit-Monitoring und Alarmierungen für ungewöhnliches Modellverhalten könnte hier Abhilfe schaffen. Dieses Monitoring muss kontinuierlich analysiert und die Ergebnisse sollten regelmässig überprüft werden, um neue, potenzielle Angriffsmuster zu identifizieren.
Handlungsanleitung für 14–30 Tage
In den ersten zwei Wochen sollten Unternehmen eine umfassende Sicherheitsprüfung der eingesetzten KI-Modelle und deren Umgebung durchführen. Dies beinhaltet das Überprüfen aller Schnittstellen, über die das Modell Nutzereingaben erhält, sowie der Mechanismen zur Prüfung der Inputs. Hierbei ist die Zusammenarbeit mit IT-Sicherheitsfachleuten von Vorteil.
Innerhalb von 30 Tagen sollten klare Richtlinien für die Validierung und das Monitoring eingeführt werden. Dies umfasst das Festlegen strikter Massnahmen zur Sanitisation der Eingaben und die Implementierung temporärer Massnahmen zur Einschränkung und Überwachung der Modellantworten. Zudem sollten Schulungen für alle beteiligten Fachkräfte zur Sensibilisierung für die Risiken und Präventionsmassnahmen bei Prompt-Injection-Angriffen durchgeführt werden.
Durch diese gezielten Massnahmen erhöhen Unternehmen ihre Widerstandsfähigkeit gegen Prompt-Injection-Angriffe und tragen beträchtlich zur Sicherung ihrer KI-Systeme bei.