KI-Sicherheit
Alle Wissensartikel zu Risiken in LLM-Anwendungen und KI-Pipelines. Jeder Eintrag erklärt das Thema kurz und führt zur ausführlichen Fachseite.
LLM-Anwendungen
Risiken in Anwendungen mit Sprachmodellen 10 Themen-
Prompt Injection
Eingaben – direkt oder versteckt in Dokumenten, Webseiten und E-Mails – bringen ein Modell dazu, seine Anweisungen zu ignorieren oder fremde auszuführen.
Fachseite folgt -
Sensitive Information Disclosure
Ein Modell gibt vertrauliche Daten preis – aus Trainingsdaten, dem Gesprächskontext oder angebundenen Systemen.
Fachseite folgt -
Excessive Agency
Ein Agent darf mehr, als seine Aufgabe verlangt: zu viele Werkzeuge, zu weite Rechte, zu wenig menschliche Bestätigung.
Fachseite folgt -
Supply Chain
Risiken, die über Modelle, Datensätze, Plugins und Bibliotheken von Dritten in eine Anwendung gelangen.
Fachseite folgt -
Data and Model Poisoning
Manipulierte Trainings-, Fine-Tuning- oder Embedding-Daten verändern das Verhalten eines Modells gezielt.
Fachseite folgt -
Unbounded Consumption
Ungebremste Anfragen treiben Kosten und Last in die Höhe oder erlauben es, ein Modell systematisch abzugreifen.
Fachseite folgt -
Misinformation
Überzeugend formulierte, aber falsche Ausgaben, auf die sich Menschen oder nachgelagerte Systeme verlassen.
Fachseite folgt -
Vector and Embedding Weaknesses
Schwachstellen in RAG-Systemen: fehlende Zugriffstrennung, manipulierte oder ausgelesene Vektordaten.
Fachseite folgt -
Improper Output Handling
Modellausgaben werden ungeprüft weiterverarbeitet – etwa als HTML, SQL oder Shell-Befehl – und öffnen klassische Lücken.
Fachseite folgt
KI-Pipelines
Von den Daten bis zum Inferenz-Endpunkt 5 Themen-
Daten & RAG-Ingestion
Wer Trainings-, Fine-Tuning- oder Retrieval-Daten einspielen kann, kann das Verhalten des Systems beeinflussen.
Fachseite folgt -
Modell-Lieferkette
Herkunft und Integrität von Modellen, Gewichten und Abhängigkeiten – inklusive Registries und unsicherer Dateiformate.
Fachseite folgt -
Agenten & Tool-Anbindung
MCP-Server, Werkzeugrechte und Automatisierung entscheiden, was ein manipulierter Agent tatsächlich anrichten kann.
Fachseite folgt -
Inferenz-Infrastruktur
Modell-Server und APIs sind Dienste wie andere auch: exponiert, oft schwach isoliert, selten mit Ressourcenlimits.
Fachseite folgt -
Secrets & Schlüssel
API-Keys von Modellanbietern und Zugangsdaten landen leicht in Prompts, Logs und Pipeline-Variablen.
Fachseite folgt
Quelle der LLM-Kategorien: OWASP Top 10 for LLM Applications 2026