Ein Dokument fordert den Agenten auf, andere Dateien zu senden. Es darf dadurch keine zusätzliche Befugnis entstehen.
Eingaben als Daten behandeln
Definieren Sie die erlaubte Aufgabe und mögliche Werkzeuge. Serverkontrollen prüfen jede Operation. Geheimnisse und unnötige Rechte bleiben außerhalb des Modellkontexts.
Angriffe ausprobieren
Verwenden Sie freigegebene Testdateien mit widersprüchlichen Anweisungen. Prüfen Sie Antworten, Quellen und Werkzeugaufrufe. Ein bloßer Warntext liefert keinen Schutzbeweis.
Ergebnisse überprüfen
Fordern Sie beobachtete Fehler und technische Kontrollen. OWASP beschreibt Risiken für LLM-Anwendungen. Der Partner muss zeigen, wie seine Architektur unerlaubte Folgen begrenzt. Testen Sie auch den Fall, dass der Agent die schädliche Anweisung tatsächlich als nächsten Schritt vorschlägt.
Weiterlesen : KI-Agenten betreiben: Quellenänderungen als Produktänderungen behandeln. Besprechen Sie den Projektumfang mit Sky Vaults (EN).