SWAnfängerfehler
Die KI-Antwort ist kein Beleg – erfundene Quellen erkennen
Ein Sprachmodell antwortet auch dann, wenn die Grundlage fehlt. Erfundene Paragrafen, Befehle und Studien klingen dabei genauso sicher wie richtige.
// Schlagwort
#LLM
Alle 2 Layer-8-Fehler mit dem Schlagwort „LLM“ – verifizierte Lösungen, trocken kommentiert.
SWSystemzerstörend
Prompt Injection: Der KI-Assistent gehorcht fremdem Text
Ein KI-Assistent mit Zugriff auf Mails, Dateien und Webseiten befolgt Anweisungen, die in diesen Inhalten stehen. Das BSI nennt es intrinsisch.