Das PDF ist hochgeladen, trotzdem fehlt die Hälfte in der Zusammenfassung. Beim Anhängen wird das Dokument zerlegt und nur passend Wirkendes abgerufen.
Aufwand:
ca. 25 Min.
Voraussetzung:
Das Originaldokument zum Nachschlagen, Ein Werkzeug zum Aufteilen langer Dateien, Eine Liste der Punkte, die wirklich drinstehen müssen
Gilt für:
Chat-Dienste mit Dateianhang, Dokumenten-Assistenten und Wissensdatenbanken, KI-Suche über eigene Ablagen, Agenten mit angebundenen Dateien
Das Symptom
Der Vertrag ist hochgeladen, alle 60 Seiten. Die Zusammenfassung kommt prompt und
liest sich gut – bis auffällt, dass die halbe Anlage fehlt, die Kündigungsfrist
nicht vorkommt und eine Zahl genannt wird, die auf Seite 12 anders steht. Auf die
Nachfrage, ob wirklich das ganze Dokument berücksichtigt wurde, kommt eine
freundliche Bestätigung. Und das Ärgerliche daran: Die Datei ist ja da, sichtbar
angehängt, mit Dateinamen und Seitenzahl. Es sieht aus, als hätte jemand gelesen.
Die „Layer 8“-Wahrheit
Hochladen ist nicht Lesen. Was beim Anhängen einer Datei passiert, beschreiben die
Hersteller in ihrer Entwicklerdokumentation in drei nüchternen Schritten: Das
Dokument wird automatisch zerlegt, jeder Block wird vermessen und gespeichert, und
bei jeder Frage sucht ein Abrufsystem die passend erscheinenden Blöcke heraus. Der
letzte Schritt dieser Suche heißt, Ergebnisse neu zu reihen, um den relevantesten
Inhalt für die Antwort auszuwählen. Genau das ist die Stelle, an der dein
Dokument aufhört, ein Dokument zu sein. Ab hier ist es eine Handvoll Ausschnitte.
Warum das so gebaut ist, steht ebenfalls dort, und zwar erfreulich unverblümt:
Sprachmodelle nehmen nur eine begrenzte Tokenmenge entgegen, deshalb müsse das
Abrufsystem hoch relevante, präzise Ergebnisse zurückgeben – keine vollständigen
Dokumentabbilder. Die Ausschnittslogik ist also kein Sparen an der falschen
Stelle, sondern die einzige Möglichkeit, ein langes Dokument überhaupt an ein
endliches Kontextfenster zu bringen. Der Preis dafür ist eine Lücke, die man nicht
sieht: Das Modell bekommt zwanzig gut passende Stücke vorgelegt und weiß nicht,
dass es dreihundert gab. Es kann deshalb auch nicht melden, dass etwas fehlt – es
antwortet vollständig auf das, was ihm gezeigt wurde.
Praktisch heißt das, die eigene Erwartung umzustellen: Ein Dokumentenchat ist eine
Suchmaschine mit angeschlossenem Formulierer, kein Leser. Man bedient ihn wie eine
Suchmaschine – mit den Wörtern, die im Dokument stehen, Kapitel für Kapitel statt
alles auf einmal, und mit der Bitte um die Fundstelle, die man anschließend selbst
aufschlägt. Und man prüft Vollständigkeit niemals durch Nachfragen beim Modell,
sondern gegen eine eigene Liste. Das ist mehr Arbeit als ein Klick auf Hochladen.
Es ist immer noch erheblich weniger Arbeit als die Erklärung dafür, warum in der
Zusammenfassung ausgerechnet die Klausel fehlte, um die es ging.
Die echte, verifizierte Lösung
1000 % faktenbasiert. Jeder Befehl ist real, jeder Pfad existiert. Schritt für Schritt:
1.
Klären, auf welchem Weg das Dokument ankommt
Es gibt zwei völlig verschiedene Mechaniken mit derselben Oberfläche. Eingefügter Text landet vollständig im Kontextfenster und konkurriert dort mit allem anderen um Platz. Eine angehängte Datei landet meist in einem Abrufsystem, das sie zerlegt und nur ausgewählte Stücke weitergibt. Wer nicht weiß, welcher der beiden Fälle vorliegt, kann die Antwort nicht richtig einschätzen – und stellt die falschen Gegenfragen.
2.
Mit den Wörtern des Dokuments fragen
Der Abruf gleicht deine Frage gegen den Text ab. Wer nach der Kündigungsfrist fragt, während im Vertrag Beendigung steht, verliert womöglich genau den Absatz. Also die Begriffe aus dem Dokument selbst verwenden: Überschriften, Feldnamen, Paragrafennummern, die Bezeichnung aus dem Inhaltsverzeichnis. Das ist kein Trick, sondern die Bedienung einer Suchmaschine.
3.
Abschnittsweise arbeiten statt das Ganze auf einmal zu verlangen
Eine Frage nach dem Motto ‚fasse das zusammen‘ zwingt das System, aus hunderten Blöcken zwanzig auszuwählen – der Rest fällt weg. Besser gezielt und nacheinander vorgehen: Kapitel für Kapitel, Frage für Frage, Pflichtpunkt für Pflichtpunkt. Die Herstellerdokumentation empfiehlt für sehr große Dokumente sogar ausdrücklich, sie vorher selbst aufzuteilen.
4.
Nach der Fundstelle fragen und sie selbst aufschlagen
Zu jeder wichtigen Aussage die Seite, den Abschnitt oder den zitierten Satz verlangen – und dann im Original nachsehen. Das prüft zwei Dinge auf einmal: ob die Aussage stimmt und ob sie überhaupt aus deinem Dokument stammt. Findet sich die genannte Stelle nicht, ist die Antwort nicht aus deiner Datei entstanden, sondern aus dem, was das Modell ohnehin zu wissen glaubt.
5.
Vollständigkeit nie beim Modell erfragen
Die Frage ‚hast du alles berücksichtigt?‘ wird von derselben Maschine beantwortet, die auch die lückenhafte Zusammenfassung geschrieben hat – sie kann nicht wissen, welche Blöcke ihr nie vorgelegt wurden. Vollständigkeit prüft man von der anderen Seite: eine eigene Liste der Punkte anlegen, die vorkommen müssen, und diese Punkte einzeln abfragen.
6.
Bei wiederkehrender Arbeit das Dokument vorbereiten
Wenn dieselbe Datei regelmäßig befragt wird, lohnt sich Vorarbeit: sprechende Überschriften, keine Tabellen als Bild, ein Kapitel pro Datei statt ein Sammelband. Alles, was einer Suche das Auffinden erleichtert, erleichtert es auch dem Abrufsystem – und jede Verbesserung dort wirkt auf jede spätere Frage, statt einmal.
Häufige Fragen (FAQ)
?Ich habe das komplette PDF hochgeladen. Warum fehlt die Hälfte in der Zusammenfassung?
Weil das Modell das PDF nie als Ganzes gesehen hat. Microsoft benennt den Grund in der Übersicht zu abrufgestützter Generierung als eine der zentralen Herausforderungen und nennt sie schlicht Tokeneinschränkungen: „LLMs akzeptieren eingeschränkte Tokeneingaben. Ihr Abrufsystem muss hoch relevante, präzise Ergebnisse zurückgeben – keine vollständigen Dokumentabbilder.“ Der letzte Halbsatz ist der Kern. Zwischen deiner Datei und dem Modell sitzt eine Suchmaschine, deren Aufgabe ausdrücklich darin besteht, Ausschnitte zu liefern statt des Dokuments. Was sie nicht auswählt, existiert für die Antwort nicht – und zwar wortlos.
?Was passiert technisch mit meiner Datei?
Sie wird zerschnitten, vermessen und in eine Suchdatenbank gelegt. Die Dokumentation zum Dateisuch-Werkzeug beschreibt den Ablauf in drei Punkten: „Automatisches Analysieren und Blöcken von Dokumenten. Generieren und Speichern von Einbettungen. Verwenden von Vektor- und Schlüsselwortsuchen zum Abrufen relevanter Inhalte für Benutzerabfragen.“ Bei jeder Frage läuft dann eine Suche, deren letzter Schritt lautet: „Reiht Ergebnisse neu, um den relevantesten Inhalt für die Antwort auszuwählen.“ Für dieses eine Produkt sind sogar die Voreinstellungen veröffentlicht – Stand 11.08.2026 eine Blockgröße von 800 Token, 400 Token Überlappung und höchstens 20 Blöcke im Kontext. Die Zahlen gelten nur dort und können sich ändern; die Mechanik dahinter gilt überall, wo eine Datei angehängt statt eingefügt wird: zerlegen, suchen, die besten Stücke weitergeben.
?Warum findet die KI eine Zahl nicht, die eindeutig im Dokument steht?
Weil der Block, in dem sie steht, die Suche nicht gewonnen hat. Der Abruf ist eine Suche, und Suchen scheitern an Wortwahl. Microsoft beschreibt genau das als Problem des Abfrageverständnisses: Die herkömmliche Schlüsselwortsuche schlage fehl, „wenn Abfragen nicht mit der Dokumentterminologie übereinstimmen“ – als Beispiel dient eine Frage nach bezahlter Arbeitsbefreiung, während im Dokument Freizeiten und Telearbeit steht. Dazu kommt die Rangfolge: Wenn nur eine begrenzte Zahl Blöcke weitergereicht wird, verdrängt jeder gut passende Treffer einen schlechter passenden. Deine Zahl kann also im Dokument stehen, in einem Block liegen und trotzdem nie beim Modell ankommen.
?Ist es besser, den Text direkt ins Chatfenster zu kopieren?
Für kurze Dokumente ja, denn dann geht der Text vollständig in das Kontextfenster und wird nicht vorsortiert. Für lange verschiebt es nur die Grenze: Das Kontextfenster ist laut Herstellerdokumentation „immer endlich“, und im Leitfaden zum Prompt Engineering steht ausdrücklich, man könne weiterhin „Szenarien treffen, die mehr Daten bereitstellen, als das Modell verarbeiten kann“. Die brauchbare Regel lautet deshalb: kurze Texte einfügen, lange Texte selbst in sinnvolle Abschnitte teilen und abschnittsweise arbeiten. Selbst geschnitten ist besser als vom Abrufsystem geschnitten, weil du weißt, wo die Schnitte liegen.
Belege
Diese Seite ist gegen die folgenden Primärquellen geprüft – Hersteller, Standard oder Gesetzestext. Wer es nicht glaubt, muss es nicht: Da steht, wo es nachzulesen ist.