Chunking zerlegt Dokumente in kleinere Abschnitte, die einzeln eingebettet und durchsucht werden — nur die treffendsten Chunks wandern in den Prompt.
Was bedeutet Chunking?
Das Zerlegen der Dokumente in kleinere Abschnitte (Chunks, oft wenige hundert Tokens), die einzeln eingebettet und durchsucht werden. Nur die treffendsten Chunks — nicht ganze Dokumente — wandern später in den Prompt.
Abgrenzung — worauf es ankommt
Zu kleine Chunks verlieren Kontext, zu große verwässern die Suche und verschwenden Kontextfenster. Gute Systeme schneiden an Sinneinheiten (Absätze, Kapitel) statt stur nach Zeichenzahl und lassen Chunks leicht überlappen.
Beispiel aus der Praxis
Ein 80-Seiten-Vertrag wird zu ~200 Chunks entlang der Paragrafen; die Frage nach der Kündigungsfrist zieht genau die zwei Chunks zu § Kündigung.
Chunking in Ihrem Unternehmen nutzen?
Von der Theorie in die Praxis: Wir zeigen Ihnen den passenden Weg — pragmatisch, DSGVO-konform und messbar.
Kostenlos · unverbindlich