Context Engineering für zuverlässige KI-Features

Prompts sind nicht das ganze System

Wenn ein KI-Feature halluziniert, schreiben Teams oft den System-Prompt um. Das kann helfen, adressiert aber selten die Ursache. Das Modell kann nur über das nachdenken, was ihm gegeben wird. Ist Retrieval schwach, Memory verrauscht oder sind Tool-Ergebnisse unvollständig, erzeugt keine Formulierung verlässliches Verhalten.

Context Engineering behandelt den zusammengesetzten Input als Produktoberfläche. Es fragt, welche Fakten vorhanden sein müssen, welche Instructions Priorität haben, wie viel Historie nützlich ist und was ausgeschlossen werden sollte. Ziel ist ein begrenztes, prüfbares Informationspaket, das die intendierte Antwort möglich macht.

Instructions, Fakten und Tools trennen

Ein robustes Context-Paket hat Schichten mit klarer Ownership. Policy- und Produkt-Instructions definieren, was das Modell tun darf. Abgerufene Fakten liefern geerdete Evidenz. Tool-Outputs beschreiben die aktuelle Welt. Gesprächshistorie erfasst Nutzerabsicht. Diese Schichten in einem undifferenzierten Blob zu mischen, macht Debugging fast unmöglich.

Geben Sie jeder Schicht ein stabiles Format und ein Größenbudget. Bevorzugen Sie strukturierte Fakten gegenüber langen Prosadumps. Bei widersprüchlicher Evidenz bewahren Sie Provenienz, damit das System autoritative Quellen bevorzugen oder eine Klärungsfrage stellen kann, statt eine Versöhnung zu erfinden.

• Rangieren Sie Context nach Entscheidungswert, nicht nach Token-Anzahl
• Halten Sie Autorisierungsentscheidungen außerhalb des Modells
• Begrenzen Sie Historie mit Summarisierung, die Commitments erhält
• Loggen Sie, welche Quellen in den finalen Prompt eingegangen sind

Retrieval-Qualität ist Produktqualität

Retrieval-augmented Generation scheitert still, wenn falsche Dokumente mit hoher Confidence geholt werden. Messen Sie Recall auf den Fragen, die zählen — nicht nur Embedding-Ähnlichkeit. Schließen Sie harte Fälle ein: Synonyme, partielle Identifier, mehrsprachige Queries und Anfragen, die nichts abrufen sollten.

Chunking-Strategie, Metadata-Filter und Reranking gehören in dieselbe Review wie die Modellwahl. Ein kleineres Modell mit exzellentem Context übertrifft oft ein größeres Modell mit verschmutztem Context — besonders unter Latenz- und Kostenbeschränkungen.

Context beobachtbar machen

Wenn Nutzer eine schlechte Antwort melden, müssen Engineers den Context rekonstruieren können, der sie erzeugt hat. Speichern Sie Prompt- und Retrieval-Versionen, Source-Identifier, Token-Budgets und Validierungsergebnisse mit Privacy-Controls. Ohne diese Spur wird jeder Incident anekdotisch.

Context Engineering ist erfolgreich, wenn das System erklären kann, was es wusste, was es nicht wusste und warum es so geantwortet hat. Diese Transparenz ist die Grundlage von Vertrauen in KI-Produkte.