Was ist Few-Shot-Prompting und wie viele Beispiele brauche ich?
Few-Shot-Prompting bedeutet, dem Modell zwei bis sechs Beispiele mitzugeben, bevor es die eigentliche Aufgabe bekommt. Mehr Beispiele helfen selten, die Qualität der Beispiele schlägt die Menge.
Few-Shot ist eine der wirksamsten Techniken, um Modelle präzise zu steuern, ohne sie umtrainieren zu müssen. Statt abstrakte Regeln zu formulieren, zeigst du dem Modell direkt, was du willst.
Wie es funktioniert
Du gibst im Prompt drei Dinge: eine kurze Aufgabenbeschreibung, zwei bis sechs vollständige Input-Output-Paare als Beispiele, und dann den neuen Input, für den das Modell im gleichen Muster antworten soll. Das Modell extrahiert das Muster aus den Beispielen und wendet es an.
Wie viele Beispiele
Zwei Beispiele: Reichen oft, wenn das Muster einfach ist. Drei bis fünf: Der Sweet Spot für die meisten Aufgaben. Sechs oder mehr: Selten sinnvoll. Mehr Beispiele verlängern den Kontext, ohne die Qualität proportional zu steigern.
Worauf die Qualität ankommt
- Beispiele müssen divers sein, nicht repetitiv
- Edge Cases gehören in die Beispiele, nicht in Extra-Regeln
- Format des Outputs muss über alle Beispiele konsistent sein
- Beispiele müssen tatsächlich die gewünschte Qualität zeigen, das Modell kopiert auch Schwächen
Wann Few-Shot nicht das richtige Werkzeug ist
Bei sehr kreativen Aufgaben, bei denen das Modell überraschen soll. Beispiele engen den Lösungsraum ein, manchmal ist genau das unerwünscht.