Dieser Leitfaden konzentriert sich auf Erfolgskriterien, die durch Prompt Engineering steuerbar sind.
Nicht jedes Erfolgskriterium oder jede fehlgeschlagene Auswertung lässt sich am besten durch Prompt Engineering lösen. Latenz und Kosten können beispielsweise manchmal einfacher durch die Auswahl eines anderen Modells verbessert werden.
Prompt Engineering ist weitaus schneller als andere Methoden zur Steuerung des Modellverhaltens, wie z. B. Finetuning, und kann oft in weitaus kürzerer Zeit zu Leistungssprüngen führen. Hier sind einige Gründe, warum Sie Prompt Engineering gegenüber Finetuning in Betracht ziehen sollten:
Ressourceneffizienz: Finetuning erfordert High-End-GPUs und viel Speicher, während Prompt Engineering nur Texteingaben benötigt, was es viel ressourcenschonender macht.
Kosteneffizienz: Bei Cloud-basierten KI-Diensten fallen für das Finetuning erhebliche Kosten an. Prompt Engineering verwendet das Basismodell, das in der Regel günstiger ist.
Beibehaltung von Modellupdates: Wenn Anbieter Modelle aktualisieren, müssen feinabgestimmte Versionen möglicherweise neu trainiert werden. Prompts funktionieren normalerweise versionsübergreifend ohne Änderungen.
Zeitersparnis: Finetuning kann Stunden oder sogar Tage dauern. Im Gegensatz dazu liefert Prompt Engineering nahezu sofortige Ergebnisse, was eine schnelle Problemlösung ermöglicht.
Minimaler Datenbedarf: Finetuning benötigt erhebliche aufgabenspezifische, beschriftete Daten, die knapp oder teuer sein können. Prompt Engineering funktioniert mit Few-Shot- oder sogar Zero-Shot-Lernen.
Flexibilität und schnelle Iteration: Schnelles Ausprobieren verschiedener Ansätze, Anpassen von Prompts und sofortiges Anzeigen der Ergebnisse. Diese schnelle Experimentierbarkeit ist mit Finetuning schwierig.
Domänenanpassung: Einfache Anpassung von Modellen an neue Domänen durch Bereitstellung domänenspezifischer Kontexte in Prompts, ohne erneutes Training.
Verbesserungen des Verständnisses: Prompt Engineering ist weitaus effektiver als Finetuning, wenn es darum geht, Modellen zu helfen, externe Inhalte wie abgerufene Dokumente besser zu verstehen und zu nutzen.
Erhält Allgemeinwissen: Finetuning birgt das Risiko des katastrophalen Vergessens, bei dem das Modell sein allgemeines Wissen verliert. Prompt Engineering erhält die breiten Fähigkeiten des Modells.
Transparenz: Prompts sind für Menschen lesbar und zeigen genau, welche Informationen das Modell erhält. Diese Transparenz hilft beim Verständnis und bei der Fehlerbehebung.
Die Seiten zum Prompt Engineering in diesem Abschnitt wurden von den am breitesten wirksamen Techniken bis hin zu spezielleren Techniken geordnet. Bei der Fehlerbehebung der Leistung empfehlen wir, diese Techniken der Reihe nach auszuprobieren, obwohl die tatsächliche Auswirkung jeder Technik von unserem Anwendungsfall abhängt.
