Dieser Leitfaden konzentriert sich auf Erfolgskriterien, die durch Prompt Engineering steuerbar sind.
Nicht jedes Erfolgskriterium oder fehlgeschlagene Evaluation lässt sich am besten durch Prompt Engineering lösen. Zum Beispiel können Latenz und Kosten manchmal einfacher durch die Auswahl eines anderen Modells verbessert werden.
Prompt Engineering ist weitaus schneller als andere Methoden zur Steuerung des Modellverhaltens, wie zum Beispiel Finetuning, und kann oft in viel kürzerer Zeit zu Leistungssprüngen führen. Hier sind einige Gründe, warum Sie Prompt Engineering dem Finetuning vorziehen sollten:
Ressourceneffizienz: Finetuning erfordert High-End-GPUs und großen Speicher, während Prompt Engineering nur Texteingabe benötigt, was es wesentlich ressourcenschonender macht.
Kosteneffizienz: Bei Cloud-basierten KI-Diensten verursacht Finetuning erhebliche Kosten. Prompt Engineering verwendet das Basismodell, was typischerweise günstiger ist.
Wartung von Modell-Updates: Wenn Anbieter Modelle aktualisieren, müssen feinabgestimmte Versionen möglicherweise neu trainiert werden. Prompts funktionieren normalerweise ohne Änderungen über Versionen hinweg.
Zeitersparnis: Finetuning kann Stunden oder sogar Tage dauern. Im Gegensatz dazu liefert Prompt Engineering nahezu sofortige Ergebnisse und ermöglicht schnelle Problemlösungen.
Minimaler Datenbedarf: Finetuning benötigt umfangreiche aufgabenspezifische, gekennzeichnete Daten, die selten oder teuer sein können. Prompt Engineering funktioniert mit Few-Shot oder sogar Zero-Shot Learning.
Flexibilität & schnelle Iteration: Schnelles Ausprobieren verschiedener Ansätze, Anpassen von Prompts und sofortiges Sehen von Ergebnissen. Diese schnelle Experimentierung ist beim Finetuning schwierig.
Domänenanpassung: Einfache Anpassung von Modellen an neue Domänen durch Bereitstellung domänenspezifischer Kontexte in Prompts, ohne Neutraining.
Verständnisverbesserungen: Prompt Engineering ist weitaus effektiver als Finetuning, wenn es darum geht, Modellen zu helfen, externe Inhalte wie abgerufene Dokumente besser zu verstehen und zu nutzen.
Erhält Allgemeinwissen: Finetuning riskiert katastrophales Vergessen, bei dem das Modell Allgemeinwissen verliert. Prompt Engineering behält die breiten Fähigkeiten des Modells bei.
Transparenz: Prompts sind für Menschen lesbar und zeigen genau, welche Informationen das Modell erhält. Diese Transparenz hilft beim Verstehen und Debuggen.
Die Prompt Engineering-Seiten in diesem Abschnitt wurden von den am breitesten wirksamen Techniken bis hin zu spezielleren Techniken organisiert. Bei der Fehlersuche empfehlen wir, diese Techniken der Reihe nach auszuprobieren, obwohl die tatsächliche Auswirkung jeder Technik von Ihrem Anwendungsfall abhängt.
