Panduan ini berfokus pada kriteria keberhasilan yang dapat dikontrol melalui rekayasa prompt.
Tidak setiap kriteria keberhasilan atau evaluasi yang gagal paling baik diselesaikan dengan rekayasa prompt. Misalnya, latensi dan biaya terkadang dapat ditingkatkan dengan lebih mudah dengan memilih model yang berbeda.
Rekayasa prompt jauh lebih cepat daripada metode kontrol perilaku model lainnya, seperti finetuning, dan seringkali dapat menghasilkan lompatan kinerja dalam waktu yang jauh lebih singkat. Berikut beberapa alasan untuk mempertimbangkan rekayasa prompt daripada finetuning:
Efisiensi sumber daya: Fine-tuning membutuhkan GPU kelas atas dan memori besar, sementara rekayasa prompt hanya membutuhkan input teks, membuatnya jauh lebih hemat sumber daya.
Efektivitas biaya: Untuk layanan AI berbasis cloud, fine-tuning menimbulkan biaya yang signifikan. Rekayasa prompt menggunakan model dasar, yang biasanya lebih murah.
Mempertahankan pembaruan model: Ketika penyedia memperbarui model, versi yang telah di-fine-tune mungkin perlu dilatih ulang. Prompt biasanya berfungsi di berbagai versi tanpa perubahan.
Hemat waktu: Fine-tuning bisa memakan waktu berjam-jam atau bahkan berhari-hari. Sebaliknya, rekayasa prompt memberikan hasil yang hampir instan, memungkinkan pemecahan masalah yang cepat.
Kebutuhan data minimal: Fine-tuning membutuhkan data berlabel spesifik tugas yang substansial, yang bisa langka atau mahal. Rekayasa prompt bekerja dengan pembelajaran few-shot atau bahkan zero-shot.
Fleksibilitas & iterasi cepat: Cepat mencoba berbagai pendekatan, menyesuaikan prompt, dan melihat hasil segera. Eksperimen cepat ini sulit dilakukan dengan fine-tuning.
Adaptasi domain: Dengan mudah mengadaptasi model ke domain baru dengan memberikan konteks spesifik domain dalam prompt, tanpa pelatihan ulang.
Peningkatan pemahaman: Rekayasa prompt jauh lebih efektif daripada finetuning dalam membantu model lebih memahami dan memanfaatkan konten eksternal seperti dokumen yang diambil
Mempertahankan pengetahuan umum: Fine-tuning berisiko melupakan secara katastrofik, di mana model kehilangan pengetahuan umum. Rekayasa prompt mempertahankan kemampuan luas model.
Transparansi: Prompt dapat dibaca manusia, menunjukkan dengan tepat informasi apa yang diterima model. Transparansi ini membantu dalam pemahaman dan debugging.
Halaman rekayasa prompt di bagian ini telah disusun dari teknik yang paling efektif secara luas hingga teknik yang lebih khusus. Saat memecahkan masalah kinerja, kami menyarankan Anda untuk mencoba teknik-teknik ini secara berurutan, meskipun dampak sebenarnya dari setiap teknik akan tergantung pada kasus penggunaan kita.
