Это руководство фокусируется на критериях успеха, которые можно контролировать с помощью инженерии промптов.
Не каждый критерий успеха или неудачная оценка лучше всего решается с помощью инженерии промптов. Например, задержку и стоимость иногда легче улучшить, выбрав другую модель.
Инженерия промптов намного быстрее других методов контроля поведения модели, таких как файнтюнинг, и часто может привести к значительному улучшению производительности за гораздо меньшее время. Вот несколько причин рассмотреть инженерию промптов вместо файнтюнинга:
Эффективность ресурсов: Файнтюнинг требует мощных GPU и большой памяти, в то время как инженерия промптов требует только текстового ввода, что делает её гораздо более экономичной.
Экономическая эффективность: Для облачных AI-сервисов файнтюнинг влечет значительные затраты. Инженерия промптов использует базовую модель, что обычно дешевле.
Поддержка обновлений модели: Когда провайдеры обновляют модели, файнтюнированные версии могут потребовать переобучения. Промпты обычно работают между версиями без изменений.
Экономия времени: Файнтюнинг может занять часы или даже дни. Напротив, инженерия промптов дает практически мгновенные результаты, позволяя быстро решать проблемы.
Минимальные потребности в данных: Файнтюнинг требует значительного количества специфичных для задачи размеченных данных, которые могут быть редкими или дорогими. Инженерия промптов работает с few-shot или даже zero-shot обучением.
Гибкость и быстрая итерация: Быстро пробуйте различные подходы, настраивайте промпты и видите немедленные результаты. Такое быстрое экспериментирование сложно с файнтюнингом.
Адаптация к домену: Легко адаптируйте модели к новым доменам, предоставляя специфичный для домена контекст в промптах, без переобучения.
Улучшение понимания: Инженерия промптов гораздо эффективнее файнтюнинга в помощи моделям лучше понимать и использовать внешний контент, такой как извлеченные документы.
Сохранение общих знаний: Файнтюнинг рискует катастрофическим забыванием, когда модель теряет общие знания. Инженерия промптов сохраняет широкие возможности модели.
Прозрачность: Промпты читаемы человеком, показывая точно, какую информацию получает модель. Эта прозрачность помогает в понимании и отладке.
Страницы по инженерии промптов в этом разделе организованы от наиболее широко эффективных техник до более специализированных. При устранении проблем с производительностью мы предлагаем попробовать эти техники по порядку, хотя фактическое влияние каждой техники будет зависеть от вашего случая использования.
