프롬프트 엔지니어링 개요

프롬프트 엔지니어링은 파인튜닝과 같은 다른 모델 동작 제어 방법보다 훨씬 빠르며, 종종 훨씬 짧은 시간에 성능의 도약을 이룰 수 있습니다. 파인튜닝보다 프롬프트 엔지니어링을 고려해야 하는 몇 가지 이유는 다음과 같습니다:

• 리소스 효율성: 파인튜닝에는 고성능 GPU와 대용량 메모리가 필요하지만, 프롬프트 엔지니어링은 텍스트 입력만 필요하므로 리소스 친화적입니다.
• 비용 효율성: 클라우드 기반 AI 서비스의 경우 파인튜닝에는 상당한 비용이 발생합니다. 프롬프트 엔지니어링은 일반적으로 더 저렴한 기본 모델을 사용합니다.
• 모델 업데이트 유지: 제공업체가 모델을 업데이트할 때 파인튜닝된 버전은 재교육이 필요할 수 있습니다. 프롬프트는 일반적으로 변경 없이 버전 간에 작동합니다.
• 시간 절약: 파인튜닝은 몇 시간 또는 며칠이 걸릴 수 있습니다. 반면에 프롬프트 엔지니어링은 거의 즉각적인 결과를 제공하므로 신속한 문제 해결이 가능합니다.
• 최소한의 데이터 요구사항: 파인튜닝에는 상당한 양의 작업별 레이블이 지정된 데이터가 필요하며, 이는 희소하거나 비쌀 수 있습니다. 프롬프트 엔지니어링은 few-shot 또는 zero-shot 학습에서도 작동합니다.
• 유연성 및 신속한 반복: 다양한 접근 방식을 빠르게 시도하고, 프롬프트를 조정하고, 즉각적인 결과를 확인할 수 있습니다. 이러한 신속한 실험은 파인튜닝으로는 어렵습니다.
• 도메인 적응: 프롬프트에 도메인별 컨텍스트를 제공하여 재교육 없이 새로운 도메인에 모델을 쉽게 적용할 수 있습니다.
• 이해력 향상: 프롬프트 엔지니어링은 검색된 문서와 같은 외부 콘텐츠를 모델이 더 잘 이해하고 활용하는 데 파인튜닝보다 훨씬 효과적입니다.
• 일반 지식 보존: 파인튜닝은 모델이 일반 지식을 잃어버리는 치명적인 망각의 위험이 있습니다. 프롬프트 엔지니어링은 모델의 광범위한 기능을 유지합니다.
• 투명성: 프롬프트는 사람이 읽을 수 있으므로 모델이 받는 정보를 정확히 보여줍니다. 이러한 투명성은 이해와 디버깅에 도움이 됩니다.