프롬프트 엔지니어링 개요

프롬프트 엔지니어링은 파인튜닝과 같은 다른 모델 행동 제어 방법보다 훨씬 빠르며, 더 적은 시간으로도 성능을 크게 향상시킬 수 있습니다. 파인튜닝 대신 프롬프트 엔지니어링을 고려해야 하는 이유는 다음과 같습니다:

• 자원 효율성: 파인튜닝은 고성능 GPU와 대용량 메모리가 필요하지만, 프롬프트 엔지니어링은 텍스트 입력만 필요하므로 훨씬 자원 친화적입니다.
• 비용 효율성: 클라우드 기반 AI 서비스의 경우, 파인튜닝은 상당한 비용이 발생합니다. 프롬프트 엔지니어링은 일반적으로 더 저렴한 기본 모델을 사용합니다.
• 모델 업데이트 유지: 제공업체가 모델을 업데이트할 때, 파인튜닝된 버전은 재학습이 필요할 수 있습니다. 프롬프트는 일반적으로 변경 없이 버전 간에 작동합니다.
• 시간 절약: 파인튜닝은 수 시간 또는 수일이 걸릴 수 있습니다. 반면에 프롬프트 엔지니어링은 거의 즉각적인 결과를 제공하여 빠른 문제 해결이 가능합니다.
• 최소한의 데이터 요구: 파인튜닝은 상당한 양의 작업별 레이블된 데이터가 필요하며, 이는 구하기 어렵거나 비쌀 수 있습니다. 프롬프트 엔지니어링은 퓨샷 또는 제로샷 학습으로도 작동합니다.
• 유연성 및 빠른 반복: 다양한 접근 방식을 빠르게 시도하고, 프롬프트를 조정하며, 즉각적인 결과를 확인할 수 있습니다. 이러한 빠른 실험은 파인튜닝에서는 어렵습니다.
• 도메인 적응: 프롬프트에 도메인별 컨텍스트를 제공함으로써 재학습 없이 새로운 도메인에 모델을 쉽게 적응시킬 수 있습니다.
• 이해도 향상: 프롬프트 엔지니어링은 검색된 문서와 같은 외부 콘텐츠를 더 잘 이해하고 활용하는 데 파인튜닝보다 훨씬 효과적입니다.
• 일반 지식 보존: 파인튜닝은 모델이 일반 지식을 잃는 치명적 망각의 위험이 있습니다. 프롬프트 엔지니어링은 모델의 광범위한 능력을 유지합니다.
• 투명성: 프롬프트는 사람이 읽을 수 있어 모델이 받는 정보를 정확히 보여줍니다. 이러한 투명성은 이해와 디버깅에 도움이 됩니다.