문제 해결

​

LLM의 일반적인 문제 및 완화 전략

1. 환각: LLM은 때때로 사실적으로 잘못되거나 일관성이 없거나 주어진 맥락과 관련이 없는 텍스트를 생성할 수 있습니다. 이를 환각이라고 하며, 모델이 지식의 공백을 채우려고 하거나 입력이 모호할 때 발생할 수 있습니다.
   • 환각 최소화: 모델에서 사실적으로 잘못되거나 일관성 없는 출력의 발생을 줄이는 기술을 배웁니다. 이 페이지에서는 Claude가 답을 모를 때 말할 수 있도록 허용하고, 응답하기 전에 Claude가 인용문을 추출하도록 하는 등의 프롬프트 엔지니어링 기술을 다룹니다.
2. 탈옥 및 프롬프트 주입: 사용자는 모델의 취약점을 악용하는 특정 프롬프트를 작성하여 모델의 안전 장치 및 윤리 지침을 우회하려고 시도할 수 있습니다. 이로 인해 모델이 부적절하거나 유해한 콘텐츠를 생성할 수 있습니다.
   • 탈옥 및 프롬프트 주입 완화: 사용자가 모델의 취약점을 악용하고 부적절한 콘텐츠를 생성하는 것을 방지하기 위한 모범 사례를 알아보세요. 이 페이지에서는 입력 유효성 검사 및 기타 프롬프트 전략과 같은 방법에 대해 설명합니다.
3. 프롬프트 누출: 사용자는 모델이 생성된 출력에서 입력 프롬프트의 일부를 공개하도록 시도할 수 있습니다. 민감한 정보를 다룰 때나 프롬프트에 공개되지 않아야 하는 세부 정보가 포함된 경우 이는 우려 사항이 될 수 있습니다.
   • 프롬프트 누출 감소: 모델이 생성된 출력에서 입력 프롬프트의 민감한 정보를 공개할 위험을 최소화하는 방법을 알아보세요. 이 페이지에서는 컨텍스트와 쿼리 분리, 프롬프트 전략, 출력에 후처리 적용과 같은 기술을 탐구합니다.
4. 캐릭터에 맞지 않는 응답: 캐릭터 역할 재현 시나리오 또는 특정 성격을 모방하기 위해 LLM을 사용할 때, 특히 긴 대화에서 모델이 때때로 의도한 캐릭터 특성에서 벗어나 일관성 없거나 비현실적인 응답을 할 수 있습니다.
   • Claude의 캐릭터 유지: Claude를 캐릭터 역할 재현 시나리오에 사용할 때 일관되고 캐릭터에 맞는 응답을 유지하기 위한 팁을 얻으세요. 이 페이지에서는 명확한 캐릭터 설명 제공 및 컨텍스트 설정 프롬프트 사용과 같은 전략을 다룹니다.
5. 비결정적 출력: LLM의 확률적 특성으로 인해 동일한 입력이 주어져도 생성된 출력이 달라질 수 있습니다. 이는 일관되고 재현 가능한 결과가 필요한 시나리오에서 문제가 될 수 있습니다.
   • LLM은 완전히 결정적일 수는 없지만 temperature를 0.0으로 설정하여 무작위성을 최대한 줄일 수 있습니다. API 매개변수에 대한 자세한 내용은 Messages API 문서를 참조하세요.

이러한 문제 해결 가이드 외에도 매우 효과적인 프롬프트를 작성하는 방법에 대한 포괄적인 개요를 제공하는 프롬프트 엔지니어링 문서를 검토하는 것이 좋습니다. 이 가이드는 프롬프트 최적화, 모델 조종성 개선 및 Claude의 전반적인 응답성 향상에 대한 추가 통찰력을 제공합니다.

계속 문제가 있는 경우 고객 지원 팀에 문의하십시오. 저희는 Claude를 최대한 활용할 수 있도록 도와드리겠습니다.