Le fughe di prompt possono esporre informazioni sensibili che ci si aspetta siano “nascoste” nel prompt. Sebbene nessun metodo sia infallibile, le strategie seguenti possono ridurre significativamente il rischio.

​
Prima di provare a ridurre la fuga di prompt

Raccomandiamo di utilizzare strategie di prompt engineering resistenti alle fughe solo quando assolutamente necessario. I tentativi di rendere il prompt a prova di fuga possono aggiungere complessità che potrebbe degradare le prestazioni in altre parti del compito a causa dell’aumento della complessità del compito complessivo del LLM.

Se decidi di implementare tecniche resistenti alle fughe, assicurati di testare accuratamente i tuoi prompt per garantire che la complessità aggiunta non impatti negativamente sulle prestazioni del modello o sulla qualità dei suoi output.

Prova prima le tecniche di monitoraggio, come lo screening degli output e il post-processing, per cercare di individuare i casi di fuga di prompt.

​
Strategie per ridurre la fuga di prompt

  • Separare il contesto dalle query: Puoi provare a utilizzare prompt di sistema per isolare le informazioni chiave e il contesto dalle query degli utenti. Puoi enfatizzare le istruzioni chiave nel turno User, quindi rienfatizzare queste istruzioni precompilando il turno Assistant.
  • Utilizzare il post-processing: Filtra gli output di Claude per parole chiave che potrebbero indicare una fuga. Le tecniche includono l’uso di espressioni regolari, filtri per parole chiave o altri metodi di elaborazione del testo.
    Puoi anche utilizzare un LLM con prompt per filtrare gli output per fughe più sfumate.
  • Evitare dettagli proprietari non necessari: Se Claude non ne ha bisogno per eseguire il compito, non includerli. I contenuti extra distraggono Claude dal concentrarsi sulle istruzioni “no fuga”.
  • Audit regolari: Rivedi periodicamente i tuoi prompt e gli output di Claude per potenziali fughe.

Ricorda, l’obiettivo non è solo prevenire le fughe ma mantenere le prestazioni di Claude. Una prevenzione delle fughe eccessivamente complessa può degradare i risultati. L’equilibrio è fondamentale.

Mitigare i jailbreakMantenere Claude nel personaggio