Modelli di pensiero esteso
Claude 3.7 Sonnet è un modello ibrido capace sia di pensiero standard che di modalità di pensiero esteso. In modalità standard, Claude 3.7 Sonnet opera in modo simile agli altri modelli della famiglia Claude 3. In modalità di pensiero esteso, Claude mostrerà il suo processo di pensiero prima di fornire la risposta, permettendoti di comprendere il suo processo di ragionamento.
Panoramica di Claude 3.7
Claude 3.7 Sonnet opera in due modalità:
- Modalità standard: Simile ai precedenti modelli Claude, fornisce risposte dirette senza mostrare il ragionamento interno
- Modalità di pensiero esteso: Mostra il processo di ragionamento di Claude prima di fornire la risposta finale
Quando utilizzare la modalità standard
La modalità standard funziona bene per la maggior parte dei casi d’uso generali, tra cui:
- Generazione di contenuti generali
- Assistenza base alla programmazione
- Attività agentive di routine
- Guida all’uso del computer
- La maggior parte delle applicazioni conversazionali
Quando utilizzare la modalità di pensiero esteso
La modalità di pensiero esteso eccelle in queste aree chiave:
- Analisi complesse: Analisi finanziarie, legali o di dati che coinvolgono molteplici parametri e fattori
- Problemi STEM avanzati: Matematica, fisica, ricerca e sviluppo
- Gestione di contesti lunghi: Elaborazione e sintesi di informazioni da input estesi
- Ottimizzazione dei vincoli: Problemi con requisiti multipli in competizione
- Generazione dettagliata di dati: Creazione di tabelle complete o set di informazioni strutturate
- Seguire istruzioni complesse: Chatbot con prompt di sistema intricati e molti fattori da considerare
- Attività creative strutturate: Scrittura creativa che richiede pianificazione dettagliata, schemi o gestione di molteplici elementi narrativi
Per saperne di più su come funziona il pensiero esteso, consulta Pensiero esteso.
Iniziare con Claude 3.7 Sonnet
Se stai provando Claude 3.7 Sonnet per la prima volta, ecco alcuni suggerimenti:
- Inizia con la modalità standard: Inizia a utilizzare Claude 3.7 Sonnet senza pensiero esteso per stabilire una performance di base
- Identifica le opportunità di miglioramento: Prova ad attivare la modalità di pensiero esteso con un budget basso per vedere se il tuo caso d’uso beneficerebbe di un ragionamento più approfondito. Potrebbe essere che il tuo caso d’uso beneficerebbe maggiormente di prompt più dettagliati in modalità standard piuttosto che del pensiero esteso di Claude.
- Implementazione graduale: Se necessario, aumenta gradualmente il budget di pensiero mentre testi le prestazioni rispetto ai tuoi requisiti.
- Ottimizza l’uso dei token: Una volta raggiunta una performance accettabile, imposta limiti appropriati di token per gestire i costi.
- Esplora nuove possibilità: Claude 3.7 Sonnet, con e senza pensiero esteso, è più capace dei precedenti modelli Claude in vari domini. Ti incoraggiamo a provare Claude 3.7 Sonnet per casi d’uso in cui hai precedentemente riscontrato limitazioni con altri modelli.
Costruire su Claude 3.7 Sonnet
Informazioni generali sul modello
Per prezzi, dimensione della finestra di contesto e altre informazioni su Claude 3.7 Sonnet e tutti gli altri modelli Claude attuali, consulta Panoramica di tutti i modelli.
Modifiche ai token massimi e alla finestra di contesto con Claude 3.7 Sonnet
Nei modelli Claude più vecchi (prima di Claude 3.7 Sonnet), se la somma dei token del prompt e max_tokens superava la finestra di contesto del modello, il sistema avrebbe automaticamente regolato max_tokens per rientrare nel limite del contesto. Questo significava che potevi impostare un valore max_tokens grande e il sistema lo avrebbe ridotto silenziosamente secondo necessità.
Con Claude 3.7 Sonnet, max_tokens (che include il tuo budget di pensiero quando il pensiero è abilitato) viene applicato come limite rigoroso. Il sistema ora restituirà un errore di validazione se i token del prompt + max_tokens superano la dimensione della finestra di contesto.
Capacità di output esteso (beta)
Claude 3.7 Sonnet può anche produrre risposte sostanzialmente più lunghe rispetto ai modelli precedenti con supporto fino a 128K token di output (beta)—più di 15 volte più lunghe rispetto agli altri modelli Claude. Questa capacità espansa è particolarmente efficace per casi d’uso di pensiero esteso che coinvolgono ragionamenti complessi, generazione di codice ricca e creazione di contenuti completi.
Questa funzionalità può essere abilitata passando un header anthropic-beta di output-128k-2025-02-19.
Quando si utilizza il pensiero esteso con output più lunghi, è possibile allocare un budget di pensiero maggiore per supportare un ragionamento più approfondito, mantenendo comunque ampi token disponibili per la risposta finale.
Migrare a Claude 3.7 Sonnet da altri modelli
Se stai trasferendo prompt da un altro modello, sia esso un altro modello Claude o di un altro fornitore, ecco alcuni suggerimenti:
Migrazione in modalità standard
- Semplifica i tuoi prompt: Claude 3.7 Sonnet richiede meno guida. Rimuovi qualsiasi linguaggio di guida specifico per il modello che hai usato con le versioni precedenti, come il linguaggio relativo alla gestione della verbosità - tale linguaggio è probabilmente non necessario e risparmierà token e ridurrà i costi.
Altrimenti, generalmente non sono necessarie modifiche al prompt se stai usando Claude 3.7 Sonnet con il pensiero esteso disattivato. Se incontri problemi, applica le generali migliori pratiche di prompt engineering.
Migrazione in modalità di pensiero esteso
Quando si utilizza il pensiero esteso, inizia rimuovendo tutte le guide chain-of-thought (CoT) dai tuoi prompt. La capacità di pensiero di Claude 3.7 Sonnet è progettata per funzionare efficacemente senza istruzioni di ragionamento esplicite.
- Invece di prescrivere modelli di pensiero, osserva prima il processo di pensiero naturale di Claude, poi regola i tuoi prompt in base a ciò che vedi.
- Se poi vuoi fornire una guida al pensiero, puoi includere indicazioni in linguaggio naturale nel tuo prompt e Claude sarà in grado di generalizzare tali istruzioni nel proprio pensiero.
- Per ulteriori suggerimenti su come fare prompt per il pensiero esteso, consulta Suggerimenti per il pensiero esteso.
Migrazione da altri fornitori di modelli
Claude 3.7 Sonnet potrebbe rispondere diversamente ai modelli di prompt ottimizzati per i modelli di altri fornitori. Raccomandiamo di concentrarsi su istruzioni chiare e dirette piuttosto che su tecniche di prompt specifiche per fornitore. Rimuovere tali istruzioni su misura per specifici fornitori di modelli può portare a prestazioni migliori, poiché Claude è generalmente bravo a seguire istruzioni complesse fin dall’inizio.
Puoi utilizzare il nostro ottimizzatore di prompt migliorato su console.anthropic.com per assistenza nella migrazione dei prompt.
Prossimi passi
Was this page helpful?