Dicas para janela de contexto longo
A janela de contexto estendida do Claude (200K tokens para os modelos Claude 3) permite que ele lide com tarefas complexas que exigem o processamento de grandes quantidades de informações.
A janela de contexto estendida do Claude também permite simplificar fluxos de trabalho que anteriormente exigiam a divisão de entradas para caber em janelas de contexto mais curtas. Ao combinar entradas em um único prompt, você pode otimizar seu processo e aproveitar ao máximo os recursos do Claude.
Por exemplo, se sua aplicação anterior exigia dividir um documento longo em várias partes e processar cada parte separadamente, agora você pode fornecer o documento inteiro ao Claude em um único prompt. Isso não apenas simplifica seu código, mas também permite que o Claude tenha uma compreensão mais abrangente do contexto, potencialmente levando a melhores resultados.
Procurando técnicas gerais de engenharia de prompts? Confira nosso guia de engenharia de prompts.
Estruturando documentos longos
Ao trabalhar com documentos longos (particularmente com mais de 30K tokens), é essencial estruturar seus prompts de uma maneira que separe claramente os dados de entrada das instruções. Recomendamos usar tags XML para encapsular cada documento. Essa é a estrutura com a qual o Claude foi treinado para receber documentos longos e, portanto, é a estrutura com a qual o Claude está mais familiarizado:
Aqui estão alguns documentos para você consultar para sua tarefa:
<documents>
<document index="1">
<source>
(uma fonte identificadora única para este item - pode ser uma URL, nome de arquivo, hash, etc)
</source>
<document_content>
(o conteúdo de texto do documento - pode ser uma passagem, página da web, artigo, etc)
</document_content>