Consejos para el uso de contexto largo

La ventana de contexto extendida de Claude (200K tokens para los modelos Claude 3) permite manejar tareas complejas y ricas en datos. Esta guía te ayudará a aprovechar este poder de manera efectiva.

​

Consejos esenciales para prompts con contexto largo

• Coloca los datos extensos en la parte superior: Ubica tus documentos largos y entradas (~20K+ tokens) cerca de la parte superior de tu prompt, por encima de tu consulta, instrucciones y ejemplos. Esto puede mejorar significativamente el rendimiento de Claude en todos los modelos.

  Las consultas al final pueden mejorar la calidad de la respuesta hasta en un 30% en las pruebas, especialmente con entradas complejas y multi-documento.

• Estructura el contenido del documento y los metadatos con etiquetas XML: Cuando uses múltiples documentos, envuelve cada documento en etiquetas <document> con subtags <document_content> y <source> (y otros metadatos) para mayor claridad.

  Ejemplo de estructura multi-documento

  <documents>
    <document index="1">
      <source>annual_report_2023.pdf</source>
      <document_content>
        {{ANNUAL_REPORT}}
      </document_content>
    </document>
    <document index="2">
      <source>competitor_analysis_q2.xlsx</source>
      <document_content>
        {{COMPETITOR_ANALYSIS}}
      </document_content>
    </document>
  </documents>
  
  Analiza el informe anual y el análisis de la competencia. Identifica las ventajas estratégicas y recomienda áreas de enfoque para el Q3.
  

• Fundamenta las respuestas con citas: Para tareas con documentos largos, pide a Claude que cite primero las partes relevantes de los documentos antes de realizar su tarea. Esto ayuda a Claude a filtrar el “ruido” del resto del contenido del documento.

  Ejemplo de extracción de citas

  Eres un asistente médico AI. Tu tarea es ayudar a los médicos a diagnosticar posibles enfermedades de los pacientes.
  
  <documents>
    <document index="1">
      <source>patient_symptoms.txt</source>
      <document_content>
        {{PATIENT_SYMPTOMS}}
      </document_content>
    </document>
    <document index="2">
      <source>patient_records.txt</source>
      <document_content>
        {{PATIENT_RECORDS}}
      </document_content>
    </document>
    <document index="3">
      <source>patient01_appt_history.txt</source>
      <document_content>
        {{PATIENT01_APPOINTMENT_HISTORY}}
      </document_content>
    </document>
  </documents>
  
  Encuentra citas de los registros del paciente y el historial de citas que sean relevantes para diagnosticar los síntomas reportados por el paciente. Colócalas en etiquetas <quotes>. Luego, basándote en estas citas, enumera toda la información que ayudaría al médico a diagnosticar los síntomas del paciente. Coloca tu información diagnóstica en etiquetas <info>.