Советы по работе с длинным контекстом

Расширенное окно контекста Claude (200 тысяч токенов для моделей Claude 3) позволяет обрабатывать сложные задачи с большим объемом данных. Это руководство поможет вам эффективно использовать эту возможность.

​

Основные советы по работе с длинными промптами

• Размещайте длинные данные вверху: Помещайте ваши длинные документы и входные данные (~20 тысяч+ токенов) ближе к началу промпта, над вашими запросами, инструкциями и примерами. Это может значительно улучшить производительность Claude для всех моделей.

  Размещение запросов в конце может улучшить качество ответов до 30% в тестах, особенно при работе со сложными входными данными из нескольких документов.

• Структурируйте содержимое документов и метаданные с помощью XML-тегов: При использовании нескольких документов оберните каждый документ в теги <document> с подтегами <document_content> и <source> (и другими метаданными) для ясности.

  Пример структуры с несколькими документами

  <documents>
    <document index="1">
      <source>annual_report_2023.pdf</source>
      <document_content>
        {{ANNUAL_REPORT}}
      </document_content>
    </document>
    <document index="2">
      <source>competitor_analysis_q2.xlsx</source>
      <document_content>
        {{COMPETITOR_ANALYSIS}}
      </document_content>
    </document>
  </documents>
  
  Проанализируйте годовой отчет и анализ конкурентов. Определите стратегические преимущества и порекомендуйте направления работы на третий квартал.
  

• Подкрепляйте ответы цитатами: Для задач с длинными документами попросите Claude сначала процитировать релевантные части документов, прежде чем выполнять задачу. Это помогает Claude отфильтровать “шум” из остального содержимого документа.

  Пример извлечения цитат

  Вы - ИИ-ассистент врача. Ваша задача - помогать докторам диагностировать возможные заболевания пациентов.
  
  <documents>
    <document index="1">
      <source>patient_symptoms.txt</source>
      <document_content>
        {{PATIENT_SYMPTOMS}}
      </document_content>
    </document>
    <document index="2">
      <source>patient_records.txt</source>
      <document_content>
        {{PATIENT_RECORDS}}
      </document_content>
    </document>
    <document index="3">
      <source>patient01_appt_history.txt</source>
      <document_content>
        {{PATIENT01_APPOINTMENT_HISTORY}}
      </document_content>
    </document>
  </documents>
  
  Найдите цитаты из медицинской карты и истории приемов, которые имеют отношение к диагностике reported симптомов пациента. Поместите их в теги <quotes>. Затем на основе этих цитат перечислите всю информацию, которая поможет врачу диагностировать симптомы пациента. Поместите диагностическую информацию в теги <info>.