Расширенные модели мышления

Claude 3.7 Sonnet - это гибридная модель, способная работать как в стандартном режиме мышления, так и в режиме расширенного мышления. В стандартном режиме Claude 3.7 Sonnet работает аналогично другим моделям семейства Claude 3. В режиме расширенного мышления Claude будет показывать ход своих рассуждений перед выдачей ответа, позволяя вам понять процесс его рассуждений.

​

Обзор Claude 3.7

Claude 3.7 Sonnet работает в двух режимах:

• Стандартный режим: Аналогичен предыдущим моделям Claude, предоставляет прямые ответы без демонстрации внутренних рассуждений
• Режим расширенного мышления: Показывает процесс рассуждений Claude перед предоставлением окончательного ответа

​

Когда использовать стандартный режим

Стандартный режим хорошо подходит для большинства общих случаев использования, включая:

• Создание общего контента
• Базовая помощь в программировании
• Рутинные агентные задачи
• Руководство по использованию компьютера
• Большинство разговорных приложений

​

Когда использовать режим расширенного мышления

Режим расширенного мышления особенно эффективен в следующих ключевых областях:

• Комплексный анализ: Финансовый, юридический или анализ данных с множеством параметров и факторов
• Продвинутые задачи STEM: Математика, физика, исследования и разработки
• Обработка длинного контекста: Обработка и синтез информации из обширных входных данных
• Оптимизация ограничений: Задачи с множеством конкурирующих требований
• Детальная генерация данных: Создание комплексных таблиц или структурированных наборов информации
• Следование сложным инструкциям: Чатботы со сложными системными промптами и множеством факторов для учета
• Структурированные творческие задачи: Креативное письмо, требующее детального планирования, составления планов или управления множеством повествовательных элементов

Чтобы узнать больше о том, как работает расширенное мышление, см. Расширенное мышление.

​

Начало работы с Claude 3.7 Sonnet

Если вы впервые пробуете Claude 3.7 Sonnet, вот несколько советов:

1. Начните со стандартного режима: Начните использовать Claude 3.7 Sonnet без расширенного мышления, чтобы установить базовую производительность
2. Определите возможности для улучшения: Попробуйте включить режим расширенного мышления с низким бюджетом, чтобы понять, принесет ли вашему случаю пользу более глубокое рассуждение. Возможно, вашему случаю больше пойдет на пользу более детальный промптинг в стандартном режиме, чем расширенное мышление Claude.
3. Постепенное внедрение: При необходимости постепенно увеличивайте бюджет на мышление, тестируя производительность относительно ваших требований.
4. Оптимизируйте использование токенов: Когда вы достигнете приемлемой производительности, установите соответствующие лимиты токенов для управления затратами.
5. Исследуйте новые возможности: Claude 3.7 Sonnet, с расширенным мышлением и без него, более способен, чем предыдущие модели Claude в различных областях. Мы рекомендуем попробовать Claude 3.7 Sonnet для случаев использования, где вы ранее сталкивались с ограничениями других моделей.

​

Разработка с Claude 3.7 Sonnet

​

Общая информация о модели

Информацию о ценах, размере контекстного окна и другую информацию о Claude 3.7 Sonnet и всех других текущих моделях Claude см. в разделе Обзор всех моделей.

​

Изменения max_tokens и контекстного окна в Claude 3.7 Sonnet

В старых моделях Claude (до Claude 3.7 Sonnet), если сумма токенов промпта и max_tokens превышала размер контекстного окна модели, система автоматически корректировала max_tokens, чтобы уместиться в пределы контекста. Это означало, что вы могли установить большое значение max_tokens, и система молча уменьшала его по мере необходимости.

В Claude 3.7 Sonnet max_tokens (который включает ваш бюджет на мышление, когда мышление включено) применяется как строгое ограничение. Теперь система будет возвращать ошибку валидации, если токены промпта + max_tokens превышают размер контекстного окна.

​

Расширенные возможности вывода (бета)

Claude 3.7 Sonnet также может создавать значительно более длинные ответы, чем предыдущие модели, с поддержкой до 128K выходных токенов (бета) — более чем в 15 раз длиннее, чем другие модели Claude. Эта расширенная возможность особенно эффективна для случаев использования расширенного мышления, включающих сложные рассуждения, богатую генерацию кода и комплексное создание контента.

Эту функцию можно включить, передав заголовок anthropic-beta со значением output-128k-2025-02-19.

При использовании расширенного мышления с более длинными выходными данными вы можете выделить больший бюджет на мышление для поддержки более тщательных рассуждений, при этом все еще имея достаточно токенов для окончательного ответа.

​

Миграция на Claude 3.7 Sonnet с других моделей

Если вы переносите промпты с другой модели, будь то другая модель Claude или от другого поставщика моделей, вот несколько советов:

​

Миграция стандартного режима

• Упростите ваши промпты: Claude 3.7 Sonnet требует меньше управления. Удалите любой специфический для модели язык руководства, который вы использовали с предыдущими версиями, например, язык относительно обработки многословности - такой язык, вероятно, не нужен и сэкономит токены и снизит затраты.

В остальном, как правило, никаких изменений в промптах не требуется, если вы используете Claude 3.7 Sonnet с выключенным расширенным мышлением. Если возникают проблемы, применяйте общие лучшие практики промпт-инжиниринга.

​

Миграция режима расширенного мышления

При использовании расширенного мышления начните с удаления всех инструкций по цепочке рассуждений (CoT) из ваших промптов. Возможность мышления Claude 3.7 Sonnet разработана для эффективной работы без явных инструкций по рассуждению.

• Вместо того чтобы предписывать шаблоны мышления, сначала наблюдайте за естественным процессом мышления Claude, затем корректируйте ваши промпты на основе увиденного.
• Если вы затем хотите предоставить руководство по мышлению, вы можете включить указания на естественном языке в ваш промпт, и Claude сможет обобщить такие инструкции в своем собственном мышлении.
• Дополнительные советы о том, как составлять промпты для расширенного мышления, см. в разделе Советы по расширенному мышлению.

​

Миграция с других поставщиков моделей

Claude 3.7 Sonnet может реагировать иначе на шаблоны промптов, оптимизированные для моделей других поставщиков. Мы рекомендуем сосредоточиться на четких, прямых инструкциях, а не на специфических для поставщика методах промптинга. Удаление таких инструкций, адаптированных для конкретных поставщиков моделей, может привести к лучшей производительности, так как Claude обычно хорошо справляется со сложными инструкциями изначально.

​

Следующие шаги