Расширенные модели мышления
Все модели Opus и Sonnet, выпущенные после Claude Sonnet 3.7, поддерживают как стандартный, так и расширенный режимы мышления. В стандартном режиме эти модели работают аналогично предыдущим моделям Claude. В режиме расширенного мышления Claude будет выводить свои размышления перед выдачей ответа, позволяя вам понять его процесс рассуждения.
Обзор расширенного мышления
Модели с расширенным мышлением работают в двух режимах:
- Стандартный режим: Аналогичен предыдущим моделям Claude, предоставляет прямые ответы без отображения внутренних рассуждений
- Режим расширенного мышления: Показывает процесс рассуждения Claude перед выдачей окончательного ответа
Когда использовать стандартный режим
Стандартный режим хорошо работает для большинства общих случаев использования, включая:
- Генерация общего контента
- Базовая помощь в программировании
- Рутинные агентные задачи
- Руководство по использованию компьютера
- Большинство разговорных приложений
Когда использовать режим расширенного мышления
Режим расширенного мышления превосходит в следующих ключевых областях:
- Комплексный анализ: Финансовый, юридический или анализ данных, включающий множество параметров и факторов
- Продвинутые задачи STEM: Математика, физика, исследования и разработки
- Обработка длинного контекста: Обработка и синтез информации из обширных входных данных
- Оптимизация с ограничениями: Проблемы с несколькими конкурирующими требованиями
- Детальная генерация данных: Создание комплексных таблиц или структурированных наборов информации
- Выполнение сложных инструкций: Чат-боты со сложными системными промптами и множеством факторов для учета
- Структурированные творческие задачи: Творческое письмо, требующее детального планирования, составления планов или управления несколькими элементами повествования
Чтобы узнать больше о том, как работает расширенное мышление, см. Расширенное мышление.
Начало работы с моделями расширенного мышления
Если вы впервые пробуете расширенное мышление, вот несколько советов:
- Начните со стандартного режима: Начните с использования выбранной модели Opus или Sonnet без расширенного мышления, чтобы установить базовую производительность
- Определите возможности для улучшения: Попробуйте включить режим расширенного мышления с низким бюджетом, чтобы увидеть, выиграет ли ваш случай использования от более глубоких рассуждений. Возможно, вашему случаю использования больше пригодится более детальное составление промптов в стандартном режиме, чем расширенное мышление от Claude.
- Постепенное внедрение: При необходимости постепенно увеличивайте бюджет на мышление, тестируя производительность в соответствии с вашими требованиями.
- Оптимизируйте использование токенов: Как только вы достигнете приемлемой производительности, установите соответствующие ограничения токенов для управления затратами.
- Исследуйте новые возможности: Наши последние модели Opus и Sonnet, с расширенным мышлением и без него, более способны, чем предыдущие модели Claude в различных областях. Мы рекомендуем вам попробовать эти модели для случаев использования, где вы ранее испытывали ограничения с другими моделями.
Разработка с моделями расширенного мышления
Общая информация о модели
Для получения информации о ценах, размере контекстного окна и другой информации о всех текущих моделях Claude с поддержкой расширенного мышления см. Обзор всех моделей.
Изменения max_tokens и контекстного окна в моделях с расширенным мышлением
В более старых моделях Claude (до моделей с расширенным мышлением), если сумма токенов промпта и max_tokens
превышала контекстное окно модели, система автоматически корректировала max_tokens
, чтобы уместиться в пределах контекстного ограничения. Это означало, что вы могли установить большое значение max_tokens
, и система автоматически уменьшала его по мере необходимости.
В моделях с расширенным мышлением max_tokens
(который включает ваш бюджет на мышление, когда мышление включено) применяется как строгое ограничение. Теперь система вернет ошибку валидации, если токены промпта + max_tokens
превысят размер контекстного окна.
Миграция на модели с расширенным мышлением с более старых моделей
Если вы переносите промпты с другой модели, будь то другая модель Claude или от другого поставщика моделей, вот несколько советов:
Миграция в стандартном режиме
- Упростите ваши промпты: Модели с расширенным мышлением требуют меньшего управления. Удалите любой язык руководства, специфичный для модели, который вы использовали с предыдущими версиями, например, язык, касающийся обработки многословности - такой язык, вероятно, не нужен и сэкономит токены и снизит затраты.
В остальном, как правило, изменения промптов не требуются, если вы используете эти модели с отключенным расширенным мышлением. Если вы столкнетесь с проблемами, применяйте общие лучшие практики инженерии промптов.
Миграция в режиме расширенного мышления
При использовании расширенного мышления начните с удаления всех инструкций по цепочке рассуждений (CoT) из ваших промптов. Модели с расширенным мышлением разработаны для эффективной работы без явных инструкций по рассуждению.
- Вместо того, чтобы предписывать шаблоны мышления, сначала наблюдайте за естественным процессом мышления Claude, а затем корректируйте свои промпты на основе того, что вы видите.
- Если вы затем хотите предоставить руководство по мышлению, вы можете включить руководство на естественном языке в свой промпт, и Claude сможет обобщить такие инструкции в своем собственном мышлении.
- Для получения дополнительных советов о том, как составлять промпты для расширенного мышления, см. Советы по расширенному мышлению.
Миграция с других поставщиков моделей
Модели расширенного мышления Claude могут реагировать иначе на шаблоны промптов, оптимизированные для моделей других поставщиков. Мы рекомендуем сосредоточиться на четких, прямых инструкциях, а не на методах промптинга, специфичных для конкретного поставщика. Удаление таких инструкций, адаптированных для конкретных поставщиков моделей, может привести к лучшей производительности, поскольку Claude, как правило, хорошо справляется со сложными инструкциями из коробки.
Вы можете использовать наш оптимизированный улучшитель промптов на console.anthropic.com для помощи с миграцией промптов.
Следующие шаги
Попробуйте сборник рецептов расширенного мышления
Изучите практические примеры мышления в нашем сборнике рецептов.
Документация по расширенному мышлению
Узнайте больше о том, как работает расширенное мышление и как реализовать его вместе с другими функциями, такими как использование инструментов и кэширование промптов.