Обзор

Claude демонстрирует надежные многоязычные возможности, показывая особенно хорошие результаты в задачах с нулевым примером на разных языках. Модель поддерживает стабильную относительную производительность как для широко распространенных, так и для менее распространенных языков, что делает ее надежным выбором для многоязычных приложений.

Обратите внимание, что Claude способен работать со многими языками помимо тех, что указаны в тестах ниже. Мы рекомендуем тестировать модель с любыми языками, которые актуальны для ваших конкретных случаев использования.

Данные о производительности

Ниже приведены оценки для моделей Claude 3.5 при выполнении задач с нулевым примером на разных языках, показанные в процентах относительно производительности на английском языке (100%):

ЯзыкClaude 3.5 Sonnet (Новый)Claude 3.5 Haiku
Английский (базовый, фиксированный 100%)100%100%
Французский96.2%95.3%
Испанский96.9%94.6%
Португальский (Бразилия)96.0%94.6%
Итальянский95.6%95.0%
Немецкий94.0%92.5%
Китайский (упрощенный)92.8%90.9%
Индонезийский94.0%91.2%
Японский92.7%90.8%
Корейский92.8%89.1%
Арабский92.5%84.7%
Хинди89.3%80.1%
Бенгальский85.9%72.9%
Суахили83.9%64.7%
Йоруба64.9%46.1%
  • Большинство европейских языков сохраняют более 95% относительной производительности по сравнению с английским
  • Восточноазиатские языки (китайский, японский, корейский) показывают стабильную производительность около 92-93% относительно английского

Эти метрики основаны на MMLU (Massive Multitask Language Understanding) тестовых наборах на английском языке, которые были переведены на 14 дополнительных языков профессиональными переводчиками, как документировано в репозитории simple-evals от OpenAI. Использование профессиональных переводчиков для этой оценки обеспечивает высокое качество переводов, что особенно важно для языков с меньшим количеством цифровых ресурсов.


Лучшие практики

При работе с многоязычным контентом:

  1. Предоставляйте четкий языковой контекст: Хотя Claude может автоматически определять целевой язык, явное указание желаемого языка ввода/вывода повышает надежность. Для улучшения беглости речи вы можете попросить Claude использовать “идиоматическую речь, как если бы он был носителем языка.”
  2. Используйте родные системы письма: Отправляйте текст в его родной системе письма, а не в транслитерации для оптимальных результатов
  3. Учитывайте культурный контекст: Эффективная коммуникация часто требует понимания культурных и региональных особенностей помимо чистого перевода

Мы также рекомендуем следовать нашим общим рекомендациям по составлению промптов для улучшения производительности Claude.


Особенности языковой поддержки

  • Claude обрабатывает ввод и генерирует вывод на большинстве мировых языков, использующих стандартные символы Unicode
  • Производительность варьируется в зависимости от языка, с особенно сильными возможностями в широко распространенных языках
  • Даже для языков с меньшим количеством цифровых ресурсов Claude сохраняет значимые возможности