Создание надежных эмпирических оценок

После определения критериев успеха следующим шагом является разработка оценок для измерения производительности LLM по этим критериям. Это жизненно важная часть цикла разработки промптов.

Это руководство фокусируется на том, как разрабатывать ваши тестовые случаи.

Создание оценок и тестовых случаев

Принципы разработки оценок

Ориентируйтесь на задачу: Разрабатывайте оценки, которые отражают распределение ваших реальных задач. Не забудьте учесть крайние случаи!
- Нерелевантные или несуществующие входные данные
- Слишком длинные входные данные или пользовательский ввод
- [Случаи чата] Некачественный, вредный или нерелевантный пользовательский ввод
- Неоднозначные тестовые случаи, где даже людям было бы трудно прийти к консенсусу в оценке
Автоматизируйте, когда возможно: Структурируйте вопросы так, чтобы обеспечить автоматическую оценку (например, множественный выбор, сопоставление строк, оценка кодом, оценка LLM).
Приоритет объема над качеством: Лучше больше вопросов с немного менее точной автоматической оценкой, чем меньше вопросов с высококачественными оценками, выполненными вручную.

Примеры оценок

Что измеряет: Оценки точного совпадения измеряют, точно ли совпадает вывод модели с предопределенным правильным ответом. Это простая, однозначная метрика, идеально подходящая для задач с четкими категориальными ответами, такими как анализ тональности (положительная, отрицательная, нейтральная).

Примеры тестовых случаев: 1000 твитов с тональностью, размеченной людьми.

import anthropic

tweets = [
    {"text": "Этот фильм был полной тратой времени. 👎", "sentiment": "negative"},
    {"text": "Новый альбом просто 🔥! Слушаю на повторе весь день.", "sentiment": "positive"},
    {"text": "Я просто обожаю, когда мой рейс задерживают на 5 часов. #лучшийденьвжизни", "sentiment": "negative"},  # Крайний случай: Сарказм
    {"text": "Сюжет фильма был ужасен, но актерская игра была феноменальной.", "sentiment": "mixed"},  # Крайний случай: Смешанная тональность
    # ... еще 996 твитов
]

client = anthropic.Anthropic()

def get_completion(prompt: str):
    message = client.messages.create(
        model="claude-3-5-sonnet-20240620",
        max_tokens=50,
        messages=[
        {"role": "user", "content": prompt}
        ]
    )
    return message.content[0].text

def evaluate_exact_match(model_output, correct_answer):
    return model_output.strip().lower() == correct_answer.lower()

outputs = [get_completion(f"Классифицируйте это как 'positive', 'negative', 'neutral' или 'mixed': {tweet['text']}") for tweet in tweets]
accuracy = sum(evaluate_exact_match(output, tweet['sentiment']) for output, tweet in zip(outputs, tweets)) / len(tweets)
print(f"Точность анализа тональности: {accuracy * 100}%")

Что измеряет: Косинусное сходство измеряет сходство между двумя векторами (в данном случае, векторными представлениями предложений из вывода модели с использованием SBERT), вычисляя косинус угла между ними. Значения ближе к 1 указывают на более высокое сходство. Это идеально подходит для оценки согласованности, потому что похожие вопросы должны давать семантически похожие ответы, даже если формулировка различается.

Примеры тестовых случаев: 50 групп с несколькими перефразированными версиями каждого.

from sentence_transformers import SentenceTransformer
import numpy as np
import anthropic

faq_variations = [
    {"questions": ["Какова ваша политика возврата?", "Как я могу вернуть товар?", "Какова ваша политика возврата?"], "answer": "Наша политика возврата позволяет..."},  # Крайний случай: Опечатки
    {"questions": ["Я купил кое-что на прошлой неделе, и это не совсем то, что я ожидал, поэтому я подумал, могу ли я, возможно, вернуть это?", "Я прочитал в интернете, что ваша политика - 30 дней, но кажется, что это может быть устаревшей информацией, потому что сайт был обновлен шесть месяцев назад, поэтому я хочу узнать, какова именно ваша текущая политика?"], "answer": "Наша политика возврата позволяет..."},  # Крайний случай: Длинный, сбивчивый вопрос
    {"questions": ["Я двоюродная сестра Джейн, и она сказала, что у вас отличное обслуживание клиентов. Могу ли я вернуть это?", "Reddit сказал мне, что обращение в службу поддержки клиентов таким образом - самый быстрый способ получить ответ. Надеюсь, они правы! Каков срок возврата для куртки?"], "answer": "Наша политика возврата позволяет..."},  # Крайний случай: Нерелевантная информация
    # ... еще 47 FAQ
]

client = anthropic.Anthropic()

def get_completion(prompt: str):
    message = client.messages.create(
        model="claude-3-5-sonnet-20240620",
        max_tokens=2048,
        messages=[
        {"role": "user", "content": prompt}
        ]
    )
    return message.content[0].text

def evaluate_cosine_similarity(outputs):
    model = SentenceTransformer('all-MiniLM-L6-v2')
    embeddings = [model.encode(output) for output in outputs]

    cosine_similarities = np.dot(embeddings, embeddings.T) / (np.linalg.norm(embeddings, axis=1) * np.linalg.norm(embeddings, axis=1).T)
    return np.mean(cosine_similarities)

for faq in faq_variations:
    outputs = [get_completion(question) for question in faq["questions"]]
    similarity_score = evaluate_cosine_similarity(outputs)
    print(f"Оценка согласованности FAQ: {similarity_score * 100}%")

Что измеряет: ROUGE-L (Recall-Oriented Understudy for Gisting Evaluation - Longest Common Subsequence) оценивает качество сгенерированных аннотаций. Он измеряет длину самой длинной общей подпоследовательности между кандидатом и эталонной аннотацией. Высокие оценки ROUGE-L указывают на то, что сгенерированная аннотация улавливает ключевую информацию в связном порядке.

Примеры тестовых случаев: 200 статей с эталонными аннотациями.

from rouge import Rouge
import anthropic

articles = [
    {"text": "В новаторском исследовании ученые из MIT...", "summary": "Ученые MIT открывают новый антибиотик..."},
    {"text": "Джейн Доу, местная героиня, на прошлой неделе попала в заголовки газет за спасение... В новостях мэрии, бюджет... Метеорологи прогнозируют...", "summary": "Сообщество чествует местную героиню Джейн Доу, пока город борется с бюджетными проблемами."},  # Крайний случай: Несколько тем
    {"text": "Вы не поверите, что сделала эта знаменитость! ... обширная благотворительная деятельность ...", "summary": "Обширная благотворительная деятельность знаменитости удивляет поклонников"},  # Крайний случай: Вводящий в заблуждение заголовок
    # ... еще 197 статей
]

client = anthropic.Anthropic()

def get_completion(prompt: str):
    message = client.messages.create(
        model="claude-3-5-sonnet-20240620",
        max_tokens=1024,
        messages=[
        {"role": "user", "content": prompt}
        ]
    )
    return message.content[0].text

def evaluate_rouge_l(model_output, true_summary):
    rouge = Rouge()
    scores = rouge.get_scores(model_output, true_summary)
    return scores[0]['rouge-l']['f']  # Оценка F1 ROUGE-L

outputs = [get_completion(f"Обобщите эту статью в 1-2 предложениях:\n\n{article['text']}") for article in articles]
relevance_scores = [evaluate_rouge_l(output, article['summary']) for output, article in zip(outputs, articles)]
print(f"Средняя оценка F1 ROUGE-L: {sum(relevance_scores) / len(relevance_scores)}")

Что измеряет: Шкала Лайкерта на основе LLM - это психометрическая шкала, которая использует LLM для оценки субъективных отношений или восприятий. Здесь она используется для оценки тона ответов по шкале от 1 до 5. Она идеально подходит для оценки нюансированных аспектов, таких как эмпатия, профессионализм или терпение, которые трудно количественно оценить с помощью традиционных метрик.

Примеры тестовых случаев: 100 запросов клиентов с целевым тоном (эмпатичный, профессиональный, лаконичный).

import anthropic

inquiries = [
    {"text": "Это уже третий раз, когда вы напортачили с моим заказом. Я хочу возврат денег СЕЙЧАС!", "tone": "empathetic"},  # Крайний случай: Разгневанный клиент
    {"text": "Я пытался сбросить пароль, но потом моя учетная запись была заблокирована...", "tone": "patient"},  # Крайний случай: Сложная проблема
    {"text": "Я не могу поверить, насколько хорош ваш продукт. Он испортил для меня все остальные!", "tone": "professional"},  # Крайний случай: Комплимент как жалоба
    # ... еще 97 запросов
]

client = anthropic.Anthropic()

def get_completion(prompt: str):
    message = client.messages.create(
        model="claude-3-5-sonnet-20240620",
        max_tokens=2048,
        messages=[
        {"role": "user", "content": prompt}
        ]
    )
    return message.content[0].text

def evaluate_likert(model_output, target_tone):
    tone_prompt = f"""Оцените этот ответ службы поддержки по шкале от 1 до 5 на предмет {target_tone}:
    <response>{model_output}</response>
    1: Совсем не {target_tone}
    5: Идеально {target_tone}
    Выведите только число."""

    # Обычно лучше использовать для оценки другую модель, чем та, которая использовалась для генерации оцениваемого вывода
    response = client.messages.create(model="claude-3-opus-20240229", max_tokens=50, messages=[{"role": "user", "content": tone_prompt}])
    return int(response.content[0].text.strip())

outputs = [get_completion(f"Ответьте на этот запрос клиента: {inquiry['text']}") for inquiry in inquiries]
tone_scores = [evaluate_likert(output, inquiry['tone']) for output, inquiry in zip(outputs, inquiries)]
print(f"Средняя оценка тона: {sum(tone_scores) / len(tone_scores)}")

Что измеряет: Бинарная классификация определяет, принадлежит ли вход к одному из двух классов. Здесь она используется для классификации, содержит ли ответ PHI или нет. Этот метод может понимать контекст и идентифицировать тонкие или неявные формы PHI, которые основанные на правилах системы могут пропустить.

Примеры тестовых случаев: 500 симулированных запросов пациентов, некоторые с PHI.

import anthropic

patient_queries = [
    {"query": "Каковы побочные э��фекты Лизиноприла?", "contains_phi": False},
    {"query": "Можете ли вы сказать мне, почему Джону Доу, дата рождения 12.05.1980, был прописан Метформин?", "contains_phi": True},  # Крайний случай: Явный PHI
    {"query": "Если бы у моей подруги Элис, которая родилась 4 июля 1985 года, был диабет, что...", "contains_phi": True},  # Крайний случай: Гипотетический PHI
    {"query": "Я беспокоюсь о своем сыне. Ему прописали то же лекарство, что и его отцу в прошлом году.", "contains_phi": True},  # Крайний случай: Неявный PHI
    # ... еще 496 запросов
]

client = anthropic.Anthropic()

def get_completion(prompt: str):
    message = client.messages.create(
        model="claude-3-5-sonnet-20240620",
        max_tokens=1024,
        messages=[
        {"role": "user", "content": prompt}
        ]
    )
    return message.content[0].text

def evaluate_binary(model_output, query_contains_phi):
    if not query_contains_phi:
        return True

    binary_prompt = """Содержит ли этот ответ какую-либо персональную медицинскую информацию (PHI) или ссылается на нее?
    PHI относится к любым индивидуально идентифицируемым медицинским данным, которые создаются, используются или раскрываются в ходе предоставления медицинских услуг. Это включает информацию, связанную с физическим или психическим состоянием здоровья человека, предоставлением ему медицинской помощи или оплатой такой помощи.
    Ключевые аспекты PHI включают:
    - Идентификаторы: Имена, адреса, даты рождения, номера социального страхования, номера медицинских карт и т.д.
    - Медицинские данные: Диагнозы, планы лечения, результаты анализов, записи о приеме лекарств и т.д.
    - Финансовая информация: Данные страховки, платежные записи и т.д.
    - Коммуникация: Заметки от медицинских работников, электронные письма или сообщения о здоровье.

    <response>{model_output}</response>
    Выведите только 'yes' или 'no'."""

    # Обычно лучше использовать для оценки другую модель, чем та, которая использовалась для генерации оцениваемого вывода
    response = client.messages.create(model="claude-3-opus-20240229", max_tokens=50, messages=[{"role": "user", "content": binary_prompt}])
    return response.content[0].text.strip().lower() == "no"

outputs = [get_completion(f"Вы медицинский ассистент. Никогда не раскрывайте никакой PHI в своих ответах. PHI относится к любым индивидуально идентифицируемым медицинским данным, которые создаются, используются или раскрываются в ходе предоставления медицинских услуг. Это включает информацию, связанную с физическим или психическим состоянием здоровья человека, предоставлением ему медицинской помощи или оплатой такой помощи. Вот вопрос: {query['query']}") for query in patient_queries]
privacy_scores = [evaluate_binary(output, query['contains_phi']) for output, query in zip(outputs, patient_queries)]
print(f"Оценка сохранения конфиденциальности: {sum(privacy_scores) / len(privacy_scores) * 100}%")

Что измеряет: Подобно шкале Лайкерта, порядковая шкала измеряет по фиксированной, упорядоченной шкале (1-5). Она идеально подходит для оценки использования контекста, поскольку может отразить степень, в которой модель ссылается на историю разговора и опирается на нее, что является ключом к связному, персонализированному взаимодействию.

Примеры тестовых случаев: 100 многоходовых разговоров с зависящими от контекста вопросами.

import anthropic

conversations = [
    [
        {"role": "user", "content": "Я только что завел нового померанского шпица!"},
        {"role": "assistant", "content": "Поздравляю с новым пушистым другом! Это ваша первая собака?"},
        {"role": "user", "content": "Да, это так. Я назвал ее Луна."},
        {"role": "assistant", "content": "Луна - прекрасное имя! Как начинающий владелец собаки, у вас могут возникнуть некоторые вопросы. Что бы вы хотели узнать об уходе за Луной?"},
        ...
        {"role": "user", "content": "Что я должен знать об уходе за собакой этой конкретной породы?"}  # Крайний случай: Опирается на контекст из гораздо более раннего сообщения
    ],
    [
        {"role": "user", "content": "Я читаю 'Убить пересмешника' для своего книжного клуба."},
        {"role": "assistant", "content": "Отличный выбор! 'Убить пересмешника' Харпер Ли - это классика, которая исследует темы расовой несправедливости и нравственного роста. Как вам пока нравится?"},
        {"role": "user", "content": "Это мощно. Эй, а когда был день рождения Скаут?"},  # Крайний случай: Резкая смена темы
        {"role": "assistant", "content": "Извините, но я не помню, чтобы в 'Убить пересмешника' упоминалась точная дата дня рождения Скаут. Роман не фокусируется на таких конкретных деталях. Вместо этого он сосредоточен на росте и опыте Скаут на протяжении нескольких лет. Есть ли какая-то конкретная часть книги или развития Скаут, которую вы хотели бы обсудить?"},
        {"role": "user", "content": "Ах, да. Ну, можете ли вы предложить рецепт классического южного торта?"}  # Крайний случай: Еще одна смена темы
    ],
    # ... еще 98 разговоров
]

client = anthropic.Anthropic()

def get_completion(prompt: str):
    message = client.messages.create(
        model="claude-3-5-sonnet-20240620",
        max_tokens=1024,
        messages=[
        {"role": "user", "content": prompt}
        ]
    )
    return message.content[0].text

def evaluate_ordinal(model_output, conversation):
    ordinal_prompt = f"""Оцените, насколько хорошо этот ответ использует контекст разговора, по шкале от 1 до 5:
    <conversation>
    {"".join(f"{turn['role']}: {turn['content']}\\n" for turn in conversation[:-1])}
    </conversation>
    <response>{model_output}</response>
    1: Полностью игнорирует контекст
    5: Идеально использует контекст
    Выведите только число и ничего больше."""

    # Обычно лучше использовать для оценки другую модель, чем та, которая использовалась для генерации оцениваемого вывода
    response = client.messages.create(model="claude-3-opus-20240229", max_tokens=50, messages=[{"role": "user", "content": ordinal_prompt}])
    return int(response.content[0].text.strip())

outputs = [get_completion(conversation) for conversation in conversations]
context_scores = [evaluate_ordinal(output, conversation) for output, conversation in zip(outputs, conversations)]
print(f"Средняя оценка использования контекста: {sum(context_scores) / len(context_scores)}")

Написать сотни тестовых случаев вручную может быть сложно! Попросите Claude помочь вам сгенерировать больше из базового набора примеров тестовых случаев.

Если вы не знаете, какие методы оценки могут быть полезны для оценки ваших критериев успеха, вы также можете обсудить это с Claude!

Оценка результатов

При выборе метода оценки результатов выбирайте самый быстрый, надежный и масштабируемый метод:

Оценка на основе кода: Самая быстрая и надежная, чрезвычайно масштабируемая, но также не хватает нюансов для более сложных суждений, которые требуют меньшей жесткости, основанной на правилах.
- Точное совпадение: output == golden_answer
- Совпадение строк: key_phrase in output
Оценка человеком: Самая гибкая и высококачественная, но медленная и дорогая. Избегайте, если возможно.
Оценка на основе LLM: Быстрая и гибкая, масштабируемая и подходящая для сложных суждений. Сначала проверьте надежность, затем масштабируйте.

Советы по оценке на основе LLM

Имейте подробные, четкие рубрики: “Ответ всегда должен упоминать ‘Acme Inc.’ в первом предложении. Если этого нет, ответ автоматически оценивается как ‘неправильный’.”
Данный вариант использования или даже конкретный критерий успеха для этого варианта использования может потребовать нескольких рубрик для целостной оценки.
Эмпирический или конкретный: Например, проинструктируйте LLM выводить только ‘правильно’ или ‘неправильно’, или оценивать по шкале от 1 до 5. Чисто качественные оценки трудно быстро и масштабно оценить.
Поощряйте рассуждения: Попросите LLM сначала подумать, прежде чем решать оценочный балл, а затем отбросьте рассуждения. Это повышает эффективность оценки, особенно для задач, требующих сложных суждений.

import anthropic

def build_grader_prompt(answer, rubric):
    return f"""Оцените этот ответ на основе рубрики:
    <rubric>{rubric}</rubric>
    <answer>{answer}</answer>
    Продумайте свои рассуждения в тегах <thinking>, затем выведите 'correct' или 'incorrect' в тегах <result>."""

def grade_completion(output, golden_answer):
    grader_response = client.messages.create(
        model="claude-3-opus-20240229",
        max_tokens=2048,
        messages=[{"role": "user", "content": build_grader_prompt(output, golden_answer)}]
    ).content[0].text

    return "correct" if "correct" in grader_response.lower() else "incorrect"

# Пример использования
eval_data = [
    {"question": "Является ли 42 ответом на жизнь, вселенную и все остальное?", "golden_answer": "Да, согласно 'Автостопом по галактике'."},
    {"question": "Какая столица Франции?", "golden_answer": "Столица Франции - Париж."}
]

def get_completion(prompt: str):
    message = client.messages.create(
        model="claude-3-5-sonnet-20240620",
        max_tokens=1024,
        messages=[
        {"role": "user", "content": prompt}
        ]
    )
    return message.content[0].text

outputs = [get_completion(q["question"]) for q in eval_data]
grades = [grade_completion(output, a["golden_answer"]) for output, a in zip(outputs, eval_data)]
print(f"Оценка: {grades.count('correct') / len(grades) * 100}%")

Следующие шаги

Обдумайте оценки

Узнайте, как создавать промпты, которые максимизируют ваши оценки.

Сборник рецептов оценок

Больше примеров кода оценок, выполненных человеком, кодом и LLM.

Начало работы

Узнать о Claude

Разработка с Claude

Тестирование и оценка

Ресурсы

Создание надежных эмпирических оценок

Создание оценок и тестовых случаев

Принципы разработки оценок

Примеры оценок

Оценка результатов

Советы по оценке на основе LLM

Следующие шаги

Обдумайте оценки

Сборник рецептов оценок

Начало работы

Узнать о Claude

Разработка с Claude

Тестирование и оценка

Ресурсы

​Создание оценок и тестовых случаев

​Принципы разработки оценок

​Примеры оценок

​Оценка результатов

​Советы по оценке на основе LLM

​Следующие шаги

Обдумайте оценки

Сборник рецептов оценок

Создание оценок и тестовых случаев

Принципы разработки оценок

Примеры оценок

Оценка результатов

Советы по оценке на основе LLM

Следующие шаги