Чтобы сравнить скрипты для продаж по телефону, нужно заранее выбрать одну метрику и случайно распределить сопоставимые звонки между версиями. Условия работы сохраняют до конца теста. После этого руководитель проверяет результат по согласованному правилу, а не выбирает вариант по первым впечатлениям команды.
Менеджер может предпочитать формулировку, с которой ему привычнее разговаривать. Но удобство само по себе не показывает, чаще ли клиенты соглашаются на следующий шаг. A/B-тест помогает отделить личное мнение от результата: одна группа работает по текущему сценарию, другая — по изменённому.
Что именно показывает A/B-тест скрипта
Тест показывает, меняет ли версия скрипта выбранный результат при сопоставимых условиях. Например, руководитель проверяет, влияет ли новая фраза в начале разговора на согласие обсудить предложение. Разница между группами относится ко всему пакету изменений, который команда внесла в тестовую версию.
Версия скрипта — это зафиксированный сценарий разговора: начало, вопросы, переход к предложению и работа с возражениями. В тесте можно заменить одну формулировку или целый блок. Чем больше изменений внесено сразу, тем труднее понять, какая именно часть повлияла на итог.
«Речевая аналитика превращает каждый разговор с клиентом в данные: видно, где теряются сделки и что менять в скриптах.»
Одновременно менять оффер, аудиторию и правила работы менеджеров не стоит. Иначе рост встреч может объясняться новой скидкой или более тёплыми лидами. Сам тест проверяет гипотезу о результате, а записи разговоров помогают искать возможные причины различия и формулировать следующую гипотезу.
Как выбрать метрику конверсии звонка
До запуска команда выбирает одну основную метрику и точно определяет успешный исход. Для первого контакта это может быть доля звонков, после которых клиент согласился на встречу. Правило должно объяснять и числитель, и знаменатель: какие встречи засчитывают и какие звонки входят в расчёт.
Конверсия звонка в следующий этап подходит, когда цель разговора — передать клиента на демонстрацию или получить согласие на расчёт. Назначенную встречу полезно считать только при согласованных дате и времени. Для короткого цикла продаж основной метрикой может стать оплата, если её удаётся связать с исходным звонком.
Состав знаменателя нужно закрепить заранее. Если тестируют фразу после соединения, можно сравнивать разговоры с целевым контактом. Если сценарий влияет и на попытку дозвона, разумнее считать результат от всех назначенных попыток. Выбор зависит от гипотезы; менять его после просмотра цифр нельзя.
Дополнительные показатели помогают заметить побочные эффекты. Например, новая фраза может повысить число встреч, но увеличить долю отмен или жалоб. Команда записывает такие сигналы отдельно и следит за ними в обеих группах. Они не заменяют основную метрику только потому, что выглядят выгоднее.
Как распределить звонки между версиями
Контрольная группа получает текущий скрипт, тестовая — новую версию. Звонки распределяют случайно и с одинаковой вероятностью, если нет причины выбрать другую пропорцию. При достаточном потоке это помогает сбалансировать группы по известным и неизвестным факторам, хотя не гарантирует полного совпадения.
Нельзя отдавать вариант A сильным менеджерам, а вариант B новичкам. Разница тогда смешается с опытом сотрудников. Один способ избежать перекоса — случайно назначать версию каждому подходящему клиенту, а затем давать обоим сценариям проходить через одного и того же менеджера.
Версию можно закрепить и за менеджером, если переключение между сценариями приводит к ошибкам. Но сотрудников обычно меньше, чем звонков, а результаты внутри команды связаны. При таком распределении нужен расчёт с учётом группировки по менеджерам; считать каждый звонок независимым наблюдением нельзя.

Стратификация означает случайное распределение внутри заранее заданных групп, например по источнику лида или менеджеру. Это помогает сохранить близкие пропорции. Версию лучше закрепить за клиентом в CRM до первого звонка и показывать при повторных попытках, чтобы один контакт не попал в обе группы.
Как определить размер выборки и срок теста
Размер выборки зависит от исходной конверсии, минимального полезного эффекта и статистических параметров. Универсального числа звонков нет. Для расчёта берут прошлую конверсию, желаемую чувствительность теста, допустимый риск ложного вывода и план распределения. Единица расчёта должна совпадать с единицей распределения.
Минимальный эффект выбирают по смыслу для бизнеса. Если внедрение нового сценария дорого обходится, небольшой прирост может не окупить обучение. Чем меньшую разницу команда хочет уверенно заметить, тем больше наблюдений обычно требуется. Слишком маленькая выборка может пропустить полезное изменение.
Для ориентира представим конверсию 20% и эффект до 25%. При независимых контактах, равных группах, двусторонней проверке с уровнем значимости 5% и мощности 80% приближённый расчёт даёт около 1 100 контактов на группу. Это пример, а не норматив: другой дизайн или исходная конверсия изменят результат.
Срок получают из нужного числа подходящих контактов и реального потока лидов. Его стоит покрыть полными рабочими циклами, чтобы в группы попали обычные будни и возможные выходные. Акции, праздники и сезонные сдвиги фиксируют отдельно. Если поток меняется, оценку срока пересматривают, не меняя правила остановки.
Как подготовить версии скрипта и команду
До старта руководитель фиксирует обе версии, правила их применения и инструкции для менеджеров. В документе отмечают номер версии, дату запуска и точное различие между сценариями. Например, в B вместо длинного представления стоит короткий вопрос о текущей задаче клиента; остальные блоки остаются прежними.
Менеджер не должен самостоятельно менять тестовую фразу, обещать новую скидку или переносить клиента в другую группу. При этом разговор не обязан звучать как чтение по бумаге. Можно заранее разрешить естественные уточнения и записать, какие отклонения допустимы без потери смысла сценария.
Короткое обучение лучше построить на одинаковых примерах для обеих версий. Команда разбирает назначение группы, правила записи исхода и действия при ошибке. Не стоит сообщать, какой вариант руководитель считает победителем: ожидания могут повлиять на поведение сотрудников и трактовку результатов.
Как размечать звонки и собирать данные
Для каждого контакта сохраняют назначенную версию, результат по основной метрике и признаки для проверки групп. В CRM или таблице достаточно начать с идентификатора клиента, даты, менеджера, источника и типа лида. Отдельно фиксируют факт соединения, исход разговора и ссылку на запись.
Полезно хранить и назначенную, и фактически использованную версию. Если сотрудник случайно прочитал другой сценарий, запись не должна исчезнуть из анализа. Основное сравнение обычно ведут по первоначальному назначению: так случайное распределение не ломается из-за отбора только удобных звонков.
Неполные записи помечают отдельным статусом и выясняют причину пропуска. Технические сбои исключают лишь по правилу, записанному до запуска, одинаково для обеих групп. Например, можно заранее определить порядок учёта обрыва до соединения. Число исключений и неизвестных исходов показывают рядом с результатом.
Речевая аналитика и разметка звонков помогают проверить, произнёс ли менеджер ключевую фразу и как клиент на неё отреагировал. ИИ-суфлёр OrbitAI может подсказывать следующий шаг в живом разговоре. Его настройки должны быть одинаковыми в обеих группах, если сами подсказки не входят в проверяемое изменение.
Как оценить результат и статистическую значимость
Сравнивать нужно заранее выбранную метрику в сопоставимых группах и проверять, достаточно ли наблюдений для вывода. Сначала команда сверяет назначения, пропуски и состав лидов. Затем считает конверсию каждой группы как число успешных исходов, делённое на число контактов по согласованному знаменателю.
Допустим, в группе A встречу назначили 200 из 1 000 клиентов, а в B — 240 из 1 000. Конверсии равны 20% и 24%. Разница составляет 4 процентных пункта, или относительный рост на 20% от уровня A. Это наблюдаемый результат примера, а не гарантия, что новая формулировка даст такой же эффект дальше.
Статистическая значимость помогает оценить, насколько наблюдение совместимо с предположением об отсутствии различия, при выбранной модели. Для решения также важен доверительный интервал: он показывает диапазон оценок эффекта по принятому методу. Порог значимости задают до теста с учётом цены ошибок, а не считают законом для всех случаев.
Если B выглядит лучше, но интервал широк и допускает как полезный рост, так и снижение, уверенного победителя пока нет. Нельзя останавливать тест при первой желаемой цифре и задним числом менять критерии. Плановые промежуточные проверки возможны, но их частоту и метод поправки согласуют до запуска.
Версия A и версия B: таблица сравнения
Таблица помогает заранее зафиксировать различие между версиями и общий способ сравнения. Её заполняют до первого тестового звонка и согласуют с командой. Так руководитель видит, что именно меняется в разговоре, а какие условия должны остаться одинаковыми до принятия решения.
| Что сравниваем | Версия A | Версия B | Как удержать условия одинаковыми |
|---|---|---|---|
| Содержание скрипта | Текущее начало разговора | Новое начало разговора | Оффер и остальные блоки не менять |
| Распределение звонков | Случайно назначенная контрольная группа | Случайно назначенная тестовая группа | Закрепить версию за клиентом до звонка |
| Основная метрика | Доля согласованных встреч | Доля согласованных встреч | Использовать единое определение встречи и знаменателя |
| Соблюдение сценария | Проверка записи по текущей фразе | Проверка записи по новой фразе | Одинаково размечать отклонения и пропуски |
| Правило решения | Оставить текущую версию при заданных условиях | Внедрить при выполнении заданного критерия | Заранее согласовать выборку, анализ и порог эффекта |
В строку с метрикой команда вписывает свой исход, а не обязательно встречу из примера. Рядом с правилом решения стоит сохранить ссылку на расчёт выборки и описание исключений. Если во время теста возникла непредвиденная ошибка, её фиксируют отдельно, не переписывая исходный план задним числом.
Одно существенное изменение за раз облегчает поиск причины результата. Если новая версия одновременно меняет приветствие, цену и порядок вопросов, тест сравнит весь пакет. Даже заметная разница не покажет вклад каждого элемента. Для отдельных выводов команда может запланировать следующие эксперименты.
Как внедрить победившую версию
Внедрять версию стоит после проверки качества записей, сопоставимости групп и заранее заданного критерия. При убедительном преимуществе руководитель утверждает текст, обновляет материалы и проводит обучение. Затем команда следит за той же метрикой и побочными показателями уже в обычной работе.
Если заметной разницы нет, текущий скрипт можно оставить, особенно когда замена требует затрат. При этом отсутствие статистической значимости само по себе не доказывает равенство версий. Если интервал широк или контактов мало, результат считают неопределённым и отдельно решают, нужен ли новый тест.
Вывод относится прежде всего к аудитории, продукту и условиям проведённого эксперимента. На другом сегменте или у новой команды сценарий может сработать иначе. Перед широким переносом полезно проверить результат на ограниченном потоке и не делать сильных выводов по малым подгруппам.
Результаты стоит сохранить вместе с исходным планом, расчётом и версиями сценария. Через несколько месяцев команда сможет понять, какие лиды участвовали в сравнении и почему приняла решение. Это особенно полезно, если предложение или состав менеджеров изменились и старый вывод нужно проверить заново.
Скрипт продаж по телефону не заменяет квалификацию менеджера и качество предложения. Он задаёт проверяемый способ вести разговор. Если тест не выявил ожидаемого улучшения, записи помогают найти новые гипотезы: например, изменить вопрос о потребности или иначе согласовать следующий шаг.
Автоматическая оценка тоже требует контроля. Если система пометила фразу как соблюдённую, руководитель может выборочно прослушать записи и проверить совпадение с ручной разметкой. Такая проверка повышает доверие к учёту сценария, но сама по себе не доказывает, что именно фраза вызвала рост продаж.
Перед новым запуском полезно сверить, можно ли повторить распределение и собрать нужный объём без смены условий. Если поток слишком мал, команда может ограничиться разведочным анализом разговоров. Его выводы пригодятся для подготовки гипотез, но не заменят полноценное сравнение двух случайных групп.
- Заранее выберите одну основную метрику и определите её знаменатель.
- Случайно распределите сопоставимых клиентов между контрольной и тестовой группами.
- Рассчитайте выборку по исходной конверсии, полезному эффекту и параметрам теста.
- Размечайте назначенную версию, исходы, отклонения и технические сбои.
- Принимайте решение по согласованным правилам с учётом качества записей и неопределённости.
Хотите так же?
Оставьте контакты — покажем подсказки суфлёра на вашем сценарии и посчитаем пилот.