На одной вакансии рекрутера и ИИ можно сравнить по скорости и качеству первичного отбора. Для этого кандидатов распределяют между двумя процессами, а требования к ним оставляют одинаковыми. В конце команда смотрит не только на время ответа, но и на результаты интервью и затраты. Без таких условий разницу легко принять за эффект инструмента, хотя причина окажется в другом источнике откликов.

Скорость ответа показывает, как быстро кандидат получает первый содержательный контакт. Но быстрое приглашение ещё не означает, что человек подходит вакансии и дойдёт до интервью. Рядом со скоростью нужны конверсия в интервью, оценка по единым критериям и стоимость кандидата, который прошёл согласованный порог качества. Все показатели считают отдельно для каждой группы.

Пилот не обязан заранее доказывать пользу автоматизации. Он может показать, что рекрутер лучше разбирает сложные случаи, а ИИ полезен на части потока. Может оказаться и так, что различия слишком малы или выборка слишком короткая для вывода. Поэтому команда до запуска записывает правила сравнения и условия, при которых остановит тест или продлит наблюдение.

Что сравнивать на одной вакансии

Сравнивают два процесса обработки откликов, а не профессии и не инструменты вообще. Один поток проходит первичный отбор у рекрутера, другой — через ИИ-рекрутера с заранее описанными правилами. В обоих случаях задача одна: получить ответ кандидата на ключевые вопросы и решить, стоит ли передать его на интервью. Финальное решение о найме в это сравнение не входит.

Границу первичного отбора нужно записать до старта. Например, процесс начинается с поступления отклика и заканчивается решением передать кандидата интервьюеру или отказать. Первый контакт, уточняющие вопросы и проверка обязательных условий входят в обе ветки. Само интервью служит последующей проверкой качества, а не частью измеряемого времени первичного решения.

Условия вакансии должны совпадать: название роли, зарплатный диапазон, график, обязательный опыт и место работы. Команда также согласует вопросы, причины отказа и правило передачи на интервью. Если в одной группе требуется опыт от двух лет, а в другой проверяют только готовность учиться, сравнить качество уже нельзя. Изменение требований во время теста фиксируют отдельно.

«Речевая аналитика превращает каждый разговор с клиентом в данные: видно, где теряются сделки и что менять в скриптах.»
Имя Фамилия Должность, компания

Источник кандидатов и период набора влияют на результат не меньше инструмента. Отклики с разных площадок могут отличаться опытом и готовностью к смене работы. Поэтому обе ветки получают кандидатов из одного потока одновременно. Скорость измеряют по временным отметкам, а качество проверяют по решениям и результатам интервью. Это разные показатели, и один не заменяет другой.

Как организовать A/B-тест рекрутера и ИИ

A/B-тест начинается с одной вакансии, стабильных требований и достаточного потока откликов. Руководитель найма вместе с рекрутером записывает обязательные условия и признаки, по которым кандидата передадут дальше. Эти же правила получает ИИ. До первых распределений команда фиксирует метрики, длительность пилота и пороги, при которых результат сочтут приемлемым.

Новые отклики случайно распределяют между двумя ветками сразу после поступления. Способ распределения и назначенную группу сохраняют в журнале, включая случаи, когда контакт не состоялся. Ручной выбор по впечатлению нарушает сравнение: сложные резюме могут незаметно попасть к человеку, а очевидные — к ИИ. Повторные отклики одного человека лучше объединить и оставить в исходной группе.

Входные условия выравнивают по источнику и времени поступления отклика. Например, случайное распределение можно вести отдельно внутри каждого канала и рабочего или нерабочего времени. Так ночные отклики не окажутся преимущественно в одной ветке. Если поток мал, различия по каналам и часам всё равно показывают при анализе, а не скрывают за общей средней скоростью.

Схема пилота: случайное распределение откликов на одну вакансию между рекрутером и ИИ с общей оценкой результатов

Доступность человека и ИИ может различаться. Для честного сравнения заранее выбирают режим: обычный график каждого процесса или одинаковые часы обработки. Первый вариант показывает эффект реального сервиса, второй помогает отделить способ отбора от круглосуточной доступности. Режим указывают рядом с результатом, а время ответа дополнительно разбирают по рабочим и нерабочим часам.

Срок теста определяют до запуска вместе с минимальным объёмом потока и датой подведения итогов. Также записывают правила остановки: например, серьёзная ошибка в требованиях, жалоба на некорректный вопрос или сбой передачи откликов. Если правила менялись, результаты до и после изменения не смешивают без пометки. Маленькая выборка допускает только осторожный предварительный вывод.

≈5000 резюме
Исследователи отправили работодателям около этого числа вымышленных резюме, изучая различия в ответах на отклики. Это исследование не сравнивало рекрутера с ИИ.

Исследование резюме показывает, зачем следить за составом потока и правилами оценки. Его результаты не предсказывают исход конкретного пилота и не доказывают преимущество человека или алгоритма. При анализе важно отдельно проверять, не получают ли разные группы кандидатов систематически разные условия обработки и одинаково ли применяются требования вакансии.

Какие метрики измерять

Скорость ответа считают от поступления отклика до первого содержательного контакта с кандидатом. Отдельно измеряют время от отклика до решения по первичному отбору. Для каждой ветки показывают медиану: половина завершённых случаев оказалась быстрее неё, половина медленнее. Незавершённые случаи на дату среза указывают отдельно, чтобы долгие ожидания не исчезли из отчёта.

Конверсия в интервью — число кандидатов, которые фактически прошли интервью, делённое на всех кандидатов, распределённых в ветку за период набора. Приглашения и записи на встречу полезно считать отдельно: кандидат может согласиться, но не прийти. Одинаковое определение и единый знаменатель позволяют сопоставить группы без подмены результата промежуточным действием.

Качество первичного отбора можно выразить долей кандидатов, которые прошли единый порог оценки интервьюера. В числителе — люди с подтверждённым результатом, в знаменателе — все распределённые в ветку кандидаты. Дополнительно показывают ту же долю среди прошедших интервью и число случаев без оценки. Эти показатели отвечают на разные вопросы, поэтому их не смешивают.

Стоимость обработки считают как затраты ветки за период, делённые на число распределённых кандидатов. Стоимость кандидата с подтверждённым качеством получают делением тех же затрат на число людей, прошедших согласованный порог. Если подходящих кандидатов пока нет, показатель не рассчитывают. В отчёте сохраняют состав затрат и период наблюдения, чтобы формулы можно было проверить.

50%
В исследовании фиктивных откликов резюме с именами, воспринимаемыми как имена белых американцев, получали на столько больше приглашений к контакту, чем резюме с именами, воспринимаемыми как афроамериканские.

Эта цифра относится к конкретному полевому исследованию в США, а не к скорости ИИ или качеству найма в пилоте. Она показывает, что различия при отклике стоит проверять, а не объяснять только профессиональными признаками. Для собственного теста команда заранее выбирает законные и уместные способы контроля смещений и не собирает лишние чувствительные сведения.

Рекрутер и ИИ: сравнительная таблица и интерпретация

Таблица помогает сравнить процессы по одним и тем же определениям, но не заменяет результаты пилота. До теста нельзя надёжно назвать скорость, конверсию, качество или стоимость конкретной ветки. Их заполняют после установленного периода и проверки записей. Доступность и ограничения описывают по фактическому графику работы и настройкам выбранного инструмента.

Что сопоставить в двух ветках первичного отбора
ПоказательРекрутерИИ-рекрутер
Скорость ответаИзмерить от отклика до контактаИзмерить по тем же отметкам
ДоступностьЗафиксировать фактический графикЗафиксировать часы работы и сбои
Последовательность оценкиПроверить применение общих критериевПроверить применение тех же критериев
Конверсия в интервьюПосчитать от всех распределённыхПосчитать с тем же знаменателем
Качество отбораПроверить по единой оценке интервьюПроверить по той же оценке
СтоимостьУчесть время и затраты веткиУчесть инструмент и время команды
ОграниченияПроверить нагрузку и графикПроверить ошибки, настройки и эскалацию

Читать таблицу стоит по строкам и с учётом размера каждой группы. Быстрый ответ может сопровождаться низкой долей дошедших до интервью или большим числом спорных отказов. В таком случае преимущество по времени не доказывает преимущество по качеству. Напротив, более медленный процесс требует проверки: возможно, часть задержки вызвана графиком, а не сложностью оценки.

Конверсии сравнивают после того, как у кандидатов обеих веток было достаточно времени дойти до интервью. Если свежие отклики одной группы ещё ждут встречи, её результат будет искусственно ниже. Для каждого набора откликов задают одинаковое окно наблюдения. Количество незавершённых случаев и причины пропусков показывают рядом с процентом, а не прячут в примечания.

Разница в несколько случаев на небольшой выборке может легко измениться при следующем наборе откликов. Поэтому рядом с процентами показывают числитель и знаменатель, а при возможности — интервалы неопределённости. Команда не объявляет победителя только по самой высокой цифре. Если данных мало или результаты противоречивы, пилот продлевают либо признают вывод предварительным.

Как оценить качество кандидатов

Критерии качества согласуют до первого отклика и записывают в короткую оценочную форму. Формальные требования отвечают на вопрос, выполнены ли обязательные условия вакансии. Пригодность к следующему этапу шире: кандидат может подтвердить нужный навык в разговоре, даже если описал опыт другими словами. За каждое решение команда сохраняет понятную причину, связанную с вакансией.

Интервьюеры используют одинаковые вопросы или единую шкалу для обеих веток. Если возможно, они не видят, кто провёл первичный отбор: это снижает влияние ожиданий от ИИ и человека. Оценку записывают сразу после встречи, до обсуждения результата с рекрутером. При этом отсутствие отметки не считают ни успехом, ни отказом, а показывают как пропуск.

Число приглашений не доказывает качество найма. Полезнее смотреть, сколько распределённых кандидатов прошли интервью и подтвердили согласованный порог, а затем сколько дошли до следующего этапа или получили предложение. Для более поздних результатов нужно одинаковое окно наблюдения. Итог найма зависит и от зарплаты, и от решений команды, поэтому его нельзя целиком приписать первичному отбору.

Проверка только по совпадению слов в резюме может отсеять человека с подходящим опытом. ИИ рекрутер проверяет на примерах разных формулировок, а спорные отказы выборочно пересматривает по тем же правилам, что и решения коллег. Чтобы заметить пропущенных кандидатов, независимый проверяющий оценивает случайную выборку отказов в обеих ветках. Все такие случаи учитывают в отчёте.

Как посчитать стоимость первичного отбора

Стоимость первичного отбора складывают из расходов, которые действительно относятся к каждой ветке. Для рекрутера это время на чтение откликов, контакт, уточнение ответов и запись решения. Для ИИ добавляют плату за инструмент, настройку, обработку обращений и время человека на контроль. Общие расходы распределяют по заранее выбранному правилу и отдельно показывают его в расчёте.

Время сотрудников переводят в стоимость по единой внутренней ставке и одному правилу учёта. Если человек проверяет решения ИИ или исправляет ошибочные карточки, эти минуты относят к ветке ИИ. Если он помогает обеим группам, работу распределяют между ними. Затраты на интервью после первичного решения можно исключить, но тогда исключение должно действовать для обеих веток.

Для стоимости обработанного кандидата делят затраты ветки на число людей, распределённых в неё за один период. Для стоимости кандидата, прошедшего порог качества, используют другой знаменатель: число таких людей после интервью. Второй показатель учитывает полезный результат, но появляется позже. Обе формулы показывают рядом с числами, включая расходы на настройку и контроль.

Разовые расходы на запуск могут заметно влиять на короткий пилот. Их стоит показать отдельно от повторяющихся затрат, а затем объяснить способ распределения, если компания оценивает дальнейшую работу. Прогноз экономии не подменяет фактический расчёт. Разные сроки, состав расходов или определения подходящего кандидата делают итоговые суммы несопоставимыми даже при одинаковой вакансии.

Как провести пилот: последовательность действий

Сначала руководитель найма утверждает одну вакансию, обязательные условия и форму оценки. Команда описывает начало и конец первичного отбора, выбирает метрики и сохраняет план до поступления первых откликов. В плане также указывают период набора, окно ожидания интервью и признаки досрочной остановки. Изменения после старта записывают с датой и причиной.

Затем ответственный за пилот подключает единый поток и проверяет случайное распределение. В журнале каждому кандидату присваивают группу, источник и время поступления отклика. Повторные обращения связывают с первоначальной записью. Перед запуском полезно проверить маршрут на тестовых карточках, чтобы случайный сбой интеграции не лишил одну ветку части потока.

Во время пилота обе ветки сохраняют время первого контакта и решения, сам результат и причину отказа либо перехода дальше. После интервью к записи добавляют дату встречи и оценку по общей шкале. Затраты и время сотрудников собирают по выбранным правилам. Доступ к сведениям ограничивают, а сроки хранения и порядок обработки согласуют с требованиями закона и политикой компании.

Ответственный за качество регулярно сверяет карточки с журналом распределения и проверяет пропущенные отметки. Рекрутер разбирает спорные решения ИИ и человека по одной форме; при разногласии привлекают руководителя найма. Исправления сохраняют вместе с исходным решением и причиной пересмотра. Так можно отличить качество первого решения от результата последующей ручной проверки.

После периода набора команда даёт кандидатам одинаковое время дойти до интервью и закрывает срез. Затем проверяет число записей в ветках, считает метрики и показывает незавершённые случаи. Итоги обсуждают вместе с ограничениями: изменением вакансии, сбоями, малым потоком и пропусками оценок. Решение о продолжении или расширении пилота фиксируют отдельно от исходных показателей.

Когда выбрать рекрутера, ИИ или сочетание подходов

Передачу части отбора ИИ поддерживает пилот, в котором процесс достиг заранее согласованного порога качества и показал приемлемые скорость и стоимость. При этом рекрутер ИИ не заменяет без контроля: спорные ответы, жалобы и ошибки требуют понятного маршрута к человеку. Если качество падает или причины отказа нельзя проверить, автоматическое решение не стоит расширять.

Рекрутера разумно оставить на сложных случаях, где важны контекст, уточнения и неоднозначный опыт кандидата. Смешанный процесс подходит, когда ИИ надёжно собирает ответы на стандартные вопросы, а человек проверяет спорные решения и ведёт дальнейший разговор. Выбор зависит от фактического теста и условий вакансии, а не от общего обещания ускорить найм.

Итог: как принять решение по результатам пилота

Решение опирается на одинаковые требования, случайное распределение откликов и единые определения метрик. Скорость ответа рассматривают вместе с конверсией в интервью, оценкой кандидатов и затратами. Качество проверяют после интервью и на выборке отказов. Если результаты неоднозначны, полезнее продлить наблюдение, чем объявить победителя по одному показателю.

Перед публикацией статьи частотность запросов и главный высокочастотный ключ нужно проверить в сервисе статистики запросов: подтверждённых частот для выбора пока нет. Рабочий заголовок не выдаёт предположение за проверенный результат. Для решения по самому пилоту сохраняют исходные показатели, ограничения и правило, по которому команда выбрала следующий шаг.

Ключевые выводы
  • Сравнивайте процессы на одной вакансии и распределяйте отклики случайно.
  • Считайте скорость, конверсию, качество и стоимость с едиными определениями.
  • Проверяйте оценки интервьюеров и выборку отказов в обеих ветках.
  • Не объявляйте победителя без достаточных данных и проверки ограничений.
  • Сохраняйте контроль человека над спорными решениями ИИ.

Хотите так же?

Оставьте контакты — перезвоним и покажем Orbit.AI на ваших задачах.