История "Ароматного мира": тестирование промокодов на сегменте оттока | Статьи

Чтобы разобраться, приносит ли новая идея в рассылках деньги, нужно правильно измерить эффект от нее. Расскажем про AB-тестирование гипотез, связанных с промокодами в алкогольной тематике, на примере клиента «Ароматный мир».

Сеть магазинов строит процессы email-коммуникации в Mindbox — от триггерных сценариев до индивидуальных рассылок. Сделать и запустить десятки автоматических кампаний мало, стратегия рассылок требует постоянного совершенствования и тестирования. Ниже AB-тесты, которые мы провели с использованием контрольной группы, и полученные результаты.

«Ароматный мир» — крупнейшая в России сеть специализированных винных супермаркетов. Она насчитывает более 470 магазинов в городах европейской части России, из которых 200 находится в Москве и Московской области.

В Mindbox у «Ароматного мира» настроено 26 механик. Часть этих механик была запущена в конце прошлого года, в том числе цепочки реактивации для сегмента оттока. Сегмент оттока — это те клиенты, кто по какой-то причине давно не совершали полезного действия. В коммуникациях с клиентами из сегмента оттока мы предлагали промокод на скидку на следующий заказ.

Новые механики были запущены с AB-тестами. В AB-тестах проверялась гипотеза, что размер промокода увеличивает конверсию. Согласно гипотезе, чем больше будет размер скидки, тем больше окажется конверсия в заказ. Всего провели 4 теста. В некоторых случаях результаты оказались неожиданными.

В кейсе — результаты тестов с промокодами по четырем механикам коммуникации с сегментом оттока:

Реактивация клиентов, которые получают, но не открывают письма

Рассылка отправлялась тем клиентам, которые получают периодические ручные рассылки, но по какой-то причине не открывают письма. Механика мотивирует вернуться в магазин благодаря скидке.

Было два варианта промокода: со скидкой 3% и 5%.

Результаты тестирования

Гипотеза подтвердилась частично. Участники контрольной группы не совершают заказы в отличие от получателей промокодов, но разница в конверсии между номиналами 3% и 5% и контрольной группой не оказалось статистически значимой.

Вариант промокода	% кликов	Конверсия в заказы
Скидка 3%	1.66%	0.15% ± 0,06%
Скидка 5%	1.65%	0.19% ± 0,07%
Контрольная группа	—	0.00% ± 0,07%

Реактивация бездействующих клиентов, которые давно ничего не покупали

Рассылка отправлялась тем клиентам, которые когда-то совершали заказы, но по какой-то причине прекратили это делать. Механика мотивирует вернуться в магазин благодаря скидке.

Было два варианта промокода: со скидкой 5% и 7%.

Результаты тестирования

Гипотеза подтвердилась частично. Участники контрольной группы не совершают заказы, в отличие от получателей промокодов. Разница в конверсии между номиналами 5% и 7% есть, но статистически незначима. Разница варианта со скидкой 7% относительно контрольной группы оказалась статистически значимой.

Вариант промокода	% кликов	Конверсия в заказы
Скидка 5%	1.66%	0.12% ± 0,07%
Скидка 7%	2.07%	0.25% ± 0,1%
Контрольная группа	—	0.00% ± 0,07%

Реактивация «новичков» — клиентов, которые зарегистрировались, но так ничего и не купили

Рассылка отправлялась тем клиентам, которые заинтересовались магазином и зарегистрировались, но так и не оформили заказ. Механика мотивирует вернуться в магазин благодаря скидке.

Было два варианта промокода: со скидкой 3% и 5%.

Результаты тестирования

Гипотеза не подтвердилась. Участники контрольной группы также конвертируются в покупателей, как и получатели рассылки. Номинал скидки тоже не имеет значения. Кажется, что если клиент потратил усилие на то, чтобы зарегистрироваться, в течение месяца он все равно оформит заказ, и скидка значения не имеет.

Вариант промокода	% кликов	Конверсия в заказы
Скидка 3%	5.83%	4.65% ± 1,45%
Скидка 5%	6.73%	4.57% ± 1,39%
Контрольная группа	—	4.00% ± 1,75%

Повторная реактивация «новичков»

Повторная реактивация «новичков» срабатывала на тех клиентов, которые не совершили заказ после первого письма с промокодом. Письмо отправляется спустя пять дней после первого письма реактивации, если клиент не совершил заказ.

Было два варианта промокода: со скидкой 3% и 5%.

Результаты тестирования

Гипотеза не подтвердилась. В случае напоминания номинал скидки тоже не имеет значения. Разница в 0.34% оказалась статистически незначимой. В этой рассылке не было контрольной группы.

Вариант промокода	% кликов	Конверсия в заказы
Скидка 3%	4.81%	1.34% ± 0,73%
Скидка 5%	4.13%	1.68% ± 0,79%

Алексей Самсонов, ecommerce-директор компании «Ароматный Мир»: «Если коротко, то для меня Mindbox — это проводник из мира хаоса в мир системы и порядка. С самого старта проекта мы сделали ставку на ребят и не прогадали. Триггеры, сегменты, персональные предложения, аналитика, помноженные на грамотный и отзывчивый менеджмент, приносят нужный результат. Гибкость системы позволяет регулярно проверять гипотезы, измерять эффект и принимать решения в пользу правильной версии. В качестве примера пару слов про кейс конца прошлого года, когда требовалось реактивировать большую базу клиентов из сегмента «Отток» под новый год. Отрабатывалась гипотеза про прямую зависимость конверсии и размера скидки в промокоде. Создав цепочку писем, мы получили интересные результаты, которые помогли найти верное решение и пользу для компании. В общем, продолжаем погружаться в пока еще неизведанные возможности платформы и получать пользу для компании и для наших клиентов».

Заключение

Это значит, что размер скидки не всегда имеет значение. Исходя из результатов, рекомендуем тестировать промокоды со скидкой разного номинала. Вполне возможно, что по соотношению затраты/польза самой эффективной окажется скидка меньшего размера.