А/Б-тест стратегий ставок: -40% бюджета, +55% результата.
Делимся выстраданным кейсом. Почему выстраданным? Потому что тестировали долго, сложно, но результат превзошел все ожидания. Детали - ниже.
Реклама на Поиске Google, продукт - не будем называть)), геолокация - Франция, 2020 год.
Кампания работала на ручных ставках, результат - неплохой, вполне сопоставим с результатом "соседних" рекл. кампаний в аккаунте, но предполагали, что стоимость получения конверсии (лида) можно снизить ещё! Соответственно пошла классическая череда гипотез и тестирований. Упускаем все многочисленные проведённые эксперименты, остановимся на последнем, который самый показательный, результативный и самое главное репрезентативный (кто дружит со статистикой, поймёт важность последного)).
Итак, с конца зимы 2020 начали тестировать автоматизированные стратегии назначения ставок - так сказать стратегии, основанные на машинном обучении системы.
В большинстве случаев, мы не запускаем новые фишки рекл. сервисов без тестирования, поэтому все гипотезы проходят через А/Б-тесты, и по результатам или отсекаются или принимаются и внедряются в рекл. кампаниях.
Тестировали самые популярные в контекстной рекламе автостратегии Google Ads:
- максимум конверсий
- рентабельность инвестиций
- целевая цена за конверсию.
В нашем случае для кажого теста нужен период не менее одного месяца, чтобы собралось достаточное кол-во статистики для статистически верного вывода и принятия решения ЗА или ПРОТИВ.
Подготовили А/Б-тест: кампания разделена на исходную (с ручными ставками) и экспериментальную (автостратегия), трафик между ними делился 50% на 50%, результаты соответственно должны быть чистыми и правильными :)
Запустили тест. И тут:
- Тук-тук!
- Кто там?
- Covid-19!
- <kby rfrjuj [htyf! :(((( (такими были наши эмоции)
На смутный период карантина рекл. кампании были приостановлены, и тестирование к сожалению тоже. Накопленная статистика уже не имела ценности, время утеряно. Пауза.
С мая кампании запустились, и мы снова запустили А/Б-тест. Тестировали стратегию "Максимум конверсий". Кампании запустились после паузы не очень хорошо, все показатели просели, поэтому для тестирования собирали данные около двух с половиной месяцев. Результат - данная стратегия сработала хуже ручного управления. Поэтому тестирование продолжаем.
Следующий тест - тест стратегии "Целевая рентабельность инвестиций". Уложились в 1,5 месяца, результат - снова хуже, чем было.
Не останавливаемся! Следущий тест - целевая цена конверсии. А/Б-тест с тем же распределением трафика - 50% на исходную, 50% - на экспериментальную кампанию.
Результаты были очень хорошие! Но мы решили перепроверить гипотезу еще и в более простом эксперименте - не в параллельном тестировании, а в последовательном (хоть он и менее точный) - то есть, после проведенного А/Б-тестирования оставили работать исходную кампанию некоторое время, а через 3 недели (данных уже было достаточно) её приостановлили и запустили полноценно новую РК. И сравнили показатели.
Делимся статистикой, как работала новая кампания с новой стратегией и какие результаты получены.
Ниже - скриншот. Чтобы проще воспринимать - выделили показатели ДО и ПОСЛЕ цветами:- было: 5,6 конверсий по 64 евро;
- стало: 8,8 конверсий по 25 евро;
Итог: найдена стратегия, которая в данном случае даёт существенно лучше результат, чем другие: 57% - рост количества конверсий при 39%-ном снижении их цены.
Всем - конверсий! :)