Проекты и эксперименты в Гугл Адвордс
PrintСергей Хомченко
В данной статье подробнее и систематизировано рассмотрим Проекты и эксперименты. Стоит отметить о том, что эксперименты в Гугл Адвордс нужны для того, чтобы проверить, отследить результаты предполагаемых нами гипотез по сравнению с существующими данными (имеется в виду объявления, посадочные страницы и тд.) и далее применить результаты эксперимента, в случае если результаты нас устраивают или в противном случае приостановить эксперимент. Эксперименты и проекты экспериментов это отличный инструмент внутри системы Адвордс для проведения A/B тестирования.
Какие есть ограничения при работе с экспериментами?
Прежде чем начать создавать эксперимент, предлагаю вам ознакомиться с нюансами, которые есть у экспериментов.
Обратите внимание на то, что присутствуют некоторые ограничения:
- одновременно несколько кампаний добавить нельзя. Каждую кампанию в эксперименте нужно создавать отдельно;
- на 1 кампанию можно создать несколько экспериментов, но они будут запускаться по очереди.
- недоступны для:
— торговых кампаний;
— видео кампаний;
— кампании для приложений. Для всех остальных типов рекламы доступны (Поиск, КМС и др).
Рекомендации:
- обратите внимание на то, что может появиться статус «Не удалось создать». Вам предложат рекомендации по устранению неполадок, если они не помогут то проверьте название проекта/эксперимента. Ошибка может возникать из-за длинного названия проекта, переименуйте на более краткое название;
- если для кампании установлен общий бюджет -> Поменяйте в настройках бюджет на индивидуальный;
- обратите внимание на то, что для исходной кампании уже быть проводится или запланирован на те же даты другой эксперимент.
Как создать эксперимент в Адвордс?
Чтобы создать эксперимент перейдите во вкладку Проекты и эксперименты (скриншоты будут демонстрироваться как из нового так и из старого аккаунтов).
Обратите внимание на то, что по умолчанию выставляется дата следующего дня, поэтому учитывайте временные рамки. К примеру вы проживаете в Москве/Киеве, но часовой пояс аккаунта Австралия, вполне быть может такое что исходя из разницы в часовых поясах у вас эксперимент запуститься через день по сравнению с тем часовым поясом в котором вы сейчас пребываете.
Также, может быть и другая ситуация, когда эксперимент запускается раньше, чем человек ожидает. Например, вы доделываете эксперименты и те, что были созданы первыми, могут запуститься, а у вас еще не все готово для запуска.
Проекты в интерфейсе Адвордс
Кликаем на кнопку «+», создание проекта. Задаем название и выбираем нужную нам для теста кампанию.
Создание эксперимента в Адвордс
Переключаемся на вкладку Эксперименты в кампаниях. Заполняем стандартные поля и сохраняем эксперимент.
Далее указываете распределению бюджета между исходной кампанией и экспериментом. Проверьте статус проекта, чтобы удостовериться что проект успешно создан.
Можно также вносить правки с помощью Редактора Адвордс (Adwords Editor). В первую очередь создаем проект (если еще не создали) в интерфейсе Адвордс. Обновляем данные в Редакторе и делаем массовые правки с помощью инструмента.
Не рекомендовано это делать во время эксперимента, так как данные могут быть нерелевантны в том смысле, что сложно будет понять, какие именно правки дали полученный результат.
Задаем долю трафика на эксперимент
Вот некоторые примеры проектов кампаний:
Примеры проектов
Пример экспериментов в кампаниях:
Пример экспериментов в кампаниях
Когда мы переходим на вкладку Все проекты, здесь мы можем производить все изменения, которые хотим тестировать.
Делаем нужные нам изменения и кликаем Применить.
Сравниваем эффективность новых и исходных настроек (примеры результатов экспериментов)
Таблица сравнения эффективности эксперимента
Тут можно допустить ошибку: как видим на скриншоте, эксперимент в нашем случае кажется, что отработал хуже, чем исходная кампания. Поэтому гипотеза не оправдала себя и рентабельно оставить исходные настройки для кампании.
Накопленные данные по эксперименту
И как буд-то на данном скриншоте видно, что результат эксперимента оправдал наши ожидания, поэтому рентабельно будет применить результаты эксперимента к исходной кампании. Но (об этом ниже) важно накопить достаточные данные и только потом делать выводы, иначе выводы могут быть неправильными, а решения на основе малых данных неверными.
Оценка результатов экспериментов
Итак, чтобы понять весомость полученных данных за время проведения эксперимента, рекомендую обратить внимание на «подсказки» от системы Гугл Адвордс (картинка ниже).
Подсказки о достоверности данных в эксперименте
Обратите внимание: Значок ромба означает, что результаты статистически незначимы, т.е если применить полученные результаты, эффективность не изменится и скорее всего останется исходной.
Причины:
- незначительное время проведения эксперимента;
- мало трафика;
- изменения не продемонстрировали значимые показатели эффективности.
Дополнительно: подробное руководство в Справке
Для того чтобы понять, что результаты значимы, обратите внимание на другие показатели (символы) такие как «стрелки». К примеру, как видно на скриншоте 3 стрелки вверх обозначают Статистическую значимость >99,9%. Более детальная информация об этих обозначениях в справке Гугл Адвордс по ссылке выше.
Пример статистически значимого результата
Проводите эксперименты.
Понравилась статья? Ставьте лайк
Самые крутые виртуальные эксперименты от Google Chrome / Newtonew: новости сетевого образования
Собрали самые интересные опыты, созданные на платфоме Chrome Experiments. Они не только демонстрируют уровень сложности, который сегодня доступен интернет-технологиям, но и имеют немалую образовательную ценность.
Проект Chrome Experiments открылся в 2009 году для демонстрации инновационных возможностей интернет-браузеров. Сегодня на нём доступно более 1 100 экспериментов, отсортированных по разным темам.
Карта высот: заметно выделяются не только известные горные массивы, но и, например, Антарктида.
Земной шар, на котором можно наглядно увидеть самую разную информацию — от уровня населения до извержений вулканов, интернет-трафика и расположения своих подписчиков в Instagram.
Это проект с открытым кодом, и теоретически туда можно вставить абсолютно любые данные с привязкой к географическому положению и/или времени.
Так выглядит птичье пение.
Забавные звуковые визуализации и музыкально-игровые эксперименты. Здесь можно сочинять свои мелодии, разучивать аккорды или просто смотреть на умилительную интерактивную анимацию.
В игре Kandinsky, например, можно экспериментировать с собственными мелодиями, записанными с помощью разных геометрических фигур.
Пищеварительная система. Пара движений колёсиком мыши — и можно покопаться прямо в виртуальных кишках.
Удивительно подробная и точная 3D-карта человеческого тела. Её могут использовать не только любопытствующие, но и врачи в своём обучении и практике.
Вдобавок к анатомическим органам здесь есть и довольно внушительный каталог болезней, каждая из которых тоже поддаётся визуализации.
Статья о самой Википедии со связями-ссылками.
Целая галактика, составленная из статей Википедии. Каждая звезда — это отдельная статья, а остальные связанные с ней данные образуют созвездия. Нажав на любую звезду, можно увидеть текст статьи и все сопутствующие ссылки, представленные ввиде связей в трехмерном пространстве.
Здесь также есть своя система поиска и режим полета, в котором можно путешествовать по карте знаний с помощью колёсика мыши.
Наша галактика и её звёзды.
Трёхмерная карта, составленная из ста тысяч звёзд Млечного пути. Во всём Млечном пути, кстати, их около 200 миллиардов. За основу разработчики взяли данные ESA (Европейское космическое агентство), NASA и Bright Star Catalog.
87 главных звёзд, которые расположены недалеко от Солнца, можно увидеть вблизи и почитать о них подробнее.
ESA (Европейское космическое агентство), NASA (Национальное управление по воздухоплаванию и исследованию космического пространства), Bright Star Catalog (Каталог ярких звезд) и др.
Новости Уфологии http://ufology-news.com/obzor-smi/astronomiya/proekt-100000-stars-ot-gugl.html
© Ufology-News.com
© Ufology-News.comESA (Европейское космическое агентство), NASA (Национальное управление по воздухоплаванию и исследованию космического пространства), Bright Star Catalog (Каталог ярких звезд) и др.
Новости Уфологии http://ufology-news.com/obzor-smi/astronomiya/proekt-100000-stars-ot-gugl.html
© Ufology-News.com

© Ufology-News.comна основе данных предоставленных ESA (Европейское космическое агентство), NASA (Национальное управление по воздухоплаванию и исследованию космического пространства), Bright Star Catalog (Каталог ярких звезд) и др.
Новости Уфологии http://ufology-news.com/obzor-smi/astronomiya/proekt-100000-stars-ot-gugl.html
© Ufology-News.com
© Ufology-News.com
Интерактивная инфографика, на которой можно увидеть, как постепенно развивались возможности современного интернета.
О самых важных событиях можно почитать чуть подробнее и посмотреть, к примеру, скиншоты из старых браузеров.
Благодаря технологиям распознавания голоса тренировать spelling skills теперь можно не с людьми, а со своим браузером.
Игровое приложение для изучения английского языка. Цель игры — правильно произносить услышанные слова и постепенно строить из них всё более высокую башню. Со временем сложность заданий повышается.
Чтобы поиграть, придётся установить на своё устройство браузер Chrome.
Редакция Newtonew
Олег Бочарников
Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.
Как работают проекты и эксперименты в AdWords
При запуске новых кампаний у рекламодателей возникает много вопросов: какие заголовки и тексты объявлений сработают лучше, как выбрать эффективную стратегию. Чтобы найти подходящий вариант, все гипотезы нужно протестировать. Но тогда возникает вопрос о достоверности или статистической значимости полученных результатов.
Проекты и эксперименты в Google AdWords дают возможность тестировать различные гипотезы, считают статистическую значимость полученных результатов теста и позволяют применить изменения в интерфейсе.
Проект — это копия рекламной кампании, в которую можно вносить изменения, чтобы протестировать их и сравнить эффективность с другой кампанией. Рекламодатели могут создать несколько вариантов объявлений в экспериментальной кампании или применить разные стратегии, чтобы понять, при какой из них реклама работает лучше.
Чтобы создать проект, нажмите на кампанию и перейдите во вкладку «Проекты и эксперименты»:
Создайте проект и дайте ему понятное название, отличное от исходной кампании:
У вас появится новая вкладка с проектом рекламной кампании:
Теперь можно войти в созданный проект и внести нужные корректировки:
Если вы хотите протестировать гипотезу, то вносите в кампанию по одному изменению в один момент времени.
В основной кампании можно изменить, например, стратегию назначения ставок:
Теперь создайте эксперимент. Нажмите кнопку «Применить»:
И затем выберите «Провести эксперимент»:
Введите название и даты начала и окончания эксперимента:
Учтите, что для эксперимента может понадобиться немало времени: от нескольких недель до месяцев. Или вы можете выключить дату окончания, следить за экспериментом и остановить его в нужный момент, когда наберется достаточное количество статистики.
Выберите экспериментальную группу — в каком процентном соотношении будет распределяться бюджет между основной и экспериментальной кампаниями. Если вы поставите 50%, то максимально быстро наберете статистику, чтобы сделать определенные выводы.
Когда вы собираетесь протестировать гипотезу, которая предположительно может ухудшить показатели рекламной кампании, уменьшите процент до 20 или 30.
Эксперимент создан. Обновите страницу, чтобы он стал активен:
Если вы уже запустили эксперимент, не вносите значимые изменения в проект или кампанию, поскольку они могут повлиять на результаты теста. В экспериментальных кампаниях вы сможете протестировать большую часть гипотез. Когда эксперимент запущен, объявления показываются в отношении 50/50 из основной и экспериментальной кампаний. Одновременно можно создавать до 5 экспериментов, но тестировать можно только один.
Когда эксперимент будет закончен, нажмите кнопку «Применить»:
Затем выберите одну из опций — сохранить изменения в исходной кампании или создать новую:
Чтобы посмотреть статистику, выберите нужный эксперимент, и в верхней части страницы появятся данные о результатах эксперимента.
Подробнее рассмотрим статистику выполненного эксперимента:
В разделе «Сравнение эффективности» сопоставляется эффективность экспериментальной и исходной кампании. По умолчанию сравниваются такие показатели, как «Клики», CTR, «Стоимость», «Показы» и «Все конверсии», но можно самостоятельно выбрать необходимые данные. Для этого нужно нажать на стрелку вниз рядом с нужным показателем:
В первой строке под названием показателя приводится его значение, полученное в результате эксперимента. Вторая строка отражает разницу эффективности между экспериментальной и исходной кампаниями. Синяя звездочка рядом с показателем отображается в тех случаях, когда результат статистически значимый:
Обратите внимание, что проекты и эксперименты можно использовать только для рекламы в поиске и КМС. В торговых кампаниях, видеокампаниях и кампаниях для приложений инструмент не работает.
В экспериментах доступны практически все параметры, которые есть в кампаниях, кроме модификаторов объявлений и некоторых стратегий с автоматическим назначением ставок («Целевое положение на странице поиска», «Целевой процент выигрышей»).
С помощью инструмента Google AdWords вы можете проводить в интерфейсе практически любые эксперименты, получать результаты о статистической значимости и делать на их основе выводы.
Рекомендуем тестировать любые предположения, которые касаются эффективности кампаний, чтобы при ее оценке опираться на конкретные данные и приходить к правильным заключениям.
А чтобы эффективно управлять ставками, настраивать автоматическую UTM-разметку, отслеживать статистику по всем рекламымным системам в едином кабинете и получать рекомендации для своих рекламных кампаний, зарегистрируйтесь в eLama.
Зарегистрироваться
Эксперименты в Google Analytics
Эксперименты в Google Analytics позволяет провести тестирование и определить какая версия целевой страницы наиболее эффективна с точки зрения прибыли или способствует улучшению определенного показателя.
Например, у нас стоит задача повысить коэффициент конверсии посадочной страницы и снизить стоимость привлечения клиента. Мы выдвинули несколько гипотез и под них разработали различные варианты страниц. Благодаря эксперименту Google Analytics мы сможем опытным путем определить самые лучшие варианты и в случае удачного проведения теста, внедрить полученные результаты вместо текущих.
Эксперименты годятся и для проработки качественных характеристик сайта. Например, для увеличения средней длительности сеанса, просмотров страниц на сеанс или снижения показателя отказов.
Для проведения эксперимента понадобятся:
- различные версии страниц, которые находятся на одном домене;
К примеру, если ваша исходная страница − site.ru/index1.html, то варианты этой страницы должны принадлежать домену site.ru. Например, site.ru/index2.html, site.ru/index3.html и т. д.
- цели, настроенные в Google Analytics;
В эксперименте можно протестировать до 10 вариантов страницы одновременно). Его не стоит запускать в период «высоких» и «низких» сезонов, когда есть повышенный или пониженный спросы на Ваши товары или услуги.
Можно тестировать заголовки, изображения, тексты, призывы к действию, длину страницы, различное расположение элементов, цветовую палитру и т.д.
Определив цель эксперимента, переходим к его созданию.
Создать эксперимент
Примечание: с недавнего времени Google запустил в массы отдельный продукт, который называется Google Оптимизитор. Он позволяет тестировать разные варианты веб-страниц и оценивать их эффективность согласно заданной цели.
Даже перед созданием эксперимента в отчете над кнопкой «Создать эксперимент» есть размещено уведомление:
Google Оптимизатор – это новый бесплатный инструмент для проведения экспериментов. Эксперименты со страницами в Google Analytics по-прежнему доступны, но со временем будут упразднены.
Так или иначе, продолжим создание эксперимента. Мы будем тестировать две страницы (длинную и короткую) и отслеживать два показателя – количество заявок и стоимость обращения.
Настройки эксперимента
На первом шаге:
1. вводим название эксперимента;
2. выбираем цель эксперимента;
В моем случае это «Страница благодарности». Вы можете использовать показатели из списка или создать собственную цель;
Цель эксперимента
3. процент трафика, участвующего в эксперименте;
Оставляем по умолчанию 100%, так как это повышает точность и скорость проведения теста;
4. уведомления по электронной почте;
Если хотите получать письма о важных изменениях в эксперименте, укажите свой e-mail.
5. равномерное распределение трафика между всеми вариантами;
Чтобы назначить равный объем трафика для каждого варианта на всех стадиях эксперимента, включите эту функцию. Однако при данной настройке время проведения эксперимента может на порядки увеличиться. При отключенной функции трафик между вариантами теста будет распределяться с помощью алгоритма «Multi-Armed Bandits (Многорукий бандит)», принципы работы которого в исчерпывающей мере описаны здесь.
Google замеряет результаты эксперимента два раза в день и определяет, какой вариант оказался наиболее эффективным. На следующий день доля трафика для этих вариантов распределяется по принципу «лучший вариант – больше трафика, худший – меньше трафика». И так на всем протяжении эксперимента.
6. минимальное время проведения эксперимента;
Нижняя граница, по которой будет проходить тест. Стандартный период – две недели, но для выбора также доступны 3 дня и одна неделя;
7. настройка порога достоверности;
Чем выше порог, тем более точно система определит выигрышный вариант. Однако время проведения эксперимента при повышении порога достоверности также увеличится. Стандартно – 95%.
Нажимаем «Далее» и переходим на второй шаг:
Исходная и тестируемая страницы
Здесь мы вводим URL адреса исходной страницы и страницы, которая будет включена в эксперимент (тестируемая). Если вы хотите, чтобы в отчетах «Поведение» исходная страница и ее варианты отображались как одна страница, поставьте галочку «Объединять данные вариантов в других отчетах по контенту».
На следующем шаге нас просят разместить код эксперимента на сайте. Сделать это можно 2 способами:
1. вставить код вручную;
Код эксперимента вставляется только после открывающего тега <head> в верхней части исходной страницы. На вторую страницу код ставить не нужно!
Вставить код вручную
2. отправить код-вебмастеру;
Вводите адрес вашего разработчика и отправляете ему инструкции по размещению кода.
Отправить код эксперимента в инструкции
На последнем шаге система проверяет установку кода эксперимента на сайте. Если все хорошо, то вам останется только «Запустить эксперимент».
Запуск эксперимента
В течение периода проведения теста статус эксперимента будет меняться:
Список экспериментов в интерфейсe Google Analytics
Результаты теста – победила длинная исходная версия.
Лучший вариант определен
Примечание: не забывайте, что исходная страница должна быть во всех рекламных системах одинаковой. Если вы используете и Яндекс.Директ и Google AdWords в качестве источников продвижения, значит и там и там исходной страницей должна быть одна.
Также если вы использовали A/B тест объявлений внутри группы (ссылка site.ru и site.ru/1), то также нужно будет удалить все сторонние ссылки и прописать страницу №2 (тестируемую) только в самом Google эксперименте.
Понравилась статья? Подписывайтесь на социальные сети:
☞ Тестирование интерфейса сайта с Google Optimize — PPC
Vlad Permohorov
24 октября | 2018Раньше чтобы протестировать изменения на сайте нужно было всегда привлекать программистов, объяснять, писать им ТЗ и тратить на это свое время, которое можно использовать для более интересных задач. Сейчас, благодаря Google Optimize, зная основы HTML и CSS, практически все визуальные изменения можно делать самостоятельно.
Google Optimize — это удобный инструмент, который позволяет проводить А/В и многовариантные тестирования и собирать данные о поведении пользователей на сайте.
При помощи этого инструмента специалист создает копию тестируемой страницы, но вносит некоторые изменениями в ее структуру или элементы. Например, можно изменить расположение блоков на странице, изменить цвет или размер кнопки, заменить изображение. Ведь внешний вид сайта значительно влияет на поведение пользователей и соответственно на коэффициент конверсии сайта.
В своих отчетах Optimize предоставляет подробное сравнение вариантов и помогает определить, какой из них лучше справляется с поставленными задачами и целями.
А/B тестирование не является инновацией, так же как и предоставление персонализированного контента на основе поведения клиента. Основное преимущество заключается в том, что Google Optimize работает в паре с Google Analytics, что позволяет отследить наши эксперименты по KPI.
Основной функционал
В Google Optimize есть три типа эксперимента:
- А/В тестирование — это эксперимент с несколькими вариантами одной страницы, на которой изменен минимум один элемент. Например, другой цвет кнопки призыва к действию. Google Optimize дает широкие для этого возможности — одновременно можно делать 8 изменений элементов сайта.
- Эксперимент с переадресацией — тестирование отдельных страниц сайта на коэффициент конверсии относительно друг друга. Подойдет для тестирования абсолютно разных посадочных страниц с одинаковой целью, например, если страницы очень отличаются дизайном.
- Многовариантный эксперимент — эксперимент, который проверяет два и больше измененных элементов на странице и создает комбинацию этих вариантов.
Эксперимент анализирует наиболее эффективный вариант каждого элемента, а также анализирует взаимодействие между этими элементами. И показывает наиболее эффективную комбинацию.
Отдельно стоит вынести Персонализацию. Это визуальное отображение сайта для определенной аудитории. В отличие от экспериментов, персонализация может выполняться постоянно и она имеет всего один вариант представления. Также Персонализацию можно создавать как правило таргетинга для экспериментов.
Создание проекта оптимизации
Google Optimize подключается с аналитикой и рекламой, благодаря чему мы можем использовать цели с аналитики и таргетироваться на аккаунт, кампании, группы и ключевые слова с рекламы.
В платной версии вы можете использовать данные Google Analytics для определения ключевых сегментов пользователей, например:
— Лояльные клиенты: был на вашем сайте X раз и купил Y экземпляров/стоимость
— Географическое положение: специальное предложение для жителей Харькова.
— Группы статусов: пользователи, которые заказали товары премиум-класса, пользователи, купившие бюджетные модели.
После того как вы определили эти ключевые аудитории, создайте уникальное предложение для каждой из них, а затем используйте Optimize, чтобы настроить таргетинг на выделенную аудиторию.
Глубокая интеграция позволяет упростить настройку, настроить более продвинутый таргетинг, сделать отчеты более совершенными.
Установка Google Optimize
- Устанавливаем код Optimize через GTM
- Устанавливаем расширение Google Optimize для Chrome. Это редактор, без которого не будет возможности делать изменения на сайте http://bit.ly/2pWGuYO.
- После установки нужно поменять код GA и включить активацию GO перед ним.
Наш опыт использования
Первый проект, на котором мы применили Google Optimize — сайт квест-комнаты.
Была выдвинута гипотеза, что увеличение размера кнопки бронирования и перемещение ее на более удобное место для наших клиентов может улучшить коэффициент бронирования.
Для проверки гипотезы мы выбрали А/В эксперимент. На скриншоте слева показан вид формы заказа в исходном варианте, на скриншоте справа — измененный вариант для эксперимента.
Эти изменения были сделаны при помощи редактора интерфейса от Google Optimize.
Вначале мы провели тестирование на 100% пользователей и получили следующие результаты:
Для нас был важен коэффициент конверсии. Результаты теста показали, что он увеличился на 22,65% по сравнению с аналогичным временным периодом.
После этого тестирования мы решили поделить трафик поровну между исходным вариантом и измененным. Чтобы исключить влияние внешних факторов, которые могли появится при тестировании разных промежутков времени, таких как сезонность или активность конкурентов.
Прошло только 15 дней с момента старта эксперимента, но уже видно, что страница с измененным вариантом имеет вероятность превосходства 70%.
Эксперимент с переадресацией.
Второй проект, на котором мы применили Google Optimize — сайт продажи квартир в новостройке. Цель эксперимента — выяснить, влияет ли наличие цен на сайте на количество звонков. Тестировались две версии сайта: с ценой на квартиру и без.
Для решения поставленной задачи мы выбрали Эксперимент с переадресацией. Он проводился с 25 сентября по 18 октября (24 дня).
Как мы видим, на сайте без цен люди чаще нажимали на кнопку “Подобрать квартиру”, но не увидев цен открывали виджет для звонка значительно реже. Таким образом нам удалось увеличить количество звонков в офис.
Вывод
Google Optimize отличный инструмент: даже без навыков программирования, маркетологам можно проводить тесты на сайтах. И они будут занимать минимальное количество времени и сил, а благодаря удобному интерфейсу и полученной информации мы сможем быстро принимать решение относительно выдвигаемых гипотез.
Кейс-эксперимент.

Каждый маркетолог, который создает торговые кампании в Google Ads, задается вопросом, какая кампания выгодней — обычная или умная.
Чтобы это выяснить, мы провели эксперимент: заменили обычную торговую кампанию умной и сравнили их эффективность. В этой статье делимся результатами.
Эксперимент проводили, настраивая кампании для одного из наших клиентов — интернет-магазина товаров для рыбалки и охоты. Стоит отметить, что сегмент клиента не очень специфический, но некая сезонность продаж все-таки есть. Спрос на рыболовную продукцию падает в январе-феврале, а пик повышения интереса клиентов приходится на июль-сентябрь.
Динамика популярности по теме «Рыболовство» за год из Google TrendsЧто было на старте
У клиента уже была настроена обычная торговая кампания. Она работала на протяжении года и приносила по транзакциям 43% дохода от объема всего аккаунта.
Показатели дохода обычной торговой кампании по отношению к аккаунтуПо графику ниже видно, как торговая кампания постепенно набирала обороты продаж и как росла и падала ее динамика из-за сезонности.
Эта торговая кампания принесла 49% от объема трафика всего аккаунта.
Показатели трафика обычной торговой кампании по отношению к аккаунтуА рентабельность затрат на рекламу (ROAS) составила 1034%.
Цель эксперимента
Хотя обычная кампании показывала неплохие результаты, мы решили провести эксперимент, чтобы оценить все плюсы и минусы замены обычной торговой кампании на умную.
Важно было разобраться, сколько времени занимает обучение умных кампаний и какой результат получается в итоге — положительный (в виде роста дохода и ROAS), отрицательный или нейтральный.
Запуск умной торговой кампании
Мы запустили умную кампанию и выждали, пока она обучиться. В результате пришли к выводу, что период в 14 дней, заявленный в инструкциях Google Ads, достаточно относительный.
Наш опыт показал: нужно намного больше времени, чтобы получить доход и ROAS не меньше, чем в обычной торговой кампании.
Со скриншота видно, как умная кампания набирала обороты по доходу и что это заняло примерно 1,5 месяца.
Для чистоты эксперимента в обеих кампаниях мы задали одинаковую стратегию с целевой рентабельностью инвестиций в рекламу — 1000%. Также заложили в них одинаковый бюджет и взяли одинаковый период для сравнения — 24 дня.
Результаты
Доход умной торговой кампании оказался больше на 10%. То есть новый показатель дохода составил 53%, показатель дохода от обычной торговой кампании был 43%. Также в умной торговой кампании выросло количество транзакций — на 87.
Новые показатели всего аккаунта по доходуИз следующего графика видно, что стоимость умной кампании оказалась на 30% больше, но и доход от нее получился на 53% больше.
Сравнения торговых кампаний по доходуТрафик к аккаунту в умной кампании выше на 8% — 57% против 49% у обычной. А цена за клик уменьшилась на 0,07 грн.:
Отношение трафика умной торговой кампании к аккаунтуКак вы помните, ориентиром нашего результата была рентабельность инвестиций в рекламу. Этот показатель у обычной торговой кампании составлял 1034%, а в умной — 1220%.
Значит, умная торговая кампания дала больше трафика, который по стоимости оказался дешевле. Но в то же время средняя стоимость заказа упала на 13,75% от стоимости в предыдущей торговой кампании.
Сравнение торговых кампаний по электронной торговлеКазалось бы: ничего страшно, главное ведь, что доход вырос. Но не все так однозначно. Есть еще один фактор, который нельзя игнорировать, — это то, как ведет себя динамический ремаркетинг в комбинации с умной торговой кампанией.
Как умная торговая кампания влияет на динамический ремаркетинг
Каждый, кто запускал умную торговую кампанию, замечал, что она забирает значительный объем трафика у динамического ремаркетинга. Ведь по сути умная торговая кампания — это объединение обычной торговой кампании и динамического ремаркетинга.
На скриншоте видно, что трафик по динамическому ремаркетингу упал на 5031 сеансов (на 65% меньше). И это как раз совпадает с периодом запуска умной кампании.
Трафик с динамического ремаркетинга перешел в умную кампанию, а доход, который он приносил, упал на 86%. Выходит, торговая умная частично заменила динамический ремаркетинг.
Сравнение дохода динамического ремаркетингаМы сделали вывод: чтобы полностью оценить результат торговой умной кампании, нужно учитывать изменения в динамическом ремаркетинге.
Получается, что практически при таких же затратах мы получили больше трафика, но не дохода. А коэффициент ROAS упал с 1223% до 1206%. Изменение незначительное, но все-таки это не рост, согласитесь.
Динамика дохода от торговых кампаний с динамическим ремаркетингомВыводы
Если вы еще никогда не использовали умную торговую кампанию и решаете между умной и обычной, выбирайте умную. Она неплохо экономит время рекламодателя.
Обычную торговую кампанию тоже не стоит списывать со счетов. Если ее грамотно настроить, ориентируясь на рациональную трату средств и получение дохода, то вместе с динамическим ремаркетингом, она даст результат не хуже.
Конечно, это даже звучит сложно. Но если у вас уже есть этот тандем, то хорошо задумайтесь, прежде чем менять его на новую модель и тратить время на обучение умной кампании.
[Всего: 8 Средний: 5/5]Google перевела 195 тысяч сотрудников на овощи и занялась инвестициями в здоровую еду для всех — Еда на vc.ru
Руководитель питания Google Майкл Баккер мотивировал сотрудников есть здоровую еду, экспериментируя с расположением продуктов в столовых и обучая поваров готовить вкусные овощи в корпоративной кулинарной школе.
{«id»:105794,»url»:»https:\/\/vc.ru\/food\/105794-zhivoy-eksperiment-google-perevela-195-tysyach-sotrudnikov-na-ovoshchi-i-zanyalas-investiciyami-v-zdorovuyu-edu-dlya-vseh»,»title»:»\u0416\u0438\u0432\u043e\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442: Google \u043f\u0435\u0440\u0435\u0432\u0435\u043b\u0430 195 \u0442\u044b\u0441\u044f\u0447 \u0441\u043e\u0442\u0440\u0443\u0434\u043d\u0438\u043a\u043e\u0432 \u043d\u0430 \u043e\u0432\u043e\u0449\u0438 \u0438 \u0437\u0430\u043d\u044f\u043b\u0430\u0441\u044c \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0446\u0438\u044f\u043c\u0438 \u0432 \u0437\u0434\u043e\u0440\u043e\u0432\u0443\u044e \u0435\u0434\u0443 \u0434\u043b\u044f \u0432\u0441\u0435\u0445″,»services»:{«facebook»:{«url»:»https:\/\/www. facebook.com\/sharer\/sharer.php?u=https:\/\/vc.ru\/food\/105794-zhivoy-eksperiment-google-perevela-195-tysyach-sotrudnikov-na-ovoshchi-i-zanyalas-investiciyami-v-zdorovuyu-edu-dlya-vseh»,»short_name»:»FB»,»title»:»Facebook»,»width»:600,»height»:450},»vkontakte»:{«url»:»https:\/\/vk.com\/share.php?url=https:\/\/vc.ru\/food\/105794-zhivoy-eksperiment-google-perevela-195-tysyach-sotrudnikov-na-ovoshchi-i-zanyalas-investiciyami-v-zdorovuyu-edu-dlya-vseh&title=\u0416\u0438\u0432\u043e\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442: Google \u043f\u0435\u0440\u0435\u0432\u0435\u043b\u0430 195 \u0442\u044b\u0441\u044f\u0447 \u0441\u043e\u0442\u0440\u0443\u0434\u043d\u0438\u043a\u043e\u0432 \u043d\u0430 \u043e\u0432\u043e\u0449\u0438 \u0438 \u0437\u0430\u043d\u044f\u043b\u0430\u0441\u044c \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0446\u0438\u044f\u043c\u0438 \u0432 \u0437\u0434\u043e\u0440\u043e\u0432\u0443\u044e \u0435\u0434\u0443 \u0434\u043b\u044f \u0432\u0441\u0435\u0445″,»short_name»:»VK»,»title»:»\u0412\u041a\u043e\u043d\u0442\u0430\u043a\u0442\u0435″,»width»:600,»height»:450},»twitter»:{«url»:»https:\/\/twitter.
com\/intent\/tweet?url=https:\/\/vc.ru\/food\/105794-zhivoy-eksperiment-google-perevela-195-tysyach-sotrudnikov-na-ovoshchi-i-zanyalas-investiciyami-v-zdorovuyu-edu-dlya-vseh&text=\u0416\u0438\u0432\u043e\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442: Google \u043f\u0435\u0440\u0435\u0432\u0435\u043b\u0430 195 \u0442\u044b\u0441\u044f\u0447 \u0441\u043e\u0442\u0440\u0443\u0434\u043d\u0438\u043a\u043e\u0432 \u043d\u0430 \u043e\u0432\u043e\u0449\u0438 \u0438 \u0437\u0430\u043d\u044f\u043b\u0430\u0441\u044c \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0446\u0438\u044f\u043c\u0438 \u0432 \u0437\u0434\u043e\u0440\u043e\u0432\u0443\u044e \u0435\u0434\u0443 \u0434\u043b\u044f \u0432\u0441\u0435\u0445″,»short_name»:»TW»,»title»:»Twitter»,»width»:600,»height»:450},»telegram»:{«url»:»tg:\/\/msg_url?url=https:\/\/vc.ru\/food\/105794-zhivoy-eksperiment-google-perevela-195-tysyach-sotrudnikov-na-ovoshchi-i-zanyalas-investiciyami-v-zdorovuyu-edu-dlya-vseh&text=\u0416\u0438\u0432\u043e\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442: Google \u043f\u0435\u0440\u0435\u0432\u0435\u043b\u0430 195 \u0442\u044b\u0441\u044f\u0447 \u0441\u043e\u0442\u0440\u0443\u0434\u043d\u0438\u043a\u043e\u0432 \u043d\u0430 \u043e\u0432\u043e\u0449\u0438 \u0438 \u0437\u0430\u043d\u044f\u043b\u0430\u0441\u044c \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0446\u0438\u044f\u043c\u0438 \u0432 \u0437\u0434\u043e\u0440\u043e\u0432\u0443\u044e \u0435\u0434\u0443 \u0434\u043b\u044f \u0432\u0441\u0435\u0445″,»short_name»:»TG»,»title»:»Telegram»,»width»:600,»height»:450},»odnoklassniki»:{«url»:»http:\/\/connect.
ok.ru\/dk?st.cmd=WidgetSharePreview&service=odnoklassniki&st.shareUrl=https:\/\/vc.ru\/food\/105794-zhivoy-eksperiment-google-perevela-195-tysyach-sotrudnikov-na-ovoshchi-i-zanyalas-investiciyami-v-zdorovuyu-edu-dlya-vseh»,»short_name»:»OK»,»title»:»\u041e\u0434\u043d\u043e\u043a\u043b\u0430\u0441\u0441\u043d\u0438\u043a\u0438″,»width»:600,»height»:450},»email»:{«url»:»mailto:?subject=\u0416\u0438\u0432\u043e\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442: Google \u043f\u0435\u0440\u0435\u0432\u0435\u043b\u0430 195 \u0442\u044b\u0441\u044f\u0447 \u0441\u043e\u0442\u0440\u0443\u0434\u043d\u0438\u043a\u043e\u0432 \u043d\u0430 \u043e\u0432\u043e\u0449\u0438 \u0438 \u0437\u0430\u043d\u044f\u043b\u0430\u0441\u044c \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0446\u0438\u044f\u043c\u0438 \u0432 \u0437\u0434\u043e\u0440\u043e\u0432\u0443\u044e \u0435\u0434\u0443 \u0434\u043b\u044f \u0432\u0441\u0435\u0445&body=https:\/\/vc.ru\/food\/105794-zhivoy-eksperiment-google-perevela-195-tysyach-sotrudnikov-na-ovoshchi-i-zanyalas-investiciyami-v-zdorovuyu-edu-dlya-vseh»,»short_name»:»Email»,»title»:»\u041e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c \u043d\u0430 \u043f\u043e\u0447\u0442\u0443″,»width»:600,»height»:450}},»isFavorited»:false}
28 728 просмотров
Бесплатная еда в офисе — популярный бонус для сотрудников как в Кремниевой долине, так и за её пределами. Первый шеф-повар Google Чарли Айерс получил работу в 1999 году, он составил меню для 40 сотрудников с блюдами вроде карри из курицы с жареной тыквой. Вскоре каждая амбициозная компания из Кремниевой долины была вынуждена конкурировать с «легендарной едой в Google».
За последние пять лет Google понемногу изменила продовольственную программу, чтобы сотрудникам не просто нравилась еда, но и чтобы они были здоровыми.
Компания применила к меню типичный для себя подход — итеративный и методичный. Она проводит большой и амбициозный эксперимент: как подтолкнуть людей к выбору более здоровой еды
Компания меняет не только еду, но и подачу: уменьшает порции мясных блюд и десертов, — а также перепланирует помещения так, чтобы сотрудники выбирали воду и фрукты вместо газировки и M&M’s.
По словам директора глобальной продовольственной программы Google Майкла Баккера, цель в том, чтобы сделать выбор здоровой еды простым и предпочтительным.
Майкл Баккер
Результаты хоть и ограниченные, но впечатляющие, пишет OneZero. Только в офисах Google в Нью-Йорке ежедневно кормят 10 тысяч человек. На завтрак съедают 2300 салатов, тогда как два года назад их никто не ел.
С 2017 по 2018 год потребление морепродуктов выросло на 85%, хотя Google ориентируется на более устойчивые, но менее популярные виды: форель, осьминог, моллюски и треска.
Несмотря на то что потребление газировки не изменилось (около 20 банок на человека ежегодно), потребление воды резко возросло.
В 2018 году нью-йоркские «гуглеры» выпили почти в пять раз больше бутилированной воды, чем сладких напитков, и это исключая воду, выпитую в чашках, и бесплатных многоразовых бутылей с водой, которые компания предоставляет сотрудникам, чтобы сократить использование пластика.
Почему важен эксперимент Google
Учёные, защитники общественного здоровья, корпорации и школы в США долго не могут отыскать надёжные способы улучшить питание американцев и мотивировать их есть здоровую пищу.
Ожирение — почти у каждого пятого ребёнка и каждого третьего взрослого, что увеличивает риск развития диабета, болезней сердца и рака. Попытки исправить ситуацию пока ни к чему не приводили. Традиционные кампании хоть и подсказывают людям, что и как они должны делать, но не меняют их поведение.
Например, с 1990-х годов Национальный институт рака и Центры по контролю и профилактике заболеваний США продвигают инициативу «Пять в день», чтобы побудить людей ежедневно есть пять порций фруктов и овощей. Но только 13% американцев едят рекомендованные порции фруктов, а 9% — овощей.
При этом индустрия корпоративных фитнес-программ выросла до $8 млрд, а индустрия похудения зарабатывает в год $66 млрд — без каких-либо ощутимых положительных последствий для работников.
Поменьше тарелки, подальше сладости: особенности и хитрости эксперимента Google
Критики могут сказать: «Это хорошо для Google, но можно ли повторить её успех?» В конце концов, капитализация материнской компании Alphabet — $1 трлн, а в Google — образованные и мотивированные сотрудники. Но стратегия Google хороша тем, что она простая, тонкая и воспроизводимая.
Кафе Google похожи на обычные рестораны быстрого питания со шведскими столами. Но некоторые мелочи приводят к серьёзным изменениям.
Ширина тарелок для шведского стола не стандартные 30 см, а 20–25 сантиметров, что ограничивает размеры порции. Овощи всегда стоят на первом месте, поэтому к тому времени, как посетитель доберётся до мяса и сладостей, на тарелке почти не останется места.
Flickr
Вода с фруктами, лимоном или огурцом есть везде, её ставят намеренно больше, чем сладких напитков и обычной воды в бутылках. А буррито в Google весит 284 грамма — на 60% меньше, чем аналогичный по составу буррито в других местах.
Благодаря небольшим изменениям, Google создала для своих сотрудников мир, в котором нет бесконечных мучных изделий, тройных «Вопперов» и карамельных фраппучино по пол-литра.
«Google пытается изменить культуру еды», — считает директор и основатель Исследовательского центра профилактики Йельского университета и президент инициативы «Настоящее здоровье» Дэвид Кац.
По его мнению, это тот уровень, которого должны достигнуть в США, чтобы навсегда изменить здоровье и поведение общества.
Что для Google значит «культура питания»
Google не ставила перед собой задачу создать «алгоритм здорового питания», когда запустила свою программу питания в 1999 году, но для компании еда всегда была чем-то большим, чем средством подкрепиться.
Сооснователь Google Ларри Пейдж запустил программу в надежде организовать «случайные столкновения» — разговоры во время еды, которые могли бы и не произойти и не привести к созданию новых идей и продуктов.
В течение следующих 15 лет количество сотрудников Google резко выросло, и компании пришлось расширить службу питания от Афин до Сингапура, а кроме талантливых поваров Google понадобился опытный менеджер-оператор.
В 2012 году Google обратилась к Майклу Баккеру, который больше десяти лет подряд открывал и управлял ресторанами в дорогих отелях по всему миру, и предложила ему контролировать корпоративные столовые. Сперва он посмеялся, но после разговора по телефону согласился.
Его задачей стало не только вывести питание Google на «новый уровень», но и определить, каким будет этот «новый уровень».
«Отменить “отменить мясо”»: как изменить поведение голодных людей и можно ли это сделать
Первым шагом Баккера стало создание более комфортных «случайных столкновений». Для этого нужно было переделать стерильные кафетерии так, чтобы они стали похожи на рестораны с хорошим освещением и удобной посадкой или чтобы сотрудники могли наблюдать за приготовлением блюд на открытой кухне.
Затем команда Баккера потратила около года, определяясь, куда двигаться дальше. Неудивительно, что в её фокус попала старая проблема: как перевести людей на более здоровое питание.
«Молодое поколение не знает еды, — считает Баккер, — так как выросло в то время, когда семейные обеды и ужины не были частью повседневной жизни, например потому, что работали оба родителя. Даже если человеку хочется выбрать хорошую еду, он не знает как».
И вопрос, который хотел решить Баккер в Google: что можно сделать, чтобы помочь людям сделать хороший выбор, если они захотят его сделать.
Business Insider
Сперва Баккер хотел обратиться к исследователям и узнать, как заставить сотрудников хотеть хорошую еду, но после долгих разговоров с учёными он понял, что усилия безнадёжны: если поставить гамбургер рядом с цельнозерновыми, практически всегда выберут гамбургер.
И вместо того чтобы менять рацион, команда Баккера изменила пищевой ландшафт, который гарантирует, что каждый полезный или почти полезный вариант еды не останется незамеченным. К примеру, закуски.
Чтобы заварить чашку кофе на кухне Google потребуется около 40 секунд. А для тех, кто не хочет потолстеть, — это очень опасные 40 секунд, так как в ожидании кофе сотрудники могут поесть на микрокухнях фруктов, печенья, конфет.
Согласно исследованию, люди, испытывающие «высокую когнитивную нагрузку», к которым относится большинство «гуглеров», значительно чаще перекусят нездоровой едой (печеньем и сладостями), если проголодаются.
Учитывая это, Баккер провёл простой, но радикальный эксперимент: перенес закуски дальше от кофеварки. Вместо обычных двух метров стол с закусками разместили в пяти. Лишние четыре-пять шагов снизили вероятность перекуса до 23% у мужчин и до 17% у женщин, что существенно, если учесть, что большинство сотрудников Google — мужчины, которые пьют три чашки кофе в день.
Evolution Design
Google переделала 1450 микрокухонь. Теперь нездоровые закуски в основном ограничиваются M&M’s и мармеладными мишками, которые находятся далеко от кофеварки и спрятаны в непрозрачных ёмкостях или ящиках. В то же время рядом с кофемашиной в центре стола всегда стоит большая миска со свежими фруктами.
Ту же теорию Баккер применил к сладким напиткам. Нижняя половина стеклянных дверей кухонных холодильников теперь матовая: «гуглеры» видят простую и ароматизированную воду, морковные палочки и йогурт, тогда как газировка и сладкий чай «спрятаны» за матовым стеклом.
При этом сотрудники признаются, что прекрасно знают, где находятся сладости, но если их не видеть, снижается желание их съесть. Более того, привычки брать фрукты и воду переносятся и в повседневную жизнь.
Но не все сотрудники Google довольны изменениями. Некоторые жаловались на слишком маленькие стаканчики для сока и смузи, перебрасывались петициями вида «отменить мясо», «отменить “отмену мяса”» с последующим требованием «отменить капусту», а в Нью-Йорке компании пришлось уступить очень громкому требованию добавить Red Bull.
Но усилия Бейкера не стоит рассматривать как «пищевую полицию»: вместо того чтобы отменять блюда или заставлять есть морковь, он проектирует окружающую среду так, чтобы морковь была привлекательной.
Бессмысленное потребление вкусной еды
То, что ест человек, зависит от его вкусов, бюджета, окружения и множества других факторов, но в основном это бессознательные привычки, которые тяжело переломить. Поэтому Google сотрудничает с учёными, с центром Customer Insights.
В основе изменений рациона в Google — идея «архитектуры раннего выбора» исследователя Брайана Вансинка и автора книги Mindless Eating («Бездумное поедание»). Согласно идее, люди выбирают еду, которую видят раньше, а среди предложений Вансинка — подсветить миски с фруктами в кафе, чтобы увеличить их продажи.
Баккер считает, что в этой идее есть смысл, но её нужно доработать: недостаточно выставить овощи и фрукты ближе, чем мясо. Они должны быть в изобилии и более привлекательными, нежели мясо.
Как-то раз летом 2019 года на шведском столе в нью-йоркском офисе были в основном вегетарианские индийские блюда: карри из кокоса, жареная цветная капуста с кешью, сыр с помидорами и перцем и острый тофу-виндалу. Единственным мясным блюдом оставался ягнёнок.
Большинство «гуглеров» словно на автопилоте заполнили тарелки едой ещё до того, как подошли к ягнёнку, лишь небольшая группа сотрудников намеренно пришла к нему с пустыми тарелками и наелась мяса. Её назвали «ненаучной выборкой».
Важны не только изобилие и подача, но и вкус еды: чтобы сотрудники ели овощи, они должны быть вкусными. Поскольку то, что побуждает людей увлекаться чем-то и придерживаться добродетельной модели поведения, связано не столько с логикой, а с тем, насколько это нравится человеку. Неважно, идёт он в спортзал или ест овощи.
Эта мысль привела Баккера к новому пути развития кухни Google: чтобы овощи стали вкуснее не с помощью нейробиологов и специалистов по поведению человека, а с помощью поваров.
The Boston Globe
«Идите и готовьте овощи»: зачем Google своя кулинарная школа
Классические кухни в ресторанах построены по бригадной системе: шеф-повар, за которым следуют су-шеф и повара, ответственные за определенное направление: мясо, рыбу, гарниры, соусы, десерты.
Она придумана в 19 веке Жоржем-Огюстом Эскоффье и основана на военной иерархии (чёткие зоны ответственности эффективнее в приготовлении сложных блюд). Повар по овощам занимал один из низших рангов: мясо было дорогим, его готовили только опытные повара.
Новички готовили репу и постепенно прокладывали себе карьерный путь до вырезки. Но и сейчас отношение к овощам не изменилось, считает проректор Кулинарного института Америки (КИА) Марк Эриксон.
Во время его работы в элитном отеле Greenbrier замыкался круг: можно было испортить овощи, но до этого никому не было дела, так как их никто не ел, потому что их плохо готовили.
Отношение к овощам стало проблемой для Баккера и Google, которая ради защиты здоровья и окружающей среды в 2016 году заставила поваров готовить овощи.
По словам Баккера, повара или проигнорировали указание, или подавали блюдо, которое никто не ел.
На протяжении двух следующих лет Баккер изучал, как улучшить приготовление овощей. Он определил две проблемы:
- Вкусно приготовить овощи труднее, чем вкусно приготовить мясо: чтобы придать им вкус, нужно чистить, рубить, тушить или делать пюре.
- Подача овощей, скучных для поваров блюд, не приносила им того же признания, что при подаче мяса.
«Как и многие из нас, шеф-повара развиваются благодаря похвалам. С их точки зрения, подача овощей была проигрышной», — заявил Баккер.
К 2018 году у Баккера кончилось терпение, и он обратился за помощью к Эриксону из КИА. Google — один из крупнейших корпоративных спонсоров КИА, который в общей сложности потратил на поддержку инициатив КИА более $1 млн.
Баккер и Эриксон создали учебную кулинарную программу, где учат готовить овощи. По мнению Эриксона, по ней будут преподавать кулинарию и готовить в будущем.
Поварам рассказывают, как приготовить идеальный хумус, фаршированные виноградные листья или жареные бананы. В феврале 2020 года начнется 75-часовой онлайн-курс для всех шеф-поваров в кафе Google. Стало быть, Google оплачивает обучение тысяч поваров, часть из которых найдёт новую работу и продолжит обучать новых.
Большинство корпораций хочет видеть конкретную отдачу от своих инвестиций. Google изначально не ставила чётких целей, потому что знает, что ничего не знает, и хочет увидеть, что из этого получится.
Почему у Google может получиться
Большинство исследований продуктов небольшие и пытаются связать те или иные продукты с конкретными проблемами со здоровьем, что приводит к противоречивым выводам, вводящим в заблуждение.
Ещё одна сложность исследований — они полагаются на то, что говорят их участники, а информация может быть ненадежной. Люди не всегда могут вспомнить точно, что ели две недели назад, и либо ошибаются, либо врут.
В идеальном мире исследователи поместили бы испытуемых в лабораторию и контролировали бы их рацион. Но для этого потребуются годы, сложно найти добровольцев, готовых так долго жить и есть «в пузыре». В результате данные о продуктах питания стали практически бесполезны.
Обзор Национального обследования в области здравоохранения и питания США показал, что большинство опрошенных голодали бы, если соблюдать указания.
Другое спорное исследование опровергло предупреждение о вреде красного мяса млекопитающих, о котором говорили на протяжении десятилетий.
Google же проводит живой эксперимент, в котором с помощью многоразового ежедневного питания пять дней в неделю меняет привычки 195 тысяч человек.
Преимущество подхода Баккера в том, что Google не заявляет о существовании простых и универсальных решений для диеты. Компания создала мир, схожий с «голубыми зонами»: Сардинией, Окинавой и Японией, где еда и культура поддерживают долгую и здоровую жизнь.
кафе в мюнхенском офисе Google The Counter
Google не называет свою продовольственную программу «корпоративным здоровьем», но её подход может стать новой моделью для таких начинаний, для других корпораций Кремниевой долины, где бесплатное питание — норма. Но есть способы масштабировать задумки на остальной мир.
Google не занимается едой в одиночку. Компания Compass, которая занимается закупками, пишет рецепты и нанимает поваров для кафе Google, — крупнейшая в мире фирма, оказывающая услуги общественного питания.
Она управляет продовольственными процессами в корпорациях, музеях, больницах, стадионах, концертных залах, университетах и даже государственных школах — и начинает применять стратегию Google по всей своей сети.
Например, в дочерней компании Bon Appetit Management рекомендации шеф-поварам основаны на исследованиях Google, связанных с разработкой растительного меню.
Кулинарный институт Америки также использует «овощную» учебную программу в качестве первой сертификаций непрерывного образования. Она позволит другим компаниям и частным лицам реагировать на потребительский спрос на вкусные, здоровые и устойчивые продукты питания.
Подобные стратегии изменения поведения появляются в школьных столовых и армии США. Опираясь на прогнозы, что к 2030 году 64% потенциальных новобранцев не смогут поступить на службу из-за превышения веса, военные разработали годовую программу здорового питания на 14 пилотных участках.
Они также переобучают поваров, меняют меню и экспериментируют с размещением здоровой и вредной еды.
В заключительной оценке инициативы военные отметили заметные улучшения в области здорового питания. Но полностью внедрить программу здорового питания будет труднее из-за сложной системы закупок и структуры руководства
Будет непросто превратить мир в одно гигантское кафе Google, потому что для этого нужно полностью изменить культуру питания, где много — не значит лучше, а капуста может быть очень вкусной. Но это осуществимо, ведь есть много стран, где здоровая еда вне зависимости от достатка и образования — это важнейшая культурная ценность.
Для этого может понадобиться смена поколений. Особенно — в школах и университетах, чтобы научить молодых людей наслаждаться здоровой пищей и повышать на неё спрос.
экспериментов в кампании | API Google Рекламы | Разработчики Google
Эксперименты кампании — это интерфейс для управления экспериментальными кампаниями, связанными с базовой кампанией. Экспериментальные кампании — это полноценные кампании, которые могут показывать рекламу и накапливать клики, стоимость и другие показатели.
Создание эксперимента кампании
Ключевой термин: Эксперимент кампании — это ресурс, который вы используете для создания новых экспериментов из черновика кампании и определения связей между проекты кампаний и экспериментальные кампании.Экспериментальная кампания — это фактическая кампания, которая работает вместе с базовой кампанией и накапливает статистику и проводить.
Создание эксперимента кампании — это асинхронная операция , и она не
использовать стандартный механизм изменения для обычных операций с ресурсами. Ты
должен создать новый CampaignExperiment
ссылаясь на campaign_draft
для проекта кампании, который вы хотите превратить в
эксперимент. Дополнительно необходимо указать наименование
, traffic_split_percent
, г.
и traffic_split_type
.
Процент разделения трафика указывает, какой процент трафика должен составлять направлен в экспериментальную кампанию. Оставшийся процент по-прежнему будет направлен на базовую кампанию. Для заданного впечатления только база Кампания или экспериментальная кампания будут рассматриваться для аукционов, а не то и другое одновременно.
Тип разделения трафика указывает, как трафик будет разделен между
экспериментальная кампания и базовая кампания. Если вы выберете
RANDOM_QUERY
,
тогда кампания будет выбрана случайным образом во время показа.если ты
выберите COOKIE
,
тогда выбор, сделанный для данного пользователя, будет сохранен в
cookie, чтобы конкретный пользователь всегда находился в одной и той же руке эксперимента.
После настройки CampaignExperiment
вы должны сделать CampaignExperimentService.CreateCampaignExperiment
запрос на создание эксперимента. Это асинхронно и вернет
длительную операцию, которую вы можете использовать для проверки статуса создания.
Изменение существующего эксперимента
Вы можете изменить поля в экспериментальной кампании, как обычно кампании, за некоторыми исключениями, которые продиктованы эксперимент кампании:
-
статус
-
наименование
-
начальная_дата
-
дата_кончания
-
кампания_бюджет
Когда ваш эксперимент собрал достаточно данных, вы можете выбрать его судьбу:
- Продвигайте эксперимент, копируя любые изменения из экспериментальной кампании.
в базовую кампанию и удалив экспериментальную кампанию.Это асинхронная работа . Вы можете выполнить эту операцию, позвонив
CampaignExperimentService.PromoteCampaignExperiment
. - Выпускник эксперимент, позволяющий продолжить его полностью самостоятельно
базовой кампании как самостоятельную полноценную кампанию. Это синхронный
операция и выполняется немедленно. Вы можете выполнить эту операцию с помощью
вызов
CampaignExperimentService.GraduateCampaignExperiment
. В этот запрос необходимо передать новыйcampaign_budget
, поскольку новый градуированная кампания не сможет разделить бюджет существующей базы кампания. - Завершить эксперимент, позвонив
CampaignExperimentService.EndCampaignExperiment
. Это синхронная операция.
Google запускает эксперименты с видеообъявлением, чтобы помочь усовершенствовать маркетинговые подходы
В связи с растущим вниманием к видеомаркетингу это может оказать большую помощь в улучшении охвата и рекламных усилий.
Google объявила о добавлении нового элемента видеоэкспериментов в Google Рекламу, который позволит брендам тестировать и сравнивать различные подходы, чтобы усовершенствовать свой подход к видеомаркетингу.
Как объяснил Google:
«Зная о огромном влиянии креативов на рост продаж, мы запускаем видеоэксперименты в Google Рекламе в течение следующих нескольких недель. Эти эксперименты легко настроить, и они быстро дадут результаты, на которые вы можете действовать. стремясь понять влияние различных видеорекламы на Brand Lift, конверсии или цену за конверсию, вы тоже можете принимать более обоснованные решения, которые улучшат ваши результаты на YouTube ».
Видеоэксперименты будут добавлены в вашу панель управления Google Рекламы — на вкладке «Проекты и эксперименты» вы скоро увидите новую опцию «Видеоэксперименты».
Здесь вы сможете создавать новые видеоэксперименты, чтобы проверить, какая из ваших видеообъявлений более эффективна на YouTube.
«С помощью видеоэксперимента вы можете протестировать разные видеообъявления с одной и той же аудиторией, а затем использовать результаты эксперимента, чтобы определить, какое объявление больше всего нравится вашей аудитории».
После этого результаты будут доступны в панели управления Google Рекламы:
Это может помочь брендам оптимизировать свои рекламные расходы и добиться лучших результатов, что, по мнению Google, может иметь большое влияние.
«В глобальных исследованиях, которые мы проводили в 2019 и 2020 годах, рекламодатели, которые успешно использовали видеоэксперименты для оптимизации для снижения эффективности воронки продаж на YouTube, увидели на 30% более низкую медианную цену за конверсию от более эффективных креативов. чтобы оптимизировать воздействие на верхнюю часть воронки, более эффективный креатив запоминает рекламу на 60% «.
Существуют различные способы использования этого для улучшения вашего подхода к видеорекламе, помогая вам отточить определенные элементы для максимизации производительности видеорекламы.
Google также предоставил три примера потенциальных экспериментов для тестирования:
- Увеличенный текст. Повышает ли узнаваемость бренда увеличение текстовых элементов (включая логотипы)?
- Затянуть каркас. Привлекает ли увеличение внимания к важным предметам, будь то люди или продукты, более пристальное внимание?
- Сделайте покупку простой. Призывает ли призыв к действию в начале видео больше конверсий, чем в конце?
Ключ заключается в ограничении ваших переменных, чтобы получить четкое представление о влиянии каждого изменения.Таким образом, если вы проводите эксперимент, в идеале вы не будете менять три или четыре вещи одновременно, но, пробуя одно изменение за раз, вы сможете лучше понять влияние, которое затем сможете включить в настоящее и будущее планирование.
Новые эксперименты Google с видеообъявлением скоро будут доступны в Менеджере Google Рекламы. Подробнее о настройке эксперимента с видеообъявлением можно прочитать здесь.
экспериментов | Dialogflow CX | Google Cloud
Предварительный просмотр
На этот продукт или функцию распространяется Условия предложений Google Cloud Platform до GA Условия использования.Продукты и функции Pre-GA могут иметь ограниченную поддержку, и изменения в Продукты и функции pre-GA могут быть несовместимы с другими версиями pre-GA. Для получения дополнительной информации см. описания этапов запуска.
Эксперименты используются для сравнения производительности многопоточных версий (вариант версии ) к версии control (обычно производственной версии) при обработке живого трафика. Вы можете выделить часть живого трафика для каждой версии потока. и отслеживайте следующие показатели:
- Содержится : Количество сеансов, достигших END_SESSION без активации других показателей ниже.Доступно только агентам, использующим телефонную интеграцию.
- Скорость передачи живого агента : Количество сеансов передан живому агенту.
- Скорость обратного звонка : Количество сеансов, перезапущенных конечным пользователем. Доступно только агентам, использующим телефонную интеграцию.
- Показатель брошенных : Количество сеансов, которые были прерваны конечным пользователем. Доступно только агентам, использующим телефонную интеграцию.
- Скорость окончания сеанса : Количество сеансов, достигших END_SESSION.
- Общее количество несоответствий : Общее количество вхождений событие без совпадения.
- Общее количество оборотов : Общее количество разговоров (один ввод конечного пользователя и один ответ агента считается ходом).
- Среднее количество оборотов : Среднее количество витков.
Препарат
Для подготовки к эксперименту:
- Решите, какой поток будет использоваться для эксперимента. Вы не можете проводить несколько экспериментов в одном потоке, поэтому убедитесь, что вы разделили свой агент на несколько потоков.
- Создать несколько версии для вашего потока. Различия между каждой версией могут быть маленькими или большими, в зависимости от того, что вы хотите сравнить.
- Определитесь с объемом трафика, который будет выделен для вашего эксперимента. Если вы тестируете мелкие изменения, вы можете начать с большим объемом трафика. Для крупных изменений, которые могут быть разрушительными, рассмотрите возможность выделения небольшого объема трафика на свой эксперимент.
Создать эксперимент
Для создания эксперимента:
- Откройте консоль Dialogflow CX.
- Выберите свой проект GCP, чтобы открыть селектор агентов.
- Выберите своего агента, чтобы открыть конструктор агентов.
- Выберите вкладку Manage .
- Щелкните Experiments , чтобы открыть панель «Эксперименты».
- Щелкните Create .
- Введите описание.
- Выберите среду с которой вы хотите запустить эксперимент.
- Выберите поток для эксперимента.
- При желании введите количество дней при котором эксперимент автоматически остановится.
- Введите версию потока управления и процент трафика, который пойдет на контрольную версию.
- Введите от одного до четырех вариантов потока, и процент трафика, который пойдет на вариантную версию.
- Нажмите Сохранить .
Начать и остановить эксперимент
Вы можете начать сохраненный эксперимент или вручную остановить запущенный эксперимент в любое время. Остановка эксперимента приведет к отмене распределения трафика. и вернет трафик в исходное состояние.
Примечание. Если остановить эксперимент, пока он не завершен, результаты не будут доступны. Если вы остановите эксперимент во время его выполнения, результаты могут быть неубедительными или отсутствовать.Чтобы начать или остановить эксперимент:
- Откройте панель «Эксперименты».
- Щелкните Start или Stop для эксперимента в списке.
Управление экспериментами
Примечание: Вы можете увеличить вариантное распределение трафика пока идет эксперимент.Уменьшение трафика требует создания нового эксперимента.Вы можете редактировать или удалять эксперименты в любое время:
- Откройте панель «Эксперименты».
- Нажмите на опцию more_vert меню для эксперимента в списке.
- Щелкните Edit или Delete .
Монитор состояния экспериментов
Все эксперименты, независимо от их статуса, можно найти на панели экспериментов. У экспериментов может быть четыре разных статуса:
- Проект : Эксперимент был создан, но никогда не запускался.
- На рассмотрении : Эксперимент начался недавно, но результатов пока нет.
- Работает : Эксперимент запущен, доступны промежуточные результаты.
- Завершено : Эксперимент завершен из-за автоматической или ручной остановки.
Просмотр результатов эксперимента
Для просмотра результатов эксперимента:
- Откройте панель «Эксперименты».
- Наведите указатель мыши на статистику bar_chart значок эксперимента чтобы увидеть сводку результатов.
- Чтобы увидеть полные результаты, нажмите кнопку Подробнее . Вы будете перенаправлены на панель аналитики, где отображается таблица с показателями контрольной и вариантной версии.
Результаты, окрашенные в зеленый цвет, предполагают благоприятный исход, в то время как красный предполагает менее благоприятный результат. Обратите внимание, что в некоторых случаях более высокие / более низкие числа не обязательно лучше (высокий уровень отказа / низкий уровень отказа).
Вы также можете просмотреть результаты прямо из Панель аналитики:
- Откройте консоль Dialogflow CX.
- Выберите свой проект GCP, чтобы открыть селектор агентов.
- Выберите своего агента, чтобы открыть конструктор агентов.
- Выберите вкладку Manage .
- Щелкните Analytics , чтобы открыть панель аналитики.
- Щелкните вкладку Experiments .
- Выберите среду.
- Выберите отображаемое имя эксперимента.
Google Play | Разработчики Android
Увеличьте количество установок, используя эксперименты со списком приложений, чтобы найти лучший значок, изображения, видео и описания для своего приложения в Google Play.
Совет: Ознакомьтесь с нашими рекомендации по запуску A / B-тестов в приложении.Почему это работает
Эксперименты со списком приложений позволяют проводить A / B-тестирование изменений в списке приложений на подмножествах пользователей, чтобы вы могли вносить изменения, подкрепленные данными, которые приводят к увеличению количества установок.
Основные характеристики
- Протестируйте свои основные и настраиваемые страницы со списком магазинов.
- Протестируйте варианты графики и текста вашего приложения.
- Запускайте глобальные тесты только для графики на языке по умолчанию или тесты, включающие текст и графику, для любой локализации на пяти языках одновременно.
- Поэкспериментируйте с порядком ваших снимков экрана.
- Выберите процент посетителей, для которых Google Play будет отображать эксперимент, до 50 процентов.
- Просмотрите результаты в Play Console.
- Сделайте контент-победитель эксперимента страницей магазина по умолчанию.
- Эффективность эксперимента со списком приложений в магазине можно измерить с помощью показателей, которые установили впервые или за один день удержания пользователей. Эти показатели публикуются ежечасно, с возможностью получения уведомлений по электронной почте после завершения эксперимента, чтобы вы могли быстро применить лучший вариант.
Лучшие практики
- Определите четкую цель . При планировании экспериментов убедитесь, что у вас есть вопрос или цель.
- Проверять по одному атрибуту за раз . Получайте наиболее четкие результаты, тестируя по одному варианту за раз, если только вы не тестируете совершенно разные проекты друг против друга. Протестируйте аналогичные изменения в ваших значках и использовать графику вместе, например, при сравнении использования персонажей с объектами в игре.
- Начните со значка приложения . Значок вашего приложения может иметь огромное влияние на то, будут ли пользователи выбирать ваше приложение из результатов поиска и списков категорий, поэтому протестируйте его как можно раньше.
- Проверьте все атрибуты вашего объявления . После значка проверьте свои скриншоты и краткие описания, потому что они видны пользователям в результатах поиска и списках категорий. Обязательно протестируйте графическое изображение функции как приоритетное, так как оно широко присутствует в списке ваших магазинов. страница.
- Проведите эксперимент не менее 7 дней . Работа в течение недели позволяет фиксировать поведение как в будние, так и в выходные дни, даже если у вас достаточно трафика для получения значимых результатов через несколько дней.
- Экспериментируйте с 50% аудитории . Использование максимально возможной тестовой аудитории быстрее всего даст результаты; особенно для локализованных тестов, которые могут быть видны лишь небольшому проценту ваших пользователей.
- Создайте не менее трех альтернатив для тестирования графики и текста . Для вашего значка в высоком разрешении, графического объекта, снимков экрана, промо-видео, краткого и полного описания протестируйте несколько разных версий, чтобы выбрать наиболее эффективную, и поэкспериментируйте с порядком скриншотов.
- Итерировать . Не бойтесь тестировать различные изображения, но повторяйте результаты, чтобы подтвердить и улучшить свои выводы.
Примеры
Google проводит масштабный тайный эксперимент над людьми. Вы можете быть одним из подопытных кроликов
13 января Australian Financial Review сообщило, что Google удалил часть австралийских новостей из результатов поиска для некоторых местных пользователей.
В беседе с Guardian представитель Google подтвердил, что компания «проводит несколько экспериментов, каждый из которых охватит около 1% пользователей Google Search в Австралии, чтобы измерить влияние новостных компаний и Google Search друг на друга».
Так что же это за «эксперименты»? И насколько мы должны беспокоиться о действиях Google?
Инжиниринг нашего внимания
Эксперимент Google (который должен продлиться до начала февраля) предполагает отображение «альтернативного» новостного веб-сайта для определенных австралийских пользователей — не менее 160 000, по данным The Guardian.
Представитель Google сообщил The Conversation, что эксперимент не помешал пользователям (над которыми проводились эксперименты) получить доступ к новостям.Скорее, они не узнают историю через поиск, и им придется получить к ней доступ другим способом, например, непосредственно на веб-сайте издателя.
Эксперимент Google — это форма «A / B-тестирования», которая обычно включает случайное разделение населения пополам — на группы A и B — и воздействие на каждую группу различных «стимулов».
Например, в случае веб-дизайна две группы могут обслуживаться разными веб-макетами. Это может быть сделано для проверки изменений макета, цветовой схемы или любого другого элемента.
Производительность при A / B-тестировании оценивается по ряду факторов, например по тем, какие ссылки нажимаются первыми, или по среднему времени, проведенному на странице. Если группа A просматривала сайт дольше, чем группа B, модификация, протестированная в группе A, может считаться благоприятной.
В случае с Google нам неизвестна мотивация проведения тестов. Но мы знаем, что небольшая группа пользователей получила результаты, отличные от большинства, и не была предупреждена.
Результатом эксперимента стало продвижение сомнительных источников новостей над надежными, некоторые из которых, как известно, публикуют дезинформацию (которая направлена на введение в заблуждение) и дезинформацию (ложные утверждения, распространяемые независимо от намерений).
Читать далее: ACCC подает в суд на Google за введение в заблуждение миллионов. Но вызвать это легче, чем исправить.
Отвечая на вопрос об этом рейтинге, представитель Google сказал, что это был «единственный анекдотический снимок экрана», и эксперимент не «удалял результаты, которые ссылаются на официальные правительственные ведомства и агентства».
Намерение манипулировать
A / B-тестирование — широко распространенная практика. Он может варьироваться от довольно мягкого — например, определение лучшего места для рекламного баннера — до гораздо более агрессивного, например, печально известного эксперимента Facebook с настроением.
В январе 2012 года Facebook провел эксперимент с 700 000 пользователей без их ведома или явного согласия. Ленты пользователей были скорректированы таким образом, чтобы искусственно увеличивать либо положительный, либо отрицательный новостной контент.
Одна из заявленных целей, согласно собственным исследователям Facebook, заключалась в том, чтобы изучить, могут ли эмоциональные состояния передаваться от пользователя к пользователю на платформе. Результаты были опубликованы в Трудах Национальной академии наук.
После публикации отчета «эксперимент» Facebook был широко осужден академиками, журналистами и общественностью как этически сомнительный.У него была конкретная цель — эмоционально манипулировать пользователями, и он не получал информированного согласия.
Точно так же маловероятно, что пользователи, попавшие в разгар австралийского новостного эксперимента Google, осознают это.
И хотя прямой риск для тех, кто проходит тестирование, может показаться ниже, чем в случае эксперимента с настроением Facebook, корректировка результатов новостей в поиске Google сопряжена с собственным набором рисков. Как показали исследования, проведенные мной и моими коллегами, платформы и средства массовой информации играют большую роль в распространении теорий заговора.
Google попытался преуменьшить значимость эксперимента, отметив, что ежегодно проводит «десятки тысяч экспериментов в поиске Google».
Но это не освобождает компанию от проверки. Во всяком случае, это даже больше беспокоит.
Представьте, что полицейский остановил вас за превышение скорости, и вы сказали: «Ну, я превышаю скорость тысячи раз в год, так почему я должен платить штраф только в этот раз, когда меня поймали?»
Если это всего лишь один эксперимент из десятков тысяч, как признал Google, то какими еще способами нами манипулировали в прошлом? Трудно узнать, не раскрывая базовую информацию.
В отчете Australian Financial Review говорится, что «неофициальные данные» предполагают, что Google «экспериментирует со своим алгоритмом, чтобы удалить статьи австралийских новостных издателей из результатов поиска». ShutterstockИстория неразглашения информации
Это не первый случай, когда Google экспериментирует с пользователями без надлежащего раскрытия информации. В 2018 году компания выпустила Google Duplex, цифрового помощника с поддержкой речи, который якобы мог бронировать столики в ресторанах и другие персональные услуги от имени пользователя.
В демонстрациях Duplex Google воспроизводил звук речевого агента с поддержкой AI, который делал заказы через разговоры с реальными работниками сферы обслуживания. Однако в звонках отсутствовало раскрытие того, что агент, открывший звонок, был ботом, а не человеком.
Критики подвергли сомнению обманчивость технологии, учитывая ее мимику человеческой речи.
Скандальное увольнение Google в декабре ведущего в мире исследователя этики ИИ Тимнита Гебру (бывшего соруководителя группы по этическому ИИ) еще больше омрачило внутреннюю культуру компании.
Что нужно изменить?
Цифровые медиа-платформы, включая Google, Facebook, Netflix и Amazon (среди прочих), оказывают огромное влияние на нашу жизнь. У них также есть огромное политическое влияние.
Неслучайно эксперимент Google по ранжированию новостей проводился на фоне обостряющейся дискуссии о торговом кодексе средств массовой информации, когда федеральное правительство хочет, чтобы Google и Facebook договорились с австралийскими новостными провайдерами об оплате использования их контента.
Представитель Google подтвердил, что эксперимент «напрямую связан с необходимостью сбора информации для использования в арбитражных разбирательствах, если кодекс станет законом».
Читать далее: «Открытое письмо» Google пытается напугать австралийцев. Компания просто не хочет платить за новости
Хотя пользователи получают выгоду от услуг, предоставляемых крупными технологиями, мы должны понимать, что мы больше, чем просто потребители этих услуг.Данные, которые мы теряем, являются важным входом для огромного алгоритмического механизма, который работает в ядре таких предприятий, как Google.
Результат — то, что ученые в области цифровых медиа называют «алгоритмической культурой». Мы загружаем эти машины нашими данными и в процессе настраиваем их на свой вкус. Между тем, они возвращают нам больше вещей для потребления в гигантском алгоритмическом цикле человек-машина.
Крупные технологические предприятия, такие как Facebook и Google, полагаются на пользовательские данные, чтобы оставаться на плаву.ShutterstockДо недавнего времени мы были некритическими участниками этих алгоритмических циклов и экспериментов, желая использовать «бесплатные» сервисы в обмен на наши данные. Но нам необходимо переосмыслить наши отношения с платформами и обеспечить им более высокий стандарт подотчетности.
Правительствам следует установить минимальные стандарты раскрытия информации для пользовательского тестирования платформ. A / B-тестирование платформами по-прежнему может быть проведено должным образом с адекватным раскрытием информации, надзором и опциями согласия.
В случае Google «поступать правильно» означало бы принять более высокие стандарты этического поведения, когда дело касается пользовательского тестирования.
экспериментов Google с контентом | Руководство пользователя Magento 2.4
В следующем примере показано, как настроить A / B-тестирование продуктов, категорий или содержательных страниц с помощью экспериментов с контентом Google Analytics. Мы рекомендуем вам держать две вкладки браузера открытыми во время работы с инструкциями, потому что вам нужно будет переключаться между администратором Magento и вашей учетной записью Google Analytics.
Эксперименты с контентом Google больше не поддерживаются и в конечном итоге будут заменены Google Оптимизацией.
Шаг 1. Включите эксперименты с контентом (Magento)
Войдите в систему с правами администратора вашей установки Magento.
Следуйте инструкциям, чтобы включить Google Analytics с экспериментами с контентом в конфигурации Magento.
Включить эксперименты с контентом
Шаг 2.Настройка вариаций (Magento)
Создайте несколько вариантов одного и того же продукта, категории или страницы.
- У каждого варианта должен быть уникальный URL-ключ.
- Для каждого варианта должен быть выбран один и тот же вид магазина.
Вы можете создать до десяти вариантов каждой сущности, которую хотите протестировать. Для продуктов используйте функцию «Сохранить и дублировать», чтобы сэкономить время.
Шаг 3. Настройка эксперимента (Google)
У вас должны быть соответствующие разрешения для учетной записи Google, чтобы создать эксперимент.
Откройте другую вкладку браузера и войдите в свою учетную запись Google Analytics. При необходимости перейдите к учетной записи и собственности .
На боковой панели слева выберите Admin . Затем выполните одно из следующих действий:
Выберите существующий вид
В заголовке столбца View щелкните стрелку вниз и выберите представление, которое должно предоставить данные для эксперимента.
Создание нового представления отчетов
В заголовке столбца View щелкните Create View. Затем сделайте следующее:
Укажите место проведения эксперимента как «Веб-сайт» или «Мобильное приложение».
Введите описательное Имя представления отчетов .
Укажите часовой пояс отчета .
По завершении щелкните «Создать представление». Затем щелкните стрелку назад, чтобы вернуться на предыдущую страницу.
Новое представление отчетов
На левой панели под Reports выберите Behavior> Experiments .
Щелкните Создать эксперимент. Затем сделайте следующее:
Укажите процент трафика для перенаправления.
Укажите URL-адрес исходной страницы и URL-адреса каждого варианта страницы , который вы хотите протестировать.
Завершите остальные варианты. Если вам нужна помощь, см. Раздел Настройка и изменение экспериментов.
Когда эксперимент будет настроен, нажмите «Вставить код вручную». Затем скопируйте фрагмент кода.
Шаг 4. Вставьте фрагмент кода (Magento)
Вернитесь к администратору вашей установки Magento.Затем откройте исходную версию продукта, категории или страницы в режиме редактирования.
Разверните раздел View Optimization для продукта, категории или страницы.
Вставьте фрагмент кода, который вы скопировали из Google Analytics, в текстовое поле Experiment Code .
Не вставляйте фрагмент кода ни в один из вариантов.
Оптимизация просмотра продукта
По завершении щелкните Сохранить.
Шаг 5. Просмотрите и начните эксперимент (Google)
Вернитесь в свою учетную запись Google Analytics.
Проверьте настройки эксперимента.
Если все готово, нажмите «Начать эксперимент». В противном случае нажмите «Сохранить на потом».
Эксперименты со страницей Google Play: руководство по A / B-тестированию
экспериментов Google можно использовать для оптимизации вашего списка в Google Play Store.
Неважно, что вы проводите A / B-тестирование, успешное проведение экспериментов в Play Маркете выполняется с помощью того же процесса. И здесь мы больше всего описываем A / B-тестирование промо-ролика для Google Play Store.
Есть две основные цели при добавлении промо-видео в вашу страницу в Play Маркете.
Первый — на увеличить конверсию на странице продукта. : получить больше установок для того же количества посетителей страницы магазина. Правильно составленное видео, показывающее, что такое приложение / игра и как она может принести пользу пользователю, должно помочь убедить потенциального пользователя загрузить приложение.
Если ваши показатели удержания ниже этих, есть место для улучшения (источник: Lab Cave Games )Второй — на , чтобы увеличить вовлеченность и удержание после установки . Новый пользователь, который смотрел видео перед загрузкой видео, лучше понимает ценность приложения / игры, которые может принести ему, и с большей вероятностью найдет свой путь или продолжит играть.
У вас сейчас есть видео или мы его только что доставили?
Вам может быть интересно, как оценить влияние вашего промо-видео на Play Store.Как узнать, помогает ли видео?
Хотите обсудить видеопроект для видео в Google Play Store? Ознакомьтесь с нашими видеоуслугами в приложении и свяжитесь с нами, чтобы получить бесплатное индивидуальное предложение . Уже работаете с нами? Если что-то неясно или вы просто хотите продолжить обмен информацией (бесплатно), просто обратитесь к своему менеджеру проекта в Apptamin, и кто-нибудь из нашей команды будет рад обсудить с вами.Вот пошаговое руководство о том, как мы советуем измерять воздействие.
Примечание. МНОЖЕСТВО советов в этом посте носит общий характер и может быть применено к экспериментам с другими атрибутами листинга (значок, снимки экрана, графические объекты и т. Д.) Или даже к другим A / B-тестам. Но этот пост посвящен экспериментам Google с атрибутом видео.
Какое влияние вы можете ожидать на коэффициент конверсии?
У нас было несколько клиентов, у которых коэффициент конверсии увеличился при добавлении нового рекламного видео для вашего приложения для Android.
Иногда у них уже было видео в Play Store, а иногда они еще не использовали видео.
Те же результаты не могут быть гарантированы. Но измерение этого также является первым шагом к оптимизации вашего видео, если оно не работает так, как ожидалось (шаг 7).
Представляем эксперименты со списком в Google Play Store
Google предлагает инструмент в консоли разработчика Google Play под названием «Эксперименты со списком магазинов».
С помощью экспериментов Google вы можете A / B-тестировать изменения в вашей странице магазина: подгруппа посетителей Play Store увидит версию A, другая подгруппа увидит версию B.
Затем вы сравниваете, какие версии получили больше установок.
Ключевые особенности экспериментов со листингом приложений (источник: Google)
Прежде чем идти дальше
С каких локализаций следует начать?
Замечательно иметь возможность локализовать видео в Play Маркете.
Если у вас есть значительная база пользователей, говорящих на другом языке, вы можете адаптировать видео под них.
С помощью экспериментов со списком приложений вы можете запускать тесты для любой локализации на пяти языках одновременно.
Тем не менее, если у вас нет большого количества загрузок , вам следует начинать A / B-тестирование только с одним языком (пример: EN-US).
Определение вашей цели
В случае, если у вас еще нет видео в вашем списке Play Маркета, сначала вы хотите провести A / B-тест:
- Версия A (Текущая версия): без промо-видео
- Версия B (вариант с видео): точно такой же список, но с промо-видео
Если у вас уже есть видео в вашем объявлении, то сначала вы хотите провести A / B-тест:
- Версия A (Текущая версия): текущий промо-ролик
- Версия Б (Вариант с видео): новый промо-ролик
После проведения эксперимента ваша цель — определить, помогло ли видео повысить конверсию посещений в количество установок в магазине Google Play и насколько.
Итак, прежде чем начать, вы хотите определить:
- Переменная: единственный изменяемый элемент (видео по сравнению с отсутствием видео, новое видео по сравнению с текущим видео)
- Результат: ожидаемый результат (насколько, по вашему мнению, он должен изменить коэффициент конверсии)
- Обоснование: почему, по вашему мнению, следует изменить коэффициент конверсии
Старайтесь поддерживать относительно постоянные усилия по маркетингу / привлечению
То, что измеряет эксперимент со листингом, происходит только в Play Маркете.Но на результат может повлиять множество внешних факторов.
Основной из них, который мы определили (при условии, что ваш список в Play Маркете остается неизменным), — это большой маркетинговый или рекламный толчок. Если у вас есть существенные изменения в рекламных / маркетинговых кампаниях, вы рискуете получить различное поведение от посетителей в вашем списке Play Store: они, возможно, уже приняли решение о загрузке приложения, когда попали туда.
Потому что Google не делает различий по типам установок (обычный поиск, обычный просмотр, сторонние источники перехода, например рекламные сети.и т. д.) , следовательно, изменит «обычный исходный микс» посетителей, что может повлиять на изменения / эксперименты, которые вы проводите (включая видео ) . Особенно, если они уже видели видеообъявление и прекрасно понимают, какие преимущества дает приложение!
Мы понимаем, что сохранить одинаковый маркетинг / рекламу не всегда возможно, но, по крайней мере, имейте это в виду.
Каков ваш текущий коэффициент конверсии?
Для своего приложения вы можете найти эти коэффициенты конверсии в отчетах по источникам трафика в консоли разработчика Google Play.
Вот как они выглядят:
Общие и только обычные коэффициенты конверсии для всех стран можно найти в вашем отчете, когда вы «Измеряете по каналу привлечения».Запишите каждый коэффициент конверсии за предыдущую неделю. Вы также можете принять во внимание общие и обычные коэффициенты конверсии для страны, в которой вы планируете пройти тест (в нашем случае, США, поскольку мы выбираем английский-американский в качестве языка).
Вы собираетесь запустить A / B-тест, но все же хотите знать, каковы эти коэффициенты конверсии до, во время и после теста (см. Также шаг 5).
Какой объем загрузок вам нужен (и размер выборки)?
Для вашего эксперимента вам необходимо иметь размер выборки, достаточно большой, чтобы Google мог определить статистическую значимость («победитель»).
Большинство людей говорят, что для получения надежных результатов нужны тысячи установок для каждой версии.
Чтобы помочь вам в определении размера выборки, ознакомьтесь с удобным калькулятором размера выборки . Вот пример параметров, которые вы можете использовать:
Важно : параметры, обозначенные как «может потребоваться корректировка», в вашем случае могут быть другими (см. Объяснение ниже).
Некоторые параметры, необходимые для определения размера выборки, являются фиксированными (уровень значимости: 10%) или довольно простыми (ваш коэффициент конверсии).
Другое, однако, будет зависеть от того, насколько вам нужно быть осторожным при внесении изменений:
- Минимальный обнаруживаемый эффект (MDE)
- Статистическая мощность
Если вы только что запустили или начинаете с нескольких загрузок и готовы пойти на больший риск, у вас могут быть менее строгие параметры для MDE и статистической мощности.Однако то, что мы имеем на картинке выше, является довольно «обычными» значениями (MDE: 5%, статистическая мощность: 80%).
Если у вас есть успешное приложение, которое давно находится в магазине и имеет высокие рейтинги, запустите более деликатный тест с более строгими параметрами. Вы можете, например, уменьшить MDE и увеличить статистическую мощность. Требуемый размер выборки увеличится, но ваши результаты будут более точными.
В приведенном выше примере вам нужно не менее 19 907 посетителей для каждого варианта, итого 39 814 человек.Если у вас в настоящее время коэффициент конверсии 20%, как указано выше, это будет означать всего 7962,8 загрузок (или 3981 на вариант — только с 2 вариантами, как описано здесь).
Проведение эксперимента, не дожидаясь загрузки такого объема, вряд ли приведет к получению точных результатов. А теперь давайте посмотрим, сколько времени вам нужно на проведение эксперимента.
Как долго нужно проводить эксперимент со страницей приложения?
Конечно, этот ответ связан с объемом установок, который вы определили выше.
Как видно, нам нужен объем в 4000 установок (округляя выше 3981) для каждого варианта. Допустим, у вас 5000 установок в неделю, у вас будет:
- 1 недельный тест: 2500 установок для каждой версии. Этого недостаточно.
- Двухнедельный тест: 5000 установок для каждой версии. Это должно дать более надежные результаты.
Итак, если вы получаете 30 000 загрузок в неделю, стоит ли вам просто провести эксперимент в течение 2 дней?
Google говорит, что вам следует набраться терпенияОтвет — нет .Поведение посетителей Play Store может меняться в течение недели или на выходных, поэтому мы советуем по крайней мере продлить эксперимент на целую неделю.
После того, как вы установили размер выборки и, следовательно, продолжительность эксперимента, придерживайтесь его (см. Шаг 3).
Почему НЕ следует тестировать более 2 версий одновременно
Эксперименты со списком вPlay Store позволяют проводить больше тестов, чем просто A / B-тесты: они позволяют проводить сплит-тестирование до 4 версий (текущая версия + 3 варианта) одновременно.
Мы советуем (и мы не единственные) проводить тестирование только до 2 версий (текущая версия + 1 вариант). Дело не только в быстром получении (более стабильных) результатов. Это также упростит анализ.
Как объясняет Лука Джакомель из Bending Spoons, « настоящая причина отказа от параллельного выполнения нескольких A / B-тестов заключается в том, что все они будут давать более низкую статистическую достоверность из-за очень известной статистической проблемы, называемой проблемой ». множественные сравнения »или« посмотрите в другом месте эффект «.
Итак… Доверьтесь нам. Не усложняйте вещи слишком сильно.
Шаг 1. Загрузите промо-видео на YouTube
Видео из магазина Google Play — это видео с YouTube .
Итак, чтобы иметь возможность добавить промо-видео в ваш список Play Store, вам сначала необходимо загрузить его на YouTube.
Как вы знаете, на YouTube есть 3 варианта: общедоступный, частный и частный. Вы не можете использовать приват по понятным причинам, поэтому давайте взглянем на два других.
Преимущество неуказанного видео заключается в том, что вы знаете, что большая часть просмотров (часто> 90%) принадлежит людям, которые видели промо-видео в магазине Google Play.Это делает вашу аналитику YouTube гораздо более значимой и позволяет вам получать информацию о поведении / взаимодействии посетителей Google Play Store с вашими видео.
Когда видео отсутствует в списке, большинство просмотров происходит из магазина Google Play («внешний»).Если видео является общедоступным, вы можете увидеть источники трафика. Но вы не сможете анализировать важные показатели видео по источникам (подробнее об этом в последней части этого поста).
Преимущество общедоступного видео на YouTube заключается в том, что если список вашего приложения получает большой трафик, ваше видео может быстро собрать тысячи просмотров, что затем повысит его рейтинг в поиске на YouTube (вторая поисковая система после Google).Или даже в Google.
В большинстве случаев мы советуем начинать с вашего видео (видео) вне списка , по крайней мере, до тех пор, пока вы не будете уверены, что оно там какое-то время (т. Е. Какое-то время вы не оптимизируете / не тестируете видео часть).
Шаг 2. Создайте эксперимент
Откройте консоль разработчика Google Play и перейдите в раздел «Эксперименты со списком приложений» в разделе «Наличие в магазине».
Нажмите «Новый эксперимент», затем выберите нужный язык в разделе «Локализованные».
Причина выбора «Локализовано» заключается в том, что вы хотите тестировать только пользователей, говорящих на языке, на котором написано ваше видео, чтобы поведение других не повлияло на эксперимент.
Создайте эксперимент, присвоив ему имя и выбрав, какая часть вашей аудитории увидит эксперимент. Выберите максимально допустимый 50%.
Затем вы выбираете, что вы хотите изменить по сравнению с текущим списком. В этом случае выберите только «Промо-ролик».
Назовите свой вариант (пример: видео) и вставьте ссылку URL-адреса YouTube для своего видео.
Вот и все!
Теперь вы можете запустить эксперимент (продолжайте читать).
Шаг 3. Не смотрите!
Это самая сложная часть.
Ваш эксперимент запущен, и очень заманчиво возвращаться каждый день, чтобы понять, какой вариант работает лучше.
Просмотр данных не повлияет на результаты, скажем так, но насколько вы действительно доверяете себе, если эксперимент не будет работать так хорошо, как вы надеялись (или хуже)? Сможете ли вы продолжить?
Лучше придерживаться запланированного периода тестирования и держаться подальше от этого проклятого эксперимента. Даже если Google скажет вам, что эксперимент завершен .
Почему?
Короче говоря: из-за ложных срабатываний. Вы можете подумать (и Google может сказать вам), что эксперимент прошел успешно, но, поскольку вы не достигли определенного размера выборки, на самом деле это может быть не так.
Полный материал: если вы действительно хотите понять, почему, ознакомьтесь с этим сообщением и прочитайте об уровнях значимости и ложных срабатываниях.
Шаг 4: Анализ результатов
ОК, значит, период тестирования окончен и размер выборки достигнут.Пришло время посмотреть, работает ли вариант лучше.
(источник: TimeTune)Текущих установок — это количество фактических установок для каждой версии. Масштабируемые установки — это то, что вы получили бы, если бы работала только 1 версия. Здесь вдвое больше, потому что мы работаем со сплитом 50 на 50.
Если Google покажет победителя
Показатели для варианта не полностью положительны
Если бы вы повторили эксперимент 10000 раз, то в 90% случаев вы бы получили результат, который будет в этом -3.3% -6,1% диапазон
→ НЕ ПРИМЕНЯТЬ изменение
Показатели для варианта полностью положительны (> 0)
Если бы вы повторили эксперимент 10000 раз, то в 90% случаев вы бы получили результат в диапазоне + 4,5% -15,3%
Это также означает, что в остальных 10% случаев вы можете получить результат, который может быть не в этом диапазоне.
→ ПРИМЕНИТЬ изменение
Примечание. Помните параметр минимального обнаруживаемого эффекта (MDE), который вы выбрали в начале?
Так как это влияет на размер «серой зоны», если MDE большой, будьте осторожны с применением изменения, которое дало вам диапазон результатов, слишком близкий к 0 (даже если он положительный).
Вы можете быть менее уверены в результатах, если получите такой диапазон,
особенно, если ваш MDE составляет 5% или больше.
Если Google говорит, что ему нужно больше данных
Опять же, будьте очень осторожны: часто Google говорит, что данных достаточно через 2-3 дня, а затем возвращается к «требуется больше данных», поэтому , определяющий размер выборки перед тестом, важен (а также выполнение шага 3!) .
Если Google сообщает, что эксперимент не закончен, потому что ему нужно больше данных после того, как размер выборки был достигнут , считайте эксперимент пока неубедительным.
→ НЕ ПРИМЕНЯТЬ изменение
Примечание. Если размер выборки еще не достигнут и Google говорит, что ему нужно больше данных, то это, скорее всего, означает, что вы не прочитали шаг 3. Подождите, пока будет достигнут размер выборки, и сохраните эксперимент идет.
Шаг 5 (необязательно): анализ коэффициента конверсии до публикации
Вначале мы говорили об эталонном показателе коэффициента конверсии, который дает вам Google, чтобы вы знали, где вы находитесь и насколько вы можете улучшить по сравнению с другими приложениями в той же категории.
Для дальнейшей проверки результатов вашего A / B-теста и посмотреть, что на самом деле происходит после того, как изменение будет реализовано. , посмотрите процент конверсии в течение недельного периода перед тестом и сравните его с коэффициентом конверсии в течение недели после тестовый период.
Для этого это означает, что вы должны продержаться в течение этого времени, проводя еще один эксперимент.
Коэффициент конверсии в тесте конверсии предназначен только для посетителей Play Store (Organic) и включает все локализации / страны.
Если вы решили провести локализованный эксперимент, как мы предлагали, то вместо этого посмотрите на коэффициент конверсии для соответствующей страны / языка.
Само собой разумеется, что вы хотите увидеть (все страны и для целевой страны / языка):
Общий коэффициент конверсии до эксперимента> Общий коэффициент конверсии после эксперимента
Коэффициент органической конверсии до эксперимента> Коэффициент органической конверсии после эксперимента
Если вы этого не наблюдаете, проверьте используемые вами параметры / размер выборки и результаты A / B-теста.Либо запустите тот же тест еще раз, либо рассмотрите возможность проведения теста B / A.
Шаг 6 (необязательно): Выполните тест B / A (встречное тестирование)
Как мы видели выше, вам следует применять изменение только в том случае, если рост значительный.
Томас Пети (Рост мобильной связи на 8fit ) предупреждает, что описанный ниже метод тестирования B / A не является достоверным с чисто статистической точки зрения, но может помочь отбросить самые большие ошибки. Так что он все еще рекомендует это. Посмотрите его презентацию и слайды на A / B тестировании вашего списка в магазине.
Для теста B / A вы должны инвертировать версии:
- Версия A (Текущая версия): промо-ролик о листинге
- Версия B (вариант без видео): точно такой же список, но без видео
Проведите эксперимент с точно так же, как . Если будет получена такая же производительность, это повысит вашу уверенность в результатах.
Шаг 7 (необязательно): настройте / оптимизируйте промо-видео
Возможно, ваше видео нуждается в улучшении.Конечно, это особенно верно, если результаты теста не были положительными.
Анализируйте YouTube Analytics
Хотя вы не можете знать (пока?), Кто смотрел видео среди посетителей, которые установили приложение, изучение основных показателей в YouTube Analytics может помочь вам понять, насколько интересным является ваше видео.
Вот что вы хотите посмотреть:
- Количество просмотров
- Средняя продолжительность просмотра
- Средний процент просмотров
Интересная диаграмма — это диаграмма «Удержание аудитории»: она позволяет определить, насколько быстро вы «теряете» наблюдателей.
Если вы видите какие-либо внезапные падения, попробуйте подумать, как вы можете настроить видео, чтобы противостоять этому.
Примечание. Вы можете сделать то же самое с видео YouTube, которые вы используете в своих кампаниях UAC.
Что можно попробовать
Какие твики можно попробовать для оптимизации видео?
Во-первых, кратко опишите структуру вашего видео. Что-то вроде:
- Анимированный телефон 2s с логотипом, значком и слоганом
- 5s о ценностном предложении 1
- 5s о ценностном предложении 2
- 3/4 с CTA
В приведенном выше примере одна из первых вещей, которую вы можете попробовать, — это полностью удалить логотип в начале: ваш бренд уже есть в списке Play Store (значок, название приложения и т. Д.)).
Вы также можете попробовать стать лидером с другим ценностным предложением. И, конечно же, вы можете выбрать совершенно другую концепцию.
Пара советов и лучших практик:
- Оптимизировано для маленького экрана — ваше видео будет воспроизводиться на мобильном устройстве, поэтому оно должно хорошо выглядеть и быть понятным даже на маленьком экране. Представьте устройство с увеличенным масштабом и т. Д.
- Поставьте на первое место наиболее важную выгоду / ценностное предложение — нет абсолютно никаких причин начинать с чего-либо еще.Ваше видео не обязательно должно начинаться так же, как и путешествие пользователя.
- Сделайте понятным без звука — у многих посетителей звук не будет включен, поэтому используйте copy / text. Это видео с YouTube, но они есть в Play Store, поэтому не типичное поведение пользователей YouTube (звук включен).
- Если вы используете видео для нескольких языков, убедитесь, что оно локализовано
Измерение влияния на удержание
Для второй цели, упомянутой в начале этой статьи (увеличение удержания), измерение довольно сложно.Пока что единственный вариант — это анализ до поста (до и после).
Поскольку Google добавил информацию об удержании (День 1, День 7, День 15, День 30 — см. Графики выше), вы можете точно следить за этим показателем.
Однако вы не можете проводить A / B-тестирование когорт с течением времени и отслеживать две группы пользователей: те, для которых видео появилось в списке Play Store, и те, для которых видео не было. Таким образом, это затрудняет измерение.
Заключение
Вы хотите, чтобы ваше видео помогло повысить коэффициент конверсии (увеличить количество установок) и / или коэффициент удержания (удерживать пользователей дольше).
ЭкспериментыPlay Store могут помочь вам проанализировать первое, и вы должны воспользоваться им (не только для видео!). При проведении эксперимента в магазине:
- Если вы проводите локализованный тест, выберите одну локализацию
- Определите один элемент, который вы изменяете (видео вместо отсутствия видео, новое видео или текущее видео), ожидаемый результат (% ожидаемого улучшения) и почему
- Обеспечьте максимальную устойчивость маркетинговых / рекламных усилий
- Заранее определите размер выборки и продолжительность тестирования
- Не прекращайте эксперимент, пока не будет достигнут размер выборки (рекомендуем даже не смотреть, даже если Google говорит, что все закончилось)
- Проанализируйте результаты и примените изменение, если у вас есть победитель
В случае, если вы не решаетесь проводить A / B-тест «вживую» в магазине Google Play, вы также можете изучить возможность использования стороннего инструмента для A / B-тестирования, такого как Splitmetrics.