Не тестируй это

Не тестируй это

Мы показываем половине пользователей один вариант сайта, другой половине – другой. Где больше покупок, тот дизайн лучше, оставляем его для всех. Это называется А/Б-тест – великолепный инструмент проверки гипотез и развития любого проекта. Технология применима в самых разных областях деятельности, не только в IT-разработке. Полковник Щукин тоже в каком-то смысле А/Б-тест проводил. Если вы не знали об этой концепции – обязательно почитайте подробнее, дико полезная вещь. Рекомендую.

Однако, сейчас, кажется, о них знают все и проблема противоположная. Люди отказываются принимать решения самостоятельно, всё проверяют, всё перекладывают на А/Б-тесты. Вчера мне в комментариях два раза предложили тестировать заведомо плохую обложку. И в корпоративной культуре это, наверное, правильно. За плохой релиз уволить могут, а за лишний тест – нет.

Но!
– Великое не протестируешь. Я уверен, что iPhone или ChatGPT без тестов запускались.
– Каждый тест стоит денег и времени. Есть прямые расходы на разработку, есть усложнение проекта (и других тестов), есть потери от того, что полезную функцию позже внедряем. Есть альтернативные издержки – вы могли бы что-то важное делать, а не проверять, что добавление сахара в рецепт сделает пирожок слаще.
– Полно случаев, когда правильный дизайн теста – годы. Мы столько ждать не можем и принимаем решение через месяцы на заведомо неверных данных. Уж лучше бы вообще без них.

Понятно, что “все есть яд, и все есть лекарство”, но А/Б-тесты крайне переоценены последнее время, мне кажется.

#простомысли

💬Discussion (14)

Иван Кузьмин@dgadga
Тут помогает расписать дерево решений в случае успеха/не успеха теста. Если в обоих случаях в конце будет похожее действие/одинокая прибыль то ценность теста пропадает
Дмитрий Филиппов@AskFilippov
Забираю в мой золотой фонд аргументов 😁
Maxim Pedoshenko@easy_to_remember
Хочу посоветовать старую (но от этого не менее интересную) статью на эту тему - мне помогла пересмотреть свой подход к тестам https://vas3k.blog/notes/datadriven/
Semyon Shevchenko@Sheva_gram
Ровно такая же история с пилотами всего и вся, особенно в банках, особенно во внутренних продуктах/платформах. Нужно запустить пилот, сформировать критерии, убедится что сотрудники довольны, а им это не нужно, потому что для них это корпоративный налог. Поэтому у него будет 100500 замечаний, в итоге в продукте будут долго перекрашивать кнопочки, вместо полноценного внедрения и извлечения пользы для организации.
Рустам Нафиков@mfisgood
А еще совокупность сотен успешных А/Б тестов не факт что дает улучшение. Я не могу это доказать, но видел на практике в одном крупном синем E-Com они так молятся на эти АБ и прокрасы метрик на единицы процентов, что диву даешься. А потом заходишь на сам продукт и в шоке с UX, где при этом почти каждое говняное решение - результат какого то успешного АБ теста по метрикам.

Может оно в вакууме бы и работало, мол
«В классном продукте давайте сделаем кнопку удаления из корзины меньше, это повысит метрики»

Но когда весь продукт начинает состоять из уловок на конверсию - получается херово…
Eugene Bosiakov@bosiakov
вы про booking.com? 😂
Рустам Нафиков@mfisgood
Нет, про РФ компанию
Join discussion on TelegramComments are synced from Telegram

Read next