Nikita 🐋
Длинная петля релиза или деплоя — это не проблема?
Nikita 🐋
johnnykramer
Max Frolikov
Yakov
нужен а/б тест для определения оптимального времени cum
Да, согласен, тестов лучше побольше 👉👈
Null
Рубрика #мюсли Вам не нужны A/B тесты. У вас они работать не будут. Они работают на гигантских количествах пользователей, а не на вашей тысяче активных ежедневных. Запускать A/B тесты до первого миллиона DAU — это падать жертвой когнитивного искажения иллюзии контроля. Нет, это не баклажан на лендинге увеличил конверсию, это по воле случая Гугл изменил алгоритмы и вам начал идти более целевой трафик. Не тешьте себя мыслями о том, что можете объяснить хаос этого мира. Энтропию не победить, можно только работать вокруг нее.
Andrei
где тестирование регрессий?
прочитал как «где тестирование репрессий» 😔
Lovecoin
4 Лавкоинов было подарено a_titov. Всего у a_titov 108 Лавкоинов.
Vladislav
готово
быстро :) так и предполагал, что дело в маленькой выборке
Lama
Lovecoin
+++ дарю
3 Лавкоинов было подарено borodutch. Всего у borodutch 8350 Лавкоинов.
Andrei
в Беларуси
Извините, здесь сразу в прод, какое тестирование.. 😕
Nikita 🐋
А если речь идет о A/В тестах внутри приложения и нужно узнать о том как та или иная фича влияет на метрики?
или она абсолютно не влияет — и влияет внезапный пост от вашего СММщика, который рассказал о новой фиче?
Andrei
прод в России...
согласен, но будто в россии демо версия
Nikita 🐋
согласен, но будто в россии демо версия
хотя нет, дев — Узбекистан, стейджинг — Беларусь, Бета — Россия
Nikita 🐋
Зависит же от фичи ведь)
можете привести конкретный пример, пожалуйста?
Aliaksei
можете привести конкретный пример, пожалуйста?
В игру добавили небольшую метамеханику, был риск отвала игроков, потому что она могла раздражать игрока, либо повысить показатели(хоть и немного), в итоге аб тест показал что фича работает хорошо
Nikita 🐋
Nikita 🐋
Но я согласен с утверждением что ценность аб теста повышается с увеличением числа юзеров
не "повышается", а "является статистической погрешностью до 1М DAU"
Aliaksei
Nikita 🐋
Целевая местрика - кол-во просмотра рекламы и как результат ARPU
и на эту метрику могла повлиять *только* эта новая механика?
Nikita 🐋
Целевая местрика - кол-во просмотра рекламы и как результат ARPU
нет вероятности что, внезапно, начали работать лучше пуш-нотификации, которые зазывают людей назад играть?
Nikita 🐋
Конечно нет, но ведь это и не означает что это обязательно повлияло что-то другое?
какова вероятность сравнительная, что именно это изменение повлияло на метрику — если сравнивать с вероятностью, что что-то другое повлияло?
Nikita 🐋
Нет пушей
что скорее всего повлияло, грубо говоря: это изменение или что-то другое?
Nikita 🐋
что скорее всего повлияло, грубо говоря: это изменение или что-то другое?
Можно просто сравнить вероятности: Повлияло именно это изменение — вероятность 10% Повлияло что угодно другое — вероятность 50%
Nikita 🐋
Нет пушей
это пример одного из миллиардов факторов
Aliaksei
это пример одного из миллиардов факторов
При проверке изменения мы же не меняем в приложении миллиард вещей, а конкретный кейс и все что может повлиять на результат тест - это траффик который приходит и если исходить что с одной рекламной кампании приходит приблизительно похожий траффик, то мы можем получить релевантные данные после их сбора за неделю-две
Nikita 🐋
Но, на самом деле, мир вокруг вашего приложения не застыл на месте — и хаос мира гораздо сильнее влияет на эту метрику, которую вы указали, чем ваши АБ тесты.
Это, кстати, та же причина, почему люди недооценивают роль удачи в успехе. Людям неприятно осознавать, что от них не особо-то и сильно зависел успех, что им просто повезло.
Nikita 🐋
Это, кстати, та же причина, почему люди недооценивают роль удачи в успехе. Людям неприятно осознавать, что от них не особо-то и сильно зависел успех, что им просто повезло.
Так и тут: неприятно осознавать, что АБ тесты просто не работают и дают случайные результаты на недостаточной выборке.
Lev
А как понять, какая выборка достаточная?
Как говорят датасаентисты: чем больше - тем лучше
Nikita 🐋
https://mindbox.ru/ab-test-calculator/
в завышенных показателях вот этих двух величин и кроется проблема
Lovecoin
1 Лавкоинов было подарено borodutch. Всего у borodutch 8351 Лавкоинов.
Null
Null
посмотрим результаты!
Null
Правильный ответ будет тут 👇
Null
Нажмите на кнопку ниже, чтобы получить платный доступ к Как получить венчурные инвестиции: от А до Я.
johnnykramer
Ыыы
johnnykramer
Ответ за пейволом!
Nikita 🐋
поправьте нецензурную лексику, пожалуйста — за это тут бан
Nikita 🐋
иллюзия контроля, недооценивание роли случая — эти фразы вам о чем-нибудь говорят?
Nexi
И каковы результаты?