Что такое контроль качества данных
Контроль качества данных — по-английски data quality — это регулярная проверка того, что данные совпадают с договорённостью о них: события приходят, объёмы соответствуют норме, параметры заполнены теми значениями и типами, о которых условились. Не разовый аудит, а процесс, который работает между релизами.
Почему тесты кода эту работу не делают
Тесты проверяют, что код выполняет задуманное, и падают в момент сборки. Данные ломаются иначе: код работает, ошибок нет, а событие после релиза приходит без параметра, под новым именем или перестаёт приходить вовсе. Симптомов нет — отчёты строятся, запросы отрабатывают, и о поломке узнают через недели, когда цифры уже разошлись с реальностью.
Проверки перед релизом нужно дополнять регулярным контролем поступающих данных. События сравниваются с согласованным описанием; эталоном служит план трекинга.
Что проверяется в событийной аналитике
- Полнота: события из плана приходят в аналитику, а незарегистрированные события не появляются.
- Объём: количество событий соответствует норме своего часа и дня недели, а не среднему за окно — иначе ночь и выходные выглядят авариями.
- Состав: у события те параметры, те типы и та обязательность, о которых условились.
- Значения: доли значений параметра не меняются скачком — например, способ оплаты не исчезает из половины покупок.
- Имена: checkout_completed и CheckoutCompleted не используются одновременно для одного действия.
- Согласованность источников: два хранилища одного продукта показывают одну и ту же картину.
Каждой из этих проверок соответствует свой способ сломаться; полный список проверок — отдельной страницей.
С чего начать без инструмента
Первый шаг не требует покупок: описать контракт одного важного события — имя, параметры, типы, обязательность — и одним запросом к хранилищу сверить описание с фактом. Почти всегда что-то не совпадает, и это первая находка. Запрос ставится на расписание и просматривается после каждого релиза; как это сделать, мы разобрали в статье о плане трекинга и таблице.
Ручная сверка упирается в две вещи: она видит только то, что догадались проверить, и требует, чтобы кто-то не забывал смотреть. Обе решаются автоматикой.
Как это устроено в Tarn
Tarn каждый час сравнивает события из вашей аналитики с планом. Проверки учитывают время суток и день недели. О расхождении вы получаете уведомление с готовым разбором причины.
Контроль качества данных в одном абзаце
Контроль качества данных включает проверку полноты, объёма, имён, параметров и значений. Регулярная сверка помогает обнаружить изменения, которые не проявились в тестах перед релизом.