Качество данных как KPI

«У нас плохие данные» — слышу эту фразу постоянно. Но что значит «плохие»? Насколько плохие? Стало лучше за последний месяц или хуже? Никто не знает, потому что качество данных никто не измеряет. Оно существует как ощущение, а не как метрика.

Это проблема. Если что-то не измеряется — оно не управляется. Нельзя улучшить то, что не можешь оценить. А для AI-проектов качество данных — критически важно. Алгоритм обучается на ваших данных. Грязные данные — кривые прогнозы. Но как понять, насколько данные грязные?

В этой статье разберём, как превратить качество данных из абстракции в конкретные KPI. Какие метрики измерять, как автоматизировать проверки, и как связать data quality с бизнес-результатами.

Почему это важно для AI

AI-модели не создают знания из воздуха. Они находят закономерности в данных, которые вы им даёте. Если данные искажены — закономерности будут ложными. Модель научится чему-то, но не тому, что вам нужно.

Пример из практики: компания строила модель прогнозирования оттока. Модель показывала странные результаты — предсказывала отток клиентов, которые только что заключили крупную сделку. Разобрались — оказалось, что даты последних покупок заполнены криво: у трети клиентов стоит дата регистрации вместо даты покупки. Модель обучилась на мусоре.

Или другой пример: чат-бот классифицирует обращения. Качество классификации — 60%. Почему? Потому что в обучающих данных 30% записей размечены неправильно. Бот не может быть точнее, чем данные, на которых обучен.

Без метрик качества данных вы не поймёте, почему AI работает плохо. Будете грешить на алгоритмы, менять вендоров, тратить деньги на «более умный» AI. А проблема — в данных, которые никто не контролирует.

Шесть измерений качества данных

Качество данных — понятие многомерное. Есть классические измерения, которые используются в data governance.

Полнота (Completeness) — насколько заполнены нужные поля. Если у клиента нет email — запись неполная. Метрика: процент записей, где обязательные поля заполнены. Целевое значение: зависит от поля, но обычно 90%+ для критических полей.

Корректность (Accuracy) — насколько значения соответствуют реальности. Email «test@test.test» заполнен, но некорректен. Метрика: процент записей, прошедших валидацию. Это сложнее измерить — нужны правила проверки.

Консистентность (Consistency) — насколько данные согласованы между собой и между системами. Дата рождения 01.01.1900 у 30-летнего клиента — неконсистентность. Метрика: процент записей без противоречий.

Уникальность (Uniqueness) — отсутствие дубликатов. Один клиент = одна запись. Метрика: процент уникальных записей. Или: количество подозрительных дубликатов к ревью.

Актуальность (Timeliness) — насколько данные свежие. Телефон клиента двухлетней давности может быть неактуален. Метрика: процент записей, обновлённых за последние N месяцев.

Соответствие стандартам (Conformity) — насколько данные соответствуют заданным форматам и справочникам. Город «Алма-Ата» вместо «Алматы» — несоответствие. Метрика: процент записей, соответствующих форматам.

Какие метрики выбрать для старта

Измерять всё сразу — сложно и не нужно. Начните с минимального набора метрик, которые дадут понимание ситуации.

Для CRM-данных минимальный набор:

Процент заполненности ключевых полей. Выберите 5-10 важнейших полей (имя, телефон, email, источник, ответственный). Для каждого посчитайте: сколько записей заполнено? Это даёт базовую картину.

Процент валидных значений. Для полей с форматом (email, телефон) — сколько проходят валидацию? Email без собачки — невалидный. Телефон из 5 цифр — невалидный.

Количество потенциальных дубликатов. Сколько пар записей выглядят как дубли (похожее имя + одинаковый телефон или email)? Абсолютное число или процент от базы.

Возраст данных. Какой процент записей не обновлялся больше года? Это индикатор «мёртвых» записей.

Агрегированный индекс качества. Если хотите одну цифру — можно взвесить отдельные метрики и свести к индексу от 0 до 100. Но это упрощение — лучше смотреть по компонентам.

Как автоматизировать проверки

Ручной аудит качества — это разовая акция. Для системного контроля нужна автоматизация.

Регулярные скрипты проверки. Запускаются раз в день/неделю, проверяют метрики, записывают результаты. Это может быть SQL-запрос, Python-скрипт, задача в BI-инструменте. Результаты сохраняются в отдельную таблицу для отслеживания динамики.

Валидация на входе. Данные проверяются в момент ввода или импорта. Некорректный email не сохраняется. Дубликат показывается перед созданием. Это профилактика — не даёт новому мусору попадать в базу.

Алерты на аномалии. Если метрика резко ухудшилась (например, заполненность упала на 10% за неделю) — уведомление ответственному. Это раннее обнаружение проблем — может быть, сломался импорт или кто-то массово ввёл мусор.

Дашборд качества данных. Визуализация текущих метрик и трендов. Кто отвечает за данные — смотрит регулярно. Руководство — на ежемесячных ревью.

Целевые значения: к чему стремиться

Какие значения метрик считать «хорошими»? Универсального ответа нет — зависит от контекста. Но есть ориентиры.

Заполненность критических полей: 95%+. Для AI это важнейший показатель — пустые значения либо исключаются из анализа, либо портят модель.

Валидность форматов: 98%+. Email, телефон, даты должны быть в корректном формате. Ошибки формата обычно означают фейковые или ошибочные данные.

Дубликаты: менее 3%. Полностью избавиться от дублей сложно, но держать под контролем — необходимо.

Актуальность: зависит от типа данных. Для B2C контакты клиентов устаревают за год-два. Для B2B — быстрее (люди меняют работу). Цель — чтобы большинство активных клиентов имели свежие данные.

Главное — не абсолютные цифры, а динамика. Если качество растёт квартал к кварталу — вы на правильном пути. Если падает — нужны действия.

Связь с бизнес-результатами

Метрики качества данных сами по себе — технические показатели. Чтобы получить внимание руководства и бюджеты, нужно связать их с бизнесом.

Влияние на AI-модели. Отслеживайте точность AI (accuracy, precision, recall) и сопоставляйте с метриками качества данных. Обычно корреляция прямая — качество данных растёт, AI становится точнее.

Потери от плохих данных. Сколько писем не дошло из-за невалидных email? Сколько звонков не состоялось из-за устаревших телефонов? Это измеримые потери, которые можно перевести в деньги.

Время на ручную работу. Сколько времени сотрудники тратят на исправление данных, поиск правильных контактов, разбор дубликатов? Это можно оценить опросом и умножить на стоимость часа.

Кейс с ROI. «После улучшения качества данных с 70% до 90% точность модели скоринга выросла с 65% до 80%. Это позволило увеличить конверсию в продажи на 15%, что дало X миллионов тенге дополнительной выручки.»

Кто отвечает за качество данных

Метрики бесполезны, если за ними никто не следит. Нужен явный владелец качества данных.

В небольших компаниях это может быть CRM-администратор, аналитик или даже руководитель продаж. Не обязательно отдельная роль — но обязательно конкретный человек с ответственностью.

В крупных компаниях — отдельная функция Data Quality или Data Governance. Может быть частью аналитического отдела, IT или бизнес-подразделения.

Что входит в ответственность: определение метрик, настройка мониторинга, анализ отклонений, инициирование очисток, взаимодействие с источниками данных (почему качество падает?), отчётность перед руководством.

Важно: владелец качества данных не должен сам исправлять все ошибки. Он управляет процессом — а исправляют те, кто вводит данные. Иначе не масштабируется.

Практический план внедрения

Как начать измерять качество данных, если сейчас это не делается?

Неделя 1: Определите 3-5 ключевых метрик. Не пытайтесь охватить всё. Возьмите самое важное для вашего AI-проекта. Заполненность? Валидность? Дубликаты?

Неделя 2: Измерьте текущее состояние. Напишите запросы, посчитайте метрики. Зафиксируйте baseline — отправную точку.

Неделя 3: Поставьте цели. Где хотите быть через квартал? Цели должны быть реалистичными — прыгнуть с 60% до 95% за месяц не получится.

Неделя 4: Настройте регулярный мониторинг. Автоматический расчёт метрик раз в неделю. Запись истории. Простой дашборд.

Далее: Ежемесячный ревью. Смотрите динамику. Если метрика не растёт — ищите причины. Если растёт — празднуйте и ставьте новые цели.