Как патруль превращается в источник новых данных
Алгоритму для прогноза нужны сведения о прошлом: например, где происходили аресты. Но аресты — не полный и нейтральный счётчик преступлений. Они фиксируют случаи, которые полиция обнаружила и обработала, а не все нарушения, случившиеся в городе.
Если система выделяет район как приоритетный, туда могут направить больше патрулей. Полицейские чаще замечают происходящее на улицах и чаще проверяют сообщения или подозрительные ситуации. Это повышает вероятность, что правонарушение будет обнаружено и закончится арестом. Новый арест попадает в базу — и выглядит для алгоритма как подтверждение прежнего прогноза.
Почему возникает замкнутый круг
Получается петля обратной связи: прошлые данные направляют патрули, патрули влияют на то, какие события попадут в следующие данные, а обновлённый прогноз снова направляет патрули туда же. Даже если алгоритм не получает прямого указания усиливать наблюдение в одном квартале, он может закрепить уже сложившийся перекос в том, где полиция присутствует чаще.
Это не означает, что каждое предсказание ошибочно или что преступлений в таких районах нет. Проблема в том, что системе трудно отделить реальную распространённость преступлений от интенсивности наблюдения: отсутствие записей может означать как отсутствие нарушений, так и то, что их реже обнаруживают.
Поэтому оценивать такие прогнозы только по тому, совпали ли они с последующими арестами, недостаточно. Нужно учитывать, как распределяли патрули и какие события они могли выявить. Иначе система рискует принимать следствие собственного решения за независимое доказательство его правильности.
