Исследователи предупредили: ИИ в полиции может усиливать дискриминацию

Главное в материале

Эссе Адриана Дреджа получило премию Ассоциации британских научных журналистов за 2026 год
Исследования показывают, что прогнозы «горячих точек» преступности опираются на смещённые данные и усиливают предвзятость
Доктор Димитриос Коллиас из Queen Mary University of London считает, что современные системы учитывают исторические смещения, но требует человеческого контроля

Премия за эссе об ИИ и полиции

Растущее использование искусственного интеллекта в полиции грозит усилением дискриминации в отношении меньшинств — об этом предупреждают исследователи в эссе молодого британского научного автора Адриана Дреджа, которое BBC News опубликовало 25 октября 2026 года. Работа получила премию Young Science Writer Award 2026, ежегодно присуждаемую Ассоциацией британских научных журналистов (ABSW). Авторы призывают пересмотреть применение ИИ в полиции при большем человеческом контроле.

«Старая карта» и замкнутый круг

Дредж объясняет проблему через аналогию: ИИ — это картограф, запертый в комнате без окон, у которого есть только карты пятидесятилетней давности. Если такой системе дать список прошлых преступлений и попросить отметить, где вероятны новые, полиция начнёт патрулировать отмеченные районы — и там будет зафиксировано больше преступлений просто потому, что там больше полицейских. В результате на следующей «карте» те же зоны закрашиваются ещё темнее: статистика отражает не все преступления, а отчасти то, где полиция выбирала искать.

Данные исследований и возражения

Социолог Техасского университета в Остине Сара Брейн, изучавшая полицию Лос-Анджелеса, в статье в American Sociological Review установила, что данные смещены: преступления в общественных местах чаще фиксируются, а внимание полиции непропорционально сосредоточено на чёрных районах. По её словам, модели создают «замкнутый круг», в котором не только предсказывают, но и способствуют будущим событиям. Этот взгляд оспаривает доцент Queen Mary University of London Димитриос Коллиас: он заявил BBC News, что современные системы не просто копируют обучающие примеры, а комбинируют информацию новыми способами, хотя признаёт, что при росте автономии ИИ нужно обеспечивать безопасность и «значимый человеческий контроль».

«Грязные данные» и пример из здравоохранения

Исследователи Нью-Йоркского университета указывают на проблему «грязных данных»: в девяти из 13 изученных ими районов США для обучения систем были доступны полицейские данные периодов незаконной или предвзятой работы полиции, включая сфабрикованную статистику и аресты невиновных. Система не может распознать порчу данных и воспроизводит её как шаблон; по мнению исследователей, технических исправлений от компаний-поставщиков недостаточно без независимой проверки происхождения данных. Показателен пример из медицины: исследование 2019 года в журнале Science показало, что американская система ИИ, распределявшая дополнительную помощь пациентам по прогнозируемым затратам, несправедливо favorировала белых пациентов, поскольку на чёрных пациентов тратилось меньше. После перенастройки на прогноз тяжести болезни доля чёрных пациентов, отобранных для помощи, выросла бы примерно с 18% до 47%.

Что предлагают исследователи

Доктор Кэролин Маккей, доцент и исследователь цифрового правосудия в юридической школе Сиднейского университета, считает, что публичные функции полиции должны подвергаться человеческому надзору: данные нужно проверять и очищать от смещений. Она отмечает, что даже системы, использовавшие информацию о местах, а не о людях, по словам критиков, всё равно вели к избыточному патрулированию. Коллиас, напротив, допускает, что тщательно спроектированная и независимо проверенная система ИИ может сделать скрытые предвзятые паттерны измеримыми и видимыми — и тем самым помочь их устранить. Обе стороны сходятся в одном: без участия человека ИИ рискует закрепить вчерашние ошибки.