Система «Think Family» была отключена из-за недостатка прозрачности и точности моделей
Полиция Великобритании прекратила использование ключевых моделей системы «Think Family», которая предназначалась для прогнозирования преступлений и выявления уязвимых граждан, сообщает Wired.
Система была запущена в 2016 году и хранила конфиденциальную информацию. После расследования журналистов стало известно, что несколько моделей были отключены из-за недоверия со стороны чиновников города Бристоль.
Государственные инспекторы и независимые эксперты указывали на «поразительное» отсутствие прозрачности в некоторых моделях программы, что могло подорвать доверие общества. Одной из таких моделей была «ССЭ», основанная на данных благотворительной организации по защите детей Barnardos.
Хотя система могла быть полезна для правоохранителей и способствовать более своевременному реагированию, Wired отмечает, что ИИ-модели «Think Family» являются «самым слабым элементом проекта». Обзор Social Finance указывает на недостаток точности моделей.
Когда специалисты Social Finance провели собственные тесты, они обнаружили отсутствие доступной информации о прекращении работы моделей. Независимая аудиторская компания Eticas выяснила, что большинство моделей давали низкие показатели точности, в том числе модель прогнозирования грабителей с показателем ниже 10%.
Несмотря на это, британское правительство создало PoliceAI стоимостью 75 млн для внедрения ИИ во всех подразделениях Англии и Уэльса. Проект курирует Энди Марш, бывший начальник полиции Эйвона и Сомерсета, который ранее продвигал и провалившуюся региональную систему.
Ранее глава британской киберразведки Энн Кист-Батлер заявила о необходимости адаптации к быстрым технологическим изменениям, включая искусственный интеллект, и сохранения лидерства Великобритании в конкурентной борьбе.
