Система «Think Family» была отключена из-за недостатка прозрачности и точности моделей.
Полиция Великобритании прекратила использование системы «Think Family», которая применялась для прогнозирования преступлений и выявления уязвимых граждан, сообщает Wired со ссылкой на обзор Social Finance.
В 2016 году система начала функционировать, храня разнообразную конфиденциальную информацию. Однако несколько моделей были отключены в Бристоле из-за недоверия чиновников к их работе.
Журнал Wired утверждает, что государственные инспекторы и независимые эксперты указывали на «поразительное» отсутствие прозрачности в некоторых моделях программы, что могло подорвать доверие общества. Одной из таких моделей была «ССЭ», основанная на данных о 100 детях, страдавших сексуальным насилием.
«Think Family» считалась полезной для правоохранителей и могла способствовать более своевременному реагированию. Однако Social Finance отмечает, что ИИ-модели являются «самым слабым элементом» проекта из-за недостатка точности.
Когда специалисты Social Finance провели собственные тесты моделей оценки рисков, они обнаружили отсутствие доступной информации о прекращении работы моделей. Независимая аудиторская компания Eticas выяснила, что большинство моделей давали низкие показатели точности, в то время как модель прогнозирования грабителей работала с показателем ниже 10%.
Несмотря на это, британское правительство создало PoliceAI стоимостью 75 млн для внедрения ИИ во всех подразделениях Англии и Уэльса. Проект курирует Энди Марш, бывший начальник полиции Эйвона и Сомерсета, который ранее продвигал и провалившийся региональный проект.
Ранее глава британской киберразведки Энн Кист-Батлер заявила о необходимости адаптации к быстрым технологическим изменениям, включая искусственный интеллект, признавая проблему сохранения лидерства в конкурентной борьбе.
