В научно-фантастическом триллере Стивена Спилберга «Особое мнение» (Minority Report) так называемые «провидцы» (precogs) благодаря своим ясновидческим способностям предсказывают убийства, которые должны произойти в будущем.
Становятся известны имена преступников и жертв, а также время совершения преступлений — потенциальных злоумышленников изолируют от общества.
Однако в конечном итоге выясняется, что в системе есть изъяны: «провидцы» предсказывают ситуации, в которых убийство вероятно, но по факту не совершается. Новая система на базе ИИ, которую намерено внедрить Управление исправительных учреждений штата Мичиган, по своей сути напоминает футуристическое видение из фильма Спилберга, хотя в реальности всё, скорее всего, будет выглядеть не столь драматично.
Пенитенциарная служба рассчитывает, что такой подход позволит делать прогнозы на 30% точнее, чем существующие методы. По заявлению ведомства, в начале декабря 2026 года в ряде мужских тюрем будет запущен соответствующий пилотный проект. Его цель — сократить число нападений на сотрудников и случаев насилия между заключенными, количество которых в последнее время значительно возросло.
Программа была разработана ведомством совместно с некоммерческой организацией Recidiviz, созданной выходцами из Google. «Я уверена, что благодаря этому пилотному проекту, основанному на научных данных и исторической статистике, мы получили динамичный и объективный инструмент, который поможет укрепить безопасность в наших учреждениях», — заявила директор Хайди Э. Вашингтон.
Однако Вашингтон не уточнила, какие именно данные получает ИИ. От этого напрямую зависит точность работы системы. В зависимости от присвоенной категории заключенные получают доступ к различным программам или ресурсам в период отбывания наказания. Кроме того, от этого зависит, с кем именно их будут содержать в одной камере или помещении.
Если искусственный интеллект допускает ошибки — например, вследствие наличия в нем неисправленных предубеждений, — это может привести к более строгим условиям содержания под стражей и, возможно, к худшей подготовке к жизни после освобождения. Как показало расследование организации ProPublica, в аналогичной системе оценки рисков, применявшейся в американском штате Луизиана, данные, использовавшиеся для классификации заключенных, содержали расовые и социально-экономические искажения (предвзятость). Это повлекло за собой негативные последствия для пенитенциарной системы.
Источник: Futurism
