В’язниці Мічигану використовують ШІ для прогнозування злочинності серед ув'язнених
· Майбутнє
Департамент виправних установ Мічигану впроваджує систему від Recidiviz для класифікації ув'язнених, попри суперечливі заяви про використання ШІ в процесі прийняття рішень.
Мічиган готується до впровадження нової масштабної програмної системи у в'язницях штату, яка призначена для класифікації ув'язнених на основі того, «наскільки вони небезпечні».
Про це повідомляє детройтський телеканал Fox2, зазначаючи, що Департамент виправних установ Мічигану (MDOC) продовжує реалізацію алгоритму категоризації в'язнів, який розподілятиме людей за різними рівнями умов утримання.
У Мічигані ув’язнені розподіляються за п'ятьма рівнями умов утримання відповідно до їхньої класифікації безпеки. Раніше перевірки проводилися комітетом персоналу, призначеним керівником кожного закладу. Тепер, схоже, штат хоче передати це рішення на аутсорсинг — або принаймні зробити так, щоб воно значною мірою ґрунтувалося на даних — некомерційної AI-компанії Recidiviz, що спеціалізується на програмному забезпеченні.
Компанія Recidiviz розпочинала свою діяльність як проєкт з аналізу даних у Google, покликаний «з'ясувати, як технології можуть стандартизувати дані про кримінальне правосуддя та вдосконалити систему в національному масштабі». Її програмна платформа з інтегрованим штучним інтелектом, як стверджується, виконує такі функції, як виявлення осіб, які мають право на участь у державних програмах, перекласифікацію або звільнення, а також координацію доступу до ресурсів, таких як перехідне житло та працевлаштування.
У пресрелізі, який згодом був видалений, MDOC повідомив, що програмне забезпечення Recidiviz використовуватиметься для «оптимізації розміщення ув'язнених». Програма стартує з пілотного проєкту в низці чоловічих виправних закладів, починаючи з грудня. Державне агентство зазначає, що інструмент має «підвищити здатність MDOC точніше прогнозувати ризик майбутнього насильства з боку ув’язнених приблизно на 30 відсотків», хоча яким чином у штаті дійшли цієї розпливчастої цифри — незрозуміло.
У коментарях для Futurism представники MDOC та Recidiviz заперечили, що конкретний програмний продукт, який готується для в'язниць Мічигану — названий ними «модулем класифікації» — використовує ШІ для прийняття рішень про розміщення.
«ШІ ніколи не використовується в інструментах Recidiviz для прийняття рішень про рівень безпеки чи звільнення будь-кого», — заявив речник компанії.
Проте важко ігнорувати той факт, що ШІ займає чільне місце на вебсайті Recidiviz та в її маркетингових матеріалах.
В одному з пояснень зазначено, що «Платформа виправних установ Recidiviz використовує дані, автоматизацію та ШІ, щоб заощадити час персоналу», а в інформаційній вкладці про можливості «Прийому» (Intake) сказано, що Recidiviz дозволяє офіційним особам виправних установ «проводити опитування за допомогою ШІ, дозволяючи ув'язненим відповідати у власному темпі та обраною мовою, при цьому збираючи необхідні дані, потрібні персоналу».
Ще на одній сторінці вебсайту компанії, присвяченій використанню ШІ, зазначається, що «ШІ пропонує спосіб скоротити рутинну роботу, швидше виявляти важливі інсайти та підвищити узгодженість дій між командами». Далі компанія стверджує, що використовує ШІ для таких цілей, як «генерація коду на наших платформах з відкритим кодом» та «підбір роботи, послуг або підтримки для людей на основі їхніх потреб».
В окремій заяві офіцер з питань зв'язків з громадськістю MDOC Дженні Ріле наголосила, що «хоча Recidiviz створює інструменти на основі ШІ, які допомагають персоналу з такими завданнями, як транскрибування зустрічей, ШІ ніколи не використовується для прийняття рішень щодо рівня безпеки чи звільнення особи».
Але без ретельного вивчення того, що відбувається «під капотом» цього модуля, залишаються питання щодо того, де саме в межах своєї платформи Recidiviz розгортає ШІ — і ставки в рішенні штату надзвичайно високі.
Для ув’язнених призначення рівня умов утримання має критичне значення, оскільки це визначає, до яких програм і ресурсів вони матимуть доступ і з яким контингентом будуть перебувати протягом усього терміну ув’язнення.
Як виявило розслідування ProPublica щодо подібного програмного забезпечення для аналізу ризиків у Луїзіані, дані, що використовувалися для класифікації ув'язнених, містили вроджені расові та соціально-економічні упередження.
У результаті система виконання покарань Луїзіани стала ще жорстокішою та шкідливішою для тих, хто щиро прагне реабілітації. В одному з випадків, про які повідомляла ProPublica, 70-річного сліпого чоловіка в інвалідному візку визнали таким, що має «помірний ризик» рецидиву, попри відсутність дисциплінарних стягнень — класифікація, яка автоматично призвела до втрати права на умовно-дострокове звільнення.
Хоча система Мічигану орієнтована на визначення умов утримання, а не на рішення про умовно-дострокове звільнення, здається малоймовірним, що лише програмне забезпечення вирішить тривалу кризу у виправній системі штату — і якщо прийняття техно-оптимізму в Луїзіані є хоч якимось прикладом, ситуація може стати значно, значно гіршою.
Оригінал: futurism.com