Без упередженості. У Нью-Йорку вироки виносить ШІ

 

У Нью-Йорку відновили роботу пілотного проекту з використання штучного інтелекту в судовій системі - алгоритм рекомендує запобіжний захід. Влада сподівається на скорочення навантаження на місцеві в'язниці і розраховує, що це дозволить уникнути упередженості. Корреспондент.net розповідає подробиці.

 

 

Без расової нерівності

 

У грудні 2018 року Європейська комісія з ефективності правосуддя Ради Європи схвалила Європейську етичну хартію, яка містить принципи використання штучного інтелекту в судовій і правоохоронній системах.

 

Це перший міжнародний акт і незвідана сфера. У Хартії йдеться про необхідність призначеного для користувача контролю: суддя має право не погодитися з рішенням, запропонованим ШІ, а будь-який учасник спору має право оскаржити таке рішення і вимагати суду без застосування штучного інтелекту.

 

У Нью-Йорку така система покликана звільнити в'язниці, які, як вважає влада, переповнені через надмірний консерватизм американських суддів.

 

Експеримент з використання ШІ в судовій системі був зупинений на півроку через пандемію коронавірусу, але тепер знову починає роботу.

 

Microsoft замінить редакторів алгоритмами

 

Газета Wall Street Journal пише, що алгоритми, які були розроблені на основі широкої бази даних за вже завершеними справами, можуть дати суддям дві рекомендації: відпустити під заставу або взяти під варту до суду.

 

База даних складається з 1,6 мільйона кримінальних справ, закритих у 2009-2015 роках. У ній міститься не тільки стандартна особиста інформація, але і такі деталі, як чи добровільно підозрюваний повідомляв свої домашні телефон і адресу поліцейським при затриманні.

 

Ця інформація виявилася однією з визначальних для алгоритму, оскільки, як з'ясували дослідники, ті, хто робив це добровільно, частіше приходили на судове засідання самі, тому можуть бути відпущені під заставу.

 

Над проектом працювали дві незалежні одна від одної компанії. Після того, як вони створили кілька десятків моделей поведінки, розробники об'єднали сили, щоб залишити переважно тільки моделі, що мають збіги.

 

У результаті була розроблена система, частково схожа на рейтинг оцінки кредитоспроможності фізичних осіб, яка вже давно використовується в США.

 

Якщо програма, яка створювалася в 2013 році, відпускала під заставу не більше 40 відсотків підозрюваних, то новий алгоритм - 86,7 відсотка чорношкірих, 89,7 відсотка білих і 90,7 відсотка латиноамериканців.

 

Подібна система, що застосовується в штаті Нью-Джерсі в 2014 році, показала свою ефективність, скоротивши арешти майже вполовину. Однак та система не могла подолати расову нерівність: під варту взятий кожен третій білий і кожен другий чорний.

 

У зв'язку з цим рік тому близько 30 вчених і дослідників з провідних американських університетів написали відкритого листа, у якому висловили "серйозні побоювання".

 

"Цілі десятиліття досліджень показали, що за одні й ті ж злочини афроамериканців або латиноамериканців заарештовували, засуджували або карали більш суворими вироками частіше, ніж білих", - йдеться в листі.

 

Таким чином, алгоритми, засновані на аналізі таких вироків, спочатку є упередженими.

 

ШІ знайшов перший за півстоліття антибіотик

 

Новини від Корреспондент.net в Telegram. Підписуйтесь на наш канал https://t.me/korrespondentnet