65-летний Майкл Уильямс, житель Чикаго, провел один год в тюрьме из-за ошибочного решения полиции, принятого на основании данных установленной в городе системы искусственного интеллекта компании ShotSpotter.
Майкл Уильямс был арестован в августе 2020 года по обвинению в убийстве молодого человека, который проживал с ним по соседству. Согласно обвинению, выдвинутому полицией, тот попросил Уильямса подвезти его до дома в ночь, когда на улицах города царили беспорядки. ИИ-система распознала выстрел в точке их местонахождения, и на основании этих «объективных» данных Уильямс был арестован.
Майкл Уильямс в своем доме в южной части Чикаго
История началась в 2018 году, когда муниципальные власти Чикаго заключил контракт с компанией ShotSpotter на сумму 33 млн долларов на оснащение города сетью микрофонов. Они подключались к единой системе, которая, опираясь на секретный алгоритм и систему искусственного интеллекта, способна выявлять звуки выстрелов и определять место, где они были произведены. Данные, записанные системой, стали основанием для ареста Уильямса в ночь на 31 мая 2020 года.
В ту ночь Уильямс решил съездить на местную заправку, чтобы купить сигареты. Приехав к магазину, он обнаружил, что тот был разграблен во время уличных беспорядков. Уильямс решил вернуться домой, но заметил по дороге Сафариана Херринга, 25-летнего ученика повара, который проживал с ним по соседству. Херринг попросил его подвести. Позже Уильямс заявил, что не почувствовал никакой угрозы от этого, потому что видел Херринга раньше, вблизи своего дома. Херринг сел на переднее сиденье, и они поехали.
Заправочная станция во время ее посещения Уильямсом.
Согласно документам следствия, которые попали в распоряжение Ассошиэйтед Пресс, Уильямс заявил суду, что на перекрестке рядом с ними остановился автомобиль. Пассажир этого автомобиля, с его слов, выстрелил по машине Уильямса. Нападавший целился в него, но промахнулся и попал в пассажира. Херринг получил смертельное ранение. После этого Уильямс направился в сторону больницы Сен-Бернар. Херринг скончался там 2 июня 2020 года.
Три месяца спустя к Уильямсу приехали полицейские и попросили проехать с ними в участок, чтобы поговорить об инциденте. С их слов, он не сделал ничего плохого, но они хотели уточнить детали происшествия.
Находясь в участке, Уильямса допросили и поместили в камеру предварительного заключения. Там ему было предъявлено обвинение в убийстве первой степени. Доказательством совершения убийства были данные видеонаблюдения системы ShotSpotter.
По версии следствия, датчики системы ShotSpotter обнаружили громкий звук, который произошел по адресу 5700 S. Lake Shore Drive. Именно это и стало доказательством причастности Уильямса к убийству Херринга в своей машине. В то же время в ходе расследования не было обнаружено ни мотивов, ни очевидцев, ни орудия убийства.
По иронии, громкий шум, обнаруженный системой ShotSpotter, первоначально был идентифицирован системой ИИ как звук фейерверка с рейтингом достоверности 98%. После этого данные были переданы дежурному сотруднику для детальной оценки. Он переквалифицировал его в звук одиночного выстрела.
Источник звука первоначально был обозначен совсем в другом месте, где не было Уильямса. После проведения более детальной «последующей проверки», источник звука был передислоцирован на перекресток East 63rd Steet и South Stony Island Avenue, где остановился Уильямс в своем автомобиле.
Как отмечает Associated Press, системе ShotSpotter иногда не удается идентифицировать выстрелы, которые происходят внутри транспортных средствах. Методики регулярно корректируются, что может быть причиной систематической ошибки системы распознавания.
Несмотря на недостоверность доказательства, Уильямс оставался в заключении примерно 11 месяцев. Он дважды переболел там COVID-19, у него развился неконтролируемый тремор (дрожь).
Суд состоялся только спустя почти год. Судья Винсент Гоган, 79-летний ветеран Вьетнама, провел анализ собранных данных и окончательно закрыл дело за недостаточностью доказательств. Как заявил Уильямс после освобождения, «эти устройства устанавливаются только в бедных чернокожих кварталах, нигде больше».
Ранее редакция THG.ru опубликовала статью об искусственном интеллекте. Искусственный интеллект уже давно занял важное место в научно-фантастической литературе и голливудских блокбастерах. Именно они формируют мнение большинства людей о том, что из себя представляет ИИ, и чего от него следует ожидать. Но насколько это мнение соответствует реальному положению вещей? Давайте разбираться. Подробнее об этом читайте в статье “Искусственный интеллект: правда и вымысел”.
