» » Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?
Ненастоящий интеллект уже в кое-каком роде помогает определиться вашему будущему. Когда вы разыскиваете что-нибудь в поисковике, пользуетесь сервисом вроде Netflix или банк оценивает вашу пригодность для ипотеки. Однако что будет, если искусственному интеллекту придется определять, виновны вы или нет, в суде?Будто ни диковинно, в отдельных странах это уже, вероятно, происходит. Недавно американского возвышенного судью Джона Робертса осведомились, может ли он представить день, когда «умные машины, управляемые ненастоящим интеллектом, будут помогать в розыске улик или даже в принятии судебных решений». Он откликнулся: «Этот день уже настал, и он существенно помогает судебным органам в производстве дел».

Вероятно, Робертс владел в виду недавний случай Эрика Лумиса, какого приговорили к шести годам заточения по рекомендации доверительного проприетарного программного обеспечения частной братии. Лумис, какой уже владел криминальную историю и был приговорен за то, что летел из полиции на угнанной машине, теперь утверждает, что его лево на процедуру было преступлено, поскольку ни он, ни его представители не смогли рассмотреть или опротестовать алгоритм рекомендации.
Отчет был подготовлен программой Compas, какая продается Notrpointe судам. Программа воплощает новую тенденцию в исследованиях ИИ: помогает судьям принять «лучшее»(или по крайней мере более ориентированное на настоящие)решение в суде.
Алкая конкретные детали девала Лумиса остаются захлопнутыми, в нем наверняка содержатся диаграммы и числа, определяющие жизнь, поведение и вероятность рецидива Лумиса. Среди них возраст, раса, гендерная идентичность, моды, история браузера и какие-нибудь измерения черепа. Аккуратнее никто не знает.
Знаменито, что прокурор по делу взговорил судье, что Лумис продемонстрировал «высокий риск рецидивизма, насилия, досудебного разбирательства». Это стандартно, когда девало дотрагивается вынесения вердикта. Судья согласился и взговорил Лумису, что «по оценке Compas он был найден будто лик, видящее возвышенный риск для общества».
Верховный суд штата Висконсин осудил Лумиса, добавив, что отчет Compas привнес ценную информацию в его решение, однако отметил, что без него он вынес подобный же приговор. Проверить это наверняка, разумеется, не выйдет. Какими могут быть когнитивные предубеждения, когда в деле участвует всемогущая «умная» система вроде Compas, какая советует судьям, будто им поступать?

Безвестное использование


Вручайте будем откровенны, нет ничего «незаконного» в том, что сделал суд Висконсина — это попросту пример. Иные суды могут и будут делать то же самое.
К сожалению, мы не знаем, в какой степени используются ИИ и иные алгоритмы при вынесении вердикта. Есть взгляд, что кое-какие суды «тестируют» системы вроде Compas в закрытых исследованиях, однако не могут заявлять о своем партнерстве. Есть также взгляд, что несколько стартапов ИИ разрабатывают подобные башковитые системы.
Почему ИИ, осуждающий преступников, — это опасно?
Однако использование ИИ в законодательстве не начинается и не заканчивается вынесением вердикта, оно начинается с расследования. В Великобритании уже разработана система VALCRI, какая выполняет трудоемкие аналитические работы за почитанные секунды — пробивается сквозь тонны данных вроде текстов, лабораторных отчетов и полицейских документов, чтобы выделить вещи, какие могут потребовать дальнейшего расследования.
Полиция Уэст-Мидландс в Великобритании будет тестировать VALCRI в течение следующих трех лет, используя безымянные настоящие, включающие вяще 6,5 миллиона записей. Похожее испытание проводится полицией Антверпена в Бельгии. Однако в былом проекты ИИ и абсолютного обучения, вводящие массивные наборы данных, были проблемными.

Выгоды для немногих


Технологии гарантировали бездна полезных устройств залам суда, от копировальных аппаратов до извлечения ДНК из отпечатков перстов и сложных методов наблюдения. Однако это не означает, что любая технология — это улучшение.
Алкая использование ИИ в расследованиях и приговорах может потенциально сэкономить времена и гроши, оно породит изощренные проблемы. В докладе по Compas от ProPublica было внятно взговорено, что черных программа ошибочно считает более готовыми к рецидивизму ответчиками, чем белых. Даже самые сложные системы ИИ могут унаследовать расовые и гендерные предубеждения тех, кто их создает.
Более того, какой резон перекладывать принятие решений(по крайней мере частично)по спросам, какие уникальны для людей, на алгоритм?В США существует найденная трудность, когда суд присяжных судит своих сверстников. Стандарты в законах ввек не были эталонными, потому эти суды присяжных почитаются наиболее демократичными и эффективными системами неодобрения. Мы совершаем оплошки, однако со временем накапливаем познания о том, будто их не совершать, уточняя систему.
Compas и подобные ей системы представляют «черный ящик» в правовой системе. Таковых быть не надлежит. Правовые системы зависят от непрерывности, прозрачности информации и способности к рассмотрению. Общество не хочет появления системы, какая поощряет гонку с созданием стартапов ИИ, какие делают бойкие, грошовые и эксклюзивные решения. Наспех сделанный ИИ будет ужасным.
Освеженная версия Compas с разинутым отправным кодом была бы улучшением. Однако сперва придется поднять стандарты системы правосудия, прежде чем мы возьмемся снимать ответственность в пользу алгоритмов.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо зайти на сайт под своим именем.

комментариев

Свежие новости

05:31
Волочкова поздравила мужчин не обнаженным фото
05:31
Ефим Шифрин поддержал Серебрякова: «Правда может быть угловатой»
05:30
В Москве временно закроют станцию "Деловой центр"
05:30
Министерство обороны РФ наградило медалями трех граждан Греции
05:00
СБУ обвинила спецслужбы РФ в попытке взорвать ракетный крейсер «Украина»
04:02
Майнц 1 - 1 Вольфсбург. Чемпионат Германии по футболу. 24-й тур. Обзор матча, результат и статистика. 23.02.2018
04:01
Андер Эррера пропустит несколько недель из-за травмы
04:01
Олимпиада-2019. Коньки. Вервей, Педерсен, Крамер выступят в масс-старте
04:01
Страсбур 0 - 0 Монпелье. Чемпионат Франции по футболу. 27-й тур. Обзор матча, результат и статистика. 23.02.2018
04:00
Депортиво 0 - 0 Эспаньол. Чемпионат Испании по футболу. 25-й тур. Обзор матча, результат и статистика. 23.02.2018
04:00
Бушар и USTA пришли к соглашению о размере компенсации. Сумма не разглашается
04:00
Томас Мюллер – хоккейной сборной Германии: Еще один шаг к золоту! Вы можете
04:00
Иммобиле стал игроком недели в Лиге Европы
04:00
НХЛ. Михаэль Грабнер: "Попытаемся сделать с "Нью-Джерси" рывок в конце сезона"
04:00
Сергей Овчинников: Шансы ЦСКА и Лиона на выход в 1/4 финала ЛЕ – 50 на 50
03:30
Первый бизнесмен из списка Титова вернулся в Россию: "Поверил"
03:02
28-й тур Премьер-Лиги. Анонс матчей субботы
03:02
Юрий Семин: Нынешний Атлетико сильнее команды 2007 года. Это хороший тест
03:01
НХЛ. Рэй Шеро – об обмене прав на Рыкова: "Других игроков мы не собирались отдавать"
03:01
Евгений Савин: Слуцкий рассказал, что уже подписал контракт с голландским клубом. Судя по всему, это Витесс
03:01
Цзянсу Сунин отдаст Алекса Тейшейру в аренду Коринтианс
03:01
Олимпиада-2018. Лыжи. Большунов, Спицов, Полторанин, Сундбю, Колонья выступят в классическом марафоне
03:01
НХЛ. Георгиев выйдет в старте "Рейнджерс" во втором матче подряд
02:30
Мемуары командира бронепоезда: «Чеченцы вспахали железную дорогу»
02:00
01:30
Первый бизнесмен из «списка Титова» вернулся в Россию
01:00
Пьяный водитель сбил четырех детей на пешеходном переходе в Новгороде
00:30
Первые Android Go-смартфоны представят на MWC 2018
00:00
"Недомужчина" обозвал Бузову в День защитника Отечества
23:31
Урал в третий раз выиграл Кубок ФНЛ
23:31
Вице-президент Спартака: Было очевидно, что в Бильбао будут провокации. Когда на тебя нападают, ты вынужден защищаться
23:31
Марцель Гоч: Сборная Германии в финале будет играть с суперзвездами КХЛ
23:30
Депортиво - Эспаньол. Чемпионат Испании по футболу. 25-й тур. Обзор матча онлайн, стартовые составы, результат и статистика. 23.02.2018
23:30
Директор Милана: Мы уважаем Арсенал, но не боимся. Хотим дойти в Лиге Европы до самого конца
23:30
Жозе Моуринью: Погба профессионально отреагировал в обоих случаях, когда остался на скамейке
23:30
Олимпиада-2018. 24 февраля. Все медали дня
23:30
Марсель (АТР). Хачанов, Пуй, Бердых вышли в 1/2 финала
23:30
Сергей Фурсенко: РБ Лейпциг по силам Зениту. Хороший жребий
23:30
Олимпиада-2018. Бобслей. Четверки. Экипаж Андрианова выйдет на старт
23:00
Автомобиль въехал в толпу пешеходов во время салюта в Новосибирске
Больше новостей