» » Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?
Ненастоящий интеллект уже в кое-каком роде помогает определиться вашему будущему. Когда вы разыскиваете что-нибудь в поисковике, пользуетесь сервисом вроде Netflix или банк оценивает вашу пригодность для ипотеки. Однако что будет, если искусственному интеллекту придется определять, виновны вы или нет, в суде?Будто ни диковинно, в отдельных странах это уже, вероятно, происходит. Недавно американского возвышенного судью Джона Робертса осведомились, может ли он представить день, когда «умные машины, управляемые ненастоящим интеллектом, будут помогать в розыске улик или даже в принятии судебных решений». Он откликнулся: «Этот день уже настал, и он существенно помогает судебным органам в производстве дел».

Вероятно, Робертс владел в виду недавний случай Эрика Лумиса, какого приговорили к шести годам заточения по рекомендации доверительного проприетарного программного обеспечения частной братии. Лумис, какой уже владел криминальную историю и был приговорен за то, что летел из полиции на угнанной машине, теперь утверждает, что его лево на процедуру было преступлено, поскольку ни он, ни его представители не смогли рассмотреть или опротестовать алгоритм рекомендации.
Отчет был подготовлен программой Compas, какая продается Notrpointe судам. Программа воплощает новую тенденцию в исследованиях ИИ: помогает судьям принять «лучшее»(или по крайней мере более ориентированное на настоящие)решение в суде.
Алкая конкретные детали девала Лумиса остаются захлопнутыми, в нем наверняка содержатся диаграммы и числа, определяющие жизнь, поведение и вероятность рецидива Лумиса. Среди них возраст, раса, гендерная идентичность, моды, история браузера и какие-нибудь измерения черепа. Аккуратнее никто не знает.
Знаменито, что прокурор по делу взговорил судье, что Лумис продемонстрировал «высокий риск рецидивизма, насилия, досудебного разбирательства». Это стандартно, когда девало дотрагивается вынесения вердикта. Судья согласился и взговорил Лумису, что «по оценке Compas он был найден будто лик, видящее возвышенный риск для общества».
Верховный суд штата Висконсин осудил Лумиса, добавив, что отчет Compas привнес ценную информацию в его решение, однако отметил, что без него он вынес подобный же приговор. Проверить это наверняка, разумеется, не выйдет. Какими могут быть когнитивные предубеждения, когда в деле участвует всемогущая «умная» система вроде Compas, какая советует судьям, будто им поступать?

Безвестное использование


Вручайте будем откровенны, нет ничего «незаконного» в том, что сделал суд Висконсина — это попросту пример. Иные суды могут и будут делать то же самое.
К сожалению, мы не знаем, в какой степени используются ИИ и иные алгоритмы при вынесении вердикта. Есть взгляд, что кое-какие суды «тестируют» системы вроде Compas в закрытых исследованиях, однако не могут заявлять о своем партнерстве. Есть также взгляд, что несколько стартапов ИИ разрабатывают подобные башковитые системы.
Почему ИИ, осуждающий преступников, — это опасно?
Однако использование ИИ в законодательстве не начинается и не заканчивается вынесением вердикта, оно начинается с расследования. В Великобритании уже разработана система VALCRI, какая выполняет трудоемкие аналитические работы за почитанные секунды — пробивается сквозь тонны данных вроде текстов, лабораторных отчетов и полицейских документов, чтобы выделить вещи, какие могут потребовать дальнейшего расследования.
Полиция Уэст-Мидландс в Великобритании будет тестировать VALCRI в течение следующих трех лет, используя безымянные настоящие, включающие вяще 6,5 миллиона записей. Похожее испытание проводится полицией Антверпена в Бельгии. Однако в былом проекты ИИ и абсолютного обучения, вводящие массивные наборы данных, были проблемными.

Выгоды для немногих


Технологии гарантировали бездна полезных устройств залам суда, от копировальных аппаратов до извлечения ДНК из отпечатков перстов и сложных методов наблюдения. Однако это не означает, что любая технология — это улучшение.
Алкая использование ИИ в расследованиях и приговорах может потенциально сэкономить времена и гроши, оно породит изощренные проблемы. В докладе по Compas от ProPublica было внятно взговорено, что черных программа ошибочно считает более готовыми к рецидивизму ответчиками, чем белых. Даже самые сложные системы ИИ могут унаследовать расовые и гендерные предубеждения тех, кто их создает.
Более того, какой резон перекладывать принятие решений(по крайней мере частично)по спросам, какие уникальны для людей, на алгоритм?В США существует найденная трудность, когда суд присяжных судит своих сверстников. Стандарты в законах ввек не были эталонными, потому эти суды присяжных почитаются наиболее демократичными и эффективными системами неодобрения. Мы совершаем оплошки, однако со временем накапливаем познания о том, будто их не совершать, уточняя систему.
Compas и подобные ей системы представляют «черный ящик» в правовой системе. Таковых быть не надлежит. Правовые системы зависят от непрерывности, прозрачности информации и способности к рассмотрению. Общество не хочет появления системы, какая поощряет гонку с созданием стартапов ИИ, какие делают бойкие, грошовые и эксклюзивные решения. Наспех сделанный ИИ будет ужасным.
Освеженная версия Compas с разинутым отправным кодом была бы улучшением. Однако сперва придется поднять стандарты системы правосудия, прежде чем мы возьмемся снимать ответственность в пользу алгоритмов.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо зайти на сайт под своим именем.

комментариев

Свежие новости

08:31
Мачей Рыбус: Все команды хотят помешать Локомотиву в борьбе за чемпионство
08:31
НБА. Плей-офф. Попадание Адетокумбо принесло Милуоки победу в серии с Бостоном, Сан-Антонио – Голден Стэйт и другие матчи
08:31
Моуриньо - Если не выиграем Кубок Англии, вы будете готовы убить меня
08:30
Салах признан игроком года в Англии
08:30
Индикар. Гонку в Алабаме перенесли на понедельник
08:30
НХЛ. Павел Бучневич: "После одной из драк досталось от доктора "Филадельфии"
08:30
Брюгге — Стандард. Габулов пропустил 4 гола после 7 ударов в створ ворот
08:30
Погба - У меня нет проблем с Моуриньо
08:30
Ювентус – Наполи. Хозяева впервые не нанесли ударов в створ ворот в матче серии А на Ювентус Стэдиум
08:30
НХЛ. Генцел, Кутюрье, Ринне - звезды дня
08:01
Обвинение просит от 8 до 25 лет лишения свободы для "приморских партизан"
07:01
Обамеянг подшутил над Кейном: Хочу, чтоб гол Рэмзи переписали на меня
07:01
Неманья Пейчинович: Против Уфы сложно играть, особенно когда в обороне стоят 11 человек
07:01
Эусебио Ди Франческо: Игроки Ромы хорошо знают Салаха, это может стать преимуществом
07:01
НХЛ. Павел Бучневич: "В "Рейнджерс" есть стереотип о русских игроках"
07:01
НХЛ. Невероятные эмоции Проворова после вылета "Филадельфии" из Кубка Стэнли. Видео
07:00
НХЛ. Павел Бучневич: "Джей Ти Миллера обменяли прямо в самолете по пути в Ванкувер"
07:00
НХЛ. Гюнтцель стал первым игроком "Питтсбурга", забросившим 4 шайбы подряд в матче плей-офф
07:00
Невилл советует Арсеналу обратить внимание на Симеоне
07:00
НХЛ. Известны две пары второго раунда плей-офф
07:00
Украинки вылетели из Второй мировой группы, уступив Канаде
05:30
Губернатор Ульяновской области возродил премию Ленина
05:00
Количество жертв взрыва в Кабуле выросло до 57
05:00
СМИ: в КНДР туристический автобус упал с моста, погибли более 30 человек
05:00
СМИ: подозреваемый в стрельбе в Теннесси пытался встретиться с Трампом
04:31
Дело о взыскании с граждан налоговых долгов компаний может вернуться в КС
04:30
Разработка самого большого военного беспилотника привела к уголовному делу
03:31
Барселоне осталось набрать 1 очко для чемпионства
03:31
Калиду Кулибали: Наполи всегда верил в чемпионство
03:30
Сане признан лучшим молодым игроком сезона в Англии
03:30
НБА. Элвин Джентри: Я хочу переиграть Стива Керра. На остальное мне плевать
03:30
НБА. Дэвид Уэст получил технический за то, что занимался на велотренажере во время матча со Сперс
03:30
Мохамед Салах — Игрок Года по версии pfa
03:30
НБА. Игроки Кливленда вновь приехали на встречу с Пэйсерс в одинаковых костюмах
03:30
НБА. Стив Керр: Думаю, Ману должен играть еще два года
03:30
НБА. Ламаркус Олдридж положил трехочковый от щита в важнейший момент 4-го матча с Голден Стэйт
03:30
НБА. Яннис Адетокумбо эффектно поставил через Эла Хорфорда
02:30
Источник пояснил, почему Украинской православной церкви не дадут автокефалии
02:30
Пушков прокомментировал слова Макрона о «строительстве новой Сирии»
02:30
Моргана Фримена обвинили в неуместных сексуальных отношениях со сводной внучкой
Больше новостей