» » Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?
Ненастоящий интеллект уже в кое-каком роде помогает определиться вашему будущему. Когда вы разыскиваете что-нибудь в поисковике, пользуетесь сервисом вроде Netflix или банк оценивает вашу пригодность для ипотеки. Однако что будет, если искусственному интеллекту придется определять, виновны вы или нет, в суде?Будто ни диковинно, в отдельных странах это уже, вероятно, происходит. Недавно американского возвышенного судью Джона Робертса осведомились, может ли он представить день, когда «умные машины, управляемые ненастоящим интеллектом, будут помогать в розыске улик или даже в принятии судебных решений». Он откликнулся: «Этот день уже настал, и он существенно помогает судебным органам в производстве дел».

Вероятно, Робертс владел в виду недавний случай Эрика Лумиса, какого приговорили к шести годам заточения по рекомендации доверительного проприетарного программного обеспечения частной братии. Лумис, какой уже владел криминальную историю и был приговорен за то, что летел из полиции на угнанной машине, теперь утверждает, что его лево на процедуру было преступлено, поскольку ни он, ни его представители не смогли рассмотреть или опротестовать алгоритм рекомендации.
Отчет был подготовлен программой Compas, какая продается Notrpointe судам. Программа воплощает новую тенденцию в исследованиях ИИ: помогает судьям принять «лучшее»(или по крайней мере более ориентированное на настоящие)решение в суде.
Алкая конкретные детали девала Лумиса остаются захлопнутыми, в нем наверняка содержатся диаграммы и числа, определяющие жизнь, поведение и вероятность рецидива Лумиса. Среди них возраст, раса, гендерная идентичность, моды, история браузера и какие-нибудь измерения черепа. Аккуратнее никто не знает.
Знаменито, что прокурор по делу взговорил судье, что Лумис продемонстрировал «высокий риск рецидивизма, насилия, досудебного разбирательства». Это стандартно, когда девало дотрагивается вынесения вердикта. Судья согласился и взговорил Лумису, что «по оценке Compas он был найден будто лик, видящее возвышенный риск для общества».
Верховный суд штата Висконсин осудил Лумиса, добавив, что отчет Compas привнес ценную информацию в его решение, однако отметил, что без него он вынес подобный же приговор. Проверить это наверняка, разумеется, не выйдет. Какими могут быть когнитивные предубеждения, когда в деле участвует всемогущая «умная» система вроде Compas, какая советует судьям, будто им поступать?

Безвестное использование


Вручайте будем откровенны, нет ничего «незаконного» в том, что сделал суд Висконсина — это попросту пример. Иные суды могут и будут делать то же самое.
К сожалению, мы не знаем, в какой степени используются ИИ и иные алгоритмы при вынесении вердикта. Есть взгляд, что кое-какие суды «тестируют» системы вроде Compas в закрытых исследованиях, однако не могут заявлять о своем партнерстве. Есть также взгляд, что несколько стартапов ИИ разрабатывают подобные башковитые системы.
Почему ИИ, осуждающий преступников, — это опасно?
Однако использование ИИ в законодательстве не начинается и не заканчивается вынесением вердикта, оно начинается с расследования. В Великобритании уже разработана система VALCRI, какая выполняет трудоемкие аналитические работы за почитанные секунды — пробивается сквозь тонны данных вроде текстов, лабораторных отчетов и полицейских документов, чтобы выделить вещи, какие могут потребовать дальнейшего расследования.
Полиция Уэст-Мидландс в Великобритании будет тестировать VALCRI в течение следующих трех лет, используя безымянные настоящие, включающие вяще 6,5 миллиона записей. Похожее испытание проводится полицией Антверпена в Бельгии. Однако в былом проекты ИИ и абсолютного обучения, вводящие массивные наборы данных, были проблемными.

Выгоды для немногих


Технологии гарантировали бездна полезных устройств залам суда, от копировальных аппаратов до извлечения ДНК из отпечатков перстов и сложных методов наблюдения. Однако это не означает, что любая технология — это улучшение.
Алкая использование ИИ в расследованиях и приговорах может потенциально сэкономить времена и гроши, оно породит изощренные проблемы. В докладе по Compas от ProPublica было внятно взговорено, что черных программа ошибочно считает более готовыми к рецидивизму ответчиками, чем белых. Даже самые сложные системы ИИ могут унаследовать расовые и гендерные предубеждения тех, кто их создает.
Более того, какой резон перекладывать принятие решений(по крайней мере частично)по спросам, какие уникальны для людей, на алгоритм?В США существует найденная трудность, когда суд присяжных судит своих сверстников. Стандарты в законах ввек не были эталонными, потому эти суды присяжных почитаются наиболее демократичными и эффективными системами неодобрения. Мы совершаем оплошки, однако со временем накапливаем познания о том, будто их не совершать, уточняя систему.
Compas и подобные ей системы представляют «черный ящик» в правовой системе. Таковых быть не надлежит. Правовые системы зависят от непрерывности, прозрачности информации и способности к рассмотрению. Общество не хочет появления системы, какая поощряет гонку с созданием стартапов ИИ, какие делают бойкие, грошовые и эксклюзивные решения. Наспех сделанный ИИ будет ужасным.
Освеженная версия Compas с разинутым отправным кодом была бы улучшением. Однако сперва придется поднять стандарты системы правосудия, прежде чем мы возьмемся снимать ответственность в пользу алгоритмов.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо зайти на сайт под своим именем.

комментариев

Ваше имя: *
Ваш e-mail: *
  • bowtiesmilelaughingblushsmileyrelaxedsmirk
    heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
    winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
    worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
    expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
    disappointedconfoundedfearfulcold_sweatperseverecrysob
    joyastonishedscreamtired_faceangryragetriumph
    sleepyyummasksunglassesdizzy_faceimpsmiling_imp
    neutral_faceno_mouthinnocent
Код: Кликните на изображение чтобы обновить код, если он неразборчив
Введите код:

Свежие новости

04:00
В Белграде прогремел мощный взрыв — СМИ
04:00
Вандалы осквернили могилу Шарля де Голля
03:30
В воскресенье в Москве ожидается + 14°
01:01
Гран-при Монако. Стартовый порядок
01:01
Анже 0 - 1 ПСЖ. Кубок Франции по футболу. Финал. Обзор матча, результат и статистика. 27.05.2017
01:01
ПСЖ в 11 раз выиграл Кубок Франции по футболу
01:00
Барселона 3 - 1 Алавес. Кубок Испания по футболу. Финал. Обзор матча, результат и статистика. 27.05.2017
01:00
Барселона выиграла Кубок Испании по футболу
00:30
Отец мальчика, арестованного на Арбате: Мой сын не попрошайка
00:01
«АвтоВАЗ» создал багги для Росгвардии
23:30
Айнтрахт Ф 1 - 2 Боруссия Д. Кубок Германии по футболу. Финал. Обзор матча, результат и статистика. 27.05.2017
23:30
Боруссия Дортмунд выиграла Кубок Германии по футболу
23:00
Зрителей лондонского театра эвакуировали из-за угрозы взрыва
23:00
В Австрии из горного ущелья после оползня спасли 17 туристов и собаку
22:30
Material Islands™ – единственный подходящий набор обоев для Android
22:00
Арсенал 2 - 1 Челси. Кубок Англии по футболу. Финал. Обзор матча, результат и статистика. 27.05.2017
22:00
Арсенал выиграл 13 Кубок Англии, который стал 7 для Венгера
21:30
Болонья 1 - 2 Ювентус. Чемпионат Италии по футболу. 38-й тур. Обзор матча, результат и статистика. 27.05.2017
21:30
Аталанта 1 - 0 Кьево. Чемпионат Италии по футболу. 38-й тур. Обзор матча, результат и статистика. 27.05.2017
21:30
Жозе Моуринью прокомментировал информацию о возможном трансфере нападающего Атлетико Антуана Гризманна
21:30
Юсукэ Хасэгава: Каждые две гонки Хонде приходится проводить замену компонента двигателя
21:30
Селтик оформил требл, не проиграв ни одного матча в Чемпионате Шотландии
21:01
Шансы на ваше появление были не так уж и малы
20:31
Даниэль Риккардо: Мы допустили глупую ошибку
20:31
Роберто Манчини выберет между Зенитом и ПСЖ
20:31
Днепр вылетел из украинской Премьер-лиги
20:01
Криштиану Роналду: В Реале играю там, где посчитаю нужным
20:01
Рафаэль Надаль: Мой лучший матч на Ролан Гаррос – полуфинал-2008 против Джоковича
20:01
Себастьян Феттель: Просто постараюсь как можно лучше проехать гонку
20:01
Болонья - Ювентус. Чемпионат Италии по футболу. 38-й тур. Обзор матча онлайн, стартовые составы, результат и статистика. 27.05.2017
20:01
Аталанта - Кьево. Чемпионат Италии по футболу. 38-й тур. Обзор матча онлайн, стартовые составы, результат и статистика. 27.05.2017
20:00
Макс Ферстаппен: Обычно обгонять в Монако не представляется возможным
20:00
В первый день Ролан Гаррос стартуют Кузнецова, Макарова, Медведев, Димитров
20:00
Тсонга стал 4-м игроком, завоевавшим в этом сезоне 3 титула
20:00
Зверевы стали первыми за 11 лет братьями, в одном году сыгравшими в одиночных финалах ATP
20:00
НХЛ. "Чикаго" продлил контракт с Кемпни
19:30
Создана генерирующая и проводящая электричество ткань
19:00
Оценки численности участников митинга «За права москвичей» разошлись
18:30
В России сделали первый в мире обзор Galaxy J5 и J7 (2017) еще до анонса
18:01
Валттери Боттас: В целом у Феррари есть преимущество
Больше новостей