» » Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?
Ненастоящий интеллект уже в кое-каком роде помогает определиться вашему будущему. Когда вы разыскиваете что-нибудь в поисковике, пользуетесь сервисом вроде Netflix или банк оценивает вашу пригодность для ипотеки. Однако что будет, если искусственному интеллекту придется определять, виновны вы или нет, в суде?Будто ни диковинно, в отдельных странах это уже, вероятно, происходит. Недавно американского возвышенного судью Джона Робертса осведомились, может ли он представить день, когда «умные машины, управляемые ненастоящим интеллектом, будут помогать в розыске улик или даже в принятии судебных решений». Он откликнулся: «Этот день уже настал, и он существенно помогает судебным органам в производстве дел».

Вероятно, Робертс владел в виду недавний случай Эрика Лумиса, какого приговорили к шести годам заточения по рекомендации доверительного проприетарного программного обеспечения частной братии. Лумис, какой уже владел криминальную историю и был приговорен за то, что летел из полиции на угнанной машине, теперь утверждает, что его лево на процедуру было преступлено, поскольку ни он, ни его представители не смогли рассмотреть или опротестовать алгоритм рекомендации.
Отчет был подготовлен программой Compas, какая продается Notrpointe судам. Программа воплощает новую тенденцию в исследованиях ИИ: помогает судьям принять «лучшее»(или по крайней мере более ориентированное на настоящие)решение в суде.
Алкая конкретные детали девала Лумиса остаются захлопнутыми, в нем наверняка содержатся диаграммы и числа, определяющие жизнь, поведение и вероятность рецидива Лумиса. Среди них возраст, раса, гендерная идентичность, моды, история браузера и какие-нибудь измерения черепа. Аккуратнее никто не знает.
Знаменито, что прокурор по делу взговорил судье, что Лумис продемонстрировал «высокий риск рецидивизма, насилия, досудебного разбирательства». Это стандартно, когда девало дотрагивается вынесения вердикта. Судья согласился и взговорил Лумису, что «по оценке Compas он был найден будто лик, видящее возвышенный риск для общества».
Верховный суд штата Висконсин осудил Лумиса, добавив, что отчет Compas привнес ценную информацию в его решение, однако отметил, что без него он вынес подобный же приговор. Проверить это наверняка, разумеется, не выйдет. Какими могут быть когнитивные предубеждения, когда в деле участвует всемогущая «умная» система вроде Compas, какая советует судьям, будто им поступать?

Безвестное использование


Вручайте будем откровенны, нет ничего «незаконного» в том, что сделал суд Висконсина — это попросту пример. Иные суды могут и будут делать то же самое.
К сожалению, мы не знаем, в какой степени используются ИИ и иные алгоритмы при вынесении вердикта. Есть взгляд, что кое-какие суды «тестируют» системы вроде Compas в закрытых исследованиях, однако не могут заявлять о своем партнерстве. Есть также взгляд, что несколько стартапов ИИ разрабатывают подобные башковитые системы.
Почему ИИ, осуждающий преступников, — это опасно?
Однако использование ИИ в законодательстве не начинается и не заканчивается вынесением вердикта, оно начинается с расследования. В Великобритании уже разработана система VALCRI, какая выполняет трудоемкие аналитические работы за почитанные секунды — пробивается сквозь тонны данных вроде текстов, лабораторных отчетов и полицейских документов, чтобы выделить вещи, какие могут потребовать дальнейшего расследования.
Полиция Уэст-Мидландс в Великобритании будет тестировать VALCRI в течение следующих трех лет, используя безымянные настоящие, включающие вяще 6,5 миллиона записей. Похожее испытание проводится полицией Антверпена в Бельгии. Однако в былом проекты ИИ и абсолютного обучения, вводящие массивные наборы данных, были проблемными.

Выгоды для немногих


Технологии гарантировали бездна полезных устройств залам суда, от копировальных аппаратов до извлечения ДНК из отпечатков перстов и сложных методов наблюдения. Однако это не означает, что любая технология — это улучшение.
Алкая использование ИИ в расследованиях и приговорах может потенциально сэкономить времена и гроши, оно породит изощренные проблемы. В докладе по Compas от ProPublica было внятно взговорено, что черных программа ошибочно считает более готовыми к рецидивизму ответчиками, чем белых. Даже самые сложные системы ИИ могут унаследовать расовые и гендерные предубеждения тех, кто их создает.
Более того, какой резон перекладывать принятие решений(по крайней мере частично)по спросам, какие уникальны для людей, на алгоритм?В США существует найденная трудность, когда суд присяжных судит своих сверстников. Стандарты в законах ввек не были эталонными, потому эти суды присяжных почитаются наиболее демократичными и эффективными системами неодобрения. Мы совершаем оплошки, однако со временем накапливаем познания о том, будто их не совершать, уточняя систему.
Compas и подобные ей системы представляют «черный ящик» в правовой системе. Таковых быть не надлежит. Правовые системы зависят от непрерывности, прозрачности информации и способности к рассмотрению. Общество не хочет появления системы, какая поощряет гонку с созданием стартапов ИИ, какие делают бойкие, грошовые и эксклюзивные решения. Наспех сделанный ИИ будет ужасным.
Освеженная версия Compas с разинутым отправным кодом была бы улучшением. Однако сперва придется поднять стандарты системы правосудия, прежде чем мы возьмемся снимать ответственность в пользу алгоритмов.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо зайти на сайт под своим именем.

комментариев

Ваше имя: *
Ваш e-mail: *
  • bowtiesmilelaughingblushsmileyrelaxedsmirk
    heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
    winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
    worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
    expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
    disappointedconfoundedfearfulcold_sweatperseverecrysob
    joyastonishedscreamtired_faceangryragetriumph
    sleepyyummasksunglassesdizzy_faceimpsmiling_imp
    neutral_faceno_mouthinnocent
Код: Кликните на изображение чтобы обновить код, если он неразборчив
Введите код:

Свежие новости

02:00
Книги писателя Бориса Акунина запретили на Украине
01:01
Рио Фердинанд: Ван Дейк – лучший защитник АПЛ
01:01
12-летний форвард Боруссии Д Мукоко оформил второй хет-трик в сезоне за 17-летних
01:01
Канчельскис о Спартаке: Их наказывает футбольный бог за дела с Уфой и Тулой
01:00
Эвертон предлагал 66 миллионов фунтов за Косту
01:00
Динияр Билялетдинов: Был вариант с Австралией, но хотелось что-то поближе
01:00
Ростов обзавелся новыми спонсорами
01:00
Григорий Иванов: Судья матча с Тосно отработал хорошо
01:00
НХЛ. "Нэшвилл" обыграл "Коламбус", Панарин отметился двумя голевыми передачами
01:00
Хавбек Сельты Систо отдал три голевые передачи в одной игре, повторив достижение Карпина и Мостового
01:00
НХЛ. Волков забросил первую шайбу за "Тампу". Видео
00:52
Преимущества больницы Ихилов
00:49
Свадьба на Самуи в Таиланде: где разместить гостей?
00:48
Как подобрать модель GSM репитера
00:34
Как организовать цветочный бизнес
00:30
Ураган «Мария» серьёзно повредил знаменитый радиотелескоп «Аресибо»
00:14
Как выбрать домашнюю одежду для девушки?
00:00
НХЛ. Виталий Абрамов: "Комфортно ощущаю себя в "Коламбусе", постепенно нервозность в матчах проходит"
00:00
НБА. Джон Дженкинс примет участие в тренировочном лагере Хоукс
00:00
НХЛ. Виталий Абрамов: "Бьюсь за место в составе "Коламбуса" и стараюсь показывать свою игру"
00:00
Хавбек Фенербахче Соуза купит фанату клуба телевизор, взамен сломанного во время матча
00:00
Миодраг Божович: Обидно, что проиграли Уфе. Нам не фартило
23:30
23:30
Пользователи смартфонов Google – какие они
21:30
В ФРГ ищут трех опасных преступников, сбежавших из психиатрической клиники
21:30
В Москве убит известный советский хоккеист Виктор Толмачев
21:30
Истребитель ВВС Италии разбился во время авиашоу
21:30
В США при стрельбе в церкви погиб человек, восемь ранены
21:00
Экзитполы показали победу партии Меркель на парламентских выборах
20:30
"Люди будут ждать конца года": сверхоптимистичный прогноз экономразвития позабавил Путина
20:01
Доктор Куроедов: «Даже незначительное повреждение роговицы может снизить зрение»
20:00
Родители потребовали установить шкафчики для учеников в каждой школе
20:00
«Карт-бланш на легкомыслие»: штрафы для водителей поставят под угрозу пешеходов
20:00
Ведущий церемонии Music Box подрался с певицей
19:30
В Швейцарии начнут работать медицинские дроны-курьеры
19:00
Как правильно выбрать недорогой Android-смартфон
18:31
Ганновер-96 - Кельн. Чемпионат Германии по футболу. 6-й тур. Обзор матча онлайн, стартовые составы, результат и статистика. 24.09.2017
18:31
Ростов - Локомотив. Чемпионат России по футболу. 11-й тур. Обзор матча онлайн, стартовые составы, результат и статистика. 24.09.2017
18:31
Уфа - Арсенал Т. Чемпионат России по футболу. 11-й тур. Обзор матча онлайн, стартовые составы, результат и статистика. 24.09.2017
18:30
НБА. Робин Лопес: Возможно, через несколько месяцев Дональд Трамп тоже не сможет посещать Белый дом
Больше новостей