» » Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?
Ненастоящий интеллект уже в кое-каком роде помогает определиться вашему будущему. Когда вы разыскиваете что-нибудь в поисковике, пользуетесь сервисом вроде Netflix или банк оценивает вашу пригодность для ипотеки. Однако что будет, если искусственному интеллекту придется определять, виновны вы или нет, в суде?Будто ни диковинно, в отдельных странах это уже, вероятно, происходит. Недавно американского возвышенного судью Джона Робертса осведомились, может ли он представить день, когда «умные машины, управляемые ненастоящим интеллектом, будут помогать в розыске улик или даже в принятии судебных решений». Он откликнулся: «Этот день уже настал, и он существенно помогает судебным органам в производстве дел».

Вероятно, Робертс владел в виду недавний случай Эрика Лумиса, какого приговорили к шести годам заточения по рекомендации доверительного проприетарного программного обеспечения частной братии. Лумис, какой уже владел криминальную историю и был приговорен за то, что летел из полиции на угнанной машине, теперь утверждает, что его лево на процедуру было преступлено, поскольку ни он, ни его представители не смогли рассмотреть или опротестовать алгоритм рекомендации.
Отчет был подготовлен программой Compas, какая продается Notrpointe судам. Программа воплощает новую тенденцию в исследованиях ИИ: помогает судьям принять «лучшее»(или по крайней мере более ориентированное на настоящие)решение в суде.
Алкая конкретные детали девала Лумиса остаются захлопнутыми, в нем наверняка содержатся диаграммы и числа, определяющие жизнь, поведение и вероятность рецидива Лумиса. Среди них возраст, раса, гендерная идентичность, моды, история браузера и какие-нибудь измерения черепа. Аккуратнее никто не знает.
Знаменито, что прокурор по делу взговорил судье, что Лумис продемонстрировал «высокий риск рецидивизма, насилия, досудебного разбирательства». Это стандартно, когда девало дотрагивается вынесения вердикта. Судья согласился и взговорил Лумису, что «по оценке Compas он был найден будто лик, видящее возвышенный риск для общества».
Верховный суд штата Висконсин осудил Лумиса, добавив, что отчет Compas привнес ценную информацию в его решение, однако отметил, что без него он вынес подобный же приговор. Проверить это наверняка, разумеется, не выйдет. Какими могут быть когнитивные предубеждения, когда в деле участвует всемогущая «умная» система вроде Compas, какая советует судьям, будто им поступать?

Безвестное использование


Вручайте будем откровенны, нет ничего «незаконного» в том, что сделал суд Висконсина — это попросту пример. Иные суды могут и будут делать то же самое.
К сожалению, мы не знаем, в какой степени используются ИИ и иные алгоритмы при вынесении вердикта. Есть взгляд, что кое-какие суды «тестируют» системы вроде Compas в закрытых исследованиях, однако не могут заявлять о своем партнерстве. Есть также взгляд, что несколько стартапов ИИ разрабатывают подобные башковитые системы.
Почему ИИ, осуждающий преступников, — это опасно?
Однако использование ИИ в законодательстве не начинается и не заканчивается вынесением вердикта, оно начинается с расследования. В Великобритании уже разработана система VALCRI, какая выполняет трудоемкие аналитические работы за почитанные секунды — пробивается сквозь тонны данных вроде текстов, лабораторных отчетов и полицейских документов, чтобы выделить вещи, какие могут потребовать дальнейшего расследования.
Полиция Уэст-Мидландс в Великобритании будет тестировать VALCRI в течение следующих трех лет, используя безымянные настоящие, включающие вяще 6,5 миллиона записей. Похожее испытание проводится полицией Антверпена в Бельгии. Однако в былом проекты ИИ и абсолютного обучения, вводящие массивные наборы данных, были проблемными.

Выгоды для немногих


Технологии гарантировали бездна полезных устройств залам суда, от копировальных аппаратов до извлечения ДНК из отпечатков перстов и сложных методов наблюдения. Однако это не означает, что любая технология — это улучшение.
Алкая использование ИИ в расследованиях и приговорах может потенциально сэкономить времена и гроши, оно породит изощренные проблемы. В докладе по Compas от ProPublica было внятно взговорено, что черных программа ошибочно считает более готовыми к рецидивизму ответчиками, чем белых. Даже самые сложные системы ИИ могут унаследовать расовые и гендерные предубеждения тех, кто их создает.
Более того, какой резон перекладывать принятие решений(по крайней мере частично)по спросам, какие уникальны для людей, на алгоритм?В США существует найденная трудность, когда суд присяжных судит своих сверстников. Стандарты в законах ввек не были эталонными, потому эти суды присяжных почитаются наиболее демократичными и эффективными системами неодобрения. Мы совершаем оплошки, однако со временем накапливаем познания о том, будто их не совершать, уточняя систему.
Compas и подобные ей системы представляют «черный ящик» в правовой системе. Таковых быть не надлежит. Правовые системы зависят от непрерывности, прозрачности информации и способности к рассмотрению. Общество не хочет появления системы, какая поощряет гонку с созданием стартапов ИИ, какие делают бойкие, грошовые и эксклюзивные решения. Наспех сделанный ИИ будет ужасным.
Освеженная версия Compas с разинутым отправным кодом была бы улучшением. Однако сперва придется поднять стандарты системы правосудия, прежде чем мы возьмемся снимать ответственность в пользу алгоритмов.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо зайти на сайт под своим именем.

комментариев

Ваше имя: *
Ваш e-mail: *
  • bowtiesmilelaughingblushsmileyrelaxedsmirk
    heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
    winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
    worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
    expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
    disappointedconfoundedfearfulcold_sweatperseverecrysob
    joyastonishedscreamtired_faceangryragetriumph
    sleepyyummasksunglassesdizzy_faceimpsmiling_imp
    neutral_faceno_mouthinnocent
Код: Кликните на изображение чтобы обновить код, если он неразборчив
Введите код:

Свежие новости

16:00
УАЗ создал кабриолет на базе Patriot
16:00
Водитель отследил собственный угнанный автомобиль, но вернуть его так и не смог
15:32
Джигарханяна отвезли в больницу в тяжелом состоянии
15:32
Немецкие школьники ответили на «покаянную» речь сверстника из Нового Уренгоя
15:31
Жители Красноярска несут цветы к концертному залу в память о Хворостовском
15:31
«Армену лучше, чем раньше»: друг Джигарханяна опроверг слухи о госпитализации
15:30
Капсулы с прахом Хворостовского похоронят в Москве и Красноярске
15:30
Суд допросит Чубайса по делу экс-главы Роснано Меламеда
15:30
Дети в Оймяконе пошли в школу при минус 50
15:30
Лекарства без маркировок исчезнут с полок аптек через год
15:00
Бомжей Нью-Йорка предложили селить в сотах
14:32
УАЗ выпустит спецверсию «Буханки» для скейтбордистов
14:32
Автоспорт в Новороссийске: анонс на 26 ноября
14:31
Автоспорт в Орловской области: анонс на 25 ноября
14:31
Минтранс разделит автомобилистов на любителей и профессионалов
14:30
Автоспорт в Смоленске: анонс на 25 ноября
14:30
Интерьер у нового Mercedes-Benz A-Class — в стиле «хай-тек»
14:01
OnePlus 5T стал дороже, но продается лучше
14:00
«Безрамочный» Galaxy A5 (2018) показали на качественных изображениях
14:00
OnePlus 5T обошел iPhone X в испытании на быстродействие
13:31
В Якутии раскрыли убийство чемпиона мира по кикбоксингу
13:31
В Молдавии вандалы обезглавили памятник Пушкину
13:30
В Еврейской автономной области столкнулись поезд и автобус
13:30
Российскую туристку, впавшую в кому в Таиланде, перевезут на родину
13:30
Хабаровские власти оценили действия пилотов потерпевшего крушение L-410
13:30
Cлужащий ЧФ задержан в Севастополе по подозрению в шпионаже
13:01
Сергей Собянин анонсировал открытие станции метро ЦСКА в ближайшие дни
13:01
НБА. В эфир NBA TV случайно попала критика Д’Анджело Расселла со стороны Брайана Шоу
13:01
НБА. Николя Батюм снова травмировал левый локоть
13:01
НБА. Победный 3-очковый Харрисона Барнса и данк Энеса Кантера через Ибаку – в Топ-10 моментов матчей 22 ноября
13:01
Туре - Сити не дорос до европейской элиты
13:00
НБА. Эрик Бледсоу: Спасибо команде, я очень хотел победить в Финиксе
13:00
Спартак стал лучшим в туре Лиги чемпионов по точным передачам в штрафную, опередив ПСЖ и Реал
13:00
Росс Браун: Мы располагаем огромным количеством данных, которыми можем поделиться с болельщиками
13:00
Спартак сделал больше всего навесов в 5-м туре ЛЧ, Комбаров – лидер среди игроков
13:00
Усэйн Болт протестировал Порше 911 GT3 Cup Challenge
11:02
Обучение упростят: Минтранс разделит российских водителей на любителей и профессионалов
11:02
Российское посольство в Молдавии осудило осквернение памятника Пушкину
11:02
Президент США распорядился помочь Аргентине найти пропавшую подлодку
11:02
Экипаж МКС по случаю Дня благодарения ждет индейку
Больше новостей