» » Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?

Почему ИИ, осуждающий преступников, — это опасно?
Ненастоящий интеллект уже в кое-каком роде помогает определиться вашему будущему. Когда вы разыскиваете что-нибудь в поисковике, пользуетесь сервисом вроде Netflix или банк оценивает вашу пригодность для ипотеки. Однако что будет, если искусственному интеллекту придется определять, виновны вы или нет, в суде?Будто ни диковинно, в отдельных странах это уже, вероятно, происходит. Недавно американского возвышенного судью Джона Робертса осведомились, может ли он представить день, когда «умные машины, управляемые ненастоящим интеллектом, будут помогать в розыске улик или даже в принятии судебных решений». Он откликнулся: «Этот день уже настал, и он существенно помогает судебным органам в производстве дел».

Вероятно, Робертс владел в виду недавний случай Эрика Лумиса, какого приговорили к шести годам заточения по рекомендации доверительного проприетарного программного обеспечения частной братии. Лумис, какой уже владел криминальную историю и был приговорен за то, что летел из полиции на угнанной машине, теперь утверждает, что его лево на процедуру было преступлено, поскольку ни он, ни его представители не смогли рассмотреть или опротестовать алгоритм рекомендации.
Отчет был подготовлен программой Compas, какая продается Notrpointe судам. Программа воплощает новую тенденцию в исследованиях ИИ: помогает судьям принять «лучшее»(или по крайней мере более ориентированное на настоящие)решение в суде.
Алкая конкретные детали девала Лумиса остаются захлопнутыми, в нем наверняка содержатся диаграммы и числа, определяющие жизнь, поведение и вероятность рецидива Лумиса. Среди них возраст, раса, гендерная идентичность, моды, история браузера и какие-нибудь измерения черепа. Аккуратнее никто не знает.
Знаменито, что прокурор по делу взговорил судье, что Лумис продемонстрировал «высокий риск рецидивизма, насилия, досудебного разбирательства». Это стандартно, когда девало дотрагивается вынесения вердикта. Судья согласился и взговорил Лумису, что «по оценке Compas он был найден будто лик, видящее возвышенный риск для общества».
Верховный суд штата Висконсин осудил Лумиса, добавив, что отчет Compas привнес ценную информацию в его решение, однако отметил, что без него он вынес подобный же приговор. Проверить это наверняка, разумеется, не выйдет. Какими могут быть когнитивные предубеждения, когда в деле участвует всемогущая «умная» система вроде Compas, какая советует судьям, будто им поступать?

Безвестное использование


Вручайте будем откровенны, нет ничего «незаконного» в том, что сделал суд Висконсина — это попросту пример. Иные суды могут и будут делать то же самое.
К сожалению, мы не знаем, в какой степени используются ИИ и иные алгоритмы при вынесении вердикта. Есть взгляд, что кое-какие суды «тестируют» системы вроде Compas в закрытых исследованиях, однако не могут заявлять о своем партнерстве. Есть также взгляд, что несколько стартапов ИИ разрабатывают подобные башковитые системы.
Почему ИИ, осуждающий преступников, — это опасно?
Однако использование ИИ в законодательстве не начинается и не заканчивается вынесением вердикта, оно начинается с расследования. В Великобритании уже разработана система VALCRI, какая выполняет трудоемкие аналитические работы за почитанные секунды — пробивается сквозь тонны данных вроде текстов, лабораторных отчетов и полицейских документов, чтобы выделить вещи, какие могут потребовать дальнейшего расследования.
Полиция Уэст-Мидландс в Великобритании будет тестировать VALCRI в течение следующих трех лет, используя безымянные настоящие, включающие вяще 6,5 миллиона записей. Похожее испытание проводится полицией Антверпена в Бельгии. Однако в былом проекты ИИ и абсолютного обучения, вводящие массивные наборы данных, были проблемными.

Выгоды для немногих


Технологии гарантировали бездна полезных устройств залам суда, от копировальных аппаратов до извлечения ДНК из отпечатков перстов и сложных методов наблюдения. Однако это не означает, что любая технология — это улучшение.
Алкая использование ИИ в расследованиях и приговорах может потенциально сэкономить времена и гроши, оно породит изощренные проблемы. В докладе по Compas от ProPublica было внятно взговорено, что черных программа ошибочно считает более готовыми к рецидивизму ответчиками, чем белых. Даже самые сложные системы ИИ могут унаследовать расовые и гендерные предубеждения тех, кто их создает.
Более того, какой резон перекладывать принятие решений(по крайней мере частично)по спросам, какие уникальны для людей, на алгоритм?В США существует найденная трудность, когда суд присяжных судит своих сверстников. Стандарты в законах ввек не были эталонными, потому эти суды присяжных почитаются наиболее демократичными и эффективными системами неодобрения. Мы совершаем оплошки, однако со временем накапливаем познания о том, будто их не совершать, уточняя систему.
Compas и подобные ей системы представляют «черный ящик» в правовой системе. Таковых быть не надлежит. Правовые системы зависят от непрерывности, прозрачности информации и способности к рассмотрению. Общество не хочет появления системы, какая поощряет гонку с созданием стартапов ИИ, какие делают бойкие, грошовые и эксклюзивные решения. Наспех сделанный ИИ будет ужасным.
Освеженная версия Compas с разинутым отправным кодом была бы улучшением. Однако сперва придется поднять стандарты системы правосудия, прежде чем мы возьмемся снимать ответственность в пользу алгоритмов.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо зайти на сайт под своим именем.

комментариев

Ваше имя: *
Ваш e-mail: *
  • bowtiesmilelaughingblushsmileyrelaxedsmirk
    heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
    winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
    worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
    expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
    disappointedconfoundedfearfulcold_sweatperseverecrysob
    joyastonishedscreamtired_faceangryragetriumph
    sleepyyummasksunglassesdizzy_faceimpsmiling_imp
    neutral_faceno_mouthinnocent
Код: Кликните на изображение чтобы обновить код, если он неразборчив
Введите код:

Свежие новости

15:31
«Вириом» зарегистрировала в России инновационный препарат для лечения ВИЧ
15:31
Пятый Партнеринг «Лекарства России – к междисциплинарному диалогу»
15:31
На телемедицину потребуется 750 млн рублей в год
15:30
Бактерии в кишечниках россиян скрывают защиту от антибиотков, выяснили генетики
15:30
Первая российская вакцина от клещевого энцефалита подтвердила эффективность на генном уровне
15:30
Кетамин оказался эффективен в терапии депрессии у пожилых людей
15:30
Пациентоориентированные поликлиники получат гранты от правительства Москвы
14:32
Номера с новым кодом региона начали выдавать в Москве
14:32
Пропускную способность Маратовской развязки в Иркутске к сентябрю увеличат на 50%
14:32
Отдыхающих на озерах Хакасии штрафуют за парковку автомобилей в водоохранной зоне
14:31
Уточненные сведения о запасе хода нового Nissan Leaf попали в сеть
14:31
Ремонт региональных дорог продолжается в Хакасии
14:30
В России начинаются продажи кроссовера Dongfeng на лицензионной платформе Honda. Фото и цены
14:00
Мужчина с криками «Аллах акбар» напал на испанских полицейских
13:31
Большинство россиян поддержали запрет "Свидетелей Иеговы"
13:31
Генпрокуратура попросила Интерпол объявить в розыск экс-главу "Билайна"
13:31
Россиян могут заставить платить за провоз телефонов в самолетах
13:30
Пассажиры рейса Пермь - Анталия почти сутки ждали вылета
13:30
Суд отклонил иск журналистов "Звезды" к Бабченко по крушению Ту-154
13:30
Регионы России назвали размеры курортного сбора
13:30
Бабченко прокомментировал решение суда по иску к нему «передовых пропагандистов»
13:30
Челябинская полиция ищет паркурщиков, "покоривших" храм
13:30
Совет Федерации одобрил закон о телемедицине
13:30
50-летний сингапурец стал успешным манекенщиком благодаря внешности 20-летнего
12:31
Альваро Мората: Судьба, наконец, свела нас с Конте
12:31
Новозеландец Туилома переходит из Марселя в Портленд Тимберс
12:31
ПСЖ проведет пресс-конференцию в полночь по московскому времени
12:31
НХЛ. Дисквалификация ИИХФ не помешает отъезду Зарипова
12:31
Российские клубы интересуются хавбеком минского Динамо Нойоком
12:31
Вице-президент Бетиса сказал агентам Зозули искать игроку новый клуб
12:31
Челси отправил Кенеди домой
12:31
Урал – Уфа. Форвард хозяев Ильин восстановился и, скорее всего, сможет сыграть
12:30
Чарли Уайтинг: У Кубицы есть гоночная лицензия, позволяющая выступать в Формуле-1
12:30
Вулверхэмптон арендовал Жоту у Атлетико
12:00
Лаунчер OnePlus появился в Google Play
12:00
Что нового в Android O Developer Preview 4
11:30
Работающим пенсионерам с 1 августа увеличат пенсию
11:30
Банк "Югра" потребовал через суд признать действия Центробанка незаконными
11:00
Австралийский ИИ займётся производством вина
10:30
Движение по Волоколамскому шоссе было остановлено из-за аварии
Больше новостей