» » Люди не доверяют ИИ. Как это исправить?

Люди не доверяют ИИ. Как это исправить?

Люди не доверяют ИИ. Как это исправить?
Ненастоящий интеллект уже может предсказывать предбудущее. Полиция использует его для составления карты, отражающей, когда и где может приключиться злодеяние. Лекари используют его для прогнозирования, когда у пациента может случиться инсульт или душевный пароксизм. Ученые даже пробуют дать ИИ воображение, чтобы он мог предвидеть неожиданные события.

Многие решения в нашей жизни требуют хороших прогнозов, и агенты ИИ почитай век важнее справляются с ними, чем люд. Тем не менее для всех этих технологических достижений нам по-прежнему не хватает уверенности в прогнозах, какие дает ненастоящий интеллект. Люд не обвыкли надеяться на ИИ и предпочитают доверять экспертам в мурле людей, даже если эти эксперты заблуждаются.
Если мы алкаем, чтобы ненастоящий интеллект нес пользу людам, нам надобно научиться доверять ему. Для этого нам надобно понять, почему люд настолько напористо отнекиваются доверять ИИ.

Доверьтесь доктору Роботу


Попытка IBM представить суперкомпьютерную программу врачам-онкологам(Watson for Oncology)стала провальной. ИИ обещался предоставить высококачественные рекомендации по лечению 12 обликов рака, на долю которых доводится 80% случаев в мире. На сегодняшний день более 14 000 пациентов получили рекомендации на основании его расчетов.
Однако когда лекари впервинку столкнулись с Watson, они оказались в будет сложной ситуации. С одной стороны, если Watson вручал предписания сравнительно лечения, сходящиеся с их собственными воззрениями, медики не видали большенный ценности в рекомендациях ИИ. Суперкомпьютер попросту повествовал им то, что они уже осведомили, и эти рекомендации не меняли фактического лечения. Это, вероятно, вручало докторам безмятежность и уверенность в собственных решениях. Однако IBM еще не доказала, что Watson взаправду увеличивает процент выживаемости с раком.
Люди не доверяют ИИ. Как это исправить?
С иной стороны, если Watson вручал рекомендации, какие расходились с воззрением экспертов, лекари заключали, что Watson некомпетентен. И машина не могла объяснить, почему ее лечение надлежит сработать, потому что ее алгоритмы машинного обучения были излишне сложными, чтобы их могли понять люд. Соответственно, это приводило к еще большему недоверию, и многие лекари попросту игнорировали рекомендации ИИ, полагаясь на собственный опыт.
В итоге главнейший медицинский партнер IBM Watson — MD Anderson Cancer Center — недавно доложил об отказе от программы. Датская больница также доложила, что отнекивается от программы после того, будто вскрыла, что врачи-онкологи не согласны с Watson в двух случаях из трех.
Проблема онкологического Watson была в том, что лекари ему попросту не вверяли. Доверие людей дробно зависит от нашего понимания того, будто думают иные люд, и собственного эксперимента, укрепляющего уверенность в их воззрении. Это создает психологическое ощущение безопасности. ИИ же, с иной стороны, сравнительно новоиспеченная и маловразумительная для людей штука. Он принимает решения, основываясь на сложной системе разбора для выявления потенциальных скрытых закономерностей и слабых сигналов, вытекающих из больших объемов данных.
Даже если его можно объяснить техническим языком, процесс принятия решений ИИ, будто правило, излишне сложный, чтобы его могли понять большинство людей. Взаимодействие с чем-то, чего мы не соображаем, может вызвать тревогу и создать ощущение утраты контроля. Многие люд попросту не понимают, будто и с чем работает ИИ, потому что это происходит где-то за ширмой, в фоновом порядке.
По этой же причине они пронзительнее подмечают случаи, когда ИИ заблуждается: припомните алгоритм Google, какой классифицирует цветных людей будто горилл; чатбот Microsoft, какой стал нацистом менее чем за день; автомобиль Tesla, вкалывающий в порядке автопилота, в итоге какого приключился бедный случай со летальным исходом. Эти злополучные примеры получили диспропорционально великое внимание оружий массовой информации, подчеркивающих повестку того, что мы не можем надеяться на технологии. Машинное обучение не изображает на 100% верным, частично потому что его проектируют люд.

Раскол общества?


Ощущения, какие вызывает ненастоящий интеллект, уходят мертво в природу человечьего существа. Недавно ученые проложили эксперимент, в ходе какого опросили людей, смотревших фильмы про ненастоящий интеллект(фантастические), на тему автоматизации в повседневной жизни. Выяснилось, что самосильно от того, был ИИ в кинофильме показан в позитивном или негативном ключе, безыскусный просмотр кинематографического зрелища нашего технологического предбудущего поляризует взаимоотношения участников. Оптимисты становятся еще более оптимистичными, а скептики закрываются еще больше.
Это говорит о том, что люд лицеприятно глядят к ИИ, отталкиваясь от собственных рассуждений, такова мертво укоренившаяся тенденция лицеприятного подтверждения: тенденция искать или интерпретировать информацию таковским образом, чтобы подтвердить заблаговременно бывшие концепции. Поскольку ИИ все гуще мелькает в медиа, это может способствовать глубокому разделению общества, расколу между теми, кто употребляет ИИ, и теми, кто его отвергает. Доминирующая группа людей может получить капитальное преимущество или гандикап.

Три выхода из кризиса доверия ИИ


К счастью, у нас есть мысли на тему того, будто свериться с доверием к ИИ. Одно всего наличность эксперимента работы с ИИ может внушительно улучшить касательство людей к этой технологии. Есть также доказательства, указывающие на то, что чем гуще вы используете найденные технологии(например, Интернет), тем вяще вы им вверяете.
Иное решение может заключаться в том, чтобы открыть «черный ящик» алгоритмов машинного обучения и сделать их работу более сквозистой. Таковские братии, будто Google, Airbnb и Twitter, уже публикуют отчеты прозрачности о государственных запросах и раскрытии информации. Подобная практика в системах ИИ поможет людам получить надобное понимание того, будто алгоритмы принимают решения.
Изыскания показывают, что вовлечение людей в процесс принятия решений ИИ также повысит степень доверия и позволит ИИ заниматься на человечьем эксперименте. Изыскание показало, что люд, каким вручали возможность слегка модифицировать алгоритм, ощущали большую удовлетворенность от итогов его работы, по всей видимости, из-за ощущения превосходства и возможности влиять на грядущий исход.
Нам необязательно понимать сложную внутреннюю работу систем ИИ, однако если предоставить людам алкая бы капельку информации и контроля над тем, будто эти системы реализуются, у них возникнет вяще доверия и вожделения принять ИИ в повседневную жизнь.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо зайти на сайт под своим именем.

комментариев

Свежие новости

18:30
В Иркутске задержали мошенника, который обманул покупателей аукционных автомобилей на 8,5 млн рублей
18:30
На федеральной трассе Р-258 «Байкал» продолжается реконструкция самого опасного участка
18:00
Meizu M6T на «живых» фото: бюджетка с флагманским дизайном
17:31
По Темзе проехала баржа с динозавром
17:31
«Регулярно спасаем произведения искусства»: как будут реставрировать изрезанную картину Репина
17:31
По улицам Санкт-Петербурга водили слонов
17:30
Убивал ли Иван Грозный своего сына: легенда заиграла новыми красками
17:30
В Татарстане поругались из-за изучения языка: "Попахивает геноцидом"
17:00
Бластер Хана Соло существует. И он намного мощнее светового меча!
17:00
K-компьютер предсказал существование экзотической частицы «ди-Омега»
16:30
Крупнейший парк развлечений в Германии возобновил работу после пожара
16:30
Во Франции в ДТП с автобусом погибли три фаната регбийной команды
15:31
Дидье Дешам: Зидан был выдающимся игроком и уже стал выдающимся тренером
15:31
Макарова и Свитолина вышли во второй круг Roland Garros
15:31
Севилья объявит о назначении Мачина в понедельник
15:30
Кариус допустил в финале ЛЧ 2 результативные ошибки. Больше, чем в предыдущих 32 матчах сезона
15:30
НХЛ. Якуб Врана – о финале : "Весь Вашингтон стоит на ушах"
15:30
Доннарумма может остаться в Милане, никто не готов платить за него 70 млн евро
15:30
Вячеслав Малафеев: Как я узнал из прессы, нового тренера Зенита представят во вторник
15:30
На Фекира претендует не только Ливерпуль
15:30
Нойштедтер о травме Салаха: Рамос специально не делал ничего такого. Это футбол
15:30
Марио Фернандес о русском языке: Многое понимаю и начинаю говорить получше
15:00
67-летний британский миллиардер Ричард Брэнсон собрался в космос
15:00
Россияне получили право потребовать 360 тысяч за задержку авиарейса
15:00
На Украине в легендарном автомобиле "Запорожец" уместились рекордные 17 человек
15:00
Эксперты считают опасным рассаживать родственников в разных частях самолёта
15:00
Грозовского этапировали в мурманскую колонию
14:00
13:30
«Лежачие полицейские» будут ограничивать скорость на восьми участках дорог Магадана
13:00
СМИ: опознаны все жертвы авиакатастрофы на Кубе
13:00
Пассажирский самолет экстренно приземлился в аэропорту Казани
12:30
Otter Voice Notes — голосовые заметки
12:01
Флорентино Перес: Бэйл и Бензема – одни из лучших игроков в мире. Они феноменальны
12:01
НБА. Впервые с 1979 года в обоих финалах конференций будет 7 матчей
12:01
Марсель готов приютить Туре и Феллайни
12:01
Криштиану Роналду: Не могу гарантировать, что останусь в Реале. Жизнь – это не только слава
12:01
НБА. Ник Янг: Деннис Родман пришел ко мне во сне и сказал, что я должен буду сыграть в защите
12:00
Журналист Дзаццарони: Рамос – сын шлюхи, если это не фотомонтаж
12:00
Черчесов о реакции на невызов Глушакова: Вы это называете критикой, мы – обсуждением
12:00
НБА. Рокетс потерпели самое крупное поражение в плей-офф среди команд, которые выиграли 1-ю четверть с разницей 17+ очков
Больше новостей