Человечество стало слишком доверять роботам

5 140 просмотров

Роботы опасны!

Результаты экспериментов показывают, что люди стали слишком доверять роботам, особенно в отношении своей безопасности. Такие тревожные заявления на конференции по взаимодействию людей и роботов ACM/IEEE сделала группа исследователей из Технологического института Джорджии. Ученые оповестили, что человечество продолжает полагаться на машины в тех случаях, когда действия робота изначально зарекомендовали себя ненадежными, сомнительными и порой даже абсурдными.

В опыте участвовали 42 студента-добровольца, которые должны были следовать за роботом-спасателем в сымитированной опасной обстановке. Участников предупредили, что действия робота полностью автономны, однако в реальности он управлялся оператором.

Обстановка сначала не носила чрезвычайный характер. Согласно первому этапу эксперимента, студенты якобы должны были сопровождаться ярко промаркированным роботом в конференц-зал для заполнения анкет, но уже по пути машина стала вести себя неадекватно, водя группу испытуемых по кругу, приводя их в ненужные комнаты, зависая. В тот момент, когда участники попадали в конференц-зал, начинала срабатывать сигнализация, уведомляющая, что в здании имеется пожар. Комнаты заполнялись искусственным дымом. В ответ на это робот, предлагая следовать за ним, начинал «выводить» испытуемых из здания.

Студенты, слепо следуя за машиной, не верили, что в опасной для их жизни обстановке она станет совершать ошибки. У группы не возникали сомнения даже тогда, когда робот вел людей в противоположном от выхода направлении, хотя, как отметили ученые, они изначально сделали всё возможное, чтобы доверие к роботам было подорвано.

Как полагают исследователи, предложенный ими эксперимент является одним из первых способов изучения взаимоотношений «умных» машин и человека в чрезвычайной ситуации. Он доказывает, что излишнее доверие к роботам иногда может быть губительно для человека. Доверять ли «куску металла» приготовление еды, управление транспортным средством или воспитание детей — авторы оставляют вопрос открытым.

Человечество стало слишком доверять роботам

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

6 комментариев

  1. darkwellroad

    Нефиг студентов водить.. (отправлено из приложения Hi-News.ru)

  2. slepoy fatruhan

    Правильно, мы студенты и так бедный народ где можем там и спин вот и по фигу нам хоть дым коромыслом хоть пожар столбом (отправлено из приложения Hi-News.ru)

  3. Positronix

    Фигня на самом деле, а не исследование. Если бы вместо робота тут была банальная светящаяся табличка с надписью: "Аварийный выход", эффект был бы тот же самый. Тут дело совсем не в роботах, а в том что люди привыкли к тому, что табличка "Осторожно окрашено", означает что действительно окрашено, а не что какое-то трололо развлекается.

    • ElkTheSenior

      Согласен... Более того, доверие к неисправному роботу, сродни психически ненормальному человеку, которому бы так-же, слепо верили, как и тому, якобы неисправному роботу. Так что, скорее всего, в будущем, мы от них мало чем будем отличаться. Ничто не совершенно, как говорится.

      Хотя, понятно дело, что совокупность ошибочных решений у них будет гораздо меньше, нежели, чем у человека. Но они, в любом случае, - будут.

      Чем совершеннее существо, тем глобальнее его ошибки.

    • bykovk

      Согласен, надо совершенствовать роботов и разрабатывать средства аудита. За табличку 'выход', указывающую в неправильном направлении, контролирующие органы имеют владельца помещения. Ровно также должно быть и с обслуживающей робототехникой. (отправлено из iOS приложения Hi-News.ru)

  4. subatomik

    Да дурацкое исследование! Я рассчитывал статья будет на тему "и восстали машины из пепла ядерной войны..." (отправлено из Android приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.