Искусственный интеллект начал убивать раньше, чем мы думали

20 888 просмотров
Об авторе

HAL 9000

Ровно год назад — месяцем раньше, месяцем позже, неважно — мы откровенно заявили: однажды автомобиль с искусственным интеллектом убьет человека. К нашему удивлению, ждать долго не пришлось: ИИ уже начал убивать людей. И в связи с этим, есть смысл поднять вечные вопросы еще раз: кто виноват и что делать?

«…хотя смерть от рук роботов и даже от самоуправляемого автомобиля может звучать жутко, мы должны напомнить себе, что сотни тысяч людей погибают в автомобильных катастрофах каждый день. Хотя мы можем найти утешение в том, что человек в настоящее время сидит за рулем каждого автомобиля, статистически это никогда не будет безопаснее, чем когда роботы примут на себя обязанности водителей. И когда преимущества самоуправляемых автомобилей переплюнут факторы безопасности — в том числе эффективность ежедневных поездок, нашего планирования городов, смещение динамики цен при обновлении целых отраслей промышленности — мы будем бояться их не больше, чем персональных компьютеров.

Настоящий риск, связанный с развитием робототехники и искусственного интеллекта, заключается в непреднамеренном их использовании. Точно так же, как есть тонкая грань между ядерной энергией и ядерным оружием, эти достижения в робототехнике и ИИ обещают непредсказуемые возможности злоупотребления: смертельные военные применения, расширение способов шпионажа и взлома точно таких же сложных систем. Поэтому мы должны быть полностью осведомлены об этих рисках и готовы решать связанные с ними вопросы, при этом не забывая о том, какую пользу они могут принести человечеству.

Гейтс, Маск и Хокинг абсолютно правильно поощряют осторожность во время движения вперед. Однако видят угрозу немножко не там, поскольку человеческое намерение остается куда более грозной опасностью, нежели машины, которые оно изобретает. Невообразимые технологии находятся на расстоянии вытянутой руки, когда-то о них можно было лишь мечтать, но главным врагом людей всегда были лишь сами люди».

Так писали мы год назад.

Начиная с мая 2016 года автопилот Tesla (он же Autopilot, как его называет сама компания) пошел во все тяжкие: 7 мая 2016 года в США автомобиль ехал по скоростному шоссе штата Флорида и на одном из перекрёстков врезался в пересекающую дорогу фуру. Автомобилю Tesla оторвало крышу, и он пролетел ещё примерно 30 метров, прежде чем остановиться. Водитель Джошуа Браун в результате аварии скончался. 10 июля 2016 года, в воскресенье ночью Model X врезалась в ограждение в Монтане, и снова по вине автопилота. К счастью, водитель и пассажир оба в порядке. Но могло быть иначе.

…главным врагом людей всегда были лишь сами люди. СМИ подхватили оба случая и разнесли Tesla в пух и прах, критикуя ранний выход автопилота. Самое интересное в том, что теперь езда без автопилота становится опаснее, чем с ним. И эта смерть — не более чем капля в море из миллионов смертей, которые происходят по всему миру по вине людей.

«Но реальность такова, если смотреть на цифры, что езда с автопилотом Tesla НАМНОГО безопаснее, чем без него, либо в машине, где его нет», — писал Питер Диамандис, отвечая на несправедливую реакцию СМИ.

Выходит, люди действительно снова оказываются врагом сами себе? А что будет дальше? Мы будем смотреть, как искусственный интеллект убивает сотни людей, где угодно, как угодно: ради фармацевтических экспериментов; устраняет неудачных дизайнерских младенцев; убивает одних людей ради спасения других; лишает жизни преступников ради сохранения жизней, которые они в противном случае могли бы унести? И будем смотреть на это как на спасение человечества? Получается, да. Нам придется смириться с меньшим злом ради избавления от большего.

Искусственный интеллект начал убивать раньше, чем мы думали

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

63 комментария

  1. mi

    Г Р О М К И Й ЗАГОЛОВОК
    И
    статья ни о чем (отправлено из приложения Hi-News.ru)

  2. varwar

    Статья полный бред.Сравнения глупые.Автопилот, в данном случае ,делает то же самое, что и человек, только лучше.Тут сравнивают узкопрофильный ИИ с глобальным.Последний абзац так и вовсе чушь.Так написано, буд-то автопилот специально убивает)

  3. azamat-021

    Статья не оправдала ожиданий) (отправлено из приложения Hi-News.ru)

  4. john91

    - Выходит, люди действительно снова оказываются врагом сами себе? А что будет дальше? Мы будем смотреть, как искусственный интеллект убивает сотни людей, где угодно, как угодно: ради фармацевтических экспериментов; устраняет неудачных дизайнерских младенцев; убивает одних людей ради спасения других; лишает жизни преступников ради сохранения жизней, которые они в противном случае могли бы унести? И будем смотреть на это как на спасение человечества? Получается, да. Нам придется смириться с меньшим злом ради избавления от большего.

    Почему говорится от лица всех, говори от себя. Одно дело несчастный случай, другое дело намеренное убийство одно ради спасения нескольких. Это совершенно разные вещи. И если для тебя приемлем второй вариант то готовься к жизни в постоянной тревожности. Ведь в любой момент может появится робот убить тебя и раздать твои органы и спасти скажем 10 людей. А богатым то как несладко придется, сколько людей можно спасти на деньги миллиардера к примеру, с них и начнут.
    Лично я совершенно против такого подхода и считаю это подлостью и преступлением. Иначе весь мир превратится в непрерывные убийства одних ради спасения других, все будут жить в непрерывной тревожности, фактически и жизнью такое назвать нельзя будет. Считаю, что убийства одного ради спасения другого приемлемо только на добровольной основе. Те кто придерживается другого подхода мне неприемлемы. Не хотелось бы спасть в соседней палатке, зная что твои друзья ночью тебя могут прирезать и раздать твои органы другим людям и думать что сделали хорошее дело. А на следующий день прирезать еще одного из тех кто прирезал прошлой ночью и так далее пока из них не останется только один. И только он будет спать в палатке спокойно.

    • Jeff

      Полностью поддерживаю. От одной мысли, что нас может ждать такое будущее, становится не по себе.

      Вообще есть одно интересное философское аниме на эту тему. Там тоже люди убивают других людей за то, что у тех есть шанс стать преступником в будущем, даже если до этого он не совершал преступлений. Так и живут в своей антиутопии. "Психо-паспорт" называется.

      • iZjyka

        Смотрела я это аниме,мрачновато ,но очень поучительно и вы правы мы почему то думает что можем все предусмотреть,но увы и ах наш разум на такое просто не способен( (отправлено из iOS приложения Hi-News.ru)

  5. john91

    Также совершенно непонятно почему все еще живы те кто придерживается второго подхода. Они уже давно должны были убить себя и раздать по завещанию свои органы и деньги и спасти десятки людей.

  6. bentel

    Люди совершают гораздо больше непреднамеренных убийств.

  7. Erfinder

    Эмм,, разве у них искусственный интеллект? Помоему простая нейронаая сеть с машинным обучением

  8. uran

    Был проект у буржуев, где ИИ обучался на общении с и-нет аудиторией, через некоторое время закрылись, а память ИИ стали чистить, потому что от матерился как грузчик в порту (отправлено из приложения Hi-News.ru)

  9. ex13m

    Мы все умрем! )))

  10. Ultimatemind

    Искусственный интеллект начал убивать гораздо раньше, помнится там одна ТП решила с айфоном искупаться ))))

  11. justromagod

    Все таки это было не убийство, а ошибка в программном коде, вряд ли уже стали вставлять в программу код вроде для убивания. Проблема в том как только такой код разрешат, вот тогда начнётся (отправлено из приложения Hi-News.ru)

  12. martish

    Хахахахх. Так и думал, что про авария с тесла напишут. (отправлено из приложения Hi-News.ru)

  13. kot777

    Так в День умирает более 20 тыс детей от голода более 13 тыс людей от курения ... И че вы сильно паритесь да нет всем пофигу ... Так что правильно написано в конце что все просто будут смотреть молча а может ещё и шоу снимут развлекательное ... (отправлено из приложения Hi-News.ru)

  14. kot777

    ИИ просто хороший способ перенести на кого-то ответственность вроде Бога . надеюсь ИИ всеже будет умнее этого или люди поумнеют и просто смогут получать бесконечное количество практических знаний умений и технологий благодаря нему . (отправлено из приложения Hi-News.ru)

    • john91

      Ответственность будет полностью на том кто создал ИИ.

      • kot777

        Поначалу возможно но потом когда он начнёт сам учиться (хотя нейросети и так сами) то уже не человек . (отправлено из приложения Hi-News.ru)

        • john91

          Все равно человек. ИИ это механизм, он не может быть ни за что ответственен.

          • kot777

            Это уже философия ... Можно и без ИИ треснул тросс упал груз и прибил много людей . кто виноват ? Трос тогда получается или ток кто его сделал но если его делали тоже машины ... (отправлено из приложения Hi-News.ru)

  15. vihor1

    Было время, чуть больше ста лет назад, много людей погибало под колёсами конных повозок. Они мчались с дикой скоростью 12 км./час.
    И народ ухитрялся попадать под колёса таких бешеных повозок.
    Потом авто Форда 15км/ч. гоняли и под них народ попадал.
    Ну таковы люди, хоть 2 км/ч. ехай, всё равно найдётся "жертва".
    И что теперь?
    Даже пешики между собой сталкиваются. Не ходить теперь?

  16. aleksandros

    ИИ не начало убивать, так как ещё не создан, а создана программа, применительно к Тесле, помощи водителю в движении и при перестроении по полосам под названием, вводящем в заблуждение тех, кто в это хочет верить, autopilot, но по сути таковой не являющиеся, что и написано в предупреждении перед активацией сей программы.
    Далее, автор, скорее всего указывает на возможные опасности и следующий за ними выбор перед человеком, когда за него станет решать ИИ. А этого не избежать, а можно только минимизировать. Я думаю, что в будущем автомобиль будет частью, так сказать нейроном одной автомобильной нейросети с облачным хранилищем данных о дорогах, дорожной ситуации. Например, автомобиль, "увидев" своими сенсорами яму или аврию на дороге, передаст это в облако, а облако уже в авто, следующие по этому маршруту, чтобы избежать пробок и перестроить маршрут.
    И еще, если не дойдет до чипирования людей, то будут чиповать одежду, обувь, а чип, соответственно, предупреждать человека о противозаконности перехода в неположенном месте и выписке штрафа со снятием денег с единого платежного банковского счёта.

  17. rega146

    Tesla и типа журналисты, типа журналисты и Tesla..

  18. designer_andrew

    Убил или не смог спасти - не одно и тоже. (отправлено из приложения Hi-News.ru)

  19. Zacateca

    О боже, автопилот теслы к ИИ не имеет никакого отношения. Вы бы еще случаи смерти от селфи привели (отправлено из приложения Hi-News.ru)

  20. storm X

    судя по экспериизе проведенной, Джеффри сам вмноват, и ехал быстрее, чем разрешало шоссе и увидя фуру, уповал на то, что автопилот ее видит и затормозит

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.