Что делать, если разумная машина совершит преступление?

7 Июля 2015 в 12:00, Илья Хель 5 371 просмотр 33

Роботы

Страх перед мощным искусственным интеллектом и технологиями — довольно популярная тема, которую активно поддерживают фильмы вроде «Из машины», «Чаппи» и «Терминатора». В скором времени мы можем вообще столкнуться с полностью автономными технологиями, которые могут причинять вред. И хотя, вероятнее всего, это будет некая форма военного дроида или полицейского робота, он может причинить вред даже не по заранее запрограммированной программе, а случайно. Что тогда? Кто будет нести ответственность за искусственный интеллект, который выйдет из строя? Очевидно, этот курс развития технологий не особо вписывается в устоявшиеся рамки повинности и справедливости.

Хотя многие отмахиваются от этой темы, мол, она не имеет ничего общего с реальностью, не будем забывать, что роботов уже арестовывали за покупки наркотиков. Также не будем забывать, как быстро развиваются технологии. Мы хорошо усвоили уроки прошлого — многие из нас все еще помнят мир без Интернета, социальных медиа, мобильных технологий, GPS, широко доступных телефонов и компьютеров. Инновации в мире повседневных технологий создали много юридических проблем.

Виновен ли робот?

Мы быстро принимаем технологии как должное и так же быстро обязаны создавать правовые ограничения для них. Одна из функций нашей правовой системы — это урегулирование поведения граждан, наказание и сдерживание правонарушителей. Также она предоставляет компенсации тем, кто пострадал или может пострадать.

Юридические лица — люди, компании и организации — обладают правами и обязанностями. Те, кто строят, проектируют, продают и управляют разумными машинами, обладают правами — а как насчет самих машин? Ваш мобильный телефон вместе с Siri или Cortana не считается юридическим лицом. Но что, если автономно принятые решения их будущих потомков станут причиной серьезного ущерба?

Уголовное право имеет два важных понятия. Во-первых, ответственность возникает тогда, когда в процессе любого действия или бездействия может быть нанесен вред. Физические устройства вроде самоуправляемых автомобилей Google, к примеру, очевидным образом могут навредить, убить или уничтожить имущество. Программное обеспечение также обладает потенциалом нанесения вреда, но эти риски можно свести к менее явным формам ущерба, вроде потери финансовых средств.

Во-вторых, уголовное законодательство часто требует признания вины преступника, признания его виновным законом или по собственной воле — с тем, чтобы последующее наказание отражало состояние ума преступника и его роль в разбирательствах. Как правило, преднамеренные и злоумышленные действия наказываются жестче, чем непреднамеренные. В случае с машинами возникает проблема: как мы можем узнать намерения нечеловеческого существа? Как вписать отсутствие у него каких-либо намерений, кроме запрограммированных, в правовые рамки?

Робопреступление?

Эта проблема не нова — подобные соображения возникают постоянно в корпоративной среде. Сложно понять, когда и при каких обстоятельствах мы должны перекладывать вину с пользователя на производителя или дизайнера. Многие из наших современных и международных законов подразумевают участие оператора.

К примеру, в случае с дорогами режим регулирования предполагает, что есть человек-водитель, хотя бы в некоторой степени. Когда появятся полностью автономные автомобили, эти рамки потребуют внесения существенных изменений с учетом новых взаимодействий между человеком и машиной на дороге.

По мере того как разумные технологии, которые обходят прямое человеческое управление, становятся более продвинутыми и получают широкое распространение, вопросы риска, вины и наказания становятся более актуальными. Кино и телевидение до конца могут представлять нам крайние случаи, но уголовное право и в общем нормы лучше не предоставлять самим себе или фантастике.

Что делать, если разумная машина совершит преступление?

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

33 комментария

  1. Cool

    Какая еще разумная машина, что за чушь несут последние года СМИ? Еще пару таких статей и по неволе срыгнешь...

  2. Sommer

    Робот это просто машина / устройство, оно не может "убить". Убийство это преднамеренное лишение жизни. Нету сознания и умысла - нету убийства.

    • tabasko

      + лучше будет трактовка несчастного случая по вине автономной машины...
      Сейчас уже имеется практика в разбирательстве подобных инцидентов, в ряду причинения ущерба и приведшие к фатальному исходу, не качественных либо бракованных изделий. Вспомнить взрывающиеся смартфоны или потобные случаи, вот вам и ответ: вина ложиться на производителя либо программное обеспечение либо в следствии расследования иные обстоятельства.
      А в принципе чем ближе автономия4 тем проще инициировать смерть неугодных личностей в ряду запутанности разбирательства. Что говорить если сейчас не могут выяснить (в политическом аспекте) почему самолёты падают и кого наказывать надо. (отправлено из Android приложения Hi-News.ru)

      • Sommer

        +++

        Я не понимаю таких статей, они расчитаны разве что на неинформированную публику. Тот же автомобиль это не просто двигатель с 4мя колесами, а сложное компьютерезированное устройство с десятками микроконтроллерами и миллионами строк кода. Если вина автомобиля - это вина производителя.
        С приходом автономных машин ничего не измениться. Лифты тоже автономны или автопилот самолета.

        • silok

          это просто очередная статья от этого автора, по типу, " а давайте просто попи....м"

  3. Gospodini

    В 1992 году одна супружеская пара в Америке прошла процедуру банкротства .Но банк продолжал присылать им напоминание о долге. После обращения в банк перед супругами извенились,списав все на ошибку компьютера,но супруги подали в суд. Рассмотрев жалобу, судья решил оштрафовать компьютер,изъяв 50 МБ постоянной и 10 МБ оперативной памяти. (отправлено из Android приложения Hi-News.ru)

  4. Stranger Danger

    Чушь! (отправлено из Android приложения Hi-News.ru)

  5. botancik

    пример заразителен. может. (отправлено из Android приложения Hi-News.ru)

  6. tabasko

    А по сути пока машины не приблизятся к методам аналитического характера действий не стоит даже предполагать как наказывать это убожише....
    Отдать его на самосуд родственникам погибшего в плоть до уничтожения всего модельного ряда данного устройства, а что? Кто согласен с тем что его родственник стоит тысячи бездушных машин? (отправлено из Android приложения Hi-News.ru)

    • Sommer

      Какой еще самосуд, это частная собственность, никто тебе не даст его ломать. Есть страховка, есть суд.
      Аналитического характера ИИ не даст тебе права осуждать машину за убийство, потому, что сознания и злого умысла нету.

  7. deepresss

    Что тут рассуждать? Робота на переплавку, изготовителя-к ответственности! (отправлено из приложения Hi-News.ru)

  8. forslay

    "Во-первых, ответственность возникает тогда, когда в процессе любого действия или бездействия может быть нанесен вред."

    О боже! Не знаете, не пишите чушь собачью. Ответственность наступает в случае доказанной вины подсудимого при наличии признаков состава преступления, предписанных нормой уголовного закона.
    Ответственность может наступать без причинения вреда по некоторым статьям.
    Ответственность в данном рассматриваемом случае понесут лица, полномочные или фактически санкционирующие работу робототехнического устройства. В зависимости от совершенного преступления будет учитываться наличие или отсутствие прямого/косвенного умысла или неосторожность, так же степень общественной опасности и иные квалифицирующие признаки, предусмотренные соответствующей статьёй. (отправлено из приложения Hi-News.ru)

  9. yar

    Что сделать? Переплавить в жигуль) такое вот наказание) (отправлено из Android приложения Hi-News.ru)

  10. leshok

    прочтя название начинаешь сомневаться в адекватности автора............ нет ничего противозаконного в исполнении машиной заложенных программ. вопрос лишь в том насколько быстро человек научит саму машину писать, генерировать или как вам будет угодно программы , которые мы называем вирусами.........

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.