Создание роботов-убийц — очень и очень плохая идея

9 729 просмотров
Об авторе

Робот-убийца

Clearpath Robotics была основана шесть лет назад тремя друзьями по колледжу, которых объединила страсть делать всякие штуки. 80 специалистов компании испытывают роботов для движения по пересеченной местности вроде Husky, четырехколесного робота, используемого минобороны США. Также они делают дронов и даже построили роботизированную лодку Kingfisher. Однако одного они точно никогда не построят: робота, который может убивать.

Clearpath является первой и пока единственной компанией по производству роботов, которая пообещала не создавать роботов-убийц. Решение было принято в прошлом году соучредителем и CTO компании Райаном Гарипаем и по факту даже привлекло в компанию экспертов, которым понравилась уникальная этическая позиция Clearpath. Этика компаний, производящих роботов, в последнее время выходит на передние позиции. Видите ли, мы одной ногой в будущем, в котором будут существовать роботы-убийцы. И мы пока совершенно не готовы к ним.

Конечно, впереди еще длинный путь. Корейская Dodam systems, например, строит автономную роботизированную турель под названием Super aEgis II. Она использует тепловизионные камеры и лазерные дальномеры для выявления и атаки целей на расстоянии до 3 километров. США, судя по сообщениям, тоже экспериментируют с автономными ракетными системами.

В двух шагах от «терминаторов»

Военные беспилотники вроде Predator в настоящее время управляются людьми, но Гарипай говорит, что очень скоро они станут полностью автоматическими и автономными. И это беспокоит его. Очень. «Смертоносные автономные системы оружия могут сойти с конвейера уже сейчас. Но смертоносные оружейные системы, которые будут делаться в соответствии с этическими нормами, — их нет даже в планах».

Для Гарипая проблема заключается в международных правах. На войне всегда бывают ситуации, в которых применение силы кажется необходимым, но оно также может подвергнуть опасности невинных прохожих. Как создать роботов-убийц, которые будут принимать правильные решения в любой ситуации? Как нам определить самостоятельно, каким должно быть правильное решение?

Подобные проблемы мы уже наблюдаем на примере автономного транспорта. Допустим, собака перебегает дорогу. Должен ли робот-автомобиль свернуть, чтобы не сбить собаку, но подвергнуть риску своих пассажиров? А если это не собака, а ребенок? Или автобус? Теперь представьте зону боевых действий.

«Мы не можем договориться о том, как написать руководство по эксплуатации такого автомобиля, — говорит Гарипай. — А теперь мы еще и хотим перейти к системе, которая должна самостоятельно решать, применять ей смертоносную силу или нет».

Делайте крутые штуки, а не оружие

Питер Асаро провел последние несколько лет, лоббируя запрет на роботов-убийц в международном сообществе, будучи основателем Международного комитета по контролю роботизированных армий. Он считает, что пришло время для «четкого международного запрета на их развитие и использование». По его словам, это позволит компаниям вроде Clearpath продолжать делать классные штуки, «не переживая, что их продукты могут быть использованы для нарушения прав людей и угроз мирным жителям».

Автономные ракеты интересны военным, потому что они решают тактическую задачу. Когда беспилотники с дистанционным управлением, например, работают в боевых условиях, противник нередко заглушает датчики или сетевое соединение, чтобы человек-оператор не мог видеть, что происходит, или управлять дроном.

Гарипай говорит, что вместо разработки ракет или дронов, которые могут самостоятельно решать, какую цель атаковать, военным нужно тратить деньги на улучшение датчиков и защиты от заглушения технологий.

«Почему бы нам не взять инвестиции, которые люди хотели бы вложить для постройки автономных роботов-убийц, и не вложить их в повышение эффективности существующих технологий? — говорит он. — Если мы поставим задачу и преодолеем этот барьер, мы сможем заставить эту технологию работать на благо людей, не только военных».

В последнее время также участились разговоры об опасности искусственного интеллекта. Элон Маск беспокоится, что вышедший из-под контроля ИИ может уничтожить жизнь, какой мы ее знаем. В прошлом месяце Маск пожертвовал 10 миллионов долларов на исследования в области искусственного интеллекта. Один из важных вопросов о том, как ИИ повлияет на наш мир, заключается в том, как он сольется с робототехникой. Некоторые вроде исследователя из Baidu Эндрю Нг беспокоятся, что грядущая революция ИИ отнимет у людей работы. Другие вроде Гарипая опасаются, что может отнять и жизни.

Гарипай надеется, что его коллеги, ученые и строители машин задумаются о том, что делают. Потому и Clearpath Robotics приняла сторону людей. «Хотя мы, как компания, не можем поставить на это 10 миллионов долларов, но мы можем поставить нашу репутацию».

Создание роботов-убийц — очень и очень плохая идея

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

25 комментариев

  1. Shuichi

    На самом деле очень страшно задуматься над идей роботов убийц. И самое печальное что мы скорее всего это увидим. Причём если это будут не роботы военные, а роботы террористы. Вот просто представить что обычного городского робота как из фильма "Я робот"по беспроводной связи взламывает какая-нибудь террористическая организация, и он начинает убивать всех вокруг себя... Жесть!!! (отправлено из Android приложения Hi-News.ru)

    • B1G-CR1ME

      Именно. (отправлено из iOS приложения Hi-News.ru)

    • Curious1

      Представьте себе массовое отравление в общепите, за Х денег взломали повара... или продали еду с ядом убивающим через несколько дней.

    • cotomaf

      Не говорите ерунды. Если что то подобное и будет, то не при нашей жизни точно. Во вторых., автор перевода этой статьи как и ее автор, явно помешаны на ИИ. (отправлено из приложения Hi-News.ru)

      • Баха

        Вы наверное летаете в прошлом. Просто посмотрите на новые разработки, вроде arduino. Дело осталось за малым, создание подвижных частей и программирования. А 3Д принтер сделает многочисленные копии.
        ПС: это не будущее, они уже сделаны.

        • Bookmac

          Что мешает тебе уже сейчас загрузить на модельный самолет взрывчатку и отправить его за 10км ? Ничего

      • Bookmac

        Что не будет? БПЛА автономные уже сто лет в обед есть, летают по 200км и стоят копейки, пару сотен баксов.

  2. 1_l0V3_CP

    Очень раздражают такие люди.

  3. netman0000

    удивительно но вопрос есть кто отвечает за его убийство
    например в медицине есть приборы которий за него отвечает специальний медики . за этого и его поступки кто отвечает ? (отправлено из iOS приложения Hi-News.ru)

  4. beokill

    А почему бы просто не финансировать бабки в поддержание мира. Человечество как дети в песочнице, нам всем дружить надо(страны), а мы лупим друг друга. Надо уже рости и осознавать что есть и другие песочницы и цивилизации. Нам может и не грозит встреча с ними, а внуки, правнуки и т.д что будет в их время. Человечество не должно воевать, а быть единым. (отправлено из iOS приложения Hi-News.ru)

    • qwer

      +1

    • kaeban222

      Жаль что многие этого не понимают.

    • Susuvatary

      Это смешно. Соседи из одного подъезда место на парковке мирно поделить не могут, о каком мирном сосуществовании на планете может идти речь? Сначала надо научиться на личностном уровне жить без конфликтов, как тут может "финансирование бабок в поддержание мира" помочь??

    • Эрг Ноор

      Человек по природе своей - всё ещё животное. Все войны, как и у животных, за территорию и ресурсы. Лишь отвергнув все свои животные начала, человек сможет осуществить то, о чём вы говорите. Ибо человек - не есть конец пути, человек - мост, канат между животными и сверхчеловеком, канат над пропастью.

  5. sonk_inc

    эволюция - человечество в своём развитии само себя "урезает",
    это один из инструментов оздоровления.

  6. denn

    Жаль что нет больше того времени когда две армии встречались и смотрели как короли бьются и проигравшая армия становилась в ряды победившей! Прочитал где то)) (отправлено из iOS приложения Hi-News.ru)

    • Sacred_oleg

      Эээ...а зачем тогда королям армии, если они сами дерутся?)) (отправлено из iOS приложения Hi-News.ru)

    • Rambler

      Не было такого времени.

      Во времена античные перед началом боя могли устроить поединок сильнейших Войнов и если победивший войн был заметно сильнее побежденного то битва между армиями могла и не состоятся.

      ЗЫ: Когда люди бились мечами мастерство одного война могло дать ощутимое преимущество стороне на которой этот войн сражался. Кстати, хороший мечник мог справится с парой десятков бандитов в одиночку.

  7. Ystyr

    Создание любого оружия - очень плохая идея. Особенно оружия поражающего более одной цели за раз. Чем автономный дрон палящий во всех без разбору хуже любой современной системы реактивной артилерии, сносящий города с мирными жителями? Да пожалуй чем-то и лучше, от него хоть стены спасут. Моральные качества солдат и людей их направляющих тоже вызывают опасения за жизни и здоровье мирных жителей. Проблема в людях, а не в роботах. Люди и без них всегда находили и будут находить, чем убивать, угнетать и грабить других людей. Потому что ценят жизнь человека в ломанный грош. Но это как-то упускают из виду, и выступают лишь против конкретных технологий.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.