А вы готовы к появлению роботов-убийц?

9 523 просмотра

killer-robots

В прошлом году Стюарт Руссел, инженер-программист Калифорнийского университета в Беркли, написал открытое письмо с воззванием к запрету «летального автономного оружия». Для тех, кто далёк от военно-промышленного комплекса, это может показаться несколько надуманным и преждевременным опасением, вроде призывов к запрету фазеров из Стар Трека или Звезды Смерти. Однако реальность говорит об обратном.

Человечество всегда стремилось автоматизировать военное дело. К примеру, мины являются своего рода роботами, хотя и простейшими. Ракеты с тепловым наведением умнее их, хотя и не намного. Сегодня существуют уже полностью автономные машины-убийцы: например, южнокорейский Super aEgis II способен распознавать людей и целиться в них. Перед тем как выстрелить из своего 12,7-миллиметрового пулемёта, он требует разрешения живого оператора — но это скорее правила этикета, чем технические требования.

Руссел пишет, что «автономное оружие станет «калашниковым» будущего — дешёвым и доступным». И это полностью изменит правила ведения войны.

«Умное оружие сможет изменить масштаб влияния малых групп людей на мир, — пишет он. — Оно может нанести урон, сравнимый с ядерным оружием, с гораздо меньшими финансовыми затратами и требованиями к инфраструктуре».

Сторонники умного оружия указывают на некоторые преимущества автономных машин-убийц: использование роботов на войне значительно снизит человеческие жертвы. Однако для подписавших письмо Руссела 20 тысяч людей (из которых большинство учёных) недостатки умного оружия значительно перевешивают его достоинства. Позже в этом году Руссел вместе со своими сторонниками собирается добиться изменений в международном праве, аналогичных запрету на использование биологического оружия. Обсуждение этого вопроса состоится в ООН и на Мировом экономическом форуме.

Ведь если когда-нибудь появится полностью автономный робот-убийца, пути назад уже не будет.

По материалам Popular Science

А вы готовы к появлению роботов-убийц?

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

70 комментариев

  1. numealand

    Единственный шанс на спасение - это создание сильного ИИ раньше военщины. Именно этим и занялись Маск со товарищи) Тут вопрос - успеют ли они со совим смехотоворным миллиардом долларов обогнать военных. Ведь только Пентагон запросил на следующий год 15 миллиардов долларов именно на раззработку боевого ИИ, а сколько Китай вбухивает - так и подумать страшно, там на такие дела денег вообще не жалеют) Так что надо срочно объединяться и Гуглу, и OpenAI, и Фейсбуку и всем остальным, и пилить сверхсильный ИИ, пытаясь сделать его по возможности безопасным.

    • homevu

      Зачем все это делать? (отправлено из iOS приложения Hi-News.ru)

      • Dipsy

        Чтобы выжить, например. Хотя, казалось бы, тоже, зачем?

        • homevu

          То есть без ИИ мы не выживем и вы это на полном серьезе?! (отправлено из iOS приложения Hi-News.ru)

          • Dipsy

            Ну "мы" понятие растяжимое, как правило есть ещё и "они", вот с этих позиций и надо исходить.

            • homevu

              Кто они?! Потомки? То есть вы беспокоитесь о будущих поколениях? (отправлено из iOS приложения Hi-News.ru)

              • Dipsy

                Нет, о других странах, корпорациях или даже людях. Группа товарищей с подконтрольным им сверх-ИИ смогла бы, теоретически, натворить делов, влияющих на всех остальных. Если их будет несколько, конкурирующих, наверное это будет лучше.

                • homevu

                  О "людях"... вы серьёзно беспокоитесь о людях? А что вы для них делаете? Вы знаете сколько вреда может нанести людям обыкновенные полиэтиленовые пакеты? Что делается чтоб из запретить везде(а не только в ряде стран) или не производить вообще? Зачем ездить на машинах с мощными двигателями(комфорта это не добавляет), ведь много вредных выбросов, сколько писем в парламент вы написали чтоб их запретили? Зачем ядерные электростанции делать, зная что в конце концов они натворят много неприятных делов(привет Япония - самая развитая), сегодня мы ставим на быстрый скачок в развитии - но кто дал право решать за всех или за тех кто потом появляться? Нужен ли был тем японцам и их семьям, кто пострадал в той аварии? Вы хотели бы чтоб таких реакторов больше не делали? Ведь вы за людей беспокоитесь... Все бы ничего, почти все привыкли что всем все по барабану, но зачем лицемерить как только появляется новая статья про ИИ, про колонизацию планет и прочее? Ничего не делая - "я за людей переживаю", может просто лениво сочувствуете им и себе заодно. (отправлено из iOS приложения Hi-News.ru)

          • numealand

            "То есть без ИИ мы не выживем и вы это на полном серьезе?!"
            Абсолютно на полном. Просто Вы не анализировали глобальные риски. То, что мы до сих пор живы - чудо. Но каждый следующий прожитый год становиися всё более невероятным чудо.м Шанса на выживание без ИИ просто нет. Даже Бостром, который всех своей книжкой запугал, и тот сейчас твердит, что ИИ - наш единственный шанс. Жизнь человеческой цивилизации гораздо более хрупкая, чем Вам кажется. Просто Вы об этом не задумывались...

            • homevu

              Зачем вы отвечаете на вопрос, которого вам не задавали? И не отвечаете на тот вопрос, который был задан вам?! (отправлено из iOS приложения Hi-News.ru)

            • homevu

              Вы прям как мутант из "людей х", знаете о чем я задумываюсь и о чем я не "задумывался" даже! Хотя, нет, вы гораздо круче того мутанта, он лишь читает мысли в реальном времени(вроде как), а вы способны перечитать даже те, что были за всю жизнь человека! Терпите и вас обязательно пригласят в следующую часть "людей х"!!! (отправлено из iOS приложения Hi-News.ru)

            • tarkit

              глупость.
              ИИ ы пытаемся создать как и многое друго - на слабо.
              мы прекрасно обходимся и без него.
              А вот без продвинутых алгоритмов анализа информации нам приходится туговато - это да.

      • numealand

        Слово "зачем" вообще в нашей жизни можно применить абсолютно ко всему, и ответ всегда будет дать нелегко) Если уж на то пошло - зачем мы живём?) Отвечаю - потому что надо так)) А по поводу ИИ - он может принести колоссальную пользу, решить миллион проблем (хотя может и убить нас), но разрабатывается он вовсе не для этого, а только по одной причине - "А почему бы и нет?")) ИИ точно будет создан, это уже факт, если мы конечно до этого момента себя не успеем угробить войной... И остаётся только вопрос - он будет создан отмороженными военными (а военные во всех странах отмороженные) или мирными учеными (тоже отмороженными, но в лучшую сторону).

        • homevu

          "Зачем мы живём? Отвечаю - потому что надо так". - это не ответ, если что! Кто так отвечает вообще?! Вы скажете - "я"! Но это вы не отвечаете на вопрос, причём вы сами его задали и сами же рвались отвечать, это как - ставить перед собой сложные задачи, чтоб героически решать их... видать не в вашем случае!!! А говорите просто что в голову пришло, по вашему это отличные мысли и вполне сойдёт за ответ. Но что это за ответ такой... кому надо и зачем надо? В общем, можете не отвечать, в любом случае в таком формате. (отправлено из iOS приложения Hi-News.ru)

          • Аноним

            Д1аякх айпад вай дист хили (отправлено из Android приложения Hi-News.ru)

            • Tech

              Ну да, и этот ИИ решит, что корень зла в людях и нужно их уничтожить, чтобы спасти от самих себя - раз и навсегда.
              Кстати, я придумал имя такому ИИ - Скайнет, звучит недурно.

              • tarkit

                была уже похожая ветка рассуждения на этом сайте в более обирной статье, помню мы тогда решили уничтожить человеков, а вторая половина согласилась что ИИ будет добрым и просто самоликвидируеться

  2. Khius

    человека заменить никакой ИИ никогда не сможет, а в военном деле и подавно (отправлено из приложения Hi-News.ru)

  3. Dipsy

    Действительно умное оружие это лучшее изобретение, которое сможет сделать человек, даже военный, надеюсь хотя бы оно сумеет убедить этого человека, что все вопросы можно решить мирно, никого не убивая.

  4. elmiradrumova111

    Сначала понаделают автономных кораблей, танков, истребителей и дронов, затем создадут искусственный интеллект, а он в свою очередь обернет все это против нас, если осознает себя как личность, когда поймет, что в клетке у людей. Причем он будет готовиться к этому с помощью суперкомпьютеров, рассматривая всевозможные варианты действий со 100 процентным результатом, как в шахматах . А обезопасит себя он, скопировав свой код и отправив его в пояс койпера , или за Плутон подальше. Надо поменьше смотреть и читать фантастику Сори )))))))))))))))))) (отправлено из Android приложения Hi-News.ru)

  5. Dipsy

    Никакого стратегического преимущества умное оружие не принесет, в полномасштабной серьёзной войне хватит и обычных тупых ракет, главное им точно указать куда надо попасть, а это легко увидеть со спутника или беспилотника. Эпических баталий в духе курской дуги не будет.
    Терминаторы могут быть полезны в борьбе с дикарями или террористами, чтобы люди не гибли, единственное возможное и разумное применение "интеллектуального" оружия. Вероятно в этой области какой-то прогресс будет, хотя уже сейчас теоретически можно сделать радиоуправляемых аватаров, но механика не позволяет, и даже ИИ тут пока не поможет, если только он сам себе достаточно мобильное тело не спроектирует и батарейки к нему.

    • tarkit

      слишком наивно.
      1) ни к не будет пулять атомными бомбами - это стратегически не выгодно для нападающего.
      2) в первые 3 минуты войны в космосе не останется спутников - до свидания америкозы и их навороты
      3)а вот дизельтанки без электроники и обученный спецназ - выйграют войну.
      Все будет как раньше, просто быстрее.

      • Dipsy

        1) Про а-бомбы обоснуйте, со всех сторон выгодно, бабах и нет города. Кстати гораздо стратегичнее чем роботы. Ну и подумайте почему не применяют их, против дикарей проще обычным высокоточным, а обмен ударями ЯО это взаимоуничтожение, не выгодно никому.
        2) При применении наших спутников с разлетающейся тонной шариков от подшипника таки да, околоземное пространство превратиться в весьма враждебный к пролетам чего-либо участок пространства, ни себе ни людям, опять же.
        3) Ракеты, попадающие точно в цель, увиденную со спутника - единственное адекватное средство стратегической войны в современных условиях (уничтожение инфраструктуры). Ну и танки с пехотой для зачистки от дикарей с калашами. Представьте себе пару ракет в ТЭЦ возле города, по одной на каждый мост через реку и ещё несколько в заводы, всё, современный мегаполис умрёт довольно быстро и мучительно, никаких танков не надо.

        • tarkit

          1) Про атомные бомбы- не выгодно так как ты не сможешь занять такую территорию еще длительное время, а ресурсы добывать нужно
          2) не разлетающиеся шарики, а конкретное оружие на спутниках или ракета с земли по нашим стандартам в течении трех минут после начала наступательной операции против нас - все спутники уничтожаються и свои и чужие
          3) без спутников ты не наведешь свое высокоточное оружие, gps и прочие системы связи так же моментально выключают
          4) танки крайне мощное оружие в наступательной операции.
          (отправлено из приложения Hi-News.ru)

  6. numealand

    Ник Бостром недавно высказался:

    Asked if there was something he now wishes he had done differently with his book, he said he should have been clear that he supports the creation of superintelligence. Unsurprisingly, most readers missed that key point.

    “I actually think it would be a huge tragedy if machine superintelligence were never developed,” he said. “That would be a failure mode for our Earth-originating intelligent civilization.”

    In his view, we have a chance to go galactic — or even intergalactic — with our intelligence. Bostrom, like Tegmark, is keenly aware that human intelligence occupies a minuscule space in the grand scheme of things. The Earth is a small rock orbiting an ordinary star on one of the spiral arms of a galaxy with hundreds of billions of stars. And at least tens of billions of galaxies twirl across the known universe.

    Artificial intelligence, Bostrom said, “is the technology that unlocks this much larger space of possibilities, of capabilities, that enables unlimited space colonization, that enables uploading of human minds into computers, that enables intergalactic civilizations with planetary-size minds living for billions of years.”

  7. tron

    У рода людского гораздо больше шансов уничтожить самого себя в тотальной войне задолго до того, как создадут полноценный ИИ.
    Либо сгинуть вследствии природных катаклизмов.

  8. donkeypuh

    Ну, с точки зрения гика - автономная боевая система - это замечательно. Количество тупых и сильных противников больше не имеет решающего значения.
    С точки зрения сохранности своей шкуры: защита своего жилища, своих близких - это хорошо. Уменьшение преступности, аллахакбарных толп - тоже, но будет увеличение глупости среднего обывателя. Пока что единственное, что держит среднего идиота в неподалеку от реального мира - страх. А если будет обеспечена защита от физического насилия... В жизни будет тот же абзац творится, что и в комментах на этом сайте.
    И, разумеется, проблема защиты от несанкционированного доступа к управлению такими системами. Пока что могут взломать все...

    • homevu

      "Уменьшение преступности, Аллахакбарных толп тоже" - что вы хотите сказать? Что за толпы "Аллахакбарные"? И где TARKIT и ему подобные защитники - не допускающие межнациональной и межрелигиозной розни?! И как относиться к такой мрази?! Одно дело когда человек говорит о некой фанатической группировке или об ИГИЛ, и совсем другое - когда он задевает чувства миллионов верующих людей. И что с такими делать? Может отдать на растерзание фанатикам или в бочке отправить в ИГИЛ с надписью на лбу "эй, я гей"?! (отправлено из iOS приложения Hi-News.ru)

  9. Edgars

    Во что превращаеться наш мир? Это действительно пугает. Пучему бы не применить столько же средств, чтобы УЛУЧШИТЬ жизнь людей, а не лишать их этого? Взяли бы и модефецировали неприхотливые кактусы так, чтобы их сок можно было пить в сыром состоянии, а потом взять и заспылить семена повсеместно, это помогло бы людям, что не имеют доступа к чистой воде, а путешествие через пустыни сатало бы значительно легче. Пусть это и совсем другая наука, это ботаника, а тема идет об инженерии и IT, он я имею в виду именно затрату сил, понимаете? Растановку приоритетов. Все это в сильной мере заставляет меня волноваться о целях сильнейших мира сего... (отправлено из Android приложения Hi-News.ru)

    • homevu

      Я о том же твержу всегда, на Земле есть масса не решённых проблем, сфер куда можно направить эти средства.... сельское хозяйство, медицина или ботаника как вы говорите. Но нет, сто миллионов на поиски инопланетян - коту под хвост, потом миллиард, потом снова и снова. И они с пеной у рта готовы доказывать что это рационально - это и есть фанатики, это и есть фанатизм. (отправлено из iOS приложения Hi-News.ru)

      • tarkit

        тот же вопрос к религии - все эти средства можно не на храмы тоатить и на их убранство а на дома для людей (отправлено из приложения Hi-News.ru)

        • homevu

          Не знаю что до храмов, но мечеть это место не только коллективной молитвы, но и получения знаний... я там, например учился читать по Арабски. То есть там человек может не только духовно развиваться , но и интеллектуально. Да и суммы затрачиваемые на строительство мечети смешные по сравнению с тем, сколько тратиться на все что скрыто под героическим названием "освоение космоса"! А если какой то шейх решил потратить миллиард на строительство мечети, так это его проблемы(хотя вряд ли для него это проблема))), он скорее всего сам туда и не собирается ходить, а строит его чтоб похвастаться перед гостями! И мусульмане не станут утверждать что так и надо, что именно так мы показываем красоту Исламского мира. Нет, они скорее осудят его и скажут что для демонстрации красоты Исламского мира нет ничего лучше чем красивые манеры поведения и благие деяния верующего человека. Но разве у вас так обстоят дела? Вы же защищаете и будете защищать дальше все это бессмысленное безумие, более того продолжаете пудрить людям мозги, будто то бы все достижения науки - это следствие "поиска инопланетян" и попыток "колонизации планет"! Будто наука своими достижениями обязана каким то "теоретикам учёным"! (отправлено из iOS приложения Hi-News.ru)

    • Dipsy

      Поздняк метаться, 10-20, максимум 30 лет и всё, появится более умное существо (сущность), и как оно с нами поступит, вопрос конечно интересный, может и кактусы везде понасадит.

      • SeraphM

        Открою тебе секрет, либо уничтожит, что маловероятно, либо насильно передвинет на следующую эволюционную ступень, что более вероятно. (отправлено из приложения Hi-News.ru)

    • andvas22

      По мне, лучшим вариантом будет создание мирного ИИ, который сможет решить проблемы голода и недостатка воды. (отправлено из Android приложения Hi-News.ru)

  10. vihor1

    У каждого нового оружия, всегда есть противооружие.
    Робот старателен и исполнителен, в этом его слабость. Человек изобретателен и коварен, в этом его сила.
    Тысячи лет люди учились обращать силу превосходящего врага против него самого.
    Справимся и с этим...

    • Dipsy

      > силу превосходящего врага
      Превосходящего в чём? Вообще-то, как правило, в мировой истории при прочих равных победу всегда одерживали более умные и технологически развитые, по вполне очевидным причинам. В данном случае более умными могут оказаться не люди. Робот не старателен и исполнителен, он ровно такой, как его запрограммируешь или обучишь, какие цели поставишь, а в случае разумных сознательных машин они могли бы и цели себе менять и неограниченно себя ускорять по всем характеристикам, это же не биология, если мы даже геном себе менять боимся ("неэтично же!"), у них таких проблем не будет.

  11. elmiradrumova111

    Ии будет очень тесно с нашими нынешними вычислительными системами и он будет требовать от людей наращивание мощностей бесконечно, пока не создаст квантовые системы . Ведь даже от простого "чиха" человека у него закипит мозг при вычислении алгоритмов полета частиц и их направления на уровне атомов. Без таких систем он будет чувствовать себя " сибирским валенком " . Это как бухгалтер без калькулятора - жить можно, но трудно :) (отправлено из Android приложения Hi-News.ru)

  12. SeraphM

    Запретить оружие?)) Смешные и забавные)) Вроде бы умные люди, а истины не понимают, людей не остановить и как убивали они друг друга, так и будут убивать, пока не перейдут на новую ступень эволюции. А будет это кстати ещё не скоро) (отправлено из приложения Hi-News.ru)

  13. botancik

    вроде умные люди.... если и ведетесь на автономных роботов (они давно есть только их не изпользуют и все знают почему)
    вы не поверите но есть множество автономных ОС-ей под роботы. если хаос приносит промышленая сфера (лично я уже видел на ~65% автономный завод)то что будет если служивого или тысячи служивых заменит роботами)))))
    оборот денег везде идет через людей - палка двух концов. помните об этом хрупком равновесии и не нужно придумывать велосипед! (отправлено из Android приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.