Илон Маск предрек появление безжалостного ИИ-диктатора

10 Апреля 2018 в 12:30, Николай Хижняк 15 462 просмотра 48

Представьте самого гнусного, самого злобного, циничного и коварного мирового лидера. А теперь представьте, что эта личность – не человек, а сеть, состоящая из миллионов компьютеров по всему миру. И этот цифровой диктатор имеет мгновенный доступ даже к самой незначительной задокументированной информации о каждом человеке, живущем или когда-либо жившем на Земле. А еще он может производить миллионы вычислений за доли секунды, контролировать мировую экономику, все компьютеризированные вооруженные системы и, самое страшное, обладает бессмертием в том или ином виде.


Появление такого невероятного цифрового диктатора, по мнению основателя Tesla и SpaceX Илона Маска, является одним из самых темнейших возможных сценариев для будущего человечества, если разработки искусственного интеллекта продолжатся без серьезного контроля со стороны регулирующих органов.

«Вполне очевидно, что мы быстро движемся к появлению цифрового сверхинтеллекта, который превзойдет любого человека», — отметил Илон Маск в новом документальном фильме «Do You Trust This Computer?» («Вы верите этому компьютеру?») режиссера Криса Пейна, ранее также снявшего документалку «Who Killed The Electric Car?» («Кто убил электрокар?»).

«Если одна компания или небольшая группа людей сможет создать богоподобный цифровой суперинтеллект – она захватит мир».

Человеческая история содержит немало примеров личностей, пытавшихся захватить весь мир в свое время. Александр Македонский, Карл Великий, Наполеон, Гитлер — лишь некоторые имена из этого списка. Однако, по мнению Маска, авторитарный искусственный интеллект будет обладать одним ужасным преимуществом над всеми этими людьми.

«Всех, даже самых злобных и отвратительных диктаторов объединяло одно – они были смертными. Однако для ИИ вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться», — заявил Маск.

По мнению того же Маска, этому гипотетическому ИИ-диктатору даже будет не нужно быть по-настоящему злым, чтобы представлять опасность для всего человечества.

«Если у ИИ будет определенная задача и так сложится, что человечество будет стоять на пути решения этой задачи, то ИИ просто его уничтожит, как само собой разумеющееся. Без каких-либо колебаний и моральных терзаний. Это как строительство дороги, на пути которой по случайности оказался муравейник. Мы же не ненавидим муравьев, мы просто строим дорогу. Поэтому прощай муравейник», — добавил Маск.

Илон Маск предрек появление безжалостного ИИ-диктатора

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

48 комментариев

  1. Dopamine

    Опять муравьи и дороги. (отправлено из приложения Hi-News.ru)

  2. Akibastarec

    Не нам сегодняшним россиянам бояться ИИ диктатора. Вышедшая, но так и не выросшая умственно и морально из подвротен биологическая шпана куда опаснее будет.

  3. snow1eopard

    "По мнению того же Маска, этому гипотетическому ИИ-диктатору даже будет не нужно быть по-настоящему злым, чтобы представлять опасность для всего человечества."
    Я 100 раз всегда говорил, что понятие добра и зла - чисто человеческие аспекты восприятия, животные сами по себе не добрые и не злые, потому что лежат вне этой системы координат, у них уровень бытия и взаимодействия с миром другие. ИИ - это тоже животное, оно обладает интеллектом, но не обладает сознанием, все его действия - только продукт эволюционной цепочки мутаций кода. По этому сверх интеллектуальный ИИ будет действовать так же как и всегда, есть начальный векто, а дальнейшее развитие непредсказуемо, потому что хаотично.
    Когда появится сверхИИ, он сможет решить много проблем. Но когда его попросят сделать жизнь людей лучше, по его усмотрению, он придет к выводу, что проблема человечества в том, что среди людей большой % людей направленных на разрушение, на бесконечную агрессию и ни о каком созидании речи не идет.
    Тогда он придет к выводу, что эта часть человечества должна быть упразднена.
    У Ванги есть предсказание, в нем говорится, что ТОЛЬКО плохие люди погибнут и не спасется из них никто и тут говорится именно о том, о чем я написал выше. ИИ найдет способ отделить зерна от плевел и просто уничтожит всех тех кто идет и стремится к агрессии и саморазрушению.

    • MASking

      snow1eopard, "Но когда его попросят сделать жизнь людей лучше" - он придет к выводу, что лучшая жизнь для человека это "виртуальная реальность", где человек сможет безнаказанно грабить, насиловать и убивать - не причиняя вреда другим людям, по настоящему максимальная свобода действий и максимальная защита тела (будет как в матрице, если конечно он не создаст симуляцию работы мозга и не начнет копировать память человека уничтожая тела)

    • Dopamine

      snow1eopard, Да нуу... Этот вопрос поднимался ещё во времена Азимова с его законами робототехники. Вы думаете, что разработчики ИИ совсем имбецилы? Естественно они учитывают и такие варианты. А Маск, как всегда, популизмом занимается. Но, в отличие от других популистов, ещё и реальными вещами занимается. Вот про Вангу лишнее в вашем комменте было... (отправлено из приложения Hi-News.ru)

      • johneagle

        Dopamine, Изобретатель динамита не был имбицилом, и считал что войны теперь бессмысленны. А если откинуть мистику, то человек сам лишь сеть нейронов, а когда сеть большая то количество перейдёт в качество и никто уже ничего не учтет

    • Metranom

      snow1eopard, Во первых вы переоцениваете ИИ кто его так назвал сам не знает что это такое.В принципе что вы думаете про ИИ не верно в прицепе. Не нужно сравнивать сегодняшнее ИИ с человеческим мозгом, так как работа совершенно разная. Мозги человека устроены иначе вообще в принципе. Ванга я думаю страдала психическими заболеваниями, ее много пиарили для таких как вы. Как можно верить во всякую чушь и вообще в принципе во что то верить. В науки нету понятия веры вообще. ИИ создали уже очень давно поинтересуйтесь когда я вам тут писать не буду. И изначально то что они хотят сделать в принципе не к чему не приведет. Почему вы скажете не к чему не приведет, потому что основы на чем закладывался ии и основные принцы очень убоги. У нашего мозга происходит морфогенез он постоянно перестраиваеться физически а не на словах. В мозге не только электрические импульсы , но и химические. Не нужно сравнивать компьютер и человека. Пока и я как вижу и в ближайшем будущем вы не увидите того ии о котором думаете. Я тоже верил в эту чепуху про искусственный интеллект. Пока сам не начал копаться в этой теме. Даже в ближайшие 100 лет не будет ИИ того ии который бы мог захватить мир и тд Потому что кто его создавал он не знал принципы работы мозга не важно человеческого или животного. Одним словом создали дилетанты, инженеры подхватили это и понеслась. Так как сейчас стараются делать так что бы люди развивались только в одной области, поэтому это и происходит. И еще скажи В Мозги нету цифр 1,2,3, и тд нету плоскости или прямой это все придуманные понятия. Математика это в принципе язык, как обычный язык народов. И они сейчас с помощью него пытаются изучать вселенную и тд. Мозги пока это самый сложный механизм который встречал человек. То что многие говорят что он не изучен заблуждаються его полностью изучили при чем у нас в СССР больше образовываться.

    • Asiy K

      snow1eopard, А что Вы скажите про разделение Германии на части, наличие вообще Гитлера, как объекта для изучения. Сталина... Войну как по шаблону в Грозном, на Украине, В Сирии. Прыгающих из окон детей, взрослых. Стреляющих себе в голову при невыясненных обстоятельствах людей у которых есть все или информация. Такое количество Рака, Суставных и Аутоиммунных болезней. На фоне полного не понимания гражданами многих стран о том что такое связь и интернет, что все может работать и без подкачки дядей личными средствами еще со времен 2 мировой войны, а может и прошлых цивилизаций. Что могут лазеры - с уселителями. Что вылечить - и как, а что если они в плохих руках. Думаете все добрые? Нет Есть среди обладателей и мед. аппаратуры и денег - маньяки, педофилы и их ловят. И доступ к ИИ у них за частую есть, через знакомые банки. Как и к ЖКХ) И многому другому. Крепостное право - 2 этап. Я бы запретила ЖКХ и вообще прокладки между гражданами и прямыми поставщиками услуг. Банки оставила государственные. Медицину тоже. Только под лицензией. И все бы у нас стало лучше. Жалко что нет окна помощи. От маньяков занимающихся психологическим тероризмом. Пси операторов и их подельников. Очень жаль. Страдают невинные граждане. Дети в первую очередь. И их уже не вернуть. А этих убийц и педофилов - даже не ищут. Не знают как и аппаратуры у них - тоже нет. 21 Век. Россия.

  4. alvidov

    Когда я в комментах писал про это меня высмеяли местные умы, когда илон это сказал- тишина. Идите на хер ,господа пи до ра сы (отправлено из iOS приложения Hi-News.ru)

  5. Metranom

    Илон Маск сам дилетант я думаю он в это верит конечно но не совсем.

    • MASking

      Metranom, завтра он поменяет свою точку зрения и скажет что ИИ в тесла не буден цинично убивать владельцев в режиме автопилота

      • Metranom

        MASking, Вероятно так и будет я уже года 4 изучаю тему мозга. Даже я не все понял что уж говорить о тех кто даже принципы работы его не знает до сих пор.

        • MASking

          Metranom, Я тоже изучаю и применяю но только в вычислительной технике, и только для оптимизации каких либо процессов
          в чем прелесть в том что времени на обработку данных снижается с нескольких часов до нескольких минут, вот только для обучения (подстройки весов) уходит очень много времени. И да результат, пока что, всегда 100% - после расчетов всегда проверяем стандартным медленным вариантом...

    • ildarka9999

      Metranom, После таких слов все что вы тут написали лучше бредом читать, чем правдой, Илон Маск дилетант? А вы профи, гуру работы мозга, вы уже целых 4 года изучаете это направление, а илон маск дилетант, у которого две компании изучают АИ и нейросенсорный интерфейс, на которого работают сотни передовых ученых в области работы мозга, которые всю жизнь его изучают практически, да и он дилетант, у него доступ к самой передовым исследованиям в этой сфере, а вы же целых 4 года изучаете интернет на эту тему, лучше не пишите подобных умных бредней, только позоритесь (отправлено из приложения Hi-News.ru)

      • MASking

        ildarka9999, тем более - зачем он создает АИ и нейросенсорный интерфейс? - их тоже можно считать инструментом способным в плохих руках принести вред и даже покруче! Если АИ и ИИ одно и тоже (сам создает опасный ИИ диктара) то с нейроинтерфейсом можно управлять человеком как мышей с помощью джойстика и стимулировать совершения им тяжких преступлений.
        Так что Илон самокритичен, как говорится: сам себя не на ругаешь...
        Да и в фразе Дилетант - имелось ввиду что он видит соринку в чужом глазу, а в своем бревна не замечает
        тот же ИИ автопилота тесла незачем создавать если бояться что этот автопилот когда то случайно собьет велосипедистку ночью

      • Metranom

        ildarka9999, напишу вам лет через 5 суда. посмотрим прав илон или он популист.

  6. MASking

    "Представьте самого гнусного, самого злобного, циничного и коварного мирового лидера" - Главное что он будет ОДИН и не будет воевать сам с собою, а отсутствие Войны на всей планете и есть истинное понятие МИРА, в добавок справедливый суд и жесткие правила - гарантируют свободу и безопасность граждан. Аннулирования денег - приведет к равенству искоренив жажду наживы и обогащения, создав единое общество как механизм общего благополучия и процветания!
    Так чего-же бояться?

    • MASking

      MASking, ...наверное того что трутней и паразитов нашего общества заставят работать?
      ...того что будет цинично и при людно, живьем сжигать убийц?
      ...того что не будет никакой власти кроме ИИ, не будет кумовства?
      ...того что будут жесткие, но справедливые законы?
      ...того что все будут равны?
      ...того что ...

      • MASking

        MASking, того что у человека не будет выбора, кроме как подчинится - только разве этого не делают миллиарды людей в данный момент?
        диктатура - в мирном понимании = строгим законам, которые никто не захочет нарушать, в связи с отсутствием анонимности (чипирование) суд и наказание может быть моментальным (что в свою очередь увеличит безопасность других людей)

      • PROVOCATOR

        MASking, Живьём сжигать убийц?..
        Как-то кровожадно...
        Мне вот кажется более практичной идея vr-тюрьмы.
        Такое персональное чистилище с пристёгнутым к голове шлемом, без возможности его снять.
        А в шлеме постоянно прогонять воспитательную программу: моделирование жизненных ситуаций в которых когда делаешь плохо другим становится плохо тебе, принудительное соблюдение режима питания и сна, общественно полезные работы за моральное вознаграждение и т.п.

        Систем воспитания(и промывки мозгов) на сегодняшний день огромное множество. ИИ сможет подобрать подходящую, а за одно ещё и, проконтролировав мозговую активность, сможет дать оценку результату и просчитать вероятность рецидива.

        Ну а когда будет перенаселение, то можно и просто сжигать :) (отправлено из приложения Hi-News.ru)

        • MASking

          PROVOCATOR, может тогда стоит стереть память и залить туда нужную информацию и поведение в угоду системе и для всех - но тогда мы сами станем чем-то на подобие машины

          • MASking

            MASking, да и осознание того что ты останешься без наказания - живым и здоровым - будет подстегивать на совершение преступления...
            пытки и лишение свободы практиковались еще с древних времен - но вышедший на свободу зек будет еще более озлоблен на мир и будет представлять больше угрозы чем кто-либо...
            так что при людная казнь будет сигналом СТОП для преступников, если конечно это не месть и не случайность - тут уж извините но закон один на всех

    • Metranom

      MASking, Равенства не будет не когда так как есть изменчивость по природе. Да сейчас есть такая проблема что отбор идет не по мозгом а чисто биологический отбор и он приведет к плохому.

    • John_Headon

      MASking, Все будут равны, но одни будут чуть ровнее других.

  7. realsomebody

    Главное не то, что сказал Маск, а зачем он это сказал. Тут могут быть варианты: пиар себя любимого, реклама собственного "дружелюбного" ии, проталкивание идеи контроля за ии (при необходимости это может трактоваться очень широко).

  8. pupsikizada

    Скорее бы сверх ИИ появилось. Хочется посмотреть, как это всё будет... (отправлено из приложения Hi-News.ru)

  9. Sulik

    Нахрен муравейник! В пень вообще! Наааахрен! - Не нужен! И мы не нужны. Пусть ИИ будет нашим внуком-наследником. Он у нас будет умнее всех во всех аспектов? Вот и хрен с ним! Дайте хоть отдохнуть маленько. Надоело без выходных работать... Пускай сам разбирается в сущности бытия!
    Только, по злой иронии какого-нибудь принципа кармы вполне возможно, что потенциал наших духовных, реально, но недоказуемо, составляющих воплотиться в форме элементарных взаимодействий алгоритмов и систем в "сознании" этого самого ИИ. А ещё забавнее будет то, что ИИ об этом никогда не узнает, а мы останемся не только "у разбитого корыта", но ещё и с нуля :) (отправлено из приложения Hi-News.ru)

  10. FedorLog

    Необходимо понимать, что ИИ создают люди. Появление "сильного" ИИ о котором говорит Маск произойдет лет через 50, когда менталитет человечества сильно поменяется в сторону гуманизации социума.

  11. uran

    ну так а вы как думаете, майнеры шизанутые, кому все эти расчёты нужны. (отправлено из приложения Hi-News.ru)

  12. dawson.white

    Фильмов пересмотрел (отправлено из приложения Hi-News.ru)

  13. triodpentod

    он перечитался научной фантастики прошлого века

  14. Altair13

    Просто очередной бред ради пиара. Но ведь работает :-) (отправлено из iOS приложения Hi-News.ru)

    • romale

      Altair13, Да, обычный вирусный маркетинг....а на страхе к ИИ выделят больше денег на исследования...Маск молодец, поднял цену (отправлено из приложения Hi-News.ru)

  15. botan

    Вот предположение..... Если на марсе были разумные и они преуспели в этом..... Возможно что марс это та самая земля но разреженная искуственно? (отправлено из приложения Hi-News.ru)

  16. freawertyhn

    и будут звать его Джон Генри Эдем -король Анклава!

  17. Indiana

    ИИ споткнется об секс и удовольствие от еды...и радости созидания и...

  18. Ancifer

    скорее бы) (отправлено из приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.