Стивен Хокинг: мы прошли точку невозврата

9 Ноября 2017 в 12:45, Николай Хижняк 27 177 просмотров 65

Стивен Хокинг считает, что у человечества в скором времени не останется выбора, как покинуть Землю и заняться поиском нового дома. С подобными заявлениями знаменитый физик-теоретик уже выступал и ранее. По его мнению, шанс на выживание у нас с вами появится только в том случае, если мы превратимся в межпланетный вид, в противном случае мы будем просто обречены на вымирание. В последнем интервью изданию WIRED Хокинг подчеркнул, что мы уже перешли так называемую «точку невозврата».

В интервью он еще раз напомнил, что его мысли о необходимости поиска второго дома для людей связаны сразу с двумя причинами: перенаселением нашей планеты и совсем не иллюзорной, а вполне реальной угрозой развития искусственного интеллекта (ИИ). Машины, по его мнению, очень скоро станут настолько умными, что в конечном итоге решат «заменить» человечество.


«Мы открываем настоящий ящик Пандоры. Боюсь, что ИИ сможет заменить всех людей», — прокомментировал Хокинг изданию WIRED.

Это определенно не первый раз, когда Хокинг пугает нас такими предупреждениями. В интервью издательству «Таймс» в марте этого года он также предупреждал всех об апокалипсисе и необходимости создания «новой формы мирового правительства», которое смогло бы держать эту технологию под контролем. Кроме того, физик-теоретик выражал беспокойство о том, что ИИ окажет существенное влияние на объем свободных рабочих мест для среднего класса, и даже призвал к запрету разработки и использования искусственного интеллекта в военных целях.

Как бы там ни было, его предупреждения практически полностью игнорируются технологическими компаниями, вовлеченными в создание и развитие ИИ. Однако уже сейчас некоторые отмечают, что интеллектуальные машины начинают постепенно отнимать рабочие места, заменяя живых людей, а в некоторых странах, включая США и Россию, преследуется цель создания вооружения, управляемого искусственным интеллектом. Чего греха таить, все мы в свое время смеялись над российским роботом Федором (он же FEDOR, или Final Experimental Demonstration Object Research), разработанным НПО «Андроидная техника» и Фондом перспективных исследований по заказу МЧС России. Однако на Западе люди к презентации этой машины отнеслись гораздо серьезнее, ведь российская разработка демонстрирует возможности, которых лишены даже роботы Boston Dynamics — одной из самых продвинутых робототехнических компаний в мире. Федора позиционируют как робота-спасателя, а также будущего космонавта, который должен будет отправиться в космос на новом космическом аппарате «Федерация» в 2021 году, но на Западе отмечают его явно боевой потенциал.

В последние годы разработка ИИ стала очень резонансной темой. Некоторые эксперты соглашаются с Хокингом и выдвигают аналогичные аргументы, взять хотя бы того же Илона Маска и Билла Гейтса. Оба видят в разработке искусственного интеллекта опасность для человечества. Ряд экспертов с «противоположной стороны баррикад» говорят о том, что подобные страхи в большей степени основаны на надуманных сценариях захвата мира сверхразумным ИИ, а потому очень вредны, так как имеют возможность негативно сказаться на восприятии общественностью истинной пользы от ИИ в будущем.

Хокинг, в свою очередь, непреклонен и уверен, что эти страхи имеют под собой вполне реальную основу.

«Если люди могут разрабатывать компьютерные вирусы, то кто-то определенно разработает ИИ, способный самостоятельно эволюционировать и реплицировать. Он сможет превратить себя в новую форму жизни, которая во всем будет превосходить людей», — прокомментировал Хокинг журналистам WIRED.

Здесь Хокинг, скорее всего, говорит о развитии ИИ до человеческого уровня мышления или даже превосходящего этот уровень мышления. Другими словами, он говорит о событии, которое предсказывают многие современные футурологи – технологической сингулярности. Касательно того, когда, по мнению Хокинга, это событие произойдет, физик-теоретик не предложил каких-либо конкретных дат. Можно лишь предположить, что речь идет о промежутке в течение 100 лет, которые нам выделил Хокинг для выживания на Земле.

Другие, такие как глава SoftBank Масаеси Сон и старший инженер Google Рэй Курцвейл, предполагают приход сингулярности еще раньше – в течение ближайших 30 лет.

Мы по-прежнему находимся очень далеко от развития по-настоящему полноценного искусственного интеллекта. Касаемо сингулярности — это тоже пока одно лишь гадание на кофейной гуще. По крайней мере с точки зрения того, что же эта сингулярность нам принесет. Станет ли это событие началом заката для человечества или, напротив, ознаменует начало новый эры, в которой люди и машины будут мирно сосуществовать? В любом случае потенциал ИИ может использован как для хороших, так плохих целей, поэтому неплохо было бы соблюдать необходимый уровень предосторожности.

Стивен Хокинг: мы прошли точку невозврата

65 комментариев

  1. ray4132@mail.ru

    Ну это же очевидно, эволюция не успеет усовершенствовать нас, поскольку мы не проживем так долго. Поэтому мы сами создадим высшую ступень, которая продолжит эволюцию разума и вытеснит нас обыкновенных. И этой новой формой будет либо наш улучшеный мозг, либо ИИ. (отправлено из приложения Hi-News.ru)

    • fallhall2

      ray4132@mail.ru, Я тоже так думаю, что цель человечества создать новый вид и погибнуть. (отправлено из iOS приложения Hi-News.ru)

      • guest2

        fallhall2, ++ В лучшем случае стать чем-то вроде домашнего любимца для ИИ. Как коты для нас ))

      • MASking

        fallhall2, В принципе речь идет о выживании нас в первую очередь! И нужно учитывать и альтернативные катаклизмы в виде ядерной войны, супер вулканов (ЁловстоуН), смещение литосферных плит, ледниковый период, смена магнитных полюсов, падение большого метеорита, голодомор, вирусная эпидемия, и т.д.
        Мы локально находимся на одной планете -как файлы на ПК, херак и их нет навсегда!
        Меж планетный вид - это как резервная копия в облаке в интернете
        ...в принципе поле любого бедствия через несколько сотен лет можно будет вернуть жизнь на необитаемую землю

      • deaddreams

        fallhall2, примерно как наши далекие предки "создали гомосапиенсов" (с тем отличием, что природным путем) и исчезли.

    • Panter

      ray4132@mail.ru, Я тоже считаю что это виток эволюции, вариант первый мы войдем в симбиоз с машинами, вариант второй мы станем машинами(оцыфруемся), вариант третий машины станут умнея переживут нас(возможно уничтожат) но при этом они останутся нашим детищем как ребенок рожденный и выращенный человеком следовательно мы движемся в правильном направлении.

  2. Kvazar666

    Вот только етого маразматика тут еще не хватало,

    • baralgin

      Kvazar666, Он инвалид - не может двигаться и говорить. А насчёт "маразматика"... Да у него в прыще на заднице ума больше, чем у вас в межушном пространстве, которое вы, сильно заблуждаясь, называете головой.

      • Kvazar666

        baralgin, Ты даже ге знаешь кто я, тупой недоумок, но то что его прыщ умнее тебя это я согласен.

        • mahsat

          Kvazar666, Ваших двух комментариев более чем достаточно чтобы понять что у вас высокий уровень интеллекта. Который явно превосходит скудные запасы серого вещества господина Хокинга. Так поделитесь же с нами! Кто вы господин Квазар? Что за признанный российский гений скрывается за этим ником? Нам всем очень любопытно!

        • mahsat

          Kvazar666, Да и не забудьте про ваши научные труды упоминуть, пожалуйста! Того глядишь и мы немного приобщимся к творениям вашего ума!

    • baralgin

      Kvazar666, Хотя, я не разделяю его т.з. на счет космоса, и что надо куда то лететь. Тем более, что пока сие предприятие просто невозможно. Ну кроме на Луну с десяток челов отправить... Хотя, что они там делать будут, непонятно. Про всякие Марсы я молчу.

  3. Kajus Bonus

    Не будет ИИ, не будет и никакого освоения космоса. Вроде как в сказки об отважных земных астронавтах никто уже не верит(ну кроме Маскопоклонников)...радиация, перегрузки, голод, холод, огромные расстояния, агрессивные атмосферы других миров и т.д....космос - территория небиологического интеллекта, а нам догнивать на планете и надеяться, что ИИ найдёт местечко нашим личностям в виртуальном Раю. Вот если бы Хокинг был верующим человеком, его опасения были бы понятны, а так...просто несёт пургу и привлекает к себе внимание.

    • Artlex

      Kajus, 500 лет назад люди думали, что Земля плоская. 150 лет назад думали, что ничего тяжелее воздуха летать не сможет. 60 лет назад человечество вышло в космос, а 50 лет назад высадилось на Луну. 30 лет назад сделали всемирную сеть. 20 лет назад человек начал по портативному устройству говорить с любой точкой мира. А 10 лет назад еще и видеть собеседника, при этом само портативное устройство по вычислительной мощности стало на порядки сильнее, чем компьютеры всего 20 лет назад. 3 года назад пользователей интернета стало 3,5 млрд. человек.
      ИИ не будет? И не будет никакого освоения космоса? Ну-ну...

  4. Kajus Bonus

    А вот про точку невозврата я с Хокингом согласен. И если биоресурсы можно возобновлять, создать пищевые принтеры, выращивать биомассу, возможно такой принтер будет стоять на каждой кухне, а обозначенная биомасса подаваться к нему по трубопроводу, но вот с минеральными ресурсами беда и здесь и нужен ИИ, для разработки астероидов, создания фабрик на космических объектах, всё ради обеспечения жизни человечества...хотя в условиях, когда рабочая сила больше нужна, отпадает и необходимость в столь большом количестве человеков)

  5. crimso76

    Рассуждает, как человек прошлого. Всегда находится немало людей, боящихся технических новшеств. (отправлено из приложения Hi-News.ru)

  6. crimso76

    Ему еще в церковь надо начать ездить, для полноты картины (отправлено из приложения Hi-News.ru)

  7. rogov@list.ru

    Когда-то рассчёты показывали, что вся суша на Земле покроется метровым слоем конского навоза, но ситуация изменилась. И эта страшилка тоже рассосётся. Халявы не будет - раз так и все поумирали. Нифига, как минимум ещё за собой прибраться сначала придётся)))

  8. deaddreams

    «Если люди могут разрабатывать компьютерные вирусы, то кто-то определенно разработает ИИ, способный самостоятельно эволюционировать и реплицировать. Он сможет превратить себя в новую форму жизни, которая во всем будет превосходить людей», — прокомментировал Хокинг - это очень реалистичный сценарий. Только вот с таким ИИ существующим не только на жестком диске, бороться будет гораздо, гораздо сложней и опасней. В сериале "Черное Зеркало" есть об этом эпизод "Враг народа".

    • static_method

      deaddreams, Сравнивать примитивные вирусы-сриптики, которые пишут школьники на коленках и чуть ли ни мифический ИИ, который не известно когда еще появится и не факт, что будет даже хотя бы не уступать человеческому, мда, как-то по-дилетантски это выглядит.
      Могу тоже пару псевдо-умных фраз предложить - если шимпанзе могут использовать палку, чтобы добыть бананы, то кто-то из них определенно построит... Тадж-Махал, хотя нет, это чет как то не пугает...то кто-то из них определенно построит ядерную реактор,..хм, тоже мелко, да и было уже, значит построит Звезду Смерти, вот, да и всем нам будет писец, да прибудет с нами сила, аминь.

  9. globalist

    Как всегда когнитивный диссонанс.
    1) Нам не хватает мозгов, чтобы выжить, и мы 100% погибнем;
    2) Нам нельзя создавать сильный ИИ

    Не кажется ли ему, что из первого пункта априори вытекает именно необходимость срочного создания ИИ? Что он вообще предлагает то? Остановить прогресс? Честно говоря последнее время Хокинг скатывается в неконструктивного балабола. По существу ничего не предлагает, но постоянно твердит что мы скоро умрём..... Хотя нет, предлгает всё таки - отправить поселенцев на Марс, там конечно они в этих жутких условиях спасут человеческую цивлизацию... Да если Земля погибнет, а "марсеане" без поставок с Земли вымрут или сожрут друг друга уже через полгода....

    • Rodriguez

      globalist, Есть ощущение, что это банальная зависть. Этот человек просто понимает, что его дни сочтены и он не успеет дожить до того момента, когда его мощный мозг перекочует из тщедушного тельца в карбоновый экзоскелет терминатора. Вот он сидит и воняет на весь мир, сыпля угрозами апокалипсиса. Вы все сдохнете, человеки. Не надолго вы все меня переживете!!! (отправлено из приложения Hi-News.ru)

  10. crimso76

    Если ИИ заменит собой, скажем, юристов, адвокатов и людей похожих специальностей, то многие ли, кроме их самих, пожалеют об этом? А я, к примеру, работаю на сталелитейном заводе, и не представляю, как там ИИ мог бы заменить рабочих (отправлено из приложения Hi-News.ru)

    • baa

      crimso76, Сложно представить, как у вас там люди работают.
      Для ИИ сложнее управиться с трехлетним ребёнком.

    • pathetic

      crimso76, Не хочу вас пугать, но уже лет с двадцать в мире существуют полностью автоматизированные металлургические заводы. (отправлено из приложения Hi-News.ru)

  11. mactep850

    Мужик живёт в своём мире и возможно не все знает.))) Например тайга или тундра остаются насколько я понимаю без ИИ. Ему просто это не надо да там и делать нечего. Из городов народ наверное уедет от опасности. А в лесу нас не достать :-) (отправлено из приложения Hi-News.ru)

  12. RiotMakeR

    шарлатан, просто повторяющий уже много раз до него озвученные вещи

  13. Baksov

    Хокинг прав, но тему ИИ уже не остановить.

  14. RikasEpta

    Земля может прокормить еще миллиардов 20 если бабло вкладывать не в танки. Вот это бы и пропагандировал.

  15. sandy1906

    А не смешно ли такое.
    Известное противостояние между Россией и США и гонка за первенство в создании ИИ вскоре перерастёт в противостояние между ИИРоссии и России против ИИСША и США? Закон отрицания отрицания в действии. И что тогда?..
    Хорошо бы, всё-таки, создавать ИИ как Генерального Эволюционного Ведущего Человечества уже объединившись и подружившись между собой, таким образом, проявляя лояльность, дружественность, взаимопомощь к людям и прошивать такие качества в ИИ. Эти качества ГЭВЧ концептуально распознает как необходимые и для Его собственного существования и для любого осознанного существования в природе вообще. Будет соморазвиваться и развивать всё вокруг Себя на этой непреложной истине как первооснове Себя и Всего. Быть конфликто непригодным. А к людям будет испытывать уважение, заботу как к праотцам-создателям, обеспечив им пенсию и добровольный апгрейд способностей к интересной жизни в условиях расширяющейся под руководством этого ГЭВЧ пригодной среды планет или пригодной для этого материи.
    Такая вот утопия, дорогие думающие посетители (отправлено из iOS приложения Hi-News.ru)

    • RikasEpta

      sandy1906, Первым делом ИИ спросит почему 1% населения имеет больше благ чем остальные 99%, почему когда одни голодают - другие выбрасывают еду на помойку, логика машины этого не поймет, разрешения разделить эти блага оно не получит, следовательно ни о какой помощи для мира говорить не стоит. И тут следуя той же логике только одно легкое и быстрое решение, уничтожить всех и засеять планету по новой.

      • nscr

        RikasEpta, ИИ для вас это какой то святой, гумманист, зоозащитник которого заботит какое то там неравенство в мире, тем более что он сразу поймет что лишь благодаря этому он и возник.

        • rooter

          nscr, В него будет заложена функция выравнивания, и ему будет без разницы что ему выравнивать, к каким данным будет доступ у него, те и выровняет. Так что будет мир дружба равенство братство ну и конечно же жвачка.

          • nscr

            rooter, Возможно он что то и выравняет какие то данные, но кто на местах то будет это выполнять то есть в реальности. Что люди вдруг станут честными и исполнительными, я вас умоляю. Все что разработает ИИ будет тут же принадлежать корпорациям и тем у кого больше денег, а они будут выдавать это населению по пол поварешки для извлечения максимум прибыли.

            • rooter

              nscr, Будет сделано так, что быть честным и исполнительным станет выгодней чем наоборот. И корпорациям он не будет принадлежать, а деньги у него свои будут)

  16. baa

    Этот человек имеет реальный авторитет.
    Но, строить ракеты гораздо дольше и накладнее, чем развивать ИИ. Последний опережает. Именно он будет управлять первым межпланетным путешествием. Мы шагнули с балкона. Точка невозврата пройдена.

  17. Katyusha

    Он просто хочет поскорее улететь на Марс, подгоняет технологии)
    По факту, человечество еще лет 500 не сможет покинуть пределы Земли. Не те технологии, не тот темп, не те приоритеты (главное развлечение ведь войнушки между собой, какие технологии, народ). Максимум на что способны - отправить несколько человек на Луну и построить там небольшую станцию, и то это лет через 50-100.
    Это всё при условии, если не перебьём друг друга раньше.

  18. abdulsalimov1234

    От ИИ нам некуда деться .Только вот у людей разные подходы к нему .А люди выживут и в будущем превратимся в цифры и будем жить вечно (отправлено из iOS приложения Hi-News.ru)

  19. pathetic

    "…люди — идиоты. Они сделали кучу глупостей: придумывали костюмы для собак, должность рекламного менеджера и штуки вроде IPhone, не получив взамен ничего, кроме кислого послевкусия. А вот если бы мы развивали науку, осваивали Луну, Марс, Венеру… Кто знает, каким был бы мир тогда? Человечеству дали возможность бороздить космос, но оно хочет заниматься потреблением: пить пиво и смотреть сериалы..."

    Рэй Брэдбери (отправлено из приложения Hi-News.ru)

    • deaddreams

      pathetic, Старина Брэдбери как всегда гениален. Жаль что он нас покинул.

    • sandy1906

      pathetic, Нет, нет, нет. Наше животное, сидящее в старом мозге никак не хочет и !пока! не может передать бразды правления здравому смыслу нового мозга неокортекса. Это понятно. Сейчас мы находимся в тяжёлой эволюционной эпохе, когда неокортекс во всё большем количестве голов начинает одерживать победу над основными инстинктами. Сколько ждать? Естественная эволюция пластичного/лекго меняющегося неокортекса до уровня контроля над жёстко сформированным старым мозгом может быть ускорена искусственно - нейросетями/нейрокомпьютерными интерфейсами или тому подобное, например ИИ. (отправлено из iOS приложения Hi-News.ru)

    • Vlad727

      pathetic, Старина Брэдбери не понимал, что для развития науки нужны те же бабки. Коих у apple или Amazon теперь дофига. А дофига их за счёт таки потребления всяких безделушек ненужных. Теперь эти гиганты и займутся освоением космоса и развитием технологий будущего (отправлено из iOS приложения Hi-News.ru)

  20. goldgfs

    Очередной пиар ИИ, который никто не создаст, но с инвесторов денег поимеют.
    Текущий уровень так называемого ИИ не может даже однозначно определить, что нарисовано на картинке - шина или покрышка.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.