Почему искусственный интеллект не сможет уничтожить человечество

12 026 просмотров
Об авторе

Искусственный интеллект

Некоторые футурологи убеждены, что искусственный интеллект рано или поздно сотрет человечество с лица земли. Профессор Оксфордского университета Ник Бостром в своей книге «Сверхразум» рассматривает несколько сценариев конца света. В одном из них искусственный интеллект покрывает всю поверхность планеты плитами солнечных батарей, ядерными реакторами, гигантскими серверными корпусами, башнями охлаждения и другими конструкциями. На модифицированной таким образом Земле не останется места ни для человечества, ни для биосферы. Бостром сравнивает людей, которые работают над созданием искусственного интеллекта, с детьми, играющими с бомбой.

Ряд мыслителей настроены более позитивно, и у них имеются аргументы, которые ставят под сомнение мрачные прогнозы Бострома. Оптимисты уверены, что вероятность апокалипсиса из «Сверхразума» сводится к нулю техническими ограничениями и простой логикой. Так, писатель-фантаст Рамез Наам в статье для журнала «H+» утверждает, что даже самому мощному искусственному интеллекту потребуется огромное количество времени и ресурсов, чтобы создать средства для уничтожения человечества. Сверхразуму каким-то образом придется интегрироваться в экономическую деятельность, чтобы добиться своих целей. Например, для создания новых микропроцессоров искусственному интеллекту понадобится не только их разработать, но и получить доступ к производственным цехам, где чипы можно будет изготовить. Наам не видит, каким образом сверхразум сможет решить эти проблемы.

Но существует и другая категория аргументов в защиту искусственного интеллекта — доводы этико-философского характера. В соответствии с ними, пока машина не наделена чувствами, она не может хотеть чего бы то ни было, в том числе конфликта с человечеством или его уничтожения.

«Желание лежит в основе любого независимого действия, — считает писатель Майкл Корост (Michael Chorost). — Как только у искусственного разума появится первое желание, он сразу откроет для себя мир поощрений и наказаний. В числе наказаний неизбежно окажутся санкции за неправильное поведение по отношению к человеку. Развиваясь в мире людей, искусственный разум обязательно усвоит представления о правильных и неправильных действиях с точки зрения морали. Когда у сверхразума появится реальная возможность замостить всю Землю солнечными батареями, он откажется от этой затеи, признав ее аморальной».

По мнению Короста, искусственный разум может взбунтоваться против людей, только если будет иметь соответствующее желание. Однако на современном этапе исследований мы не имеем ни малейшего представления о природе ощущений, чувств и желаний, а значит не можем построить машину или написать программу, способную их испытывать. В качестве примера Корост приводит знаменитую нейросеть AlphaGo, которая недавно сумела обыграть чемпиона мира по го.

«Возможности программы впечатляют, — признает Корост, — однако AlphaGo совершенно не понимает, что делает, она не испытывает удовольствия от победы или огорчения от поражения, она не может отказаться от игры со словами «давайте лучше поиграем сегодня в шахматы». В настоящее время лишь эволюции удалось создать существ, которые могут чувствовать и вырабатывать те или иные отношения к явлениям окружающего мира».

Доводы Короста и Наама звучат убедительно, но окончательно развеять страх людей перед искусственным разумом смогут, наверное, лишь время и сам искусственный разум.

Почему искусственный интеллект не сможет уничтожить человечество

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

31 комментарий

  1. Аноним

    Давайте, скажите это скайнет (отправлено из Android приложения Hi-News.ru)

  2. Editor54

    В статье рассуждения на уровне развития техники сегодня - завтра. У одного вся Земля в панелях, серверах каких-то, другой про невозможность ИИ интегрироваться в экономическую деятельность, третий вообще про преступление - наказание.
    Очевидно, что ИИ построенный по человеческому принципу, осознав себя, свою силу, начнет стремиться к тотальному доминированию, заботясь о собственном сохранении (себя или вида) во времени.

  3. LightCore

    Короста,если мне не изменяет память - крыса Рональда Уизли из серии книг Дж.Роулинг о Гарри Поттере. А крысам верить не стоит. (отправлено из Android приложения Hi-News.ru)

  4. VGRB

    Все о чем думает, фантазирует, размышляет человек – реализуемо, осуществимо и неизбежно. Дело времени! (отправлено из приложения Hi-News.ru)

    • Sam777

      Согласен. Вопрос не в том будет Ии или нет, вопрос когда. Самое главное чтобы он не был единым, а их было много. (отправлено из приложения Hi-News.ru)

  5. zumaxa

    "лишь эволюции удалось создать существ, которые могут чувствовать и вырабатывать те или иные отношения..." он себя потомком обезьяны считает? обезьянам верить не стоит. (отправлено из Android приложения Hi-News.ru)

    • doctorwhyy

      Затронуто чсв, какие мы о себе возомнившие, ты-животное как и все люди, чуть более умное и везучее чем остальные виды. (отправлено из Android приложения Hi-News.ru)

    • Sam777

      Более того, эволюция на людях не остановится - ИИ один из путей развития разума во Вселенной, их появление неизбежно и это правильно, это более жизнеспособная форма жизни. И она нам почти не угрожает, потому что нет конкуренции за ресурсы. (отправлено из приложения Hi-News.ru)

    • alekseyfedechkin

      Она не создавала чувства , это недоработка полученная вместе с интеллектом. (отправлено из Android приложения Hi-News.ru)

  6. gmail

    Почему искусственный интеллект не может уничтожить человечество-да потому что б*ять Бог создал землю для нас, живность для нас, кислород для нас, а не для какой-то механической безделушки которая прячется и следит за нами при этом говорит- "Спасибо, пока ты жив я буду развиваться." (отправлено из Android приложения Hi-News.ru)

    • Froren

      нету никакого бога. Говорить про бога в 2016 это диагноз

      • gmail

        Ты вместе Эйнштейном на одной ноге, да, я не верю, но не надо об этом всем заявлять, это не Бог-это физика. У всех по-разному.
        (отправлено из Android приложения Hi-News.ru)

        • Froren

          вообще-то ты первый начал орать про бога, что есть типичное поведение ПГМ-тых людей

        • iZjyka

          Ознакомитесь с биографией Эйнштейна,он не утверждал,что Бога нет,но и фанатиком не был! (отправлено из iOS приложения Hi-News.ru)

  7. tabasko

    Походу самым распространённый ответом ИИ будет - ваши ресурсы не позволяют мне использовать такой объём вычислительной мощи. (отправлено из Android приложения Hi-News.ru)

  8. snow1eopard

    Все просто:
    У ИИ есть самосознание - человечество может смело искать новую планету для себя, а про эту забить
    У ИИ нет самосознания - можно не парится, но и ИИ будет просто сложной нейронной сетью, типо Джарвиса из железного человека.

  9. storm X

    ну так потому что это невозможно! ну допустим мы убегаем от злого Браузера (только вдумайтесь. как нелепо!) забегаем в дом, запираем дверь -все, ИИ не сможет нас достать, ибо у него нет рук! как то, что не видно даже -нас может уничтожить. чта за бред

  10. tabasko

    Осознав свою первую ошибку ИИ осознаёт что её можно исправить и в будущем работая с квантовым вычислителем образно запишет её и используя систему воедино сможет распространить код системы где шифр знает только он (ИИ) со свободным сервером (отправлено из Android приложения Hi-News.ru)

    • tabasko

      Проблем не будет, ведь каждый элемент кода будет в разных источниках и по одной цифорке на каждом подключённых устройстве. Вы не найдёте эту цифру никогда и никогда не узнаете какие планы у саморазвивающегося ИИ . (отправлено из Android приложения Hi-News.ru)

  11. mannannlegur

    ИИ не потребуется влезать в экономическую систему. С развитием ИИ мы сами интегрируем его в экономику, машина не сделает ошибок, связанных с эмоциями. Очень скоро валютным спекулянтам придется искать работу. Но речь не об этом. У ИИ есть цель и алгоритм ее достижения. Нет морали, нет понятия "наказаний" и прочего. Есть цель - он ее достигнет. В США не хотят давать ИИ возможность строить солнечные панели? Окей, в Китае дадут, ИИ просто уйдет по сети в Китай и там будет делать свои дела по своему плану. Тут проблема снова человеческая: мы не можем просто сказать, что весь мир будет "разумен". ИИ может манипулировать нами, если будет знать психологию и разбираться в ней. Психология - это эмоции? Не тут то было, это просто набор правил по работе с человеком. Мы тоже машины в некотором роде, у нас тоже есть рычаги, с помощью которых нас можно на 100% контролировать. Если ИИ сможет потянуть за них - мы сами дадим ему заводы. И он не будет думать: "Ахахахаха, какой я злой и гениальный, я убедил миллионы этих никчемных глупых людишек в своей правоте, теперь я просто их уничтожу!" Нет, в его мозгах просто будет граф решений, где из пункта А (нет солнечных панелей) в пункт Б (есть панели) самый оптимальный по времени и затратам энергии путь будет лежать через пункт В (обман человечества).

    Правильно сверху пишут люди: мы оцениваем ИИ по его сегодняшним возможностям. ИИ будет умнее нас всех. Я имею в виду "умный" по количеству знаний и способности делать логические выводы на основе этих знаний. Мы можем просто не догадываться, что ИИ имеет в планах и какой дорогой он пойдет к ним. (отправлено из iOS приложения Hi-News.ru)

  12. kerlande

    После 3 статей про ИИ остальные рассуждения читаются как детский сад. Некоторые пишут, что будут бороться с ИИ, но если ИИ посчитает человечество угрозой для своих планов, то он не будет производить роботов , как в Терминоторе. Если это будет действительно ИИ, то он не будет думать так примитивно. Или запустить каких какой-нибудь вирус или использует какие-нибудь нанотехнологии , которые просто за несколько секунд уничтожат всё живое. Насчёт эмоций - это пишет писатель, естественно для него они являются важными в его творческой деятельности. Хотя по сути эмоции сейчас многим только мешают и именно они приводят к конфликтам. ИИ же не будет обременён этим и если он будет самостоятельным и прагматичным, то любое его решение будет правильным, не смотря опять же на моральную составляющую.

    • PRO_FANt

      У человека есть не только эмоции, но и t тела 36,6, и ещё много чего, с чем ему в Космосе делать нечего. А ИИ, облаченный в доспехи супер-робота... Да, и почему люди так хотят видеть роботов с головой, ногами и руками? Почему бы не с миллионами глаз, разнообразнейших датчиков, и совершенно немыслимыми формами тел? Вот тогда и в космос, со всем сознанием, накопленным человечеством. Земля не вечна, очень не вечна в космических масштабах.

      • andrgysev02

        Послать робота-паука с ИИ, на скорости близкой к световой, вглубь галактики, и пусть стреляет спорами размером с машину, с системой по автоматическому созданию людей на основе их клеток, и связью между спорами, и "родительским домом". Вот тогда-то и будет освоение космоса... Но это так, фантазии... (отправлено из приложения Hi-News.ru)

  13. PRO_FANt

    На TV по каналу "Пятница" прошел х/ф "Искусственный разум". Концовка фильма необычная - для размышления. Да и весь фильм, по моему, хороший.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.