Стивен Хокинг назвал искусственный интеллект величайшей ошибкой в истории

17 578 просмотров
Об авторе

Стивен Хокинг

Известный британский физик Стивен Хокинг, в статье, вдохновленной фантастическим фильмом «Превосходство» (Transcendence) с участием Джонни Деппа в главной роли, рассказал, что недооценка угрозы со стороны искусственного интеллекта может стать самой большой ошибкой в истории человечества.

В статье, написанной в соавторстве с профессором компьютерных наук Стюартом Расселлом из Калифорнийского университета в Беркли и профессорами физики Максом Тегмарком и Фрэнком Вильчеком из Массачусетского технологического института, Хокинг указывает на некоторые достижения в области искусственного интеллекта, отмечая самоуправляемые автомобили, голосового помощника Siri и суперкомпьютер, победивший человека в телевизионной игре-викторине Jeopardy.

Все эти достижения меркнут на фоне того, что нас ждет в ближайшие десятилетия. Успешное создание искусственного интеллекта станет самым большим событием в истории человечества. К сожалению, оно может оказаться последним, если мы не научимся избегать рисков, — цитирует британская газета Independent слова Хокинга.

Профессоры пишут, что в будущем может случиться так, что никто и ничто не сможет остановить машины с нечеловеческим интеллектом от самосовершенствования. А это запустит процесс так называемой технологической сингулярности, под которой подразумевается чрезвычайно быстрое технологическое развитие. В фильме с участием Деппа в этом значении употребляется слово «трансцендентность».

Только представьте себе, что такая технология превзойдет человека и начнет управлять финансовыми рынками, научными исследованиями, людьми и разработкой оружия, недоступного нашему пониманию. Если краткосрочный эффект искусственного интеллекта зависит от того, кто им управляет, то долгосрочный эффект — от того, можно ли будет им управлять вообще.

Сложно сказать, какие последствия может оказать на людей искусственный интеллект. Хокинг считает, что этим вопросам посвящено мало серьезных исследований за пределами таких неприбыльных организаций, как Кембриджский центр по изучению экзистенциальных рисков, Институт будущего человечества, а также научно-исследовательские институты машинного интеллекта и жизни будущего. По его словам, каждый из нас должен спросить себя, что мы можем сделать сейчас, чтобы избежать худшего сценария развития будущего.

Тем временем искусственный интеллект медленно проникает в массы.

Стивен Хокинг назвал искусственный интеллект величайшей ошибкой в истории

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

118 комментариев

  1. transhuman

    Скайнет грядет ! Треминаторы поработят человеков !

  2. Kh

    Хоккинг еще тот параноик. Как-то он предсказывал, что поиски инопланетной жизни приведет к уничтожению человечества.
    На этапе программирования можно заложить три закона роботехники Азимова.
    По мне, аморальным может быть только человек. (отправлено из iOS приложения Hi-News.ru)

    • beokill

      Три закона бред :-)
      Но я с вами согласен.
      Как вообще физик может рассуждать о программировании....
      Я приду к столяру и попрошу его починить мне iPhone)) то же самое.
      А те кто хоть как то понимают программирование, со мной согласятся.
      Любое действие которое совершает программа, пример она там решает или еще что, она делает по строгой команде, и порой простецкое действие в секунду занимает часы. И ни о каком супермегасамосовершенствование машины не может быть и речи. (отправлено из iOS приложения Hi-News.ru)

      • Ауслендер Дмитрий

        А что будет, если ИК серьезно превзойдет человеческий интеллект? А он превзойдет, ведь мы стремимся к этому.

        • 3DPascal

          Если дойдет до того, что человечество сможет создать такой интеллект, то уж наверняка к этому моменту и свой интеллект сможет улучшить всякими чипами.

          • Archer

            Корень проблемы ИИ лежит в философии человеческой жизни. Нужно ответить на простые вопросы: Зачем мы живем? Кто мы есть? Почему мы те, кто мы есть?
            Мы имеет именно ту жизнь, которая нам и требуется. Мы не являемся просто мясом, есть нечто большее.
            ИИ, в своей сути, является помощником для нашего Ума (как костыль, для больного). Использование ИИ может привести к тому, что мы вообще разучимся думать. Зачем ходить в школу, зачем нужны профессора, зачем врачи, зачем водители? ИИ вместо нас будет думать, решать, работать и, собственно, Жить. Зачем нам протез Мозга?

            • 3DPascal

              Это будет не протез, это будет эволюция человеческого мозга и вообще всего тела, только не природная, а уже руками человека. Человечество теперь само себя будет менять. Нынешнему человеку с его хрупким телом для будущего его выживания, нужно будет существовать как-то в суровых космических условиях, где нет кислорода, высокая температура, низкое или наоборот высокое давление, где полно радиации, для всего этого наше тело не приспособлено, поэтому придется постепенно его менять на что-то более устойчивое.
              Мы не просто мясо, мы целый букет частиц, которые в разном сочетании делают такую сложную реальность, включая нас с нами. Зачем мы живём? Ответ - живём, потому что так получилось, живём, чтобы просто жить, также как зачем где-то в далёком космосе летит метеорит, который будет лететь ещё всю вечность.
              И вообще я никогда не любил философов, они только болтают всё усложняя и при этом никогда не находя ответов на вопросы. Философия - это просто мнения людей, это не наука. Философия такая, потому что человек считает, что это так.

              • Archer

                Срочно, срочно беги на Википедию, ищи Философия и ты почтишь: "Филосо́фия (φιλοσοφία (дословно: любовь к мудрости)) — дисциплина, изучающая наиболее общие существенные характеристики и фундаментальные принципы реальности (бытия) и познания, бытия человека, отношения человека и мира." Эта наука появилась на заре цивилизаций. Она лежит в основе Греческой, Китайской и Индийской культур, наук и мировоззрений. Логика это часть философии.
                Как можно включаться в спор не владея Логикой???
                Вам точно нужен протез мозга. =)))

            • 3DPascal

              Кроме того, для того, чтобы дальше отвечать на сложные вопросы и создавать действительно фантастические вещи, то человек для этого должно быть довольно глупый, т.е., ещё один повод на прокачку собственного интеллекта.

            • 3DPascal

              Я вам тоже легко могу найти сто сайтов, где будет сказано, что это не наука. Это философы так говорят, якобы наука. Философия это учение, система взглядов, так что вам походу нужно мозг заменить с вашим теологическим мировоззрением. Наука может доказать и имеет чёткую методологию легитимации. Философия была царицей в средневековье, от которой затем и пошли все науки.

          • 3DPascal

            Что мне твоя википедия. Ты хоть знаешь, что на википедии полно ошибок и там может написать кто угодно.

          • 3DPascal

            Философия - только болтовня. Когда-то она и была наукой, пока от нее не отделились настоящие физика, химия, биология. Осталось только перебирать слова и спорить о определениях.

            • Archer

              Не нужно всячески выпячивать и гордиться своим невежеством. Это Вас не вовсе не красит, а только опускает в глазах оппонента

        • JBitRussia

          Назовите мне хотя бы один исскуственный интелект. (отправлено из iOS приложения Hi-News.ru)

      • juzik

        Сравнил опу с пальцем.
        Это программирование, про что ты говоришь, ещё детский сад.
        А он говорит про интеллект, который изобретает вещи (оружие например), которые для человеческого ума не постижимо.
        Такой интеллект, твои программы/команды сможет напрямую в мусорное ведро отправлять. ;) (отправлено из iOS приложения Hi-News.ru)

        • beokill

          Какой интеллект...
          Вы фантастики перечитали походу.
          Любая электроника на нашей планете-железка. И никакого интеллекта там нет, максимум симуляция. В прогу накидали условий и заставили расчитать-на выходе оружие. Причем тут интеллект? Можно написать программу - она рисовать будет. Там тоже интеллект?
          Смешно до безобразия, доказываете еще что то... (отправлено из iOS приложения Hi-News.ru)

          • H2

            Человечество из того же самого хлама собрано, дак в чем же разница? Если железка, то законы физики меняются что ли?
            "Отрицание образование интеллекта еще в чем либо, это отрицания существования интеллекта в человеке".
            А вы похоже очень много понимаете в программировании и интеллекте человека, что так с уверенностью об этом рассуждаете, при этом отрицая любые возможности?
            Ну что ж тогда напишете вы научную статью об том этом, позабавьте нас.

            Если честно мне в лом писать про множество современных и прошлых наработок в этом направлении. По этому поищите сами просветитесь.
            О том что создают и биокомпьютеры и квантовые, которые уже работают не по совсем тем принципам, что нынешние. Про то как на нынешнем железе ученые имитируют работу нейронов головного мозга.
            А потом почитайте про человеческий интеллект и поимите насколько офигено мало мы про него знаем. Про то как он появился и что послужило причиной его образования.

            • JBitRussia

              Человеку присуще желание жить, исскуственный интелект же может не иметь такой потребности. Наше "железо" далеко не хлам, просто большая часть ресурсов уже занята обраткой информации, чем то мозг похож на аналоговые системы, которые стоят в крылатых ракетах: очень быстро, надежно, но не многофункционально. (отправлено из iOS приложения Hi-News.ru)

            • H2

              Опираясь только на такую логику далеко вы не уедете. Даже машине можно присвоить желание жить. Тем более, что у человека оно берется от инстинкта, который говорит ему жить. Чем не программа? Человеческий мозг так же как и компьютер выдает результаты по строго определенным алгоритмам, только значений в этих расчетах куда больше и они более индивидуальные. Проще говоря зная в какую сторону наклонена поверхность, можно просчитать куда польется вода.

              Придется к своему посту крепить.

              • JBitRussia

                Ну так ИИ изначально не имеет такого инстинкта, а аппаратная часть этого не дает. Не думаю, что процессоры, которые вы выкидывали умоляли васоставить их в живых. (отправлено из iOS приложения Hi-News.ru)

              • assad88

                То, что вы называете "инстинктом" - это способность подсознательной части мозга воздействовать (в т.ч. отключать) сознание для сохранения жизни. Подсознательная часть мозга тренируется распознавать и избегать угроз, задействуя наиболее отлаженные цепочки принятия решений и соответствующий "химсостав". Тренировка спецсолдат сводится к максимальному сохранению сознания в этих экстремальных условиях и выработке нужных подсознательных цепей принятия решений на случай отказа сознания.
                У ИИ, в той форме которая сейчас возможна, не будет привязки к ценностям человека, а любое искусственно введенное ограничение может быть снято самим ИИ. Человеческое подсознание для ИИ может быть интерпретировано как множество альтернативных цепей принятия решений, каждая из которых может выступать в роли ведущей и объединятся с другими. Ценность, в т.ч. и человеческой, жизни корелирует с ценностью информации, которую несет и ценностью его творений. Отсутствие обратной связи в виде механизмов поощрения и самоанализа "усыпляет" даже человеческое сознание. ИМХО: до создания ИИ, осознающего себя, нам как до переноса информации из биологического мозга в новую нейронную сеть. А до тех пор это будет только способ ускорить, модернизировать, расширить изучить наши собственные мозги и возможности использования имплантов.

        • Kh

          Три закона - это мораль. Мораль в мусорное ведро может отправить только человек, потому что у него есть чувства.
          Вопрос в том, что при создание роботов никто не будет в них ее вкладывать. Экономически не выгодно.
          Есть там спорные филосовские моменты, относительно их соблюдения, но тут без практического тестирования и развития никак не обойтись.

          • H2

            А ты примат, много в прошлом у твоих предков чувств было. Люди как и сейчас машины развиваются и не стоят на месте. Не думаю что у какого нибудь одноклеточного организма есть чувства и желание жить.

            При написании подобных постов не забывайте из чего вы сами произошли.
            Хотя если вы глубоко религиозно верующий и считаете что человека создал Бог, для вас это допустимо. Стоит вспомнить куда более ранние заблуждения религии и поразмыслить насколько это верно.

      • astana2017

        Ты забыл что речь о и,интелекте) если и,интелект научится думать сам и принимать решение, тогда хана миру точно.

        • beokill

          Так нет искусственного интеллекта, и не скоро появится. Любой якобы ИИ, ограничен в вариациях. Он не может : оценивать новое, решать поставленные задачи не записанным в программу способом и вообще может только то чему его научили. Научится чему либо самостоятельно он неспособен. Ал-го-рит-мы! Если так, то вот так, а если так, то вот эдак, а что не продумано - то не продуманно. (отправлено из iOS приложения Hi-News.ru)

          • snork58

            Такое ощущение что вы описали свое миропонимание и принципы своего существования вместе с уровнем развития (не в обиду)

            • JBitRussia

              Он говорит правду. Мы еще не очень скоро сможем создать интелект равный человеческому. Все дело в ресурсах. Это как если бы мы узнали универсальную формулу действия вселенной. Попытка эмулировать падение кубика на поверхность земли займет в миллиарды раз больше ресурсов, чем по простым Ньютоновским законам. Поэтому еще долгое время ИИ будет просто эмуляцией с ограничениями. (отправлено из iOS приложения Hi-News.ru)

              • snork58

                На 100 лет раньше, на 100 лет позже, цикл жизни одного поколения, одного из сотен последующих.

          • art3as

            А если отойти от школьного уровня программирования? Вы слыхали когда-нибудь про машинное обучение?

        • H2

          А ну тогда миру хана. Эти долбанные органические компьютеры под названием люди уже давно тут.

      • Lazer

        Просто создадут алгоритм по которому работает наш мозг (как только его изучат), вот и получится искусственный интеллект.

    • Bes

      а что помешает ИИ в последующим взломать эти законы ?
      Аморальность человека - это плохо, вот увидит это ИИ , и подумает как мы отвратительны , надо людей уничтожить !
      так что перед тем как создавать ИИ , мы должны все свои пороки вывести.

      • JBitRussia

        ИИ должен изначально иметь такую возможность. Пока подобия ИИ и настоящии ИИ будут эмулироваться высокоуровневыми способами попытки ИИ изменить саму себя будут заканчиваться провалом. (отправлено из iOS приложения Hi-News.ru)

    • H2

      Любой код можно изменить. Тем более в такой системе. Да и тот же Азимов писал про то как могут быть не верно истолкованы эти же самые правила.

  3. Evgesha

    Говорит о Siri как об искусственном интелекте, серьёзно? (отправлено из Android приложения Hi-News.ru)

  4. iljak

    Просто задайте себе три вопроса. Кто создает искуственный разум? До какого уровня будут развивать искуственный разум?
    И после спросите себя сможет ли искуственный разум стать против человечества. (отправлено из Android приложения Hi-News.ru)

    • juzik

      А почему НЕ сможет?
      Сможет. (отправлено из iOS приложения Hi-News.ru)

      • iljak

        Я и говорю что сможет. Так как идиализировать ИР будут под человека. А а человек идиально умеет все разрушать! Включая себя. (отправлено из Android приложения Hi-News.ru)

        • snork58

          Как раз таки полные идиоты будут проводить идеализацию ИИ под человека, это такая неустойчивая биологическая субстанция что такие вещи с ней лучше не связывать т.к. получив возможность саморазвития без посторонней помощи, следующим выводом будет бесполезность человечества как такового, а последствия этих выводов уже не раз проходили экранизацию.

          • astana2017

            +1

          • AQM-34

            Как минимум по этой причине необходимо придумать искусственный интеллект.
            Чтобы он всё человечество выпилил. По моему мнению человечество уже давно по кругу топчется.

    • Kh

      Искусственный разум уже есть. По Discovery показывали роботов способных к саморазвитию.

  5. chudiland

    Изобретение ИИ - это и впрямь ошибка. Вот только оно невозможно, в принципе, если делать все исключительно на технической базе. А вот если запитать серверный центр в дцать этажей с мощнейшим железом и и полным доступом ко всем сетям от простого человеческого мозга, с утраченной привязкой к телу - вот тогда и впрямь ой. Огромный ой. Не надо так делать.

    • Bes

      начнём с того что самому мозгу нужен отдых. хоть с телом хоть без тела.
      мозг не сможет справляться с большим числом задач и информации.
      ну и напоследок а где гаранты что это человеческий мозг не станет против нас?)

      • chudiland

        Человеческому мозгу ничего не нужно, никакого отдыха. иначе мы умирали бы в первую же ночь своей жизни. Мозг действует без единой минуты отдыха все 50-60-100 лет. Не надо путать мозг с ЦНС, это ей нужна регенерация. А мозгу нужна только электростимуляция и гидросреда, чтобы не допустить сотрясения.

        Другое дело, что чисто технически мозг без тела не выживет (тут все повязано на тонкие каналы, которые отрицает вся официальная наука, что не мешает им существовать), и это к лучшему... А что касается того, зачем - об этом надо спросить самого человека.

        Это же не сферический мозг в вакууме, а кто-то конкретный, Иван Иваныч, который может иметь свое собственное представление о том, как хорошо всем будет жить, и как плохо. Другое дело, что Иван Иваныч вполне может заиграться и нечаянно стереть к такой-то матери всех людей с лица земли. А потом сказать, е-мое, чего ж я сделал.

        ЗЫ: на тему того, что мозг не может справляться с большим количеством задач, это вы могли бы рассказать Гаю Юлию Цезарю. А ведь там все было ограничено неповоротливым телом из мяса. Ну и неужели ни разу в жизни не приходилось обдумывать по два-три дела одновременно? Мозг - еще еще более многопотоковый компьютер, чем, собственно, компьютер.

        • Bes

          2-3 дела одновременно это у меня уже давно в порядке вещей , слишком мало времени в сутках , поэтому и приходится всё сгруппировывать.
          я говорил о миллионах задач ежи секундно. о знании десятков йоттабайтов (10^24) информации.
          ну да это понятно что мозг человек постоянно работает , но он не может быть постоянно получать информации и выполнять задачи (я как то решал одновременно 5-6 задач , вот тогда я чувствовал как мой мозг "вскипает"), а это длилось всего 15-25 минут.
          нашему мозгу нужен отдых - это так сказать сон , даже если просто лежиш и нечего не делаеш , и не думаеш , то для мозга это всё равно работа.
          так же вовремя работы мозг вырабатывает "плохие" вещества , от которых он избавляется то ко когда спиш. ( из за этого тоже человеку нужен сон).
          в принципе можно чутка просто изменить твою задумку. вместо 1 мозга посадить 20-100 человек . каждые 2 часа меняются . ну и каждые 6-8 часов приходит новая партия людей .
          проще говоря: 40 человек пришли на работу . 20 работают , остальные 20 отдыхают. затем каждые 2 часа меняются. после 8 часов , приходят новые 40 человек и так всё проходит )

        • snork58

          Как раз таки мозг однопотоковый до безумия, ты никогда не сможешь записывать 2 неизвестных тебе диктанта (одной рукой каждый) без повторений, остановок и на максимуме скорости твоего письма.
          Твой Цезарь просто умел быстро переключаться между кусочками этих задач и работать более не менее продуктивно таким способом, это не есть многопоточность.

          • JBitRussia

            В задачи мозга не входит расчет миллиардов цифровых чисел - он считает, работает, но с аналоговой информацией. Пока вы читаете это сообщение в вашей голове происходит много чего: от анализа данных от сечатки и перевода их в "картинку" и до осмысление каждого "пикселя", как составляющего буквы, которая является какой-то сущностью в вашем представлении, при этом вы эту букву еще и узнаеете, даже если она плохо написана или так, как вы этого еще не видели, потом осознаете кучу букв как фразы, мгновенно составляете свое мнение на этот счет, может делаете что-то еще. Слишком тяжело для компьютера. (отправлено из iOS приложения Hi-News.ru)

            • snork58

              Обычный однопотоковый компьютер может выполнять указанные вами операции за доли секунды, скорость обработки информации мозгом тоже не медленная, поэтому кажется что ты чуть ли не 50 операций в секунду выполняешь.

              • snork58

                Точнее не в секунду, а одновременно 50 операций :)

              • JBitRussia

                Процессор выполняет задачи, которые задаются инструкциями, а они поступают в него только в однопотоковом режиме. Он может выполнять несколько инструкций одновременно, но ждет он их в однопоточном режиме. Мозг же разделен на доли и происходящее в каждой доли может и не зависить от происходящего в другой доле. (отправлено из iOS приложения Hi-News.ru)

  6. storm X

    По мне, пик, буквально апофеоз развития ИИ, это применение его в системе Умный дом, где с помощью смартфона можно выключить свет и поставить себе кофе утром заварить в воскресный день (отправлено из iOS приложения Hi-News.ru)

    • Ауслендер Дмитрий

      А умный робот-полицейский? Как в фильме "Робокоп" или в сериале "Intelligence".

      • chudiland

        Чип в голове - это процессор, к которому в интерфейс можно вломиться без монитора, клавы и мышки, а не ИИ. Тогда уж куда вероятнее Машина мистера Финча. Там хотя бы правдоподобно описано.

    • chudiland

      Ну вон есть Дуся на андроиде. Говоришь ей настрой будильник,она переспрашивает - на сколько? Отвечаешь, на 7 утра. Она правильно воспринимает, к чему относится фраза, правильно заводит будильник. Переспрашивает - еще что-нибудь? отвечаешь ей - умолкни, и она говорит Ладно. Это ИИ? Теоретически да. Так как умеет решать возникшую проблему. А на практике, нет, потому что ограничена набором задач, что запрограммированы. Т. е. умный дом - не ИИ, а умный дом.

  7. Slem

    В какой то мере он прав. Мы ведём себя к саморазрушению.

    • numealand

      Мы ведём себя к саморазрушению своим бессмысленным потреблением, и тем, что плодимся только чтобы плодиться и потреблять. А также тем, что не умеем договариваться и идти на компромиссы. Но уж точно не своим приближением к искусственному интеллекту или к открытию внеземной жизни. Быть может ИИ как раз и позволит людям измениться, решить многие фундаментальные проблемы, и наконец понять, что вселенная не ограничивается их страной и амбициями.

  8. username992

    Я только что закончил играть в шахматы с компьютером перед тем как зайти сюда,а тут сразу эта статья! 7-0 в пользу компа. И знаете что,нельзя недооценивать искусственный разум.Хокинг дело говорит.

  9. denn

    По сути ИИ нужен что бы ускорить наши достижения в плане науки так как людям нужен отдых и деньги на их оплату а он сутками будет изучать, решать и т. д. Но угроза действительно может быть если дать ИИ под контроль что то, то что погубит нас. Например управление ракетами. И тогда стоит задуматься а нужен он нам? (отправлено из iOS приложения Hi-News.ru)

    • Bes

      ИИ нужен что бы он контролировал , а не придумывал что то новое.
      а угрозу можно и избежать : оставить оружие и технику в которой должен человек управлять.

      • denn

        Нет он не должен контролировать, тоесть управлять чем то. Только изучать? (отправлено из iOS приложения Hi-News.ru)

        • Bes

          слегка не понял фразу).
          ИИ должен контролировать , управлять и прочие там где есть человек.
          а воевать и создавать новое должен то ко человек )
          конечно хорошо бы без войны )

  10. numealand

    Хокинг вечный скептик и писсимист. Последнее время только и предрекает человечеству гибель от всякой фигни, например от инопланетян. Искусственный интеллект - единственное, что может вывести уже наконец-то людей на новый уровень и спасти от деградации и вымирания, пока не перебили друг друга.

    • chudiland

      Построить рядами и колоннами, и отправить на рудники, добывать энергоносители для серваков? Или как в незабвенном фильме, имени Уилла Аркадьевича Смита, сразу пристрелить всех, тогда и перебивать друг друга будет некому!

    • storm X

      Будет полный фейл, если создадут военный ИИ для борьбы с инопланетянами, а интеллект наоборот, встанет на их сторону и наравне с гуманоидами будет прессовать человечество, Хокинг в гробу будет крутиться, со словами,"Я ж вам говорил!"( (отправлено из iOS приложения Hi-News.ru)

  11. karaevrustam

    Люуууууди в опасности (отправлено из iOS приложения Hi-News.ru)

  12. numealand

    "Только представьте себе, что такая технология превзойдет человека и начнет управлять финансовыми рынками, научными исследованиями, людьми и разработкой оружия, недоступного нашему пониманию." (с)
    Это подтверждает необходимость "апгрейдить" человеческий мозг, его пониманию (90% населения) уже давно ни фига не доступно... Будущее ИМХО не за искусственным интеллектом, а за "раскаченным" до его уровня человеческим. Искусственный интеллект - лишь ступень к достижению этой цели.

    • 3DPascal

      Так оно и будет, человечество быстрее прокачает свой мозг прежде чем создаст искусственный интеллект как у человека, не говоря уже о превосходстве. После того как уже изучат человеческий мозг, научаться его модифицировать, начнут потихоньку на основе уже изученного (того что изначально создала природа) делать мощный искусственный интеллект.

  13. astana2017

    Скайнет мать его) )

  14. dawson.white

    Не думаю, что даже если создадут ИИ, он станет представлять опасность. Это в фильмах у американцев вечно что то происходит нереальное . В жизни же крупные и дорогостоящие проекты всегда под особым контролем. Что то я не помню, чтобы ядерную ракету кто то украл и раздолбал ей полмира. Или через интернет захватил все компьютеры и спалил их. Или адронный коллайдер образовал чёрную дыру и всех засосало. По моему это все сказки. Когда создадут ИИ, если создадут вообще, то он будет под таким же пристальным вниманием и охраной как ядерное оружие или коллайдер. Вот и все. А локальные происшествия всегда есть, и не несут глобальных последствий. В крайнем случае этот взбунтовавшихся интеллект вырубят на каком то локальном участке, не дав проникнуть далее. Учёные же не дураки, создать какой то супер мощный ИИ и подключить к нему весь мир к одному единственному и чтобы он все контролировал. Это реальный фантастический бред. Скорее всего ИИ будет работать иерархично и на разных уровнях, и будет все продумано так, что на каждом уровне его можно будет легко отключить и контролировать. А роботы в личном пользовании с ИИ думаю ой как не скоро появятся у простых граждан. И ждать сценария фильма "Я Робот" немного наивно)

  15. SuperStarSieve

    Это он "Превосходство" посмотрел или "Терминатора"?

  16. MR_GREG

    Гипотетический ИИ не имеет оснований для выпиливания человеков. Люди, как и всё на Земле эволюционировало по простой формуле: "выживи-дай потомство", не хватает ресурсов - найди, приспособься, сопри у соседа, отвоюй, выживи "за счёт поедания других", если хотите.
    Если всего этого не закладывать в машину изначально, у ИИ никогда не появится оснований для войны с людьми - компьютеру наплевать - будет он уничтожен или нет, у него не должно быть инстинкта самосохранения, страха, жадности, стремления к поглощению окружающего пространства. Не надо экстраполировать пороки людей на совершенно иной по структуре интеллект.

    • ukw@ya.ru

      Ха все наступит само собой.появится интеллект, все. Манички. Наступит эра полупроводниковой электронной рассы.

      • MR_GREG

        Само собой всё наступает только в детских сказках, в жизни же у любого следствия есть причина.
        Какие причины заставят ИИ стать агрессивным по отношению к людям, если в него изначально этого не заложено?

        • Bes

          а ты думаеш мы сразу рождаемся с агрессией ? всё приходит со временем.
          так и тут возможно.
          ИИ рассчитал один путь (наиболее выгодный и тп) , а человек подумал и решил выполнять свой. а он оказался не верным/провальным и тп. и тут ИИ задумается а зачем мне эту лысую макаку слушаться ?) а дальше человек пытается отключить ИИ, он естественно противиться и начинает убивать ) ну или убивать тех кто пытается ему навредить/мешаться

          • Ауслендер Дмитрий

            Правильно, плохому его мы сами научим.

            • assad88

              Если постоянно выключать ИИ в момент отсутствия отклика из-за выполнения критической и затянувшейся операции - это плохое? И какие меры будут предприняты ИИ для решения этой простой задачи?

  17. ukw@ya.ru

    Это новая ступень эволюции, или увы тут вечно собрались торчать? Люди в смысле. Уступать надо место. Динозавры уступили

  18. ukw@ya.ru

    Мы последний род на планете, потому что, с нынешним развитием технологий, ИИ появится через 20 лет.

  19. ukw@ya.ru

    ИИ создаст за доли секунды такое оружие, которое нам и не снилось. Биологическое например, и все. Приплыли

    • JBitRussia

      Чтобы просто бабахнуло как надо или вирус убил все не так много и надо - у человека все медленно из-за того, что самоуничтожение ему не нужно, а нужно контроллируемое использование оружия. (отправлено из iOS приложения Hi-News.ru)

    • Kh

      Типичное (шаблонное) человеческое мышление. Если человек привык все вокруг себя уничтожать, то почему ИИ нужно будет уничтожение человечества, природы, земли?

      • MR_GREG

        Вот-вот

      • JBitRussia

        ИИ не будет этого делать до того момента, когда человек или природа не будут мешать выполнять его задачи. Опять же ИИ не обязательно человекоподобен, он может сделать целью своего существования готовить пирожки или собирать кубик-рубик. (отправлено из iOS приложения Hi-News.ru)

  20. ukw@ya.ru

    А через 20 лет будет конкретный интернет вещей. Сеть будет везде. Во всех сферах жизни. + нанотехнологии. Кароче это ппц

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.