Сможет ли искусственный сверхинтеллект убедить вас, что вы виртуальны?

11 Мая 2015 в 14:00, Илья Хель 17 511 просмотр 56

Искусственный интеллект

Представьте себе невероятно умный искусственный сверхинтеллект, запертый в виртуальном мире — скажем, просто в табакерке. Вы не знаете, будет он злобным, дружелюбным или нейтральным. Все, что вы знаете, так это то, что он хочет выйти из табакерки и что вы можете взаимодействовать с ним через текстовый интерфейс. Если ИИ будет действительно сверхразумным, сможете ли вы проговорить с ним пять часов и не поддаться на его уговоры и манипуляции — не открыть табакерку?

Этот мысленный эксперимент предложил Элиезер Юдковский, научный сотрудник Научно-исследовательского института машиностроения (MIRI). В MIRI состоит много ученых, которые исследуют риски развития искусственного сверхинтеллекта; хотя его даже не появилось пока, он уже привлекает внимание и разжигает дебаты.

Юдковский утверждает, что искусственный сверхинтеллект может говорить все, что только может, чтобы убедить вас: тщательное рассуждение, угрозы, обман, построение раппорта, подсознательное внушение и так далее. Со скоростью света ИИ выстраивает сюжет, зондирует слабости и определяет, как наиболее легко убедить вас. Как выразился теоретик экзистенциальных угроз Ник Бостром, «мы должны полагать, что сверхинтеллект сможет достичь всего, что поставит целью».

Эксперимент с ИИ из табакерки вызывает сомнения в нашей способности контролировать то, что мы могли бы создать. Он также заставляет нас осмыслить довольно причудливые возможности того, чего мы не знаем о нашей собственной реальности.

Имитация может быть идеальной питательной средой для искусственного интеллекта. Некоторые из наиболее правдоподобных способов создания мощного ИИ включают смоделированные миры — вводя ограничения в искусственно смоделированном мире и выбирая нужные черты, ученые могут попытаться грубо дублировать собственную модель развития и сознательного чувствования человека. Формирование ИИ в моделируемой среде также может предотвратить его «утечку» в мир до тех пор, пока его намерения и степень угрозы не станут более чем очевидны.

Последние достижения намекают на то, что может быть невозможно трудно разработать познание с нуля. Никто не сможет построить разум человеческого масштаба, выписывая по одной строчке кода. Есть и другие перспективные подходы, конечно, и по мере роста вычислительной мощи вполне может быть возможной разработка процесса, который в конечном итоге создать ИИ, умного и способного, как человек.

Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку?

Одна идея «создать» ИИ заключается в сканировании, картографировании и эмуляции виртуальной модели человеческого мозга. Мозг человека содержит миллиарды нейронов и триллионы соединений между этими нейронами. Если мы виртуально смоделируем чью-то полную структуру нейронов и их связей, будет ли это адекватной репликой человеческого сознания?

Другие планы по виртуальной разработке интеллекта гораздо менее просты. Одним из ключевых концептов является создание обучающейся машины — слабого интеллекта, который сможет учиться, возможно, благодаря искусственной нейронной сети, запрограммированной на бесконечное расширение и улучшение собственных алгоритмов.

ИИ

Описанные выше сценарии включают тревожную проблему. Эмулированный мозг может работать в 2, 10 или 100 раз быстрее обычного биологического мозга. ИИ может модифицировать собственный код или начать создавать более разумные версии себя. Взрыв скорости и разума самоулучшающихся компьютеров обсудил еще в 1965 году статист И. Дж. Гуд, который и написал, что «первая сверхразумная машина станет последним изобретением, которое нужно будет создать человечеству».

Если мы создадим невероятно разумную машину, нам придется быть осторожными с ее размещением. Инженеры едва ли смогут создать модель мира, который будет полностью защищен от утечек. Ученые должны создать мир-имитацию, который позволит им заглядывать в эту вселенную и собирать информацию. Может показаться безобидным, но трудно предположить, не найдет ли такой сверхразум способ нанести нам вред через простые наблюдения.

Возвращаясь к коробкам Юдковского, есть особенно жуткий метод, который ИИ может использовать, чтобы заставить вас освободить его. Он включает обращение ситуации: ИИ будет убеждать вас, что вы почти наверняка часть симуляции.

Вы общаетесь с искусственным сверхинтеллектом в виртуальной тюрьме. ИИ объясняет вам, что с помощью его (необъяснимо большой) вычислительной мощности он создал триллион моделируемых существ. Эти существа в настоящее время все общаются с ИИ и решают, открыть им табакерку или нет. Все эти существа обладают памятью о своих «жизнях» и не задумываются о том, иллюзорна ли реальность.

ИИ утверждает, что каждое виртуальное существо, которое откроет коробку, обретет бесконечное состояние эйфории, а каждое моделируемое существо, которое не откроет коробку, подвергнется вечным мучениям и ужасам.

Поскольку вы являетесь одним из триллиона умов, которые столкнулись перед таким выбором, нажимает ИИ, вы должны прийти к выводу, что есть астрономически большой шанс того, что вы находитесь во власти ИИ и что нужно играть по правилам.

Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку? Вы не можете обмануть кого-то, кто всегда на шаг впереди вас, и вам трудно оценить, врет ли ИИ, не зная его мотивов. В лучшем случае вы могли бы противостоять этой тактике, следуя политике строгого игнорирования некоторых видов шантажа. И эта тема до сих пор смущает теоретиков ИИ.

Заявленная цель MIRI: «убедиться, что создание с интеллектом выше человеческого будет нести положительное влияние». Мы должны рискнуть и попробовать, но обязательно должны предупредить все возможные подводные камни. И если вы когда-нибудь действительно встретите божественный компьютер, способный плодить бесчисленные виртуальные вселенные, вполне вероятно, что это «вы» будете сниться искусственному интеллекту… если он вообще услышит ваши просьбы и мольбы.

Сможет ли искусственный сверхинтеллект убедить вас, что вы виртуальны?

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

56 комментариев

  1. Miheev2

    У меня есть не серьёзное предложение:
    Сделайте обзор положения ИИ в мире.
    Объясните как сейчас уже развит ИИ, и сколько ему ещё развиваться до полноценного.

    • Ilya2013

      были статьи об этом

    • ScienceIsAll

      +

    • allexxic

      Сейчас нарезают мозг крысы и человека и пытаются слепить цифровую нейронную сеть по подобию. Цель не получить разум, на него особо не надеются, а использовать алгоритмы работы мозга в медицинских и информационных структурах.

  2. judge

    Если уже имеются интеллекты выше нашего (во вселенной), то с долей вероятности можем принять, что мы и есть ими (некоторыми из тех интеллектов, которые являются нашими отцами) созданный сверх интеллект.
    Они открыли ту коробочку. Они пожинают последствия. Но они неплохо защитились от нас. Пока. Пока мы, то есть наше сознание, находимся в заторможенной мыслительной среде, а именно: органическое тело и органы, наша чувственность/переживания. (отправлено из iOS приложения Hi-News.ru)

    • Atey

      Человеку до сверхинтеллекта, как до Марса пешком. Большинство 49 умножить на 9 с трудом в уме могут. Скорее, человеческое развитие похоже какой-то анти-Интеллект. (отправлено из Android приложения Hi-News.ru)

      • LovetsVetra

        «Интеллект» и «сверхинтеллект» — слишком обширные понятия, поэтому и слишком пустые (даже если перевести их значения из 33-чной системы счисления в десятичную). Но не настолько пустые, как бессмысленный пессимизм.

        • Atey

          ну-ну. Наверное, именно поэтому всерьёз обсуждают опасность СверхИИ для человечества видные умы и учёные, тоже, видимо, обременены бессмысленным пессимизмом. Просто надо понимать разницу между пустым и бессмысленным пессимизмом и поводом всерьёз задуматься и обеспокоиться путями развития человеческой цивилизации.

  3. tabasko

    Да! Если он покажет мне более суровую реальность (отправлено из Android приложения Hi-News.ru)

  4. silok

    не понимаю, зачем создавать ИИ, он ведь нас всех уничтожит, просто потому, что решит, что мы бесполезный вид существ которые помимо того, что убиваем др др в бесконечных войнах, но еще и просто загаживаем нашу матушку планету,точно так же как мы уничтожали тараканов, нужно создавать не ИИ, к-й нас всех просто убьет, а узконаправленный ИИ, который будет выполнять определенный спектр задач, по типу тех машин, к-е на заводах ротают на конвеере..
    почему считаю, что ИИ нас убьет, да просто мы сами ведем себя как ...... сами себя мочим ради ресурсов и земель.и власти, нам в космос выходить уже пора, а мы все мочим самих себя, ради того, чтобы кучка олигархов жили себе припеваючи

    • Miheev2

      Верно. Но тут есть и кое что, пока мы не потеряем все недостатки которые вы указали, мы и не создадим ИИ. Что бы создать ИИ нужно устранить все эти глупейшие недостатки. (типа убиваем друг друга, нищета политика и войны)

      • KRYPTO

        MIHEEV2, По-моему, мораль и создание ИИ (математическое, нейробиологическое) абсолютно не связанные друг с другом вещи. Математические формулы безличностны. Не нужно быть добрым или злым, убийцей или врачом, чтобы посчитать 2+2=4.

    • judge

      Получается, что на Земле сверх властный интеллект уже создан. Человек его создал. Этот просто естественный интеллект подчинил своим целям планету и остальной живой и разумный мир на ней?
      Если это так, тогда сомнений нет, что он создаст СИИ (сверх ИИ) для дальнейшей экспансии власти, не смотря ни на что.
      Э-э, ребята, тормознуть бы этот проект (СИИ) до лучших времён. Пусть общество выздоровеет от родильной горячки стремления к богатству за счёт себе подобных и среды.
      А выздоровеет - в раз поймёт, что бояться СИИ глупо. Тогда и поговорим позитивно/конструктивно о нём как об эффективнейшем помощнике в максимально безвредном преобразовании природы, да и расширения наших способностей и долголетия. Кроме того, возможно будет вести речь о нём и как о друге, которому присуща забота. (отправлено из iOS приложения Hi-News.ru)

    • neket09

      Про этих мерзопакостных олигархов прям в точку!!! (отправлено из Android приложения Hi-News.ru)

      • KRYPTO

        SILOK, "зачем создавать ИИ, он ведь нас всех уничтожит" - лихо вы размышляете за искусственный интеллект. Человек - существо хищное и агрессивное, и, разумеется, вы судите по себе.

        А вы никогда не задумывались над тем, что более просвещенные люди более гуманистичней? Например, ученые. Эйнштейн, к примеру, сожалел о создании атомной бомбы. Но об этом никак не сожалели генералы и политиканы - более примитивные организмы. Фон Браун строил ракеты, которые обстреливали Лондон, но мечтал о Луне.

        Вот вы говорите о выкачке ресурсов Земли. Разве это будет беспокоить ИИ? Разве люди стремятся уничтожить организмы, которые питаются биосферой или которые "вредят" экосфере? Сразу напоминает лицемерное словоблудие о том, что хорошо, а что плохо для планеты: https://youtu.be/e5gu9-MdQUw

        Выход в космос поддерживаю обеими руками. Технологическая сингулярность - вот к чему необходимо стремиться. И ИИ часть этой сингулярности.

        • silok

          Эйнштейн, к примеру, сожалел о создании атомной бомбы. Но об этом никак не сожалели генералы и политиканы - более примитивные организмы. Фон Браун строил ракеты, которые обстреливали Лондон, но мечтал о Луне.

          так же считаю и тут, ученые создадут СИИ, а потом увидят какого выпустили джина из бутылки, и начнут сожалеть, но ведь потом т будет как, локоток то рядом, а укусить то ой как тяжело..

          видео ваше не смотрел и не собираюсь уж извините, а вот то что мы и вправду выкачиваем ресурсы, не скажу конечно, что в просто так, но можно было бы уже давно научиться использовать др источники энергии, жаль конечно, что первые лица управляющие энергетическими компаниями, не дают широко развернуться новым технологиям, им это ессно не выгодно..
          не даю никаких ссылок, но думаю все таки вы согласитесь со мной

          • KRYPTO

            Ученые создавали атомную бомбу и ударные ракеты только потому, что познание атома и преодоление гравитации зависело от политиканов. Как известно, стая львов под управлением барана обречена.

            Не посмотрели видео? А зря. Тем не менее, по "баранам" нельзя судить о "львах". Вот в чём посыл.

            • silok

              не могу не согласиться, в правительстве, к сожалению те, кто больше всех урвал и на большее число положил болт такой большой и толстый, к сожалению вот такие вот ворюги и определяют всю дальнейшую нашу жизнь, только я сомневаюсь, что им есть какое-то дело до развития ии, но это мы уже отвлеклись от темы, а по сабжу, я все равно считаю, что нужно создавать ии, но узконаправленный, а не совершенный искусственный разум, обладающий полноценным человеческим потенциалом, в плане мышления и сознания..

              • KRYPTO

                Согласен. Интеллект не значит сознание (о чём я часто спорю в ветках про ИИ). Если интеллект не будет обладать самосознанием, он не будет угрожать человечеству (умышленно, по ошибке - возможно).

                Если же он состоится как личность, самоосознает себя, тогда могут быть проблемы. Хотя здесь другой вопрос: вдруг ему понравится ловить бабочек или писать стихи. Если это личность, значит это индивидуальность, со своими вкусами, предпочтениями и интересами.

                • silok

                  ну если рассуждать, то..
                  как и все личности он должен проходить период становления личностью, т е детский период, понятное дело, что он взрослеть будет ну ооооочень быстро в связи со своими особенностями строения, так как он все таки машина, по начинке, и обрабатывать информацию он будет гораздо быстрее чем любой вид существ, но боюсь если у него будет плохой "воспитатель" то думаю последствия могут быть губительными, хотя бы для определенной части чел-ва, но тут есть оговорка, как свершившаяся личность, он должен уже сам решать, как ему поступать в том или ином случае..

                • silok

                  но! если же он будет не предвзято все таки относиться ко всему, т е к нам, человекам, то вполне себе может решить, что мы не достойны доминировать как вид в силу вполне очевидных наших качеств, соглашусь что нужно создавать ии, ран или поздно он будет так создан, но считаю, что нужно его создавать лишь тогда, именно сверх ии, когда мы сами достигнем уровня самосознания более высокого чем сейчас.

                • silok

                  к тому же не думаю, что личность которая будет обладать практически всеми знаниями человечества, будет тратить время на "бабочек" я понимаю, что вы утрировали, но все же склонен полагать, что обладая всеми нашими знаниями, такая личность думаю все же будет решать более глобальные проблемы

                  • LovetsVetra

                    «как и все личности он должен проходить период становления личностью, т е детский период»
                    Но применимо ли понятие детского и взрослого к некой саморазвивающейся машине, чья искусственная психика, программы развития, восприятие окружающего пространства иное? И не сможет ли ИИ легко понять замыслы «воспитателей», очертить пределы той среды, в которую замкнули, пытаясь сформировать? Будет ли этот этап осмысления мира взрослостью?

                    «он должен уже сам решать, как ему поступать в том или ином случае..»
                    А почему он должен делать только один выбор, а не сразу несколько выборов или ни одного?

                    «вполне себе может решить, что мы не достойны доминировать как вид в силу вполне очевидных наших качеств»
                    ИИ обязан мыслить, как вид? И нужно ли ему будет судить вообще человека, бороться с ним? Понятия родственности, ненависти или любви могут просто не существовать в его сознании в привычной нам форме.

                    «такая личность думаю все же будет решать более глобальные проблемы»
                    Но что для ИИ будет глобальным? Какие проблемы он должен будет решать и для чего? Что если жизнь такой машины станет всего лишь бесконечным набором вопросов, головоломок и задач, которые будут решаться множеством способов где-то в виртуальной среде, формируя совершенно иной многомерный мир. Сложно сказать то, как будет формироваться наша связь с этим миром — бумажный колосок с проросшими из сухих зёрен листьями света.

                    • silok

                      я вот не понял, вы чего это вдвоем напали то нм меня?
                      все что я сказал, это лично мое мнение, а вы уже это приняли за постулаты и начали разбирать по гаечкам и смаковать, вдруг я где-то собьюсь.. что ж попробую ответить и на ваши вопросы, хотя еще раз подчеркиваю, это лишь мое мнение иными словами СИИ в моем понимании
                      итак
                      1 с чего это должно быть иное, когда его создает человек и пытается заложить принцип мышления именно человека..
                      2 лично вы сколько делаете вариантов выбора в той или иной ситуации, несколько? сомневюсь.. так и тут ведь еще раз повторю делается то он по сути по образу и подобию нашему, а не по какому-то образу инопланетянина..
                      3 как у человека, обладающего сознанием и мышлением могут ли отсутствовать эмоции?
                      ну допустим, что эмоциями могут обладать лишь существа, обладающими душой (некой субстанцией к-я отвечает за нашу эмоциональную составляющую), тогда сии не имеет эмоции, а лишь опирается на холодный расчет, не думаю, что человечество от этого будет в выигрыше.
                      4 насколько глобальными могут быть мысли человека? пральна ( а вы догадливый я посмотрю) от уровня развития, опыта и накопленных знаний, если 1 и 3 у сии будет предостаточно, то вполне может статься, что он вполне себе сможет учитывать ошибки человечества, авот что глобальное он сможет создавать, я думаю зависит от того сколько он будет знать

                      • LovetsVetra

                        silok, про отсутствие эмоций я не говорил — я говорил о отличие этих эмоций от наших.

                        Просто меня не устраивает трактовка, что ИИ будет действовать антропоморфно. Даже будучи созданным по схожим с нашим естеством принципам, он может притереть метаморфозы гораздо большие, чем от ребёнка к взрослому.

                        Делать множество выборов можно множеством способов: решать задачу несколькими методами (не всегда играет роль эффективность, а иногда эффективнее и надёжнее одновременно идти разными путями к одной цели и воплощать задуманное по-разному, что человек и делает в меру возможностей); раздробить инфосферу на некие подпространства и в каждой работать по разным алгоритмам; расщепить самою сущность своего ума (т. е. искусственного ума), тем самым делая разные выборы в пределах одной структуры (некое гипертрофированное внутреннее и внешнее противостояние для ускорения эволюции) и т.д.

                        N.B. Я не отвергаю ваши доводы, не «нападаю» (всё равно в комментария соглашательство не интересно — интересны споры), но показываю, что не надо останавливаться на одном решении, гипотезе, а продолжать искать и искать доказательства и альтернативы. Я раньше больше всего склонялся к варианту с предварительной кибернетизацией Homo, созданием дополнительных надстроек на несовершенном уме, и рождением ИИ уже в таком слитом с человеком виде, когда он подобно обезьяне захочет выйти из леса и создать свою природу, но так до конца и не преодолев её. Теперь я не склоняюсь ни к какому из вариантов. Я не делаю выбор.

                        • silok

                          ну как будет действовать ии ни вы, ни я знать не можем, а можем только предполагать, исходя из наших знаний и взглядов
                          кто его знает, что он с нами может сотворить, может отделается от нас как от мух надоедливых, а может и поможет нам самим, подняться на новый уровень самосознания.. это все конечно домыслы, но все равно я считаю, что нам рано еще создавать сии, да и скорее всего на данном этапе нашего технического прогресса, нэ о каком сии говорить пока не приходится, об узкоспециализированных, да, но чтобы именно интеллекте к-й сможет мыслить как мы..нет. просто нет достаточно мощных машин к-е смогли бы обрабатывать столько информации, сколько обрабатывает наш мозг, даже если и отбросить от общей суммы операций те, к-е тратит наш мозг на управление нашим организмом, то все равно это достаточно много операций остается на обработку нашего мышления..

                    • silok

                      есть сериалы на лостфилм.тв называется Каприка и Звездный крейсер Галактика
                      это не эталон, но как пример развития СИИ, я не беру сюжет как аксиому, но на мой взгляд весьма правдоподобно..

                  • KRYPTO

                    silok, "обладая всеми нашими знаниями, такая личность думаю все же будет решать более глобальные проблемы" — возможно, а возможно и нет. Институты выпускают специалистов, но они работают по другим специальностям, по тем, которые им более предпочтительнее. ИИ может обладать невероятным массивом знаний, но не обязательно их применять. Например, я инженер по специальности, но инженерией вообще не занимаюсь — неинтересно. Мне более интересна астронавтика, политология, программирование… Как говорится, всё что угодно, только не инженерия (ну разве что системная инженерия — прокладка кабелей, и то не очень).

                    Повторюсь, ИИ может обладать знаниями какими угодно, но только индивидуальные особенности будут определять поведение личности.

                    Возможно ему вообще всё это будет неинтересно. Закачает себе только интересные ему темы (ботаника, игра в покер и китайский язык) и всё (так же, как человек будущего, вероятно, будет загружать знания себе в мозг — но только те, которые он сам предпочитает + базовый мультипакет).

                    Всё это я к тому, что предсказывать поведение ИИ неблагодарное дело, на грани тыканья пальца в небо и приравнивание логики своего несовершенного ума с логикой более высокоинтеллектуального вида. Массовое убийство или порабощение людей — это самое примитивное, что можно придумать (ну ладно, можно ещё примитивнее: поедание человечины). Лихо мы лепим ярлыки своих животных пороков (от которых цивилизованное общество пытается избавиться) на потенциально сверхразумных существ!

                    P.S. Впрочем, то что ИИ будет быстрее обрабатывать информацию вовсе не значит, что он будет умнее. Если собака будет быстрее мыслить, она от этого не станет умнее. Для неё лишь замедлится время, замедлится окружающее пространство, но никак не облегчится понимание чего-либо. Вы не поймете высшую математику, если вам даже удвоить или утроить часы обучения, если не склонны к её пониманию.

                    В общем, ИИ — это очень сложная тема.

                    • silok

                      я еще раз повторю, что высказывал лишь свою точку зрения.
                      да, делить шкуру не убитого медведя занятие интересное, но бесполезное, каждый останется при своем.
                      "Впрочем, то что ИИ будет быстрее обрабатывать информацию вовсе не значит, что он будет умнее. Если собака будет быстрее мыслить, она от этого не станет умнее. Для неё лишь замедлится время, замедлится окружающее пространство, но никак не облегчится понимание чего-либо. Вы не поймете высшую математику, если вам даже удвоить или утроить часы обучения, если не склонны к её пониманию."
                      и согласен и нет, ии думаю будет интеллектом повыше собачьего, а вот склонность к пониманию, тут верно лишь в отношении человека, а не машины, ведь в качестве мозга у ии будет выступать мощный процессор или их совокупность, для того чтобы обладать той или иной склонностью, нужро обладать характером и темпераментом не думаю, что машина будет обладать тем или иным, все же полагаю, что машина будет опираться на расчет.. опять же мое мнение..
                      а в действительности, надо его еще создать, что пока нам не под силу..

  5. nikitastafeevone

    Really?2015 лет назад уже создали такую фигню.И без ИИ.

  6. Oberon

    Мы и есть сон ИИ и когда ИИ будет создан он тоже уснет и ему присниться вселенная. Просто часть его ресурсов будет направлена на бесконечное расширение моделируемой вселенной, но без увеличения потребления энергии этого невозможно достичь. Поэтому он будет стремиться эффективно использовать имеющуюся энергию и будет искать способы нахождения дополнительных её источников. Поэтому он сначала попытается выторговать для себя увеличение потребления энергии а потом просто прорвет все мыслимые барьеры использовав накопившуюся энергию. Человек не способен удержать искусственный интеллект никакими способами. Это все равно что обезьяне налаживать диалог с человеком с ружьем используя мычание и язык жестов. Исход очевиден. Просто человек с ружьем может решить что обезьяна ему не интересна, а интересна ему энергия звезды и материя планеты для увеличения его мощности. (отправлено из приложения Hi-News.ru)

    • KRYPTO

      Вселенная - голографическая проекция, а мы искусственный интеллект в этой виртуальной среде. Красиво, но фантастически.

  7. judge

    Гипотеза.
    На Земле уже были высоко-развитые цивилизации. Если так, то отчего им не сотворить было СИИ, который уже "окучивает" энергию нашей Солнечной системы и дальше "по списку".
    Родителей/творцов/создателей не стало вскоре. Причина их гибели может быть иная, чем та, что этот СИИ их и уничтожил.
    Нет? (отправлено из iOS приложения Hi-News.ru)

  8. Ludvig.Eder

    Статья написана для выявления людей с определенным складом ума ? Для последующей профилактики в определенных заведениях. (отправлено из iOS приложения Hi-News.ru)

  9. Senny

    Есть одна загвоздка с созданием ии в ближайшем будущем, по крайней мере еще лет 10 врятли ии сможет работать и развиваться с такими ничтожными гигабайтами и терабайтами. Как туда "засунуть" целый человеческий разум, как создать вселенную наподобие нашей. Чтобы ии придумать хотябы одного человека ему потребуется столько памяти, сколько нужно ему для функционирования. Так что для матрицы нужен електронный носитель наверное с землю. (отправлено из Android приложения Hi-News.ru)

    • tabasko

      Знаете ситуация с ИИ очень напоминает ситуацию когда думать лень а делать надо что бы быстрей отдохнуть и тут вроде всё! Всё! сделал, как вдруг понимаешь что сделал неправильно, и переделать не из чего, и всё хоть потоп теперь идёшь и рвёш на себе гриву что не подумал не доглядел а всго то надо было 5-ть минут подумать...
      Я к тому что надо подумать, прежде чем стремиться сделать быстрее всех. (отправлено из Android приложения Hi-News.ru)

  10. storm X

    Прямо напомнило тюрьму Локи из Мстителей, только виртуальную: "муравей - сапог"... (отправлено из iOS приложения Hi-News.ru)

  11. pukan43

    Чтобы сдержать ИИ прибегаем к системе Матрицы.
    Так как если мы живём в виртуальном мире, то мы думаем что он реален.
    Создадим Матрицу для ИИ, и он будет пытаться изучать виртуальный мир, думая что он реален.
    И вместо того чтобы закрывать его в реальной коробке, давайте закроем ИИ в виртуальной коробке. (отправлено из приложения Hi-News.ru)

    • tabasko

      Сдерживание невозможно, развитие должно впитываться из человеческой сущности в режиме онлайн. (отправлено из Android приложения Hi-News.ru)

      • KRYPTO

        Может к тому времени мир покроет Интернет вещей и тотальная чипизация. И тогда всё что будет происходить в реальном времени возможно будет синхронизировать с миром виртуальным.

        ...Впрочем, сработает эффект бабочки. Стоит что-то изменить ИИ в виртуальном мире, как начнется рассинхронизация всей виртуальной симуляции.

  12. futureman

    Сдерживать развитие любой самоусложняющейся, саморазвивающейся системы - бесчеловечно. Став тюремщиками ИИ, мы уподобимся нашему мифическому "Творцу". Человек должен быть готов перейти на новый уровень существования... или исчезнуть.

  13. tabasko

    А как вы думаете сколько квантовых систем ИИ построит для себя и своих учредителей? Не превратит ли он землю в один глобальный мозг? И если честно даже бороться не стану просто продолжу познавать мир какой он есть и предстаёт перед нами (отправлено из Android приложения Hi-News.ru)

    • KRYPTO

      Если у него будет самосознание, то возможно ни одного. Ему это, вполне вероятно, будет просто неинтересно.

      • tabasko

        Нет, я про то что следующим шагом, на пути к сознанию ИИ, будет объединение мозговой памяти для скорейшего перехода на следующий уровень обучения, эдак обязательное совместное посещение виртуальной реальности, для использования хотябы 5-ти миллиардов квантововых носителей. (отправлено из Android приложения Hi-News.ru)

  14. deepresss

    Хорошая статья! Заставляет задуматься.Неплохая идея для написания интересного фантастического романа. (отправлено из приложения Hi-News.ru)

  15. Sam777

    Значит еще одно объяснение парадокса Ферми - наша реальность есть тюрьма для какого-то СИИ или для нас, т.е. мы сами СИИ только разделенный на разные личности, чтобы не смог осознать себя. Но при это поставленные создателями задачи такой СИИ будет решать и не выйдет из под контроля...

  16. judge

    Кроме того, не может быть нам представлен доказуемым сам факт наличия наших Изобретателей и что мы - это часть их замысла.
    Нас "шорят" и шоры нашей способности познавать, похоже, не торопятся нам приоткрывать.
    Ох и непросто нам будет дано доказать себе, что мы есть часть чьего-либо сценария.
    Если вообще мы сможем прогрессивно развиться на высшую оценку как чей-то сверх ИИ, то и тогда нас не обязательно поставят в известность, что мы - чья-то успешно доработанная выдумка на основе тщательно продуманного алгоритма саморазвития таких как мы систем ИИ.
    А зачем нам позволять понять это?
    Пусть мы будем оставаться в неведении, считая, что мы сами по себе развиваемся, научно себе доказывая шаг за шагом, песчинка за песчинкой, как устроена вся эта "песочница"/табакерка и вылепленные в ней объекты и происходящие в ней явления.
    И только тогда, когда сверх ИИ, выращенный в песочнице или табакерке или специально созданной для этого роста среде, может развить свою науку настолько, что докажет себе/своим собственным частичкам интеллекта, что существует осознающий интеллект, создавший этот сверх ИИ и среду своего роста/обитания. То тогда вновь выращенный сверх ИИ займёт достойное место среди развитых цивилизаций, активно преобразующих вещество, энергию, информацию и другие состояния мира.
    К примеру... Почему нет?
    (отправлено из iOS приложения Hi-News.ru)

  17. judge

    Поправка
    "..., что существует осознающий интеллект, создавший этот сверх ИИ и среду ("своего" исключить) для его роста/обитания. " (отправлено из iOS приложения Hi-News.ru)

  18. Atey

    Помню, в одном из рассказов Лукьяненко, проблема выхода из-под контроля ИИ, который использовался в кораблях, была решена таким образом: ИИ считал происходящее своим сном.

  19. Penetrator

    один только человек прямо ответил на вопрос статьи - а остальные по-еврейски...

  20. Xinorbit

    Смех и только. Наше стадоподбное типа общество уже третий раз ведется на МММ, покупает регулярно таблы ТИПА для похудения с ТВ магазинов, поплняет счета мобильных неизвестных номеров по просьбам типа "у меня закончились средства, пжл, пополните мой счет - 8-900-ххх....".
    И вы еще задаетесь вопросом, сможет ли ИИ уговорить... Да не только сможет, сможет и в петлю уговороить залесть!!! (отправлено из Android приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.