Что вы знаете о технологической сингулярности?

25 Декабря 2013 в 13:00, Илья Хель 6 043 просмотра 22

Технологическая сингулярность

Вы наверняка слышали о концепции, известной как «технологическая сингулярность» — туманное событие, которое должно произойти в не столь отдаленном будущем. Неопределенность, которая витает вокруг этого события, привела к дикой спекуляции отдельными фактами, спутанности концепции и откровенному отрицанию. Давайте посмотрим, с какими подводными камнями приходится сталкиваться в процессе изучения этой самой «сингулярности».

В двух словах, технологическая сингулярность — это термин, который используется для описания теоретического момента во времени, когда появится искусственный интеллект и превзойдет человеческий. Термин популяризовался, благодаря стараниям писателя Вернора Винджа, но основная заслуга введения термина в массы принадлежит математику Джону фон Неймну, который говорил (цитата Станислава Лема) о «таком ускорении прогресса технологий и режима человеческой жизни, когда история гонки технологий сворачивается в определенную сингулярность (точку), за которой, как мы знаем, человеческие дела продолжаться не будут».

Под этим «продолжаться не будут» фон Нейман имел в виду потенциальную потерю человеческого контроля в контексте технологий. Сегодня спасибо за это можно заранее сказать искусственному интеллекту или, если быть точным, «рекурсивно-улучшаемому искусственному интеллекту» (RIAI), который приведет к возникновению искусственного сверхинтеллекта (ASI).

Поскольку мы не можем предугадать природу и намерения искусственного сверхинтеллекта, мы обращаемся к социологическому горизонту событий технологической сингулярности — концепции, которая открыта для широких масс, в результате чего возникает непонимание. Вот ряд из них.

Сингулярности не будет

Я бы не поставил на это утверждение ни гроша. Закон Мура, похоже, не работает на все сто, а прорывы в области искусственного интеллекта и картографирования мозга случаются один за одним. Нет никаких непреодолимых технологических или принципиальных препятствий, которые нас ждут.

И чего не понимают многие скептики, так это того, что мы едва-едва вошли в эпоху искусственного интеллекта, времени, когда мощные, но узкие системы включают множество доменов, принадлежащих людям. У этих систем невероятный потенциал, как с экономической, так и с любой другой точки зрения. Сверхинтеллект появится, хотят люди этого или нет, но скорее всего станет продуктом мегакорпораций и военных разработок.

На самом деле, этот подводный камень может оказаться худшим в понимании людей, поскольку он ведет к отрицанию сингулярности. Кроме молекулярного нанотехнологичного оружия, ASI представляет большую угрозу для человечества (особенно если попадет не в те руки). Угроза нашему существованию пока не маячит на горизонте, но она будет и, возможно, приведет к катастрофе. И запомните мои слова: придет время, когда хихиканья скептиков и риторика на тему отсутствия сингулярности будут сравнимы с отрицанием изменений климата в наше время.

Искусственный интеллект будет обладать сознанием

Нет. ASI едва ли будет осознавать. Нам нужно увидеть эти системы, их будет много, многие из них будут напоминать Watson или Deep Blue. Они будут работать с головокружительной скоростью, решать миллиарды задач в секунду, но у них будет ветер в голове.

Отметим, что вероятность того, что ASI будет действительно разумным, есть. Возможно, он даже самостоятельно придет к самосознанию. Но даже если это произойдет, он все равно будет разительно отличаться от всего, что мы знаем. Едва ли субъективный машинный опыт сравнится с нашим собственным, и «канты», и «декарты» из машины не выйдут.

Кроме того, это заблуждение тесно связано с первым. Некоторые скептики утверждают, что сингулярности не будет, поскольку мы никогда не сможем сымитировать сложность человеческого сознания. Но это утверждение не имеет смысла. ASI будет мощным, хитроумным и опасным, но не благодаря наличию рассудка.

Искусственный сверхинтеллект будет дружелюбным

В среде любителей обсудить сингулярность ходит анекдот: по мере роста интеллекта, растет эмпатия и доброжелательность. В связи с этим, если искусственный интеллект будет все умнее и умнее, значит он будет добрее и добрее.

Фигушки. Все совсем не так. Во-первых, такой порядок рассуждений свидетельствует об определенном уровне саморефлексии и самоанализа со стороны ASI (которых, собственно, не будет). Во-вторых, подразумевает наличие этического императива, который близок нашему. Однако мы не можем полностью предсказать или узнать размышления принципиально чужого машинного ума. Также не узнаем, что для машины представляет собой нравственность. Кроме того, если интеллект запрограммировать на определенный набор приоритетов, машина будет им неотвязно следовать. Как отмечал теоретик искусственного интеллекта Элизер Юдковский, «искусственный интеллект не ненавидит тебя, и не любит, однако ты сделан из атомов, которые можно использовать».

Сингулярность — это ускорение изменений

С тех пор, как термин набрал популярность, мы приготовились к получению разных видов сингулярностей — некоторые из них не имеют ничего общего с возникновением ASI. Мы ждем экономической сингулярности и сингулярности «лезвия бритвы». Некоторые приравнивают сингулярность к радикальному продлению жизни, загрузке сознания, трансгуманизму и слиянию человека с машиной. Виноваты, отчасти, последователи взглядов Рэя Курцвейла: они считают, что сингулярность — это стабильно ускоряющийся рост технологий, в том числе и ИИ, который приведет к неконтролируемому взрыву открытий.

Люди сольются с машинами

Некоторые говорят, что нам не стоит переживать по поводу сингулярности, поскольку к тому времени, когда она наступит, мы будем «тесно сотрудничать» с машинами. Мы будем в них. Это будет сингулярность — для всех общая, и пусть никто не уйдет обиженным.

Первая проблема этой теории в том, что человеческая киборгизация и/или загрузка пойдет гораздо более медленными темпами, чем достижения в сфере ИИ (по большей части из-за этических ограничений). Вторая проблема в том, что непосредственный источник RIAI будет крайне локализован. Это будет одна система (или множество систем в тандеме, распределяющие нагрузку), которая будет постоянно улучшаться или работать над достижением определенной конфигурации (так называемый сценарий «жесткого взлета» сингулярности). Другими словами, мы будем за пределами сингулярности, прохожими, зеваками.

Конечно, ASI может решить слиться с таким количеством людей, с которым ему заблагорассудится — но это совсем мрачный сценарий.

Мы будем как боги

Если мы переживем сингулярность, и если предположить, что для нас будет место в мире, которым правят машины, мы однозначно будем обладать беспрецедентными полномочиями. Возможно, мы станем богоподобным ульем. Но только коллективно — как индивидуумы мы вряд ли на что будем способны. Пока сложно сказать, как много интеллекта возьмет на себя один разум. Футуролог Михаил Анисимов считает, что радикальное расширение сознания человека приведет к побочным эффектам:

«Например, к безумию. Мозг человека — чрезвычайно тонкий и настроенный механизм. Большое количество изменений в этом механизме приводит к так называемому «сумасшествию». Есть много различных типов безумия — гораздо больше, чем типов здравого мышления. Изнутри безумие кажется абсолютно нормальным, поэтому нам, вероятно, доставит массу неудобств попытка убедить безумных людей в том, что они безумны».

Даже в случае совершенного здравомыслия побочные эффекты могут привести к судорогам, информационной перегрузке и, возможно, крайним состояниям эго — отчуждению или эгоцентризму. Умные люди не зря чувствуют себя отдаленными от мира, а самые умные люди, вероятно, будут вообще для нас «не люди».

После сингулярности вещи особо не изменятся

Вряд ли. Подумайте о технологической сингулярности как о кнопке «reset» для всего, что у нас есть — вплоть до каждой молекулы на Земле. Пока законы физики и теоретические расчеты что-то позволяют, машина, вероятно, это осуществит. Мы не можем предположить, что будет за пределами сингулярности — это загадка, которую едва ли решает даже научная фантастика.

Что вы знаете о технологической сингулярности?

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

22 комментария

  1. Sasha445

    В основном в данной статье написан бред, лично моё мнение что у машины просто не смогут сами (как у нас) зарождается мысли, поскольку нереально создать такой алгоритм, не сейчас, не в будущем. (отправлено из Android приложения Hi-News.ru)

    • magyar

      Ваше мнение ошибочно (отправлено из iOS приложения Hi-News.ru)

      • Zlobin

        Есть теория что сознание может зародиться в достаточно сложной и мощной системе подобной нашему мозгу. В перспективе при создании полноценного квантового компьютера (а он в тысячи раз будет превосходить наш с вами мозг) это возможно

        • Kh

          Превосходить мозг? Что бы это произошло нужно для начала познать способности человеческого мозга. А ученые до сих пор не до конца изучили его возможности. (отправлено из iOS приложения Hi-News.ru)

          • Zlobin

            А еще мы не до конца воду изучили и на земле не везде побывали...
            Если изучите вопрос то поймете о чем я говорю

    • felixl

      Вы судите о технической стороне проблемы, в то время как автора больше интересует феноменологический аспект - что это за явление в жизни социума.
      Кстати, не обязательно искусственный интеллект столь высокого уровня будет вообще руководствоваться таким понятием как "алгоритм" - нейронные сети работают по принципу аналогий и не требуют жесткого программирования.

  2. SantiagoDeKubba

    Хорошая статья;) скорее всего техногенный прогресс мы увидем после создания матрицы искусственного интеллекта как тот же проект Блю Бреин после 2027 года как обещано .. Так что задумываться о киборго слиянии или о порабощении человеческой рассы еще рановато ;)) (отправлено из iOS приложения Hi-News.ru)

  3. timoseyka

    "Некоторые приравнивают сингулярность к радикальному продлению жизни, загрузке сознания, трансгуманизму и слиянию человека с машиной." А как же нанонейроны с помощью которых будем передавать сознание по вай фаю ?)

  4. Аноним

    Обалдеть!
    Я, считаю, что создание ИИ, первого в своем роде, подобно созданию первого человека, чисто по аналогии без религиозного контекста. Как мы можем судить каким он, ИИ, будет, если при создании первого человека у него не было земных(генетических) родителей, а соответственно не был заложен характер, эмоции, в общем генетическая личность, поэтому он действовал по указке и съел яблоко в, исключительно познавательных целях, для сбора информации. Следующие поколения ИИ, на основе собранной и переработанной предыдущим ИИ будут обладать возможностью получать и обрабатывать информацию по своему сценарию, человеку останется только делать все так, чтобы ИИ в один прекрасный момент не увидел в нем врага.
    По поводу создания ИИ, если ученые вырастят полноценно действующий человеческий мозг с нуля, не обременяя его так называемыми "плохими генами", отвечающим за любые чувства, эмоции, заключенный в кибернетический организм, будет ли он считаться ИИ??? (отправлено из Android приложения Hi-News.ru)

    • Kamino

      Не яблоко а плод(с дерева познания добра и зла). Но даже не в этом суть. Просто была дана заповеть воздержения. Но после у него всё же была возможность ломануть себя и покаяться спася человечество. Теперь такой же выбор в каждом из нас.
      Не был заложен характер?
      -Много ты знаешь.

  5. Kh

    Человек сам себя программирует каждый день, меняя свое мировоззрение, получает новый опыт, меняет себя, делает выводы и так бесконечно.
    Способна ли машина получать опыт и программировать себя? (отправлено из iOS приложения Hi-News.ru)

  6. RocKorn

    Скорее наступит информационный коллапс, чем появится ASI

  7. 451

    Статья интересная, но я считаю лишними столь категоричные ответы. Технологическая сингулярность - это граница, когда становится непонятно, как работают механизмы. То есть как можно рассуждать о том, чего нельзя представить? Это всё равно что пытаться придумать цвет для ультрафиолетового диапазона, который не виден человеческому глазу.

  8. maccon

    Отличная интересная статья! Спасибо редакции!
    Думаю процесс создания ИИ будет долгим чисто из-за человеческой настороженности. Но если мы сможем обуздать СВЕРХИНТЕЛЛЕКТ, то нас ждут невероятные открытия! Именно, поэтому игра стоит свеч

  9. elena9791

    посмотрев как человек бесприципно и нагло использует планету , на алчное начало в человеке , вывод чему мы сможем научить машину , добру? врядли , это будет детищем человечества , с таким же алчным и агрессивным характером как и мы сами , машина истребит человека как мы истребляем скот

  10. nik kak

    зачем железному интеллекту уподобляться человеческому.
    он поступит проще. распределит сложную задачу по мозгам всех существ обитающих на планете, а потом сведёт всё в один результат

  11. Sasha445

    ИИ это та же программа а для выполнения любого пункта необходимо как минимум написать сам код который будет его описывать (кто разбирается в программировании поймёт) а если мы затрагиваем интеллект то там настолько много различных "пунктов" что создать его НЕвозможно (отправлено из Android приложения Hi-News.ru)

  12. VoinVereska

    Интересные мысли...Вот Вам моё мнение:как только искусственный интеллект появиться и заработает в полной мере население планеты резко сократиться по естественным причинам их вы сами домыслите ;-) а позже все люди попытаются вернуться к природе и жизни по её законам но этого уже будет сделать невозможно,есть мнение и не только моё что мы пошли не той эволюционной тропой...Задумайтесь :-);-) (отправлено из Android приложения Hi-News.ru)

    • Аноним

      Население сократится еще до создания ИИ, сокращаются запасы самого главного источника на планете - пресной воды, которой богата Россия, а население растет, из-за чего начнутся сначала малые военные конфликты, затем мировые. Еще железная леди говорила, что русских достаточно 15 млн, китайцы скорее всего захотят вернуть земли Великого Китая и так далее. Кроме того человек научится продлевать жизнь, как минимум до 250 лет. (отправлено из Android приложения Hi-News.ru)

  13. numerouno

    А мне кажется всем этим мозгом движет некая сила.. в народе называют ее душой.. и в супер компьютерах ее никогда не будет...

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.