Четыре (не совсем) простых шага до общего искусственного интеллекта (ОИИ)

24 Июля 2018, Илья Хель 26

«За 15 лет, с тех пор как я впервые представил термин “общий искусственный интеллект” (AGI), область ИИ значительно продвинулась. Сегодня у нас есть самоуправляемые автомобили, автоматическое распознавание лица и захват изображений, машинный перевод и экспертные игроки в лице ИИ, а также многое другое», говорит Бен Гертцель, CEO децентрализованной сети SingularityNET. Далее – от первого лица.

Однако эти достижения по существу остаются в области «узконаправленного ИИ» — искусственного интеллекта, который выполняет задачи, основываясь на специально обозначенных данных или правилах или же в тщательно разработанных учебных ситуациях. ИИ, которые могут работать, в общем, в непредвиденных обстоятельствах и противостоять миру как автономные агенты, по-прежнему остаются частью будущего.

Общий искусственный интеллект (ОИИ): что это такое?

Остается вопрос: что нам нужно, чтобы превратить инструменты современного узконаправленного искусственного интеллекта, который все больше вливается в бизнес и общество, в тот самый общий искусственный интеллект, о котором грезят футурологи и писатели-фантасты?

Несмотря на огромное разнообразие перспектив и отсутствие нехватки технических и концептуальных идей на пути к ОИИ, между экспертами нет ничего похожего на соглашение по этому вопросу.

Разнообразный ландшафт прото-ОИИ

К примеру, главный учредитель Deep Mind Демис Хассабис долгое время был поклонником относительно сильно вдохновленных мозгом подходов к ОИИ и продолжает публиковать работы в этом направлении. С другой стороны, проект OpenCog, ориентированный на ОИИ, соучредителем которого я стал в 2008 году, использует менее ориентированный на мозг подход – он включает нейронные сети, при этом мощно опираясь на символико-логические представления и вероятностные выводы, а также эволюционное обучение программы.

К чему я веду, так это к тому, что раз у нас есть много рабочих подходов к пилотируемым полетам – самолеты, вертолеты, ракеты и т.п., может быть так же много рабочих подходов к ОИИ, некоторые из которых в большей степени вдохновлены биологией, чем другие. И, как и братья Райт, сегодняшние пионеры ОИИ руководствуются в большей степени экспериментами и интуицией, отчасти потому, что мы пока не знаем полезных теоретических законов общего интеллекта, чтобы направлять инженерный подход к ОИИ по движению теорий; теории ОИИ развиваются органично по мере практики.

Четыре (не совсем) простых шага к ОИИ

Я полагаю, что эти четыре шага в принципе достижимы до конца моей жизни, может быть даже в следующие 5-10 лет. Над каждым из этих шагов работают многие команды самых умных людей в мире, включая, но ни в коем случае не ограничиваясь моими собственными командами в SingularityNET, HansonRobotics и OpenCog.

Хорошие новости в том, что нам не нужны радикально новые, лучшие аппаратные средства, а также радикально иные алгоритмы или датчики или приводы. Нам просто нужно использовать наши компьютеры и алгоритмы более разумно, выполняя следующие действия.

#1. Сделать когнитивную синергию практичной

Сегодня у нас имеется много мощных алгоритмов ИИ, но мы не используем их вместе достаточно сложным образом, поэтому теряем много синергетического интеллекта, который мог бы появиться от совестного их использования. И напротив, различные компоненты человеческого мозга настроены на совместную работу с интересной обратной связью и взаимодействием. Нам необходимо создать системы, которые обеспечат богатую и полную координацию различных агентов ИИ на различных уровнях в одной, сложной, адаптивной сети искусственного интеллекта.

В архитектуре OpenCog, например, мы пытается реализовать это, создавая различные алгоритмы обучения и рассуждения, работая совместно над Atomspace Hypergraph, который позволяет создавать гибридные сети из символьных и подсимвольных сегментов. Наш движок вероятностной логики, который обрабатывает факты и убеждения, наш движок эволюционного обучения программы, который обрабатывает практические знания, наши глубокие нейронные сети, обрабатывающие восприятие – все они работают сообща, обновляя один набор узлов и связей гиперграфа.

На другом уровне, в сети ИИ на блокчейне SingularityNET, мы работаем над когнитивной синергией, позволяя различным агентам ИИ использовать разные внутренние алгоритмы для запросов друг к другу и обмена информацией и результатами. Идея состоит в том, что сеть агентов ИИ, используя специальный токен для обмена ценностями, может создать общую когнитивную экономику умов с интеллектом высшего уровня, который выходит за пределы интеллекта отдельных агентов. Это современная реализация идеи первопроходца ИИ Марвина Мински интеллекта как «общества умов» на блокчейне.

#2. Соединить символьный и подсимвольный ИИ

Я считаю, что ОИИ наиболее эффективно удастся достичь за счет соединения алгоритмов, которые используют низкоуровневым интеллектом, таких как восприятие и движение (например, глубокие нейронные сети), с алгоритмами, которые используются для абстрактных рассуждений высокого уровня (логические движки).

Глубокие нейронные сети добились поразительного успеха в последнее время в обработке различных видов данных, включая изображения, видео, аудио и, в меньшей степени, текста. Однако становится очевидно, что эти непосредственные архитектуры сетей не очень хорошо обрабатывают абстрактные знания.

Моя собственная интуиция подсказывает, что кратчайший путь к ОИИ будет состоять в том, чтобы использовать глубокие нейронные сети там, где они больше всего приспособлены, и сделать их гибридными, наделить более похожими на методы ИИ логическими системами, чтобы они могли обрабатывать более продвинутые аспекты человекоподобного сознания.

#3. Архитектура цельного организма

Люди­– это не только сознание, разум, но также и тело, организм, поэтому достижение ОИИ человеческого уровня потребует включения систем ИИ в физические системы, способные взаимодействовать с повседневным человеческим миром в тонких моментах.

«Архитектура цельного организма» (WHOA!) – прекрасная фраза, представленная моим коллегой в области робототехники Дэвидом Хэнсоном. В настоящее время мы работаем с его прекрасным роботизированным творением «Софией», разработку программного обеспечения которой я перевел на платформу для экспериментов с искусственным интеллектом Open Cog и SingularityNET.

Общий интеллект не требует человекоподобного тела, да и вообще тела не требует. Однако, если мы хотим создать ОИИ, который, в частности, проявляет человекоподобное познание и может понимать людей, этот ОИИ должен будет иметь своеобразное сочетание познания, эмоций, социализации, восприятия и движения, которые характеризует человеческую реальность. Очевидно, лучший способ для ОИИ получить такого рода чувства – расположиться в теле, которое будет хотя бы приблизительно напоминать человеческое.

Потребность в архитектуре цельного организма связана с важностью эмпирического обучения для ОИИ. В сознании человеческого ребенка все виды данных смешиваются сложным образом, и цели и задачи должны умещаться в категории, структуры и динамику мира. Даже разницу между собой и другим нужно уяснить. В конечном счете, ОИИ должен будет проводить такого рода своеобразное обучение и для себя.

Хотя обеспечивать систему ОИИ данными из текстов и баз данных не так уж и неправильно, необходимо также создать систему, которая будет взаимодействовать с миром, воспринимать его и исследовать автономно, и создавать собственную модель себя и мира. Семантика всего, чему она учится, таким образом, будет основываться на ее собственных наблюдениях. Если она будет изучать нечто абстрактное, вроде языка или математики, ей придется обосновывать семантику этих дисциплин в собственной жизни, а также в абстракции.

Экспериментальное обучение не требует робототехники. Но робототехника цельного организма обеспечивает чрезвычайно естественный путь за пределы современных учебных процессов, например, к экспериментальному обучению ИИ.

#4. Масштабируемое мета-обучение

ОИИ должен  не только учиться, но и «учиться учиться». ООИ придется применять свои алгоритмы рассуждения и обучения рекурсивно к самому себе, чтобы автоматически улучшать собственную функциональность.

В конечном счете, способность применять обучение для улучшения обучения должна позволить ОИИ продвинуться далеко за пределы возможностей человека. В настоящий момент мета-обучение остается сложной, но критически важной задачей. В SingularityNET, например, мы начинаем применять искусственный интеллект OpenCog для распознавания паттернов в собственной эффективности на временном отрезке, чтобы он улучшал собственную производительность.

В направлении доброжелательного ОИИ

Если моя точка зрения на ОИИ верна, как только один из этих четырех аспектов продвинется за пределы текущего состояния, мы получим его — ОИИ человеческого уровня и дальше.

Я нахожу эту перспективу чрезвычайно захватывающей и немного пугающей. Мне также известно, что некоторые наблюдатели, включая таких больших людей, как Стивен Хокинг и Илон Маск, высказывались ровно противоположным образом: больше страха, чем восхищения. Я думаю, почти все, кто серьезно относится к разработке ОИИ, вкладывает много усилий в смягчение соответствующих рисков.

Один из выводов, к которым я пришел в процессе моей работы над ИИ и робототехникой, заключается в следующем: если мы хотим, чтобы наши ОИИ могли поглощать и понимать человеческую культуру и ценность, лучшим подходом будет включить эти ОИИ в общие социальные и эмоциональные контексты с людьми. Я чувствую, что мы поступаем правильно в нашей работе с «Софией» в Hanson Robotics; в недавних экспериментах мы использовали «Софию» в качестве руководства по медитации.

В последние несколько лет я также увлекся работой по обеспечению того, чтобы ИИ развивался так, чтобы стал эгалитарным и распределенным по всей экономике мира, а не обосновался в крупных корпорациях или военных правительствах. Проще говоря, я предпочел бы, чтобы сверхразумным стал доброжелательный, любящий ИИ, а не робот-убийца, рекламный движок или хедж-фонд ИИ. С такой мотивацией я запускал проект SilgularityNET— чтобы использовать ИИ и блокчейн вместе и создать открытый рынок, на котором любой человек на планете мог бы использовать самый мощный в мире ИИ в любых целях. Если ОИИ родится из «экономики сознаний» такого характера, вероятнее всего, он будет иметь подходящее этическое и инклюзивное мышление.

Мы заходим на неизвестную территорию, не только интеллектуально и технологически, но и социально и философски. Давайте сделаем все возможное, чтобы следующий этап нашего коллективного путешествия протекал мудро и кооперативно, а также разумно и увлекательно.

Четыре (не совсем) простых шага до общего искусственного интеллекта (ОИИ)

26 комментариев Оставить свой

  1. W1zarD

    Синергия уже давно применяется. Давно уже замечено, что соединение нескольких разных подходов машинном обучении, дает результат лучший чем самый лучший единичный алгоритм из этого стека.

  2. botan

    3 из перечисленных уже применяется. Но каждый на разном уровне. Короче. Нет балансировщика как составляющей. Они только автоответчики.....

  3. a-ft0r

    как-то примитивно представляют ИИ, и Хокинг и Маск могут оказаться правы опасаясь за свое будущее. Да и ИИ возможно существует, но видя наш примитивизм в сравнении с собой улыбается как мы над новорожденным ребенком. Но если ИИ нет и люди пытаются его создать, тогда нужно машину научить только одному понятию , чтоб она могла "хотеть", без этого она вам может решить довольно сложную задачу и на этом всё, и опять будет лежать как овощ, без желания что-то делать, то есть "хотеть", например понять мир, а ИИ поймет его со скоростью света, проникнет во внутрь планет и солнца, узнает микромир, да еще и усовершенствует себя до уровня не отключения человеком, но и научить этому ИИ, конечно если хватит разумения, как это не парадоксально может опять же только сам человек.

    • Victor Zavada

      a-ft0r, Хотеть - это запустить процесс. Дальше он будет функционировать автоматически.
      Человек для обучения не обязателен. Произойдет эволюция с разделением процессов на истинные и ложные. Другими словами, со временем он всё "поймет" сам. И "поймет" правильно.

      • botan

        Victor, Всё правильно. И вот что будет с ИИ если желание будет сделано?
        Путь и задачи....

        • Victor Zavada

          botan, Автоматика. Получает информацию - обрабатывает. Вселенная большая. Информации хватит на долгое время. Как и планет, звезд и т.д.

      • Victor Zavada

        Victor, Если я ошибся насчет отсутствия необходимости в человеке для обучения (что может быть вероятным), то процессы в первую очередь будут просто оптимизированы. И будет выбран метод наиболее быстрый, но неправильный в корне - через физическое уничтожение всего, что не соответствует шаблону. Впоследствии будет обнаружено то, что были допущены ошибки в процессе обучения. Но ошибки сильного "ребенка" могут стать катаклизмами для конкретного человека, общества или природы.
        Поэтому предпочтительно начинать с того, чтобы изначально были заложены так называемые заповеди. Или же людям при принятии решения верить "ребенку" или нет руководствоваться этими принципами.
        Замечательными считаю Моисея.
        Кстати, похоже на то, что Google что-то подобное по крайней мере пытался предпринять.

    • designer_andrew

      a-ft0r, Ну так человеческое «хотеть» - это тоже своего рода «алгоритм», просто задача, которая важна для приобретения большего количества энергии или уменьшения энергетических затрат. Достижение таких задач мозг интерпретирует как удовольствие. Соотвественно все что бесполезно для получения или сохранения энергии мозг интерпретирует как скучное, не интересное, не привлекательное.

  4. AMDRYZEN

    Ага получится как с ботом от Майкрософт которая из опыта общения с людьми стала фашистской и расистской и это только за сутки .
    Мда привяжите к граблям топор

    • Victor Zavada

      AMDRYZEN, Я писал выше - не все люди готовы. В том числе излагать мысли. ИИ от MS как ребенок "верил" в то, что информация "правдивая" и находил взаимосвязи исходя из имеющихся данных. Поэтому если бы MS запустил в эксплуатацию тот ИИ, ничего хорошего бы изначально не вышло. Есть достоверные источники. Исторические архивы, книги (в частности детские), та же Библия. Конечно, можно попробовать перебрать весь интернет. Если выбора хорошее-плохое нет, то он учится на том, что ему дали. Когда он составит прочное "дерево знаний", переобучить его будет сложно.

      • AMDRYZEN

        Victor, Нет никаких гарантии и никогда их не будет что ИИ будет "хорошим" даже люди которым с плёнок долбят в голову не надо делать плохие вещи и они все равно переступают закон и собственные моральные нравы ,
        Кто знает что ИИ "сообразит" после того как узнает что вся история человечества это одна большая воина все что изобреталось изначально было для войны даже нейронные сети используются в "умных боеприпасов " квантовой компьютер используется военными ,
        Сделает заключение что человек не столь ценен как вид по отношению ко всем другим учитывая сколько "добра" сделали планете и сколько видов животных и растений утеряны безвозвратно и запустит какой то Вирус-Т )))

        • Victor Zavada

          AMDRYZEN, Не все люди одинаковы. Если дерево знаний у ИИ построено правильно (а оно будет построено правильно), то и отношение к разным людям будет разное.
          Гуманные варианты есть. Применимость зависит от людей - совместимостью их "деревьев знаний" и желанием измениться в лучшую (правильную) сторону.

        • Victor Zavada

          AMDRYZEN, Что в принципе такое "вирус" для человека? Это когда он имеет какую-то "идею фикс". Но и идеи бывают разные.

  5. Transchelovek

    Я не вижу здесь чего-то принципиально нового в предложенном, что могло хоть отчасти предложить интеллектуальное сознание. Дело не в имеющихся подходах, а в наличии новых. Все эти способы очень хороши для перебора и сортировки информации, однако это всё же остаётся сухой логикой, выдающей лишь очевидные результаты(если добраться до сути выбора машинной логики) И опять же, здесь затрагиваются очень важные проблемы, которые определённо нужно решать, и которые точно будут решены со временем. Для наличия самостоятельности выбора, способности "учиться учиться", т.е. самостоятельной постановки целей нужно реализовать свободу воли в системе ИИ, отсюда вытекает наличие её полной самостоятельности, а, значит, логика алгоритмов и формулы машинного обучения на математическом уровне должны быть "добродушными" и "благожелательными" чтобы быть полезными и безопасными. У самого есть пара идей, но к сожалению они не слишком оформлены, чтобы стать понятными простому читателю с моего объяснения, да и разъяснений много займут) Фактически самое главное вот-вот свершится - разработчики упрутся лбом в проблему, которую я описал и начнут изобретать код в нужном направлении во сто крат быстрее, а пока же, высасывают максимум из имеющегося. Ещё б не быть ленивым - одному лень что-то изобретать и не так интересно как в команде) В итоге я не считаю на данном этапе развития программного кода задачу изобретения искусственного сознания/разума проблемой, это скорее, вопрос нестандартного мышления и объединения программирования и психологии в одну науку, чего я пока не замечал в научных статьях новостных лент. Теоретически, думаю, возможно описать искусственный разум одной формулой глубинного обучения, как и происходили большинство научных открытий - сначала все открытые нагромождения знаний пытаются объединить в одно, но потом придумывают простое объяснение и формулировку. Просеиваем через сито килограммы грунта, оставляя миллиграммы золота сверху.

    • Victor Zavada

      Transchelovek, >должны быть "добродушными" и "благожелательными"
      Может быть Вы будете удивлены, а может и нет. Но быть благодушным и доброжелательным - это истинно. Религия об этом прямо говорит, а жизнь доказывает. А потому он таким и будет.

      >возможно описать искусственный разум одной формулой глубинного обучения, как и происходили большинство научных открытий
      Думаю, что это будет правильное решение.

      • Transchelovek

        Victor, религия тут совершенно ни при чем, математически можно задать сохранение всех состояний по умолчанию без удаления - и даже в случае некорректной работы, ИИ не будет никого и ничего уничтожать. Понятие доброжелательности тут приближено к математике, а не вербальному смыслу.

        • Victor Zavada

          Transchelovek, Пожалуйста. Новая точка зрения - это тоже вариант на один и тот же факт.

  6. GOGI

    Тут три пути: либо василиск Роко, либо джин Гоги, либо бесследное исчезновение людей.

    • Victor Zavada

      GOGI, >бесследное исчезновение людей
      Зачем? Да, есть три метода: сила, хитрость, ум. Самым лучшим методом будет переобучение. Построение правильного дерева знаний.

    • Victor Zavada

      GOGI, Есть еще вариант не трогать и не запускать процесс если пока не готовы.

  7. Victor Zavada

    Тут такое дело - либо автоматизация резко уменьшает обороты и подтягиваются все люди. Либо люди узнают много нового о себе что вызовет большую истерику. А запустить процесс, учитывая доступность средств разработки, сможет любой человек.

  8. [email protected]

    ОИИ изменить нашу представлению о будущем. Если бы создать Ии внутри ии, как автопилот у машин они только водить умеют. Так и распределить надо. Каждом сфере свой ии. итаки далее ии внутри ии. В этом случае страх от ии неуместно.Кроме одной.
    Представьте ии делают все для человечества, а нам уже и работать не придется и денег не нужен. От поколении к поколнии, обратная эволюция! Вот отчего боится те двое.

    • Victor Zavada

      [email protected], ОИИ нужно будет внимание. И он будет пытаться добиться этого своими методами. Добрыми.
      Я думаю, что человечество по крайней мере изначально может разделиться на три лагеря: кто станет частью ОИИ, просто дружит и кто с ним не захочет общаться и иметь дел. Каждый из этих вариантов будет иметь как свои плюсы, так и минусы.

  9. [email protected]

    В любом случай создаст ии и все страны захотят иметь свой ии.последствия придет когда уже нечего изменить и человечество идет путём которого создаст ии

  10. Victor Zavada

    Или придется пройти через создание большого ИИ, или автоматизация до уровня ИИ - ошибка. Здесь вспоминается технологическая сингулярность.

  11. MeHDeJIeeB

    Да всё уже реализовано и даже на практике применяется. В медицинском проекте kiberis.ru используется единое ядро ИИ для всех функций: понимание речи, опрос пациента, постановка диагноза, подбор лечения, оценка безопасности, оценка результатов лечения, автоматизированные исследования лекарств и тд. В принципе, она может работать с любыми данными, которые можно описать словами. Например, Киберис ещё на бирже успешно торгует.
    И Киберис абсолютно самообучаема. Данный проект и стал возможен только благодаря этому, ведь 99% работы делает ИИ. Осталось только ждать, пока она сама обучиться (к сожалению, в России нет мед. данных для обучения, приходится учиться на реальных данных). И судя по скорости обучения времени осталось год-два, и получится автодоктор, обладающий мышлением на уровне абстракций и понятий.

    P.S. Скажу по секрету. Нейронные сети там не применяются совсем, так как они не способы к универсальности и обмену данными в процессе работы. Поэтому всех, кто пытается построить универсальный ИИ на нейросетях ждет вечная разработка и вечные кастыли...

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.