Искусственный интеллект. Часть первая: путь к сверхинтеллекту

52 453 просмотра
Об авторе

Искусственный интеллект

Причина, по которой эта (и другие) статья появилась на свет, проста: возможно, искусственный интеллект — не просто важная тема для обсуждения, а самая важная в контексте будущего. Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, признают, что оставлять без внимания эту тему нельзя. Некоторые — и среди них Элон Маск, Стивен Хокинг, Билл Гейтс, не самые глупые люди нашей планеты — считают, что искусственный интеллект представляет экзистенциальную угрозу для человечества, сопоставимую по масштабам с полным вымиранием нас как вида. Что ж, усаживайтесь поудобнее и расставляйте для себя все точки над i.

«Мы стоим на пороге изменений, сравнимых с зарождением человеческой жизни на Земле» (Вернор Виндж).

Что значит стоять на пороге таких изменений?

ИИ

Вроде бы ничего особенного. Но вы должны помнить, что находиться на графике в таком месте означает то, что вы не знаете, что находится справа от вас. Вы должны ощущать себя примерно так:

ИИ

Ощущения вполне нормальные, полет проходит успешно.

Будущее приближается

Представьте, что машина времени перенесла вас в 1750 год — во времена, когда мир испытывал постоянные перебои с поставками электричества, связь между городами подразумевала выстрелы из пушки, а весь транспорт работал на сене. Допустим, вы попадаете туда, забираете кого-нибудь и приводите в 2015 год, показать, как оно тут все. Мы не в состоянии понять, каково ему было бы увидеть все эти блестящие капсулы, летящие по дорогам; поговорить с людьми по ту сторону океана; посмотреть на спортивные игры за тысячу километров от него; услышать музыкальное выступление, записанное 50 лет назад; поиграть с волшебным прямоугольником, который может сделать снимок или запечатлеть живой момент; построить карту с паранормальной голубой точкой, обозначающей его местоположение; смотреть на чье-то лицо и общаться с ним за много километров и так далее. Все это — необъяснимое волшебство для почти трехсотлетних людей. Не говоря уже об Интернете, Международной космической станции, Большом адронном коллайдере, ядерном оружии и общей теории относительности.

Такой опыт для него не будет удивительным или шокирующим — эти слова не передают всей сути мысленного коллапса. Наш путешественник вообще может умереть.

Но есть интересный момент. Если он вернется в 1750 год и ему станет завидно, что мы захотели взглянуть на его реакцию на 2015 год, он может захватить с собой машину времени и попробовать проделать то же самое, скажем, с 1500 годом. Прилетит туда, найдет человека, заберет в 1750 год и все покажет. Парень из 1500 года будет шокирован безмерно — но вряд ли умрет. Хотя он, конечно, будет удивлен, разница между 1500 и 1750 годом куда меньше, чем между 1750 и 2015. Человек из 1500 года удивится некоторым моментам из физики, поразится тому, какой стала Европа под жесткой пятой империализма, нарисует в голове новую карту мира. Но повседневная жизнь 1750 года — транспорт, связь и т. п. — вряд ли удивит его до смерти.

Нет, чтобы парень из 1750 года повеселился так же, как мы с ним, он должен отправиться куда дальше — возможно, год так в 12 000 до н. э., еще до того, как первая сельскохозяйственная революция позволила зародиться первым городам и понятию цивилизации. Если бы кто-либо из мира охотников-собирателей, со времен, когда люди в большей степени были еще очередным животным видом, увидел огромные человеческие империи 1750 года с их высокими церквями, судами, пересекающими океаны, их понятие быть «внутри» здания, все эти знания — он бы умер, скорее всего.

И тогда, после смерти, он бы позавидовал и захотел сделать то же самое. Вернулся бы на 12 000 лет назад, в 24 000 год до н. э., забрал бы человека и притащил его в свое время. И новый путешественник сказал бы ему: «Ну такое, хорошо, спасибо». Потому что в этом случае человеку из 12 000 год до н. э. нужно было бы вернуться на 100 000 лет назад и показать местным аборигенам огонь и язык в первый раз.

Если нам нужно перевезти кого-то в будущее, чтобы тот был до смерти удивлен, прогресс должен пройти определенное расстояние. Должна быть достигнута Точка Смертельного Прогресса (ТСП). То есть, если во времена охотников-собирателей ТСП занимала 100 000 лет, следующая остановка состоялась уже в 12 000 году до н. э. За ней прогресс шел уже быстрее и кардинально преобразил мир к 1750 году (ориентировочно). Потом понадобилось пару сотен лет, и вот мы здесь.

Эту картину — когда человеческий прогресс движется быстрее по мере течения времени — футуролог Рэй Курцвейл называет законом ускоряющейся отдачи человеческой истории. Это происходит, потому что у более развитых обществ есть возможность двигать прогресс более быстрыми темпами, нежели у менее развитых обществ. Люди 19 века знали больше, чем люди 15 века, поэтому неудивительно, что прогресс в 19 веке шел более стремительными темпами, нежели в 15 веке, и так далее.

На меньших масштабах это тоже работает. Фильм «Назад в будущее» вышел в 1985 году, и «прошлое» было в 1955 году. В фильме, когда Майкл Джей Фокс вернулся в 1955 год, его застали врасплох новизна телевизоров, цены на содовую, отсутствие любви к гитарному звуку и вариации в сленге. Это был другой мир, безусловно, но если бы фильм снимали сегодня, а прошлое было в 1985 году, разница была бы куда более глобальна. Марти Макфлай, попавший в прошлое из времени персональных компьютеров, Интернета, мобильных телефонов, был бы гораздо более неуместным, чем Марти, отправившийся в 1955 год из 1985.

Все это благодаря закону ускоряющейся отдачи. Средняя скорость развития прогресса между 1985 и 2015 годами была выше, чем скорость с 1955 по 1985 годы — потому что в первом случае мир был более развитым, он был насыщен достижениями последних 30 лет.

Таким образом, чем больше достижений, тем быстрее происходят изменения. Но разве это не должно оставлять нам определенные намеки на будущее?

Курцвейл предполагает, что прогресс всего 20 века мог бы быть пройден всего за 20 лет при уровне развития 2000 года — то есть в 2000 году скорость прогресса была в пять раз выше, чем средняя скорость прогресса 20 века. Также он считает, что прогресс всего 20 века был эквивалентен прогрессу периода с 2000 по 2014 год, и прогресс еще одного 20 века будет эквивалентен периоду до 2021 года — то есть всего за семь лет. Спустя несколько десятков лет весь прогресс 20 века будет проходиться по несколько раз в год, а дальше — всего за месяц. В конечном итоге закон ускоряющейся отдачи доведет нас до того, что за весь 21 век прогресс будет в 1000 раз превышать прогресс 20 века.

Если Курцвейл и его сторонники правы, 2030 год удивит нас так же, как парня из 1750 года удивил бы наш 2015 — то есть следующая ТСП займет всего пару десятков лет — а мир 2050 года будет так сильно отличаться от современного, что мы едва ли его узнаем. И это не фантастика. Так полагает множество ученых, которые умнее и образованнее нас с вами. И если вы взглянете в историю, то поймете, что это предсказание вытекает из чистой логики.

Почему же, когда мы сталкиваемся с заявлениями вроде «мир через 35 лет изменится до неузнаваемости», мы скептически пожимаем плечами? Есть три причины нашего скепсиса относительно прогнозов будущего:

1. Когда дело доходит до истории, мы думаем прямыми цепочками. Пытаясь представить прогресс следующих 30 лет, мы смотрим на прогресс предыдущих 30 как на индикатор того, сколько всего, по всей вероятности, произойдет. Когда мы думаем о том, как изменится наш мир в 21 веке, мы берем прогресс 20 века и добавляем его к 2000 году. Такую же ошибку совершает наш парень из 1750 года, когда достает кого-то из 1500 года и пытается его удивить. Мы интуитивно думаем линейным образом, хотя должны бы экспоненциальным. По существу, футуролог должен пытаться предугадать прогресс следующих 30 лет, не глядя на предыдущие 30, а судя по текущему уровню прогресса. Тогда прогноз будет точнее, но все равно мимо ворот. Чтобы думать о будущем корректно, вам нужно видеть движение вещей в куда более быстром темпе, чем они движутся сейчас.

ИИ

2. Траектория недавней истории зачастую выглядит искаженно. Во-первых, даже крутая экспоненциальная кривая кажется линейной, когда вы видите небольшие ее части. Во-вторых, экспоненциальный рост не всегда гладкий и однородный. Курцвейл считает, что прогресс движется змееподобными кривыми.

ИИ

Такая кривая проходит через три фазы: 1) медленный рост (ранняя фаза экспоненциального роста); 2) быстрый рост (взрывная, поздняя фаза экспоненциального роста); 3) стабилизация в виде конкретной парадигмы.

Если вы взглянете на последнюю историю, часть S-кривой, в которой вы в данный момент находитесь, может скрывать от вашего восприятия скорость прогресса. Часть времени между 1995 и 2007 годами ушла на взрывное развитие Интернета, представление Microsoft, Google и Facebook публике, рождению социальных сетей и развитию сотовых телефонов, а затем и смартфонов. Это была вторая фаза нашей кривой. Но период с 2008 по 2015 год был менее прорывным, по крайней мере на технологическом фронте. Те, кто думают о будущем сегодня, могут взять последние пару лет для оценки общего темпа прогресса, но они не видят большей картины. На деле же новая и мощная фаза 2 может назревать уже сейчас.

3. Наш собственный опыт делает нас ворчливыми стариками, когда речь заходит о будущем. Мы основываем свои идеи о мире на собственном опыте, и этот опыт установил темпы роста в недавнем прошлом для нас как «само собой разумеющееся». Также и наше воображение ограничено, поскольку использует наш опыт для прогнозирования — но чаще всего у нас просто нет инструментов, которые позволяют точно предположить будущее. Когда мы слышим прогнозы на будущее, которые расходятся с нашим повседневным восприятием работы вещей, мы инстинктивно считаем их наивными. Если бы я сказал вам, что вы доживете до 150 или 250 лет, а может быть, и вовсе не умрете, вы инстинктивно подумаете, что «это глупо, я знаю из истории, что за это время умирали все». Так и есть: никто не доживал до таких лет. Но и ни один самолет не летал до изобретения самолетов.

Таким образом, хотя скепсис кажется вам обоснованным, чаще всего он ошибочен. Нам стоит принять, что если мы вооружаемся чистой логикой и ждем привычных исторических зигзагов, мы должны признать, что очень, очень и очень многое должно измениться в ближайшие десятилетия; намного больше, чем можно предположить интуитивно. Логика также подсказывает, что если самый продвинутый вид на планете продолжает делать гигантские скачки вперед, быстрее и быстрее, в определенный момент скачок будет настолько серьезным, что он кардинально изменит жизнь, какой мы ее знаем. Нечто подобное случилось в процессе эволюции, когда человек стал настолько умен, что полностью изменил жизнь любого другого вида на планете Земля. И если вы потратите немного времени на чтение того, что происходит сейчас в науке и технике, вы, возможно, начнете видеть определенные подсказки о том, каким будет следующий гигантский скачок.

Путь к сверхинтеллекту: что такое ИИ (искусственный интеллект)?

Как и многие на этой планете, вы привыкли считать искусственный интеллект глупой идеей научной фантастики. Но за последнее время очень много серьезных людей проявило обеспокоенность этой глупой идеей. Что не так?

Есть три причины, которые приводят к путанице вокруг термина ИИ:

  1. Мы ассоциируем ИИ с фильмами. «Звездные войны». «Терминатор». «Космическая Одиссея 2001 года». Но как и роботы, ИИ в этих фильмах — вымысел. Таким образом, голливудские ленты разбавляют уровень нашего восприятия, ИИ становится привычным, родным и, безусловно, злобным.
  2. Это широкое поле для применения. Оно начинается с калькулятора в вашем телефоне и разработки самоуправляемых автомобилей и доходит до чего-то далекого в будущем, что кардинально изменит мир. ИИ обозначает все эти вещи, и это сбивает с толку.
  3. Мы используем ИИ каждый день, но зачастую даже не отдаем себе в этом отчета. Как говорил Джон Маккарти, изобретатель термина «искусственный интеллект» в 1956 году, «как только он заработал, никто больше не называет его ИИ». ИИ стал больше как мифическое предсказание о будущем, нежели что-то реальное. В то же время есть в этом названии и привкус чего-то из прошлого, что никогда не стало реальностью. Рэй Курцвейл говорит, что он слышит, как люди ассоциируют ИИ с фактами из 80-х годов, что можно сравнить с «утверждением, что интернет умер вместе с доткомами в начале 2000-х».

Давайте проясним. Во-первых, перестаньте думать о роботах. Робот, который является контейнером для ИИ, иногда имитирует человеческую форму, иногда нет, но сам ИИ — это компьютер внутри робота. ИИ — это мозг, а робот — тело, если у него вообще есть это тело. К примеру, программное обеспечение и данные Siri — это искусственный интеллект, женский голос — персонификация этого ИИ, и никаких роботов в этой системе нет.

Во-вторых, вы наверняка слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используется в математике для описания необычной ситуации, когда обычные правила больше не работают. В физике он используется для описания бесконечно малой и плотной точки черной дыры или изначальной точки Большого Взрыва. Опять же, законы физики в ней не работают. В 1993 году Вернор Виндж написал знаменитое эссе, в котором применил этот термин к моменту в будущем, когда интеллект наших технологий превзойдет наш собственный — и в этот момент жизнь, какой мы ее знаем, изменится навсегда, а обычные правила ее существования больше не будут работать. Рэй Курцвейл в дальнейшем уточнил этот термин, указав, что сингулярность будет достигнута, когда закон ускоряющейся отдачи достигнет экстремальной точки, когда технологический прогресс будет двигаться так быстро, что мы перестанем замечать его достижения, почти бесконечно быстро. Тогда мы будем жить в совершенно новом мире. Однако многие эксперты перестали использовать этот термин, поэтому давайте и мы не будем часто к нему обращаться.

Наконец, хотя есть много типов или форм ИИ, которые вытекают из широкого понятия ИИ, основные категории его зависят от калибра. Есть три основных категории:

  1. Узконаправленный (слабый) искусственный интеллект (УИИ). УИИ специализируется в одной области. Среди таких ИИ есть те, кто может обыграть чемпиона мира по шахматам, но на этом все. Есть такой, который может предложить лучший способ хранения данных на жестком диске, и все.
  2. Общий (сильный) искусственный интеллект. Иногда также называют ИИ человеческого уровня. ОИИ относят к компьютеру, который умен, как человек — машина, которая способна выполнять любое интеллектуальное действие, присущее человеку. Создать ОИИ намного сложнее, чем УИИ, и мы пока до этого не дошли. Профессор Линда Готтфредсон описывает интеллект как «в общем смысле психический потенциал, который, наряду с другими вещами, включает способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро учиться и извлекать опыт». ОИИ должен уметь делать все это так же просто, как делаете вы.
  3. Искусственный сверхинтеллект (ИСИ). Оксфордский философ и теоретик ИИ Ник Бостром определяет сверхинтеллект как «интеллект, который гораздо умнее лучших человеческих умов в практически любой сфере, включая научное творчество, общую мудрость и социальные навыки». Искусственный сверхинтеллект включает в себя как компьютер, который немного умнее человека, так и тот, который в триллионы раз умнее в любом направлении. ИСИ и есть причина того, что растет интерес к ИИ, а также того, что в таких обсуждениях часто появляются слова «вымирание» и «бессмертие».

В настоящее время люди уже покорили самую первую ступень калибра ИИ — УИИ — во многих смыслах. Революция ИИ — это путь от УИИ через ОИИ к ИСИ. Этот путь мы можем не пережить, но он, определенно, изменит все.

Давайте внимательно разберем, как видят этот путь ведущие мыслители в этой области и почему эта революция может произойти быстрее, чем вы могли бы подумать.

Где же мы в этом потоке?

Узконаправленный искусственный интеллект — это машинный интеллект, который равен или превышает человеческий интеллект или эффективность в выполнении определенной задачи. Несколько примеров:

  • Автомобили битком набиты системами УИИ, от компьютеров, которые определяют, когда должна заработать антиблокировочная тормозная система, до компьютера, который определяет параметры системы впрыска топлива. Самоуправляемые автомобили Google, которые в настоящее время проходят испытания, будут содержать надежные системы УИИ, которые будут воспринимать и реагировать на мир вокруг себя.
  • Ваш телефон — маленькая фабрика УИИ. Когда вы используете приложение карт, получаете рекомендации по скачиванию приложений или музыки, проверяете погоду на завтра, говорите с Siri или делаете что-либо еще — вы используете УИИ.
  • Спам-фильтр вашей электронной почты — классический тип УИИ. Он начинает с выяснения того, как отделить спам от пригодных писем, а затем обучается в процессе обработки ваших писем и предпочтений.
  • А это неловкое чувство, когда еще вчера вы искали шуруповерт или новую плазму в поисковике, а сегодня видите предложения услужливых магазинов на других сайтах? Или когда в социальной сети вам рекомендуют добавить интересных людей в друзья? Все это системы УИИ, которые работают вместе, определяя ваши предпочтения, выуживая из Интернета данные о вас, подбираясь к вам все ближе и ближе. Они анализируют поведение миллионов людей и делают выводы на основе этих анализов так, чтобы продавать услуги крупных компаний или делать их сервисы лучше.
  • Google Translate — еще одна классическая система УИИ, впечатляюще хороша в определенных вещах. Распознавание голоса — тоже. Когда ваш самолет садится, терминал для него определяет не человек. Цену билета — тоже. Лучшие в мире шашки, шахматы, нарды, балды и прочие игры сегодня представлены узконаправленными искусственными интеллектами.
  • Поиск Google — это один гигантский УИИ, который использует невероятно хитроумные методы для ранжирования страниц и определения результатов поисковой выдачи.

И это только в потребительском мире. Сложные системы УИИ широко используются в военных, производственных и финансовых отраслях; в медицинских системах (вспомните Watson от IBM) и так далее.

Системы УИИ в настоящем виде не представляют угрозы. В худшем случае глючный или плохо запрограммированный УИИ может привести к локальному бедствию, создать перебои в энергоснабжении, обвалить финансовые рынки и тому подобное. Но хотя УИИ не обладает полномочиями для создания экзистенциальной угрозы, мы должны видеть вещи шире — нас ждет сокрушительный ураган, предвестником которого выступают УИИ. Каждая новая инновация в сфере УИИ добавляет один блок к дорожке, ведущей к ОИИ и ИСИ. Или как хорошо заметил Аарон Саенц, УИИ нашего мира похожи на «аминокислоты первичного бульона юной Земли» — пока неживые компоненты жизни, которые однажды проснутся.

Путь от УИИ к ОИИ: почему так сложно?

Ничто так не раскрывает сложность человеческого интеллекта, как попытка создать компьютер, который будет так же умен. Строительство небоскребов, полеты в космос, секреты Большого Взрыва — все это ерунда по сравнению с тем, чтобы повторить наш собственный мозг или хотя бы просто понять его. В настоящее время мозг человека — самый сложный объект в известной Вселенной.

Возможно, вы даже не подозреваете, в чем сложность создать ОИИ (компьютер, который будет умен, как человек, в общем, а не только в одной области). Создать компьютер, который может перемножать два десятизначных числа за долю секунды — проще простого. Создать такого, который сможет взглянуть на собаку и кошку и сказать, где собака, а где кошка — невероятно сложно. Создать ИИ, который может обыграть гроссмейстера? Сделано. Теперь попробуйте заставить его прочитать абзац из книги для шестилетних детей и не только понять слова, но и их значение. Google тратит миллиарды долларов, пытаясь это сделать. Со сложными вещами — вроде вычислений, расчета стратегий финансовых рынков, перевода языка — с этим компьютер справляется с легкостью, а с простыми вещами — зрение, движение, восприятие — нет. Как выразился Дональд Кнут, «ИИ сейчас делает практически все, что требует «мышления», но не может справиться с тем, что делают люди и животные не задумываясь».

Когда вы задумаетесь о причинах этого, вы поймете, что вещи, которые кажутся нам простейшими в исполнении, только кажутся такими, потому что были оптимизированы для нас (и животных) в ходе сотен миллионов лет эволюции. Когда вы протягиваете руку к объекту, мышцы, суставы, кости ваших плеч, локтей и кистей мгновенно выполняют длинные цепочки физических операций, синхронных с тем, что вы видите, и движут вашу руку в трех измерениях. Вам это кажется простым, потому что за эти процессы отвечает идеальное программное обеспечение вашего мозга. Этот простой трюк позволяет сделать процедуру регистрации нового аккаунта с вводом криво написанного слова (капчи) простым для вас и адом для вредоносного бота. Для нашего мозга в этом нет ничего сложного: нужно просто уметь видеть.

С другой стороны, перемножение крупных чисел или игра в шахматы — новые виды активности для биологических существ, и у нас не было достаточно времени, чтобы совершенствоваться в них (не миллионы лет), поэтому компьютеру несложно нас одолеть. Просто подумайте об этом: что бы вы предпочли, создать программу, которая может перемножать большие числа, или программу, которая узнает букву Б в миллионах ее видов написаний, в самых непредсказуемых шрифтах, от руки или палкой на снегу?

Один простой пример: когда вы смотрите на это, вы и ваш компьютер понимаете, что это чередующиеся квадратики двух разных оттенков.

ИИ

Но если вы уберете черное, вы сразу опишете полную картинку: цилиндры, плоскости, трехмерные углы, а вот компьютер не сможет.

ИИ

Он опишет то, что видит, как разнообразие двумерных форм в разных оттенках, что, в принципе, правда. Ваш мозг проделывает тонну работы, интерпретируя глубину, игру теней, свет на картинке. Ниже на картинке компьютер увидит двумерный бело-серо-черный коллаж, тогда как в действительности там трехмерный камень.

ИИ

И все, что мы только что обозначили, это еще верхушка айсберга, касающаяся понимания и обработки информации. Чтобы выйти на один уровень с человеком, компьютер должен понимать разницу в тонких выражениях лица, разницу между удовольствием, печалью, удовлетворением, радостью, и почему Чацкий молодец, а Молчалин — нет.

Что же делать?

Первый шаг к созданию ОИИ: увеличение вычислительной мощи

Одна из необходимых вещей, которая должна произойти, чтобы ОИИ стал возможным, это увеличение мощности компьютерного оборудования. Если система искусственного интеллекта должна быть такой же умной, как мозг, ей нужно сравняться с мозгом по сырой вычислительной мощности.

Один из способов увеличить эту способность заключается в общем числе вычислений в секунду (OPS), которое может производить мозг, и вы можете определить это число, выяснив максимальное число OPS для каждой структуры мозга и сведя их воедино.

Рэй Курцвейл пришел к выводу, что достаточно взять профессиональную оценку OPS одной структуры и ее вес относительно веса всего мозга, а затем умножить пропорционально, чтобы получить общую оценку. Звучит немного сомнительно, но он проделал это много раз с разными оценками разных областей и всегда приходил к одному и тому же числу: порядка 10^16, или 10 квадриллионов OPS.

Самый быстрый суперкомпьютер в мире, китайский «Тяньхэ-2», уже обошел это число: он способен проделывать порядка 32 квадриллиона операций в секунду. Но «Тяньхэ-2» занимает 720 квадратных метров пространства, сжирает 24 мегаватта энергии (наш мозг потребляет всего 20 ватт) и стоит 390 миллионов долларов. О коммерческом или широком применении речь не идет.

Курцвейл предполагает, что мы оцениваем состояние компьютеров по тому, как много OPS можно купить за 1000 долларов. Когда это число достигнет человеческого уровня — 10 квадриллионов OPS — ОИИ вполне может стать частью нашей жизни.

Закон Мура — исторически надежное правило, определяющее, что максимальная вычислительная мощь компьютеров умножается вдвое каждые два года — подразумевает, что развитие компьютерной техники, как и движение человека по истории, растет по экспоненте. Если соотнести это с правилом тысячи долларов Курцвейла, мы сейчас можем позволить себе 10 триллионов OPS за 1000 долларов.

Экспоненциальный рост ИИ

Экспоненциальный рост вычислительной техники: 20-21 век. Справа логарифмическая линейка и на ней — мозг насекомого, мыши, человека и всех людей; слева — вычислений в секунду за 1000 долларов; снизу — год

Компьютеры за 1000 долларов по своим вычислительным способностям обходят мозг мыши и в тысячу раз слабее человека. Это кажется плохим показателем, пока мы не вспомним, что компьютеры были в триллион раз слабее человеческого мозга в 1985 году, в миллиард — в 1995, и в миллион — в 2005. К 2025 году мы должны получить доступный компьютер, не уступающий по вычислительной мощи нашему мозгу.

Таким образом, сырая мощь, необходимая для ОИИ, уже технически доступна. В течение 10 лет она выйдет из Китая и распространится по миру. Но одной вычислительной мощи недостаточно. И следующий вопрос: как нам обеспечить всей этой мощью интеллект человеческого уровня?

Второй шаг к созданию ОИИ: дать ему разум

Эта часть довольно сложновыполнимая. По правде говоря, никто толком не знает, как сделать машину разумной — мы до сих пор пытаемся понять, как создать разум человеческого уровня, способный отличить кошку от собаки, выделить Б, нарисованную на снегу, и проанализировать второсортный фильм. Однако есть горстка дальновидных стратегий, и в один прекрасный момент одна из них должна сработать.

1. Повторить мозг

Этот вариант похож на то, будто ученые сидят в одном классе с ребенком, который очень умен и хорошо отвечает на вопросы; и даже если они усердно пытаются постигать науку, они и близко не догоняют умницу-ребенка. В конечном итоге они решают: к черту, просто спишем ответы на вопросы у него. В этом есть смысл: мы не можем создать сверхсложный компьютер, так почему бы не взять за основу один из лучших прототипов вселенной: наш мозг?

Научный мир трудится в поте лица, пытаясь выяснить, как работает наш мозг и как эволюция создала такую сложную вещь. По самым оптимистичным оценкам, получится это у них только к 2030 году. Но как только мы поймем все секреты работы мозга, его эффективности и мощности, мы сможем вдохновиться его методами в создании технологий. К примеру, одной из компьютерных архитектур, которая имитирует работу мозга, является нейронная сеть. Она начинает с сети транзисторов «нейронов», соединенных друг с другом входом и выходом, и не знает ничего — как новорожденный. Система «обучается», пытаясь выполнять задания, распознавать рукописный текст и тому подобное. Связи между транзисторами укрепляются в случае правильного ответа и ослабляются в случае неверного. Спустя много циклов вопросов и ответов система образует умные нейронные переплетения, оптимизированные для выполнения определенных задач. Мозг обучается похожим образом, но в куда более сложной манере, и пока мы продолжаем изучать его, мы открываем новые невероятные способы улучшить нейронные сети.

Еще более экстремальный плагиат включает стратегию под названием «эмуляция полного мозга». Цель: нарезать настоящий мозг тонкими пластинками, отсканировать каждую из них, затем точно восстановить трехмерную модель, используя программное обеспечение, а затем воплотить ее в мощном компьютере. Тогда у нас будет компьютер, который официально сможет делать все, что может делать мозг: ему просто нужно будет обучаться и собирать информацию. Если у инженеров получится, они смогут эмулировать настоящий мозг с такой невероятной точностью, что после загрузки на компьютер настоящая личность мозга и его память останутся нетронутыми. Если мозг принадлежал Вадиму перед тем, как он умер, компьютер проснется в роли Вадима, который теперь будет ОИИ человеческого уровня, а мы, в свою очередь, займемся превращением Вадима в невероятно разумный ИСИ, чему он наверняка обрадуется.

Насколько мы далеки от полной эмуляции мозга? По правде говоря, мы только-только эмулировали мозг миллиметрового плоского червя, который содержит 302 нейрона в общей сложности. Мозг человека содержит 100 миллиардов нейронов. Если вам попытки добраться до этого числа кажутся бесполезными, вспомните об экспоненциальных темпах роста прогресса. Следующим шагом станет эмуляция мозга муравья, затем будет мышь, а там и до человека рукой подать.

2. Попытаться пройти по следам эволюции

Что ж, если мы решим, что ответы умного ребенка слишком сложны, чтобы их списать, мы можем попытаться пройти по его следам обучения и подготовки к экзаменам. Что мы знаем? Построить компьютер такой же мощный, как мозг, вполне возможно — эволюция нашего собственного мозга это доказала. И если мозг слишком сложен для эмуляции, мы можем попытаться эмулировать эволюцию. Дело в том, что даже если мы сможем эмулировать мозг, это может быть похоже на попытку построить самолет путем нелепого махания руками, повторяющего движения крыльев птиц. Чаще всего нам удается создать хорошие машины, используя машинно-ориентированный подход, а не точное подражание биологии.

Как имитировать эволюцию, чтобы построить ОИИ? Этот метод под названием «генетические алгоритмы» должен работать примерно так: должен быть производительный процесс и его оценка, и это будет повторяться снова и снова (точно так же биологические существа «существуют» и «оцениваются» по их способности воспроизводиться). Группа компьютеров будет выполнять задачи, а самые успешные из них будут разделять свои характеристики с другими компьютерами, «выводиться». Менее успешные будут беспощадно выбрасываться на свалку истории. Через много-много итераций этот процесс естественного отбора позволит вывести лучшие компьютеры. Сложность заключается в создании и автоматизации циклов выведения и оценки, чтобы процесс эволюции шел сам по себе.

Недостатком копирования эволюции является то, что эволюции требуются миллиарды лет, чтобы что-то сделать, а нам нужно на это всего несколько десятилетий.

Но у нас есть масса преимуществ, в отличие от эволюции. Во-первых, у нее нет дара предвидения, она работает случайно — выдает бесполезные мутации, например, — а мы можем контролировать процесс в рамках поставленных задач. Во-вторых, у эволюции нет цели, в том числе и стремления к интеллекту — иногда в окружающей среде некоторый вид выигрывает не за счет интеллекта (потому что последний потребляет больше энергии). Мы же, с другой стороны, можем нацелиться на увеличение интеллекта. В-третьих, чтобы выбрать интеллект, эволюции необходимо произвести ряд сторонних улучшений — вроде перераспределения потребления энергии клетками, — мы же можем просто убрать лишнее и использовать электричество. Вне всяких сомнений, мы будем быстрее эволюции — но опять же, непонятно, сможем ли мы ее превзойти.

3. Предоставить компьютеры самим себе

Это последний шанс, когда ученые совсем отчаиваются и пытаются запрограммировать программу на саморазвитие. Однако этот метод может оказаться самым перспективным из всех. Идея в том, что мы создаем компьютер, у которого будет два основных навыка: исследовать ИИ и кодировать изменения в себе — что позволит ему не только больше узнавать, но и улучшать собственную архитектуру. Мы можем обучить компьютеры быть компьютерными инженерами самим себе,чтобы они саморазвивались. И их основной задачей будет выяснить, как стать умнее. Подробнее об этом мы еще поговорим.

Все это может случиться очень скоро

Стремительное развитие аппаратного обеспечения и эксперименты с программным обеспечением текут параллельно, и ОИИ может появиться быстро и неожиданно по двум основным причинам:

1. Экспоненциальный рост идет интенсивно, и то, что кажется черепашьими шагами, может быстро перерасти в семимильные прыжки — эта гифка хорошо иллюстрирует этот концепт:

ИИ

Когда компьютеры превзойдут человека в мыслительных способностях? Объем озера Мичиган (в унциях жидкости) равен объему нашего мозга (в операциях в секунду). Вычислительная мощь удваивается каждые 18 месяцев. При таком темпе вы долгое время не будете видеть никаких результатов, но затем все случится моментально

2. Когда дело доходит до программного обеспечения, прогресс может казаться медленным, но затем один прорыв мгновенно меняет скорость продвижения вперед (хороший пример: во времена геоцентрического мировосприятия, людям было сложно рассчитать работу вселенной, но открытие гелиоцентризма все значительно упростило). Или, когда дело доходит до компьютера, который улучшает сам себя, все может казаться чрезвычайно медленным, но иногда всего одна поправка в системе отделяет ее от тысячекратной эффективности по сравнению с человеком или прежней версией.

Дорога от ОИИ к ИСИ

В определенный момент мы обязательно получим ОИИ — общий искусственный интеллект, компьютеры с общим человеческим уровнем интеллекта. Компьютеры и люди будут жить вместе. Или не будут.

Дело в том, что ОИИ с таким же уровнем интеллекта и вычислительной мощности, что и человек, будет по-прежнему иметь значительные преимущества перед людьми. Например:

Оборудование

Скорость. Нейроны мозга работают с частотой 200 Гц, в то время как современные микропроцессоры (которые значительно медленнее тех, что мы получим к моменту создания ОИИ) работают с частотой 2 ГГц, или в 10 миллионов раз быстрее наших нейронов. И внутренние коммуникации мозга, которые могут двигаться со скоростью 120 м/с, существенно уступают возможности компьютеров использовать оптику и скорость света.

Размер и хранение. Размер мозга ограничен размерами наших черепов, и он не может стать больше, в противном случае внутренним коммуникациям со скоростью 120 м/с потребуется слишком много времени, чтобы проходить от одной структуры к другой. Компьютеры могут расширяться до любого физического размера, задействовать больше оборудования, наращивать оперативную память, длительную память — все это выходит за рамки наших возможностей.

Надежность и долговечность. Не только память компьютера точнее человеческой. Компьютерные транзисторы точнее биологических нейронов и менее склонны к ухудшению (да и вообще, могут быть заменены или отремонтированы). Мозги людей быстрее устают, компьютеры же могут работать без остановки, 24 часа в сутки, 7 дней в неделю.

Программное обеспечение

Возможность редактирования, модернизации, более широкий спектр возможностей. В отличие от человеческого мозга, компьютерную программу можно легко исправить, обновить, провести эксперимент с ней. Модернизации могут также подвергаться зоны, в которых человеческие мозги слабы. Программное обеспечение человека, отвечающее за зрение, великолепно устроено, но с точки зрения инженерии его способности все же весьма ограничены — мы видим только в видимом спектре света.

Коллективная способность. Люди превосходят другие виды в плане грандиозного коллективного разума. Начиная с развития языка и формирования крупных сообществ, двигаясь через изобретения письма и печати и в настоящее время активизируясь с помощью таких инструментов, как интернет, коллективный разум людей является важной причиной, по которой мы можем величать себя венцом эволюции. Но компьютеры все равно будут лучше. Всемирная сеть искусственных интеллектов, работающих на одной программе, постоянно синхронизирующихся и саморазвивающихся, позволит мгновенно добавлять в базу новую информацию, где бы ее ни достали. Такая группа также сможет работать над одной целью, как одно целое, потому что компьютеры не страдают от наличия особого мнения, мотивации и личной заинтересованности, как люди.

ИИ, который, вероятнее всего, станет ОИИ посредством запрограммированного самосовершенствования, не увидит «интеллект человеческого уровня» как важную веху — эта веха важна только для нас. У него не будет никаких причин останавливаться на этом сомнительном уровне. А учитывая те преимущества, которыми будет обладать даже ОИИ человеческого уровня, довольно очевидно, что человеческий интеллект станет для него короткой вспышкой в гонке за превосходством в интеллектуальном плане.

Такое развитие событий может нас весьма и весьма удивить. Дело в том, что, с нашей точки зрения, а) единственный критерий, который позволяет нам определять качество интеллекта, это интеллект животных, который по умолчанию ниже нашего; б) для нас самые умные люди ВСЕГДА умнее самых глупых. Примерно так:

ИИ

То есть пока ИИ просто пытается достичь нашего уровня развития, мы видим, как он становится умнее, приближаясь к уровню животного. Когда он доберется до первого человеческого уровня — Ник Бостром использует термин «деревенский дурачок», — мы будем в восторге: «Ух ты, он уже как дебил. Круть!». Единственное но заключается в том, что в общем спектре интеллекта людей, от деревенского дурачка до Эйнштейна, диапазон невелик — поэтому после того, как ИИ доберется до уровня дурачка и станет ОИИ, он внезапно станет умнее Эйнштейна.

ИИ

И что будет дальше?

Взрыв интеллекта

Надеюсь, вам было интересно и весело, потому что именно с этого момента обсуждаемая нами тема становится ненормальной и жуткой. Нам стоит сделать паузу и напомнить себе, что каждый указанный выше и дальше факт — реальная наука и реальные прогнозы на будущее, высказанные самыми выдающимися мыслителями и учеными. Просто имейте в виду.

Итак, как мы обозначили выше, все наши современные модели по достижению ОИИ включают вариант, когда ИИ самосовершенствуется. И как только он становится ОИИ, даже системы и методы, с помощью которых он вырос, становятся достаточно умны, чтобы самосовершенствоваться — если захотят. Возникает интересное понятие: рекурсивное самосовершенствование. Работает оно примерно так.

Некая система ИИ на определенном уровне — скажем, деревенского дурачка — запрограммирована на улучшение собственного интеллекта. Развившись — скажем, до уровня Эйнштейна, — такая система начинает развиваться уже с интеллектом Эйнштейна, ей требуется меньше времени на развитие, а скачки происходят все большие. Они позволяют системе превзойти любого человека, становятся все больше и больше. По мере быстрого развития, ОИИ взмывает до небесных высот в своей интеллектуальности и становится сверхразумной системой ИСИ. Этот процесс называется взрывом интеллекта, и это ярчайший пример закона ускоряющейся отдачи.

Ученые спорят о том, как быстро ИИ достигнет уровня ОИИ — большинство считает, что ОИИ мы получим к 2040 году, всего через 25 лет, что очень и очень мало по меркам развития технологий. Продолжая логическую цепочку, нетрудно предположить, что переход от ОИИ к ИСИ тоже состоится крайне быстро. Примерно так:

«Потребовались десятки лет, прежде чем первая система ИИ достигла самого низкого уровня общего интеллекта, но это, наконец, произошло. Компьютер способен понимать мир вокруг как четырехлетний человек. Внезапно, буквально через час после достижения этой вехи, система выдает великую теорию физики, которая объединяет общую теорию относительности и квантовую механику, чего не может сделать ни один человек. Спустя полтора часа ИИ становится ИСИ, в 170 000 раз умнее любого человека».

Чтобы охарактеризовать сверхинтеллект такого масштаба, у нас даже не найдется подходящих терминов. В нашем мире «умный» означает человека с IQ 130, «глупый» — 85, но у нас нет примеров людей с IQ 12 952. Наши линейки на такое не рассчитаны.

История человечества говорит нам ясно и четко: вместе с интеллектом появляется власть и сила. Это значит, что когда мы создадим искусственный сверхинтеллект, он будет самым мощным созданием в истории жизни на Земле, и все живые существа, включая человека, будут всецело в его власти — и это может случиться уже через двадцать лет.

Если наши скудные мозги были в состоянии придумать Wi-Fi, то что-то умнее нас в сто, тысячу, миллиард раз с легкостью сможет рассчитать положение каждого атома во вселенной в любой момент времени. Все, что можно назвать магией, любая сила, которую приписывают всемогущему божеству, — все это будет в распоряжении ИСИ. Создание технологии, обращающей вспять старение, лечение любых болезней, избавление от голода и даже смерти, управление погодой — все внезапно станет возможным. Также возможен и моментальный конец всей жизни на Земле. Умнейшие люди нашей планеты сходятся во мнении, что как только в мире появится искусственный сверхинтеллект, это ознаменует появление бога на Земле. И остается важный вопрос.

Будет ли он добрым богом?

По материалам waitbutwhy.com, компиляция Тима Урбана. В статье использованы материалы работ Ника Бострома, Джеймса Баррата, Рэя Курцвейла, Джея Нильс-Нильссона, Стивена Пинкера, Вернора Винджа, Моше Варди, Расса Робертса, Стюарта Армстрога и Кая Сотала, Сюзан Шнайдер, Стюарта Рассела и Питера Норвига, Теодора Модиса, Гари Маркуса, Карла Шульмана, Джона Серля, Джарона Ланье, Билла Джоя, Кевина Кели, Пола Аллена, Стивена Хокинга, Курта Андерсена, Митча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Гринвальда, Джереми Говарда.

Искусственный интеллект. Часть первая: путь к сверхинтеллекту

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

204 комментария

  1. SuperStarSieve

    Сразу вначале:
    "возможно, искусственный интеллект — не просто важная тема для обсуждения, а самая важная в контексте будущего"
    Конечно! Создание жизни, разгадка тайны сознания и превосходство собственной природы! Что может быть важнее?!
    Кстати, интересно было бы провести опрос на hi-news с целью узнать, как много человек поддерживают создание ИИ, а кто против. :) (отправлено из iOS приложения Hi-News.ru)

    • LightCore

      Против. (отправлено из iOS приложения Hi-News.ru)

      • rainbringer

        К сожалению, это неизбежно. Технологический прогресс не остановить никакими морально-этическими, разумно-логическими или иными доводами. (отправлено из Android приложения Hi-News.ru)

        • LightCore

          Рейн, Вы знаете, я боюсь, что протест этот будет выражаться не в морально-этических доводах, а в банальной войне. (отправлено из iOS приложения Hi-News.ru)

          • SuperStarSieve

            То есть, вы против ИИ, но за людей, в чьей привычке по поводу и без развязывать войны там и тут? (отправлено из iOS приложения Hi-News.ru)

            • LightCore

              Ни в коем случае! Я категорический противник всякой войны. Я говорил, про вероятную войну между сторонниками и противниками ИСИ: найдется немало "свободномыслящих", которые непременно возьмут в руки вилы и с криками "Долой этих ботов" кинутся в бой. Если говорить кратко, то мне кажется что создания технологий подобного рода ничем хорошим для нас не закончится. Для меня остается загадкой зачем люди так упрямо продолжают исследовать ИИ, если они не уверены, что смогут полностью его контролировать? (отправлено из iOS приложения Hi-News.ru)

              • Rovolkov@mail.ru

                Вы упускаете из виду один факт - главное слово в словосочетании ИИ это Искусственный. Это программа , а как и любая программа она работает по четко заданному ( пускай и сверх сложному ) алгоритму. И если в этой программе будет своеобразный "кодекс помощи человечеству" то и проблем как таковых возникнуть не должно. (отправлено из iOS приложения Hi-News.ru)

                • SuperStarSieve

                  Все с точностью наоборот: главное слово в словосочетании ИИ - Интеллект. Так, ИИ - это свободно мыслящая независимая сущность, как человек. Люди просто хотят власти и не могут ей насытиться. (отправлено из iOS приложения Hi-News.ru)

                • Rambler

                  Человеком тоже управляют программы и алгоритмы(привычки, стереотипы и культурные установки). Другое дело когда будит создан ИИ такой же гибкий как человеческий.

              • myrima

                Ничего странного в упорстве человечества нет!!! мы всегда ставим перед собой цели, а если есть цель, она заставляет думать, находить решения, не дает уснуть в конце концов!!! такова природа человека!!! (отправлено из iOS приложения Hi-News.ru)

          • rainbringer

            Войне между кем и кем? Противниками ИИ против ученых? Против отдела Х Гугла? Лабораторий Микрософта? Университетов? Ведь разработки ИИ ведутся там и уже немалое время. Не против кого воевать... Только добиваться глобального запрета этих исследований в рамках законодательства ВО ВСЕХ СТРАНАХ МИРА. А этого, как всем очевидно, не произойдет никогда. (отправлено из Android приложения Hi-News.ru)

            • LightCore

              Да,но Гугл определенно будет заниматься такими исследованиями не для себя. А на продажу. И когда такой ИИ станет достоянием общественности, кто-то из энтузиастов (а такие постоянно находятся) непременно начнет использовать ИИ не по назначению....Я уже пытался доказать гипотетический вред подобного сценария в одной из смежных статей на эту же тему. Тогда мое мнения почти все восприняли так же категорично: "Ты че, типа дебил совсем?! ИИ это круть! А ты сраный параноик и аргументы твои- пшик!" (отправлено из iOS приложения Hi-News.ru)

              • rainbringer

                ИСИ не станет достоянием общественности никогда. Он будет достоянием самого себя и только. В этом и есть проблема непредсказуемости последствий. Но суть ИСИ,как описана в этой статье, отрицает саму возможность его использования в принципе. Так же, как одноклеточные не могут использовать нас. (отправлено из Android приложения Hi-News.ru)

                • LightCore

                  Оооооо....,насчет одноклеточных Вы глубоко заблуждаетесь, друг мой. Есть великое множество паразитарных форм существования этих тварей. Причем настолько незаметных для носителя, что невольно возникает чувство восхищения перед такими навыками на первый взгляд примитивнейшего создания. (отправлено из iOS приложения Hi-News.ru)

                • LightCore

                  Это я Вам как биолог говорю. (отправлено из iOS приложения Hi-News.ru)

                  • rainbringer

                    То есть, вся надежда, что мы займем роль таксоплазмы по отношению к ИСИ? :-) Потому что, со всем уважением к навыкам одноклеточных (а я их отнюдь не отрицаю), они не управляют нами в том смысле, в каком мы хотели бы управлять ИСИ. (отправлено из Android приложения Hi-News.ru)

                    • LightCore

                      Да уж... Мне помнится на повестке дня стоял вопрос о том, кто проголосует "за", а кто "против". Может кто-нибудь еще выскажется? А с Вами, Рейн, я бы с удовольствием обсудил этот вопрос в скайпе. Если Вам это интересно конечно) Неудобно тут... Тесно очень. (отправлено из iOS приложения Hi-News.ru)

                      • rainbringer

                        Пишите на distantrainbow, интересно )) (отправлено из Android приложения Hi-News.ru)

                      • Sergej Shegurin

                        Привет, LIGHTCORE!
                        Я полностью поддерживаю вашу точку зрения и тоже стараюсь вести большую работу в направлении обеспечения безопасности и дружественности ИИ.
                        Свяжитесь со мной пожалуйста. Мой скайп sergej_shegurin, почта schw90@mail.ru Эта просьба (связаться) относится ко всем, кто тоже заинтересован в безопасности ИИ.
                        Кстати, я профессионально занимаюсь исследованиями ИИ и мозга, и хорошо знаю статьи Юдковского, Ямпольского, Турчина по безопасности...

                • LightCore

                  Касательно того будет ли ИСИ принадлежать кому-нибудь из нас. Эту дилемму разрешает развернутый ответ Романа Воронова, чуть выше в комментариях.) (отправлено из iOS приложения Hi-News.ru)

                  • SuperStarSieve

                    Вы говорите о каком-то ИСИ-рабе. Вы вот сами считаете себя рабом правительства? (отправлено из iOS приложения Hi-News.ru)

                    • LightCore

                      Безусловно каждый из нас является в той или некоторой степени заключенным в рамки. Рамки эти определяются властью того клочка земли, где Вы живете. Так что....да, я вынужден соблюдать правила, установленные другими людьми. Дефинировать сие как рабство можно, но с натяжкой. (отправлено из iOS приложения Hi-News.ru)

                      • SuperStarSieve

                        Так вот представьте себе нечто, чему человек не указ, не угроза, не враг. Вы что, об ИИ судите, сравнивая с людьми? Какой смысл в создании ИИ, если он не будет лучше* нас? (отправлено из iOS приложения Hi-News.ru)

                        • LightCore

                          Понятие "лучше" все также относится к субъективной категории понятий. Что для одного- Бог, для другого Сатана. Да... и насчет смысла: я вообще не понимаю зачем нам ИИ такого уровня, который был описан в конце статьи. Что он такого сделает для нас? Возьмет под свое крыло? Это значит что он будет контролировать все и вся. Вам такое по душе?) Может он, своими идеями и концепциями толкнет человечество еще дальше по пути прогресса? Да, но опять же делится он будет с нами только тем, чем захочет поделится. Ну и в конце концов не забывайте, про банальное чувство достоинства, которое это божество у нас отнимет) (отправлено из iOS приложения Hi-News.ru)

                        • Rambler

                          Есть ли смысл в создании ИИ равного человеку интеллекту ? Лично я думаю что да. Процесс создания это процесс познания. Создав ИИ бы будим знать что из наших представлений об интеллекте верно, а что не верно (попутно мы получим ряд новых знаний об интеллекте и мышлении).

                • LightCore

                  Ой, сорри, Волкова. (отправлено из iOS приложения Hi-News.ru)

        • Rambler

          Я бы сказал иначе. Все что выгодно создать/использовать то будит создано/использовано.

          • SuperStarSieve

            Верно. Это, наверное, основной принцип потребительского общества. (отправлено из iOS приложения Hi-News.ru)

            • Rambler

              Это не совсем так. Есть разные представления о выгоде. Современное потребительское общество основано на не желании просчитывать следствия своих поступков на несколько шагов в перед.

    • andrgysev02

      Все-равно человечество вымрет... (отправлено из iOS приложения Hi-News.ru)

    • Rambler

      Еще не известно сможем ли мы создать ИСИ или нет, а узнать это можно только в процессе его создания.

    • RoJO

      Я за. Если ИИ будет подчинятся законам Айзека (отправлено из Android приложения Hi-News.ru)

  2. rainbringer

    Будет ли понятия доброты и зла, в принципе, применимо к этому богу? Вулкан злой или добрый? Интересен ли будет наш биологический вид этому богу? Если честно, я не понимаю, какой мы будем представлять для него интерес. Как для нас инфузория туфелька, а скорее всего, даже меньше. (отправлено из приложения Hi-News.ru)

    • Archer

      Наука приводит к рукотворному Богу. :)
      Бог создал человека, чтобы человек создал Бога. :)
      Наука - сестра Религии!
      ...
      В научно-техническом прогрессе заложена тяга к чудесам,, к магии, к способности творить. Это нормально. Это нельзя изменить. Это в нашей природе. Даже если бы наша цивилизация в какой-то момент времени выбрала не технический способ развития, а духовный, то конечный результат был бы примерно такой же...

      • SuperStarSieve

        Я об этом писал тут в комментариях к одной из статей недавно. Ф. Типлер называет это "Точкой Омега". Почитайте. :) (отправлено из iOS приложения Hi-News.ru)

      • Kvant

        Так и есть. Люди раньше развивались духовно - верили в чудеса.
        Сейчас все иначе... Сейчас люди развиваются, по другому. На первом месте - наука.

    • Rovolkov@mail.ru

      Если он будет относится к нам как мы относимся к нашим родителям , которые не так умны в определенных областях как мы , то может он будет не так груб как вы говорите ?)

      • rainbringer

        Мы на это можем только уповать :-) (отправлено из Android приложения Hi-News.ru)

      • Archer

        Анализ действия всех мифических (в том числе и библейских) Богов говорит нам о том, что их мораль существенно отличается от человеческой.
        СИИ (а это ИИ уровня Бога) будет иметь иную мораль, не похожую на то, что привычно нам. (отправлено из iOS приложения Hi-News.ru)

  3. Z1

    Единственный шанс остаться на плаву после сингулярности - это тотальная киборгизация человечества. Апгрейдить мозги нейрочипами...
    На мой взгляд - эта отрасль исследований должна стать не менее важной чем собственно развитие ИИ (которое будет в любом случае, хотим мы того или нет... ибо технический прогресс не остановить).

    • SuperStarSieve

      Согласен. Я считаю, что киборгизации должно отдаваться даже большее внимание и большие суммы денег должны инвестироваться в эту отрасль. Мы сами станем машинами - только так сможем сравняться с ИИ. И это прекрасное будущее! (отправлено из iOS приложения Hi-News.ru)

      • badpandagu

        а не станет ли в таком случае ИСИ воспринимать людей как потенциальную угрозу своему существованию?и да начнётся война :О

        • SuperStarSieve

          Какую угрозу? Нет смысла в войне. Не могу понять: действительно ли люди настолько эгоистичны и боятся потерять свое интеллектуальное лидерство, что готовы кого угодно врагом сделать? (отправлено из iOS приложения Hi-News.ru)

          • badpandagu

            а где я указал, что люди начнут войну? Оо люди в данном случае наоборот могут быть восприняты как паразиты, вирус (да да,это звучит банально)

            • SuperStarSieve

              Не-не, простите, я не все вам адресовал :). Просто я как бы в принципе задаюсь таким вопросом. Неужели люди, ставящие себя выше других существ, могут быть жестокими, эгоистичными, мерзкими трусливыми тварями, способными спуститься до самых низов морали, чтобы противостоять облику, созданному предрассудками самих людей, образованных ... не понятно чем? Может люди склонны верить романам-антиутопиям или фантастическим фильмам? (отправлено из iOS приложения Hi-News.ru)

    • Lazer

      Прям мои мысли озвучил.

  4. rainbringer

    Огромное место автору за необычайно увлекательную статью! (отправлено из приложения Hi-News.ru)

  5. santilla11

    hi-news ! Самая лучшая Вы во всем правы!
    Я знаю и уверен в том что о технологической сингулярности мы первые узнаем от вас!

  6. denn

    Когда нибудь человек, эволюционирует до машин! (отправлено из iOS приложения Hi-News.ru)

  7. badpandagu

    огромное Спасибо автору!одна из самых интересных статей, которые я читал за последнее время) жаль на работе отключена всевозможная анимация, включая картинки, приду домой - ещё раз перечитаю, но погрузившись глубже...в общем,жду продолжения!

  8. Archer

    Было бы правильным добавить возможность использовать Голосовалку на страницах этого сайта. (отправлено из iOS приложения Hi-News.ru)

  9. numealand

    Сингулярность уже близко) И это радует)

  10. santilla11

    Сингулярность приходит плавно! Только подумайте о 3д печати через 10 лет, о мощности смартфонов, о компьютерах с постоянно увеличивающей мощностью. А компьютеры в каждом доме и в каждой фирме! Где есть компьютеры, там и будет скачок производительности. А это будет во всех сферах. Наука. Образования. Медецина. Это лишь верхушка! (отправлено из iOS приложения Hi-News.ru)

  11. tarkit

    Отличная статья! Очень информативная и если б не начальные утомительные примеры с перемещением бедных людей сквозь время - была бы идеальной статьей!
    Что касаемо ИИ и будущего:
    Мое мнение следующее. Нам не необходим ИИ, а это значит что в скором времени он появится, ведь человечество уже находится в том временном и техногенном отрезке своей истоии, когда новые технологии появляются не из за необходимости, а по прихоти, на слабо, из за интереса и только.
    Последствий у таких открытий и изменений вызванных ими может быть масса. Как негативных так и вполне себе полезных.
    НО, ИИ в том широком понимании что мы ему сами создали с помощью научной фантастики разных жанров - крайне опасная штука.
    И самое главное что извечный человеческий фактор который обязательно допустит ошибку и даст закрытому ИИ доступ в сеть сам и положет начало образованию катастрофических последствий.
    Здесь есть одно исключение: вся надежда на очень грамотных програмистов,юристов, и психологов, которые смогли бы либо внести в ИИ некие правила которые оно не будет в силах изменить или переписать, либо заложить изначально в ИИ большое количество поведенческих ошибок что приведет его к той же человеческой логике саморазрушения и главное - моральным ограничениям.
    Но парадокс будет заключаться в том, что таким образом Искуственный Интелект станет Цифровым Человеческим подобием(если можно так назвать) и это уже будет не просто программа, а возможно нечто живое, с чувствами и страхами.

  12. myrima

    ИИ развивать нужно! бояться его думаю пока рано!
    проблема ИИ в том, что каким бы он умным не был он не сможет существовать без МОТИВАЦИИ ЦЕЛИ ЛЮБОПЫТСТВА ПОТРЕБНОСТЕЙ и прочих моментов! а чтоб они появились у ИИ он должен иметь как минимум самосознание и желание существовать ( будет ли ему интересно это вообще )

    А фантазирующим на эту тему, для начала советую подумать вот над такой задачкой

    Представьте что ваше сознание( все воспоминания знания и т п) загрузили в умный компьютер, а вас усыпили, и когда включат компьютер будет ли ваше я находится там? БОЛЬШОЙ ВОПРОС???

    И для того что б ИИ начал угрожать человеку он должен иметь самосознание !!! а до этого я думаю еще далеко!!! (отправлено из iOS приложения Hi-News.ru)

    • LovetsVetra

      Очень точно подмечено. Я позволю себе развить мысль.

      Все почему-то делают акцент на уровень интеллекта, даже смешат некими IQ-графиками. Но что такое «интеллект»? Это и ум, и эмоции (если на самом деле можно чётко разграничить их), которые одинаково важны, именно их синергия рождает Сознание. Дуализм присутствует во всём, что нас окружает в той или иной степени, но именно в мозге его роль становится определяющей.

      Кто-то сравнивает создание настоящего ИИ с созданием бога, но захочет ли человечества отдать роль бога кому-то другому, а не взять всё себе? Мне почему-то кажется, что не получится симулировать в железе самосознание, не получится создать из суперумного раба самостоятельное существо, но вот если удастся слить человека и машину, то и отпадут все вопросы про превосходство и богов, про опасности и моральные преграды, ведь человек просто перейдёт на новую ступень развития. Все эти игрушечные УИИ не шаг в сторону создания ОИИ, а в сторону информационной модификации человека (все эти смартфоны уже заметно меняют нашу жизнь, но могут ли они стать ступенькой к созданию искусственной жизни?..)

      Если многие видят этот скачок мгновенным и близким, то я так не считаю, а все эти обобщающие ненауные графики сингулярности лишь отвлекают. Сейчас прогресс идёт, не видя заметного сопротивления, но для совершения скачка могут потребоваться невероятные усилия, как если бы мы двигались и разгонялись по равнине, но встретили горы, а чтобы их перемахнуть нужно как минимум построить самолёт. Или ещё одна метафора: одно дело тратить небольшую энергию на нагрев воды, но другое потратить значительное её количество лишь на испарение без нагрева. Я лишь хочу сказать, что, смотря в будущее лишь с оптимизмом, к истине не прийти, а нужно уравновесить этот взгляд скепсисом, что увидеть хоть что-то реальное.

      Но стоит вернуться к дуализму вещей, а значит и к дуализму прогресса. Я не думаю, что в какой-то ближайшей перспективе, как тут многие проповедую, удаться создать вечное искусственное тело и перенести туда наш разум, обойдясь лишь неорганической материей, повторить жизнь. Вначале надо генетически модифицировать своё тело: думается, что не такая уж сложная задача сделаться умнее (правильно перетасовать геном) и долговечнее (удлинить теломеры, и усовершенствовать протеом), а параллельно создавать интерфейсы для навешивания электроники на это улучшенное и готовое к этому тело. И хотя я верю в генетику несколько больше, чем в информационные технологии, но ещё больше верю в синергетические возможности, которые может дать слитие живого и неживого.

  13. myrima

    Насчет прописывания кодексов и правил в саморазвивающийся ИИ это полнейшая глупость с которой он расправиться в момент !!! Любая система взламывается не зависимо от качества защиты!!! возможно квантовые технологии исправят эту проблему!!! (отправлено из iOS приложения Hi-News.ru)

    • Lazer

      В точку. Лучше человечеству перестраховаться и модернизировать себя (я про бионику), тогда никаких страхов перед вышедшим из под контроля ии, не будет.

      • myrima

        С бионикой мне кажется даже по сложнее будет, потому что, чем дальше лезут ученные тем больше вопросов! мы даже не понимаем кто такие вирусы? (отправлено из iOS приложения Hi-News.ru)

        • SuperStarSieve

          Это и не живые, и не мертвые... :) (отправлено из iOS приложения Hi-News.ru)

          • myrima

            Тайная вселенная путешествие внутри клетки, посмотри если не смотрел! про атаку вируса на клетки (отправлено из iOS приложения Hi-News.ru)

            • SuperStarSieve

              Хорошо. Кстати, как вы считаете, к 2045 мы не станем киборгами? (отправлено из iOS приложения Hi-News.ru)

              • myrima

                Я лично не планирую, киборгами в первую очередь станут люди с ограниченными возможностями и военные, вообще была бы моя воля направил бы людей ближе к природе, но уже поздно, мы все дальше уходим в в виртуальную реальность, фильм суррогаты очень похож на правду (отправлено из iOS приложения Hi-News.ru)

                • kaeban222

                  В первую очередь киборгами станут люди с толстыми кошельками.

                • SuperStarSieve

                  А что природа? Она не может дать нам то, что мы можем взять сами. Природа натуральность не превзойдет синтетичность. Впрочем, теперь технологии - это часть нашей природы. Вы ждете смерть? (отправлено из iOS приложения Hi-News.ru)

                  • myrima

                    Понятие природа в моем понимании очень широкое от мельчайших частиц до всей вселенной, превзойти природу даже в менее широком диапазоне мы пока не можем( есть конечно некоторые успехи в этом - но они ничтожны) говоря быть ближе к природе имеется ввиду жить в гармонии с ней, а нам осталось вырубить все леса, засрать всю воду и воздух и стать киборгами, вот к чему ведут наши технологии. (отправлено из приложения Hi-News.ru)

                  • myrima

                    Не совсем понял вопрос про смерть? как её можно ждать? (отправлено из приложения Hi-News.ru)

  14. Sacred_oleg

    Илья, спасибо за статью. Не знаю, переведена она, или написана Вами, но в любом случае, статья разительно отличается от ваших предыдущих творений.
    Снимаю шляпу. (отправлено из iOS приложения Hi-News.ru)

  15. 1_l0V3_CP

    Понравилась статья. Ждём Бога.

  16. vihor1

    Главная разница между ч.и. и и.и. - человек склонен упрощать задачу, для лучшего понимания и быстрейшего её решения.
    Мы не умеем держать в уме множество факторов и фактов, выбираем главные (по нашему мнению) и принимаем решение на этой основе, игнорируя остальные, о которых мы мало знаем или не можем полностью понять их важность при принятии решения.
    Кто умеет играть на рояле десятью пальцами? Много таких? А ведь это только примитивное управление десятью элементами.
    А если требуется осмысление одновременно ста факторов, тысячи?
    Мы начнём упрощать, подгоняя решение под наши способности понять его результат.
    Потому мы скорее всего не сможем оценить верно правильность решения принятого И.И.
    Решение почти наверняка будет отличаться от ожидаемого, ибо учтёт такое количество дополнительных факторов, которое мы осознать не в состоянии.
    Останется слепо верить.
    Как в Бога...

  17. BOBAH

    И не забудте сделать большой красный рубильник, чтобы вырубить ваш супер ИИ , когда он сойдет с ума, задымятся его мозги постигая истинного Бога. Придется опять сесть и подумать напрячь свои родные серые клеточки, где же я опять ошибся.
    Забыли про Вавилонскую башню ,которая рухнула на головы людишек возомнивших себе , что они стали подобны Богу , создавшему Вселенную и самого Человека.

  18. BOBAH

    Настоящий Бог раздавит вашего божка , в момент если , что то пойдёт не по плану задуманного Высшим Началом.

    • Rambler

      Если хотите обсуждать веру в бога то идите на какой нибудь религиозный сайт.

      • BOBAH

        Да Бог с Богом----материя сама соорганизовалась благодаря законам природы и получился человек , если угодно.

        • Rambler

          Тема обсуждения ИИ а не религия. И прошу вас не флудить. Если есть конкретные замечания по теме то я вас выслушаю.

          • BOBAH

            ну вот сразу флудить, Вот по теме ---ИИ не решит проблем, а создаст еще больше печалей.

    • SuperStarSieve

      Бог, ваш, в которого веруете, - всего лишь человекобог и не имеет с его концепцией никакой реальной силы, власти или чего либо еще. Он жив, пока жива ваша вера и фантазия. (отправлено из iOS приложения Hi-News.ru)

  19. Atey

    Вот, что мне всегда было интересно. Ученые бредят созданием ИИ. Для чего и зачем - не суть важно. Но для создания ИИ за основу подражания берется человеческий мозг, и он же по признанию ученых - совершенен. И если созданный по подобию человеческого мозга ИСИ признается БОГОМ с супер-способностями, то почему никто не задумался, что основа, совершенный человеческий мозг точно также должен давать возможности бога, как у ИСИ (и даже больше)? Человеку дан совершенный интерфейс для взаимодействия с реальностью (даже, вероятнее, для создания реальности), но вот что делает человек? Человек ждёт попкорн. (отправлено из Android приложения Hi-News.ru)

    • myrima

      Ученные пытаются повторить, а потом обязательно улучшить! и даже если повторят это буден усовершенствованная модель мозга, так что сравнение неудачное! (отправлено из iOS приложения Hi-News.ru)

  20. vihor1

    Строители вавилонской башни, пали жертвой технической и астрономической неграмотности.
    Некому было расчитать прочностные характеристики высотного сооружения и усталость материалов нижних этажей при огромном давлении сверху.
    Да и допущение мысли о небесной тверди, по которой ходят боги и приколочены звёзды, делало задачу заранее невыполнимой.
    А свалить неудачу проще всего на месть богов.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.