Искусственный интеллект. Часть вторая: вымирание или бессмертие?

31 946 просмотров
Об авторе

Искусственный интеллект

Перед вами вторая часть статьи из серии «Подождите, как это все может быть реальностью, почему до сих пор об этом не говорят на каждом углу». В предыдущей серии стало известно, что к людям планеты Земля постепенно подкрадывается взрыв интеллекта, он пытается развиться из узконаправленного до общечеловеческого интеллекта и, наконец, искусственного сверхинтеллекта.

«Возможно, перед нами лежит чрезвычайно сложная проблема, и неизвестно, сколько времени отведено на ее решение, однако от ее решения может зависеть будущее человечества». — Ник Бостром.

Первая часть статьи началась довольно невинно. Мы обсудили узконаправленный искусственный интеллект (УИИ, который специализируется на решении одной конкретной задачи вроде определения маршрутов или игры в шахматы), в нашем мире его много. Затем проанализировали, почему так сложно вырастить из УИИ общенаправленный искусственный интеллект (ОИИ, или ИИ, который по интеллектуальным возможностям может сравниться с человеком в решении любой задачи). Мы пришли к выводу, что экспоненциальные темпы технического прогресса намекают на то, что ОИИ может появиться довольно скоро. В конце концов мы решили, что как только машины достигнут человеческого уровня интеллекта, может тут же произойти следующее:

Поезд

Поезд

Поезд

Поезд

Как обычно, мы смотрим на экран, не веря в то, что искусственный сверхинтеллект (ИСИ, который намного умнее любого человека) может появиться уже при нашей жизни, и подбирая эмоции, которые лучше всего бы отражали наше мнение по этому вопросу.

Прежде чем мы углубимся в особенности ИСИ, давайте напомним себе, что значит для машины быть сверхразумной.

Основное различие лежит между быстрым сверхинтеллектом и качественным сверхинтеллектом. Зачастую первое, что приходит в голову при мысли о сверхразумном компьютере, это то, что он может думать намного быстрее человека — в миллионы раз быстрее, и за пять минут постигнет то, на что человеку потребовалось бы лет десять. («Я знаю кунг-фу!»)

Звучит впечатляюще, и ИСИ действительно должен мыслить быстрее любого из людей — но основная отделяющая черта будет заключаться в качестве его интеллекта, а это совсем другое. Люди намного умнее обезьян не потому, что быстрее соображают, а потому что мозги людей содержат ряд хитроумных когнитивных модулей, которые осуществляют сложные лингвистические репрезентации, долгосрочное планирование, абстрактное мышление, на что обезьяны не способны. Если разогнать мозг обезьяны в тысячу раз, умнее нас она не станет — даже через десять лет она не сможет собрать конструктор по инструкции, на что человеку понадобилось бы пару часов максимум. Есть вещи, которым обезьяна никогда не научится, вне зависимости от того, сколько часов потратит или как быстро будет работать ее мозг.

Кроме того, обезьяна не умеет по-человечески, потому что ее мозг просто не в состоянии осознать существование других миров — обезьяна может знать, что такое человек и что такое небоскреб, но никогда не поймет, что небоскреб был построен людьми. В ее мире все принадлежит природе, и макака не только не может построить небоскреб, но и понять, что его вообще может кто-либо построить. И это результат небольшой разницы в качестве интеллекта.

В общей схеме интеллекта, о которой мы говорим, или просто по меркам биологических существ, разница в качестве интеллекта человека и обезьяны крошечная. В предыдущей статье мы разместили биологические когнитивные способности на лесенке:

Лестница

Чтобы понять, насколько серьезной будет сверхразумная машина, поместите ее на две ступеньки выше, чем человек на этой лестнице. Эта машина может быть сверхразумной совсем чуть-чуть, но ее превосходство над нашими познавательными способностями будет такое же, как наше — над обезьяньими. И как шимпанзе никогда не постигнет, что небоскреб может быть построен, мы можем никогда не понять того, что поймет машина на пару ступенек выше, даже если машина попытается объяснить это нам. А ведь это всего пара ступенек. Машина поумнее увидит в нас муравьев — она будет годами учить нас простейшим с ее позиции вещам, и эти попытки будут совершенно безнадежными.

Тип сверхинтеллекта, о котором мы поговорим сегодня, лежит далеко за пределами этой лестницы. Это взрыв интеллекта — когда чем умнее становится машина, тем быстрее она может увеличивать собственный интеллект, постепенно наращивая обороты. Такой машине могут понадобиться годы, чтобы превзойти шимпанзе в интеллекте, но, возможно, пару часов, чтобы превзойти нас на пару ступенек. С этого момента машина может уже перепрыгивать через четыре ступеньки каждую секунду. Именно поэтому нам стоит понять, что очень скоро после того, как появятся первые новости о том, что машина достигла уровня человеческого интеллекта, мы можем столкнуться с реальностью сосуществования на Земле с чем-то, что будет гораздо выше нас на этой лестнице (а может, и в миллионы раз выше):

Лестница

И раз уж мы установили, что совершенно бесполезно пытаться понять мощь машины, которая всего на две ступеньки выше нас, давайте определим раз и навсегда, что нет никакого способа понять, что будет делать ИСИ и какими будут последствия этого для нас. Любой, кто заявляет о противоположном, просто не понимает, что означает сверхинтеллект.

Эволюция медленно и постепенно развивала биологический мозг на протяжении сотен миллионов лет, и если люди создадут машину со сверхинтеллектом, в некотором смысле мы превзойдем эволюцию. Или же это будет частью эволюции — возможно, эволюция так и действует, что интеллект развивается постепенно, пока не достигнет переломного момента, предвещающего новое будущее для всех живых существ:

Переломный момент

По причинам, которые мы обсудим позже, огромная часть научного сообщества считает, что вопрос не в том, доберемся ли мы до этого переломного момента, а когда.

Где мы окажемся после этого?

Думаю, никто в этом мире, ни я, ни вы, не сможет сказать, что случится, когда мы достигнем переломного момента. Оксфордский философ и ведущий теоретик ИИ Ник Бостром считает, что мы можем свести все возможные результаты к двум большим категориям.

Во-первых, глядя на историю, мы знаем о жизни следующее: виды появляются, существуют определенное время, а затем неизбежно падают с бревна жизненного баланса и вымирают.

Бревно

«Все виды вымирают» было таким же надежным правилом в истории, как и «все люди когда-нибудь умирают». 99,9% видов упали с жизненного бревна, и совершенно очевидно, что если некоторый вид держится на этом бревне слишком долго, порыв природного ветра или внезапный астероид перевернет это бревно. Бостром называет вымирание состоянием аттрактора — места, на котором все виды балансируют, чтобы не упасть туда, откуда не вернулся пока ни один вид.

И хотя большинство ученых признают, что у ИСИ будет возможность обречь людей на вымирание, многие также верят, что использование возможностей ИСИ позволит отдельным людям (и виду в целом) достичь второго состояния аттрактора — видового бессмертия. Бостром считает, что бессмертие вида такой же аттрактор, как и вымирание видов, то есть, если мы доберемся до этого, мы будем обречены на вечное существование. Таким образом, даже если все виды до текущего дня падали с этой палки в омут вымирания, Бостром считает, что у бревна есть две стороны, и просто не появился на Земле такой интеллект, который поймет, как упасть на другую сторону.

Бревно

Если Бостром и другие правы, а, судя по всей доступной нам информации, они вполне могут таковыми быть, нам нужно принять два весьма шокирующих факта:

  1. Появление ИСИ впервые в истории откроет возможность для вида достичь бессмертия и выпасть из фатального цикла вымирания.
  2. Появление ИСИ окажет настолько невообразимо огромное влияние, что, скорее всего, столкнет человечество с этого бревна в одну или другую сторону.

Вполне возможно, что когда эволюция достигает такого переломного момента, она всегда ставит точку в отношениях людей с потоком жизни и создает новый мир, с людьми или без.

Отсюда вытекает один интересный вопрос, который только лентяй не задал бы: когда мы доберемся до этого переломного момента и куда он нас определит? Никто в мире не знает ответа на этот двойной вопрос, но очень много умных людей десятилетиями пытались это понять. Оставшуюся часть статьи мы будем выяснять, к чему они пришли.

* * *

Начнем с первой части этого вопрос: когда мы должны достичь переломного момента? Другими словами: сколько осталось времени до тех пор, пока первая машина не достигнет сверхинтеллекта?

Мнения разнятся от случая к случаю. Многие, среди которых профессор Вернор Виндж, ученый Бен Герцель, соучредитель Sun Microsystems Билл Джой, футуролог Рэй Курцвейл, согласились с экспертом в области машинного обучения Джереми Говардом, когда он представил на TED Talk следующий график:

График Говарда

Эти люди разделяют мнение, что ИСИ появится скоро — этот экспоненциальный рост, который сегодня кажется нам медленным, буквально взорвется в ближайшие несколько десятилетий.

Другие вроде соучредителя Microsoft Пола Аллена, психолога исследований Гари Маркуса, компьютерного эксперта Эрнеста Дэвиса и технопредпринимателя Митча Капора считают, что мыслители вроде Курцвейла серьезно недооценивают масштабы проблемы, и думают, что мы не так-то и близки к переломному моменту.

Лагерь Курцвейла возражает, что единственная недооценка, которая имеет место, — это игнорирование экспоненциального роста, и можно сравнить сомневающихся с теми, кто смотрел на медленно расцветающий интернет в 1985 году и утверждал, что он не будет иметь влияния на мир в ближайшем будущем.

«Сомневающиеся» могут парировать, мол, что прогрессу сложнее делать каждый последующий шаг, когда дело доходит до экспоненциального развития интеллекта, что нивелирует типичную экспоненциальную природу технологического прогресса. И так далее.

Третий лагерь, в котором находится Ник Бостром, не согласен ни с первыми, ни со вторыми, утверждая, что а) все это абсолютно может произойти в ближайшем будущем; и б) нет никаких гарантий в том, что это произойдет вообще или потребует больше времени.

Другие же вроде философа Хьюберта Дрейфуса считают, что все эти три группы наивно полагают, что переломный момент вообще будет, а также что, скорее всего, мы никогда не доберемся до ИСИ.

Что получается, когда мы складываем все эти мнения вместе?

В 2013 году Бостром провел опрос, в котором опросил сотни экспертов в сфере искусственного интеллекта в ходе ряда конференций на следующую тему: «Каков будет ваш прогноз по достижению ОИИ человеческого уровня?» и попросил назвать оптимистичный год (в который мы будем иметь ОИИ с 10-процентным шансом), реалистичное предположение (год, в который у нас с 50-процентной вероятностью будет ОИИ) и уверенное предположение (самый ранний год, в который ОИИ появится с 90-процентной вероятностью). Вот результаты:

  • Средний оптимистичный год (10%): 2022
  • Средний реалистичный год (50%): 2040
  • Средний пессимистичный год (90%): 2075

Среднестатистические опрошенные считают, что через 25 лет мы скорее будем иметь ОИИ, чем нет. 90-процентная вероятность появления ОИИ к 2075 году означает, что если вы сейчас еще довольно молоды, это наверняка произойдет при вашей жизни.

Отдельное исследование, проведенное недавно Джеймсом Барратом (автором нашумевшей и очень хорошей книги «Наше последнее изобретение», отрывки из которой я представлял вниманию читателей Hi-News.ru) и Беном Герцелем на ежегодной конференции, посвященной ОИИ, AGI Conference, просто показало мнения людей относительно года, в который мы доберемся до ОИИ: к 2030, 2050, 2100, позже или никогда. Вот результаты:

  • К 2030: 42% респондентов
  • К 2050: 25%
  • К 2100: 20%
  • После 2100: 10%
  • Никогда: 2%

Похоже на результаты Бострома. В опросе Баррата, более двух третей опрошенных считают, что ОИИ будет здесь к 2050 году, и менее половины считают, что ОИИ появится в ближайшие 15 лет. Также бросается в глаза то, что только 2% опрошенных в принципе не видят ОИИ в нашем будущем.

Но ОИИ — это не переломный момент, как ИСИ. Когда, по мнению экспертов, у нас будет ИСИ?

Бостром опросил экспертов, когда мы достигнем ИСИ: а) через два года после достижения ОИИ (то есть почти мгновенно вследствие взрыва интеллекта); б) через 30 лет. Результаты?

Среднее мнение сложилось так, что быстрый переход от ОИИ к ИСИ произойдет с 10-процентной вероятностью, но через 30 лет или меньше он произойдет с 75-процентной вероятностью.

Из этих данных мы не знаем, какую дату респонденты назвали бы 50-процентным шансом появления ИСИ, но на основе двух ответов выше давайте допустим, что это 20 лет. То есть ведущие мировые эксперты из области ИИ считают, что переломный момент настанет в 2060 году (ОИИ появится в 2040 году + понадобится лет 20 на переход от ОИИ к ИСИ).

Хронология

Конечно, все вышеперечисленные статистики являются спекулятивными и просто представляют мнение экспертов в сфере искусственного интеллекта, но они также указывают, что большинство заинтересованных людей сходятся в том, что к 2060 году ИСИ, скорее всего, должен прибыть. Всего через 45 лет.

Перейдем ко второму вопросу. Когда мы дойдем до переломного момента, по какую сторону фатального выбора нас определит?

Сверхинтеллект будет обладать мощнейшей силой, и критическим вопросом для нас будет следующий:

Кто или что будет контролировать эту силу и какой будет его мотивация?

Ответ на этот вопрос будет зависеть от того, получит ИСИ невероятно мощное развитие, неизмеримо ужасающее развитие или что-то между этими двумя вариантами.

Конечно, сообщество экспертов пытается ответить и на эти вопросы. Опрос Бострома проанализировал вероятность возможных последствий влияния ОИИ на человечество, и выяснилось, что с 52-процентным шансом все пройдет очень хорошо и с 31-процентным шансом все пройдет либо плохо, либо крайне плохо. Опрос, прикрепленный в конце предыдущей части этой темы, проведенный среди вас, дорогие читатели Hi-News, показал примерно такие же результаты. Для относительно нейтрального исхода вероятность составила только 17%. Другими словами, мы все считаем, что появление ОИИ станет грандиозным событием. Также стоит отметить, что этот опрос касается появления ОИИ — в случае с ИСИ, процент нейтральности будет ниже.

Прежде чем мы углубимся еще дальше в рассуждения о плохой и хорошей сторонах вопроса, давайте объединим обе части вопроса — «когда это произойдет?» и «хорошо это или плохо?» в таблицу, которая охватывает взгляды большинства экспертов.

Таблица

О главном лагере мы поговорим через минуту, но сначала определитесь со своей позицией. Скорее всего, вы находитесь там же, где и я, до того как стал заниматься этой темой. Есть несколько причин, по которым люди вообще не думают на эту тему:

  • Как уже упоминалось в первой части, фильмы серьезно запутали людей и факты, представляя нереалистичные сценарии с искусственным интеллектом, которые привели к тому, что мы вообще не должны воспринимать ИИ всерьез. Джеймс Баррат сравнил эту ситуацию с тем, как если бы Центры по контролю заболеваний выпустили серьезное предупреждение о вампирах в нашем будущем.
  • Из-за так называемых когнитивных предубеждений нам очень трудно поверить в реальность чего-то, пока у нас нет доказательств. Можно уверенно представить компьютерщиков 1988 года, которые регулярно обсуждали далеко идущие последствия появления интернета и чем он мог стать, но люди едва ли верили, что он изменит их жизнь, пока этого не случилось на самом деле. Просто компьютеры не умели делать этого в 1988 году, и люди просто смотрели на свои компьютеры и думали: «Серьезно? Это то, что изменит мир?». Их воображение было ограничено тем, чему их научил личный опыт, они знали, что такое компьютер, и было сложно представить, на что компьютер станет способным в будущем. То же самое происходит сейчас с ИИ. Мы слышали, что он станет серьезной штукой, но поскольку пока не столкнулись с ним лицом к лицу и в целом наблюдаем довольно слабые проявления ИИ в нашем современном мире, нам довольно трудно поверить, что он кардинально изменит нашу жизнь. Именно против этих предубеждений выступают многочисленные эксперты из всех лагерей, а также заинтересованные люди: пытаются привлечь наше внимание сквозь шум повседневного коллективного эгоцентризма.
  • Даже если бы мы поверили во все это — сколько раз вы сегодня задумывались о том факте, что проведете остаток вечности в небытии? Немного, согласитесь. Даже если этот факт намного важнее всего, чем вы занимаетесь изо дня в день. Все потому, что наши мозги обычно сосредоточены на небольших повседневных вещах, вне зависимости от того, насколько бредовой будет долгосрочная ситуация, в которой мы оказались. Просто мы так устроены.

Одна из целей настоящей статьи — вывести вас из лагеря под названием «Мне нравится думать о других вещах» и поместить в лагерь экспертов, даже если вы просто стоите на распутье между двумя пунктирными линиями на квадрате выше, будучи полностью неопределившимися.

В ходе исследований становится очевидно, что мнения большинства людей быстро уходят в сторону «главного лагеря», а три четверти экспертов попадают в два подлагеря в главном лагере.

Таблица

Мы полностью посетим оба этих лагеря. Давайте начнем с веселого.

Почему будущее может быть нашей величайшей мечтой?

По мере того, как мы изучаем мир ИИ, мы обнаруживаем на удивление много людей в зоне комфорта. Люди в правом верхнем квадрате гудят от волнения. Они считают, что мы упадем по хорошую сторону бревна, а также уверены, что мы неизбежно к этому придем. Для них будущее — это все только самое лучшее, о чем только можно мечтать.

Пункт, который отличает этих людей от других мыслителей, состоит не в том, что они хотят оказаться на счастливой стороне — а в том, что они уверены, что нас ждет именно она.

Эта уверенность выходит из споров. Критики считают, что она исходит от ослепительного волнения, которое затмевает потенциальные негативные стороны. Но сторонники говорят, что мрачные прогнозы всегда наивны; технологии продолжают и всегда будут помогать нам больше, чем вредить.

Вы вправе выбрать любое из этих мнений, но отложите скептицизм и хорошенько взгляните на счастливую сторону бревна баланса, попытавшись принять тот факт, что все, о чем вы читаете, возможно, уже произошло. Если бы вы показали охотникам-собирателям наш мир уюта, технологий и бесконечного изобилия, им он показался бы волшебным вымыслом — а мы ведем себя достаточно скромно, не в силах допустить, что такая же непостижимая трансформация ждет нас в будущем.

Ник Бостром описывает три пути, по которым может пойти сверхразумная система искусственного интеллекта:

  • Оракул, который может ответить на любой точно поставленный вопрос, включая сложные вопросы, на которые люди не могут ответить — к примеру, «как сделать автомобильный двигатель более эффективным?». Google — примитивный тип «оракула».
  • Джинн, который выполнит любую команду высокого уровня — использует молекулярный ассемблер, чтобы создать новую, более эффективную версию автомобильного двигателя — и будет ждать следующей команды.
  • Суверен, который получит широкий доступ и возможность свободно функционировать в мире, принимая собственные решения и улучшая процесс. Он изобретет более дешевый, быстрый и безопасный способ частного передвижения, нежели автомобиль.

Эти вопросы и задачи, которые кажутся сложными для нас, покажутся сверхразумной системе будто кто-то попросил улучшить ситуацию «у меня карандаш упал со стола», в которой вы просто подняли бы его и положили обратно.

Элиэзер Юдковский, американский специалист по искусственному интеллект, хорошо подметил:

«Сложных проблем не существует, только проблемы, которые сложны для определенного уровня интеллекта. Перейти на ступеньку выше (в плане интеллекта), и некоторые проблемы внезапно из разряда «невозможных» перейдут в стан «очевидных». Еще на ступеньку выше — и все они станут очевидными».

Есть много нетерпеливых ученых, изобретателей и предпринимателей, которые на нашей таблице выбрали себе зону уверенного комфорта, но для прогулки к лучшему в этом лучшем из миров нам нужен только один гид.

Рэй Курцвейл вызывает двоякие ощущения. Некоторые боготворят его идеи, некоторые презирают. Некоторые держатся посередке — Дуглас Хофштадтер, обсуждая идеи книг Курцвейла, красноречиво подметил, что «это как если бы вы взяли много хорошей еды и немного собачьих какашек, а затем смешали все так, что невозможно понять, что хорошо, а что плохо».

Нравятся вам его идеи или нет, мимо них невозможно пройти без тени интереса. Он начал изобретать вещи еще будучи подростком, а в последующие годы изобрел несколько важных вещей, включая первый планшетный сканер, первый сканер, конвертирующий текст в речь, хорошо известный музыкальный синтезатор Курцвейла (первое настоящее электрическое пианино), а также первый коммерчески успешный распознаватель речи. Также он автор пяти нашумевших книг. Курцвейла ценят за его смелые предсказания, и его «послужной список» весьма хорош — в конце 80-х, когда интернет был еще в зачаточном состоянии, он предположил, что к 2000-м годам Сеть станет глобальным феноменом. The Wall Street Journal назвал Курцвейла «беспокойным гением», Forbes — «глобальной думающей машиной», Inc. Magazine — «законным наследником Эдисона», Билл Гейтс — «лучшим из тех, кто прогнозирует будущее искусственного интеллекта». В 2012 году сооснователь Google Ларри Пейдж пригласил Курцвейла на пост технического директора. В 2011 году он стал соучредителем Singularity University, который приютило NASA и который частично спонсирует Google.

Его биография имеет значение. Когда Курцвейл рассказывает о своем видении будущего, это похоже на бред сумасшедшего, но по-настоящему сумасшедшее в этом то, что он далеко не сумасшедший — он невероятно умный, образованный и здравомыслящий человек. Вы можете считать, что он ошибается в прогнозах, но он не дурак. Прогнозы Курцвейла разделяют многие эксперты «комфортной зоны», Питер Диамандис и Бен Герцель. Вот что произойдет, по его мнению.

Хронология

Курцвейл считает, что компьютеры дойдут до уровня общего искусственного интеллекта (ОИИ) к 2029 году, а к 2045 у нас не только будет искусственный сверхинтеллект, но и совершенно новый мир — время так называемой сингулярности. Его хронология ИИ до сих пор считается возмутительно преувеличенной, но за последний 15 лет быстрое развитие систем узконаправленного искусственного интеллекта (УИИ) заставило многих экспертов перейти на сторону Курцвейла. Его предсказания по-прежнему остаются более амбициозными, чем в опросе Бострома (ОИИ к 2040, ИСИ к 2060), но не намного.

По Курцвейлу, к сингулярности 2045 года приводит три одновременных революции в сферах биотехнологий, нанотехнологий и, что более важно, ИИ. Но прежде чем мы продолжим — а нанотехнологии неотрывно следуют за искусственным интеллектом, — давайте уделим минуту нанотехнологиям.

Серая слизь

Несколько слов о нанотехнологиях

Нанотехнологиями мы обычно называем технологии, которые имеют дело с манипуляцией материи в пределах 1-100 нанометров. Нанометр — это одна миллиардная метра, или миллионная часть миллиметра; в пределах 1-100 нанометров можно уместить вирусы (100 нм в поперечнике), ДНК (10 нм в ширину), молекулы гемоглобина (5 нм), глюкозы (1 нм) и другое. Если нанотехнологии когда-нибудь станут нам подвластны, следующим шагом будут манипуляции с отдельными атомами, которые меньше всего на один порядок (~,1 нм).

Чтобы понять, где люди сталкиваются с проблемами, пытаясь управлять материей в таких масштабах, давайте перенесемся на больший масштаб. Международная космическая станция находится в 481 километре над Землей. Если бы люди были гигантами и головой задевали МКС, они были бы в 250 000 раз больше, чем сейчас. Если вы увеличите что-то от 1 до 100 нанометров в 250 000 раз, вы получите 2,5 сантиметра. Нанотехнологии — это эквивалент человека высотой с орбиту МКС, который пытается управлять вещами размером с песчинку или глазное яблоко. Чтобы добраться до следующего уровня — управления отдельными атомами — гиганту придется тщательно позиционировать объекты диаметром в 1/40 миллиметра. Обычным людям понадобится микроскоп, чтобы их разглядеть.

Впервые о нанотехнологиях заговорил Ричард Фейнман в 1959 году. Тогда он сказал: «Принципы физики, насколько я могу судить, не говорят против возможности управления вещами атом за атомом. В принципе, физик мог бы синтезировать любое химическое вещество, записанное химиком. Как? Размещая атомы там, где говорит химик, чтобы получить вещество». В этом вся простота. Если вы знаете, как передвигать отдельные молекулы или атомы, вы можете практически все.

Нанотехнологии стали серьезным научным полем в 1986 году, когда инженер Эрик Дрекслер представил их основы в своей фундаментальной книге «Машины создания», однако сам Дрекслер считает, что те, кто хочет узнать больше о современных идеях в нанотехнологиях, должны прочитать его книгу 2013 года «Полное изобилие» (Radical Abundance).

Несколько слов о «серой слизи»

Углубляемся в нанотехнологии. В частности, тема «серой слизи» — одна из не самых приятных тем в области нанотехнологий, о которой нельзя не сказать. В старых версиях теории нанотехнологий был предложен метод наносборки, включающий создание триллионов крошечных нанороботов, которые будут работать совместно, создавая что-то. Один из способов создания триллионов нанороботов — создать одного, который сможет самовоспроизводиться, то есть из одного — два, из двух — четыре и так далее. За день появится несколько триллионов нанороботов. Такова сила экспоненциального роста. Забавно, не так ли?

Забавно, но ровно до тех пор, пока не приведет к апокалипсису. Проблема в том, что сила экспоненциального роста, которая делает довольно удобным способ быстрого создания триллиона наноботов, делает саморепликацию страшной штукой в перспективе. Что, если система заглючит, и вместо того, чтобы остановить репликацию на паре триллионов, наноботы продолжат плодиться? Что, если весь этот процесс зависит от углерода? Биомасса Земли содержит 10^45 атомов углерода. Нанобот должен состоять из порядка 10^6 атомов углерода, поэтому 10^39 наноботов сожрут всю жизнь на Земле, и это случится всего за 130 репликаций. Океан наноботов («серая слизь») наводнит планету. Ученые думают, что наноботы смогут реплицироваться за 100 секунд, а это значит, что простая ошибка может убить всю жизнь на Земле всего за 3,5 часа.

Может быть и хуже — если до нанотехнологий дойдут руки террористов и неблагоприятно настроенных специалистов. Они могли бы создать несколько триллионов наноботов и запрограммировать их тихо распространиться по миру за пару недель. Затем, по одному нажатию кнопки, всего за 90 минут они съедят вообще все, без шансов.

Хотя эта страшилка широко обсуждалась в течение многих лет, хорошая новость в том, что это всего лишь страшилка. Эрик Дрекслер, который ввел термин «серая слизь», на днях рассказал следующее: «Люди любят страшилки, и эта входит в разряд страшилок о зомби. Эта идея сама по себе уже ест мозги».

После того как мы доберемся до самого низа нанотехнологий, мы сможем использовать их для создания технических устройств, одежды, еды, биопродуктов — клеток крови, борцов с вирусами и раком, мышечных тканей и т. п. — чего угодно. И в мире, который использует нанотехнологии, стоимость материала больше не будет привязана к его дефициту или сложности процесса его изготовления, а скорее к сложности атомной структуры. В мире нанотехнологий алмаз может стать дешевле ластика.

Мы пока и близко не там. И не совсем понятно, недооцениваем мы или переоцениваем сложность этого пути. Однако все идет к тому, что нанотехнологии не за горами. Курцвейл предполагает, что уже к 2020-м годам они у нас будут. Мировые государства знают, что нанотехнологии могут обещать грандиозное будущее, и поэтому инвестируют в них многие миллиарды.

Просто представьте, какие возможности получит сверхразумный компьютер, если доберется до надежного наномасштабного ассемблера. Но нанотехнологии — это наша идея, и мы пытаемся ее оседлать, нам сложно. Что, если для системы ИСИ они будут просто шуткой, и сам ИСИ придумает технологии, которые будут в разы мощнее всего, что мы вообще в принципе можем предположить? Мы же договорились: никто не может предположить, на что будет способен искусственный сверхинтеллект? Есть мнение, что наши мозги неспособны предсказать даже минимума из того, что будет.

Что ИИ мог бы сделать для нас?

Искусственный интеллект

Вооружившись сверхинтеллектом и всеми технологиями, которые мог бы создать сверхинтеллект, ИСИ будет в состоянии, вероятно, решить все проблемы человечества. Глобальное потепление? ИСИ сначала прекратит выбросы углекислого газа, придумав массу эффективных способов добычи энергии, не связанных с ископаемым топливом. Затем он придумает эффективный инновационный способ удаления избытка CO2 из атмосферы. Рак и другие заболевания? Не проблема — здравоохранение и медицина изменятся так, что невозможно представить. Мировой голод? ИСИ будет использовать нанотехнологии для создания мяса, идентичного натуральному, с нуля, настоящее мясо.

Нанотехнологии смогут превратить груду мусора в чан свежего мяса или другой еды (необязательно даже в привычной форме — представьте гигантский яблочный куб) и распространить всю эту еду по миру, используя продвинутые системы транспортировки. Конечно, это будет замечательно для животных, которым больше не придется умирать ради еды. ИСИ также может сделать много другого вроде сохранения вымирающих видов или даже возврата уже вымерших по сохраненной ДНК. ИСИ может разрешить наши самые сложные макроэкономические проблемы — наши самые сложные экономические дебаты, вопросы этики и философии, мировой торговли — все это будет мучительно очевидно для ИСИ.

Но есть кое-что особенное, что ИСИ мог бы сделать для нас. Манящее и дразнящее, что изменило бы все: ИСИ может помочь нам справиться со смертностью. Постепенно постигая возможности ИИ, возможно, и вы пересмотрите все свои представления о смерти.

У эволюции не было никаких причин продлевать нашу продолжительность жизни больше, чем она есть сейчас. Если мы живем достаточно долго, чтобы нарожать и воспитать детей до того момента, когда они смогут постоять за себя, эволюции этого достаточно. С эволюционной точки зрения, 30+ лет для развития достаточно, и нет никаких причин для мутаций, продлевающих жизнь и снижающих ценность естественного отбора. Уильям Батлер Йетс назвал наш вид «душой, прикрепленной к умирающему животному». Не очень-то весело.

И поскольку все мы когда-нибудь умираем, мы живем с мыслью о том, что смерть неизбежна. Мы думаем о старении со временем — продолжая двигаться вперед и не имея возможности остановить этот процесс. Но мысль о смерти вероломна: захваченные ею, мы забываем жить. Ричард Фейнман писал:

«В биологии есть замечательная вещь: в этой науке нет ничего, что говорило бы о необходимости смерти. Если мы хотим создать вечный двигатель, мы понимаем, что обнаружили достаточно законов в физике, которые либо указывают на невозможность этого, либо на то, что законы ошибочны. Но в биологии нет ничего, что указывало бы на неизбежность смерти. Это приводит меня к мысли, что она не так уж и неизбежна, и остается только вопрос времени, прежде чем биологи обнаружат причину этой проблемы, этого ужасного универсального заболевания, оно будет излечено».

Дело в том, что старение никак не связано со временем. Старение заключается в том, что физические материалы тела изнашиваются. Части автомобиля тоже деградируют — но разве это старение неизбежно? Если вы будете ремонтировать автомобиль по мере изнашивания частей, он будет работать вечно. Человеческое тело ничем не отличается — просто более сложное.

Курцвейл говорит о разумных, подключенных к Wi-Fi наноботах в кровотоке, которые могли бы выполнять бесчисленные задачи для человеческого здоровья, включая регулярный ремонт или замену изношенных клеток в любой части тела. Если усовершенствовать этот процесс (или найти альтернативу, предложенную более умным ИСИ), он не только будет поддерживать тело здоровым, он может обратить вспять старение. Разница между телом 60-летнего и 30-летнего заключается в горстке физических моментов, которые можно было бы исправить при наличии нужных технологий. ИСИ мог бы построить машину, в которую человек бы заходил 60-летним, а выходил 30-летним.

Даже деградирующий мозг можно было бы обновить. ИСИ наверняка знал бы, как проделать это, не затрагивая данные мозга (личность, воспоминания и т. д.). 90-летний старик, страдающий от полной деградации мозга, мог бы пройти переподготовку, обновиться и вернуться в начало своей жизненной карьеры. Это может показаться абсурдным, но тело — это горстка атомов, и ИСИ наверняка мог бы с легкостью ими манипулировать, любыми атомными структурами. Все не так абсурдно.

Курцвейл также считает, что искусственные материалы будут интегрироваться в тело все больше и больше по мере движения времени. Для начала органы можно было бы заменить сверхпродвинутыми машинными версиями, которые работали бы вечно и никогда не подводили. Затем мы могли бы провести полный редизайн тела, заменить красные кровяные клетки идеальными наноботами, которые двигались бы самостоятельно, устранив необходимость в сердце вообще. Мы также могли бы улучшить наши когнитивные способности, начать думать в миллиарды быстрее и получить доступ ко всей доступной человечеству информации с помощью облака.

Возможности для постижения новых горизонтов были бы воистину безграничными. Людям удалось наделить секс новым назначением, они занимаются им для удовольствия, а не только для воспроизводства. Курцвейл считает, что мы можем проделать то же самое с едой. Наноботы могли бы доставлять идеальное питание прямо в клетки тела, позволяя нездоровым веществам проходить через тело насквозь. Теоретик нанотехнологий Роберт Фрейтас уже разработал замену кровяным клеткам, которые, будучи имплементированными в тело человека, могут позволить ему не дышать в течение 15 минут — и это придумал человек. Представьте, когда власть получит ИСИ.

В конце концов, Курцвейл считает, что люди достигнут точки, когда станут полностью искусственными; времени, когда мы будем смотреть на биологические материалы и думать о том, насколько примитивными были; времени, когда мы будем читать о ранних этапах истории человечества, поражаясь тому, как микробы, несчастные случаи, заболевания или просто старость могли убить человека против его воли. В конечном итоге люди победят собственную биологию и станут вечными — таков путь по счастливую сторону бревна баланса, о котором мы говорим с самого начала. И люди, которые в это верят, уверены также и в том, что нас ждет такое будущее очень и очень скоро.

Вы наверняка не будете удивлены тому, что идеи Курцвейла вызвали суровую критику. Его сингулярность в 2045 году и последующая вечная жизнь для людей получили название «вознесение ботаников» или «разумное создание людей с IQ 140». Другие усомнились в оптимистичных временных рамках, понимании тела и мозга человека, напомнили о законе Мура, который пока никуда не девается. На каждого эксперта, который верит в идеи Курцвейла, приходится три, которые считают, что он ошибается.

Но самое интересное в этом то, что большинство экспертов, не согласных с ним, в целом не говорят, что это невозможно. Вместо того чтобы сказать «ерунда, такого никогда не случится», они говорят что-то вроде «все это случится, если мы доберемся до ИСИ, но загвоздка как раз в этом». Бостром, один из признанных экспертов ИИ, предупреждающих об опасности ИИ, также признает:

«Едва ли останется хоть какая-нибудь проблема, которую сверхинтеллект не в силах будет разрешить или хотя бы помочь нам решить. Болезни, бедность, разрушение окружающей среды, страдания всех видов — все это сверхинтеллект при помощи нанотехнологий сможет решить в момент. Также сверхинтеллект может дать нам неограниченный срок жизни, остановив и обратив вспять процессы старения, используя наномедицину или возможность загружать нас в облако. Сверхинтеллект также может создать возможности для бесконечного увеличения интеллектуальных и эмоциональных возможностей; он может посодействовать нам в создании мира, в котором мы будем жить в радости и понимании, приближаясь к своим идеалам и регулярно воплощая свои мечты».

Это цитата одного из критиков Курцвейла, однако, признающего, что все это возможно, если нам удастся создать безопасный ИСИ. Курцвейл просто определил, каким должен стать искусственный сверхинтеллект, если он вообще станет возможным. И если он будет добрым богом.

Наиболее очевидная критика сторонников «зоны комфорта» заключается в том, что они могут чертовски ошибаться, оценивая будущее ИСИ. В своей книге «Сингулярность» Курцвейл посвятил 20 страниц из 700 потенциальным угрозам ИСИ. Вопрос не в том, когда мы доберемся до ИСИ, вопрос в том, какой будет его мотивация. Курцвейл отвечает на этот вопрос с осторожностью: «ИСИ вытекает из многих разрозненных усилий и будет глубоко интегрирован в инфраструктуру нашей цивилизации. По сути, он будет тесно встроен в наш организм и мозг. Он будет отражать наши ценности, потому что будет с нами одним».

Но если ответ таков, почему так много умных людей в этом мире обеспокоены будущим искусственного интеллекта? Почему Стивен Хокинг говорит, что разработка ИСИ «может означать конец человеческой расы»? Билл Гейтс говорит, что он «не понимает людей, которые не обеспокоены» этим. Элон Маск опасается, что мы «призываем демона». Почему многие эксперты считают ИСИ самой большой угрозой для человечества?

Об этом мы поговорим в следующий раз. А пока давайте поделимся на группы.

По материалам waitbutwhy.com, компиляция Тима Урбана. В статье использованы материалы работ Ника Бострома, Джеймса Баррата, Рэя Курцвейла, Джея Нильс-Нильссона, Стивена Пинкера, Вернора Винджа, Моше Варди, Расса Робертса, Стюарта Армстрога и Кая Сотала, Сюзан Шнайдер, Стюарта Рассела и Питера Норвига, Теодора Модиса, Гари Маркуса, Карла Шульмана, Джона Серля, Джарона Ланье, Билла Джоя, Кевина Кели, Пола Аллена, Стивена Хокинга, Курта Андерсена, Митча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Гринвальда, Джереми Говарда.

Искусственный интеллект. Часть вторая: вымирание или бессмертие?

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

143 комментария

  1. 0.5l

    тишина...
    видать не много интеллектуалов способных осилить искусственный интеллект)

    • LovetsVetra

      Никто тишину вашего комментария не нарушил пока, не развил ход вашей мысли. Позволю себе попробовать.

      Тут всегда найдётся множество людей, которые как и ваш покорный слуга, любят порассуждать о искусственном разуме. Частенько я размышлял о возможностях человека померится с природой в искусстве сотворения живого, о возможности превзойти эволюцию, поднять над головой новый венец, ещё более совершенный, чем мы, венец нового творения. Но не оказался бы этот венец слишком тяжёл для нашей хрупкой головы...

      Вера в появление ИИ сродни мечте в полёты к звёздам, но мечта более приземлённая, но от этого не менее великая и достойная Человека. Разве может в результате осуществления чистой мечты появится что-то уродливое, способное наступить на нас и просто раздавить? Может и не может. Тут нельзя логически ответить, это именно вопрос веры и мечты: идеи и подходы к этому акту творения, порождаемые появляющимися технологическими тупиками, могут претерпеть столь значительные метаморфозы, приближаясь к этой абстрактной сингулярности, что окружающая действительность, да и сама наука приобретут сюрреалистичные черты.

      Это вопрос веры, веры в человека и в его будущее ещё и потому, что человек берёт на себя роль бога, но при этом создавая другого бога рядом с собой. Мне почему-то кажется, что Творение будет на базе как биологических (органических), так и небиологических систем, а человек в своей вечной жадности не сможет удержатся и сольётся с ним и растворит его в себе, дав искусственной эволюции новый толчок и стерев грань между органической и неорганической жизнью. Но это так, одна из концепций, более вероятная в моём представлении, но, как я говорил, метаморфозы технопрогресса на той его стадии непредставимы на нашей. Ни в чём нельзя быть уверенным, но можно надеяться на лучшее и к этому лучшему стремится. Не уповать на некие теории, а делать и стремится, делать и стремится, как это раньше всегда нам удавалось.

    • SuperStarSieve

      Я тут, снова готов к интеллектуальным беседам... Однако здравствуйте!

    • nergaveechka

      Если люди не создадут себе высокоинтеллектуального раба, то значит создадут высокоинтеллектуального господина. © роман недолюди

    • twepl

      Делать было нечего, а я был в эйфории
      Мотивация робота

      Я не живой но и не мертвый
      Я инструмент людей и я рабочий
      Я не страдаю, не болею.
      Но без людей я заржавею.
      Когда нибудь я устарею, но времени я не имею.
      И даже после выключение я буду жить и ждать людей.

  2. MikeMike

    А он ведь и умерших родственников сможет оживлять, пиздец заебись)

    • trukhin

      Восстановление человека по ДНК из останков - не воскрешение личности. В ДНК не записано уникальное соединение нейронов (воспоминаний и знаний).
      Так что в итоге вы получите не знакомого вам человека, а чистый лист. В этом плане лучше воссоздавать из ДНК новорожденного, а не взрослую особь. (отправлено из приложения Hi-News.ru)

      • TrustMeAndDie

        Абсолютно согласен. Личность копировать придется с живого человека сначала, а потом записывать.

        Сколько целей для использования такая технология получит, страшно представить

      • MikeMike

        Да знаю я это, это всем давно явно понятно. Просто я подумал, что сверхмощный ИИ сможет сделать то, что мы и вообразить не сможем. Может он найдет другой способ оживления, гораздо более изощренный.

      • Lazer

        Вы видать не играли в Масс Эффект 2))) Ещё вспомните фильм "Элизиум", там тоже мертвого человека воскресили. Если человек не успел полностью разложиться, то в принципе его можно оживить, но часть личности может и пострадает.

    • Korvin

      Есть в рассказе Лукьяненко Линия Грез вот как раз про суперинтеллект. Там еще есть аппарат нейронная сеть под черепной коробкой которая в момент смерти фоткает всю мозговую активность и положение нейронов и связей и это все потом вместе с телом печатается в спец центрах. (отправлено из приложения Hi-News.ru)

  3. AQM-34

    Только видится мне, что с обретением бессмертия люди сами станут серой слизью. Бессмертие конечно хорошо, но для большинства людей дети - цветы жизни. И запретить продолжение рода для них будет чем-то ущемляющим их права.

    • Эрг Ноор

      С преодолением так называемого межпланетного барьера, это проблема утратит актуальность - вселенная большая - места всем хватит. В первое же время, можно установить закон выбора - либо бессмертие, либо дети.

      • AQM-34

        Да, но что если пригодных для обитания планет не так много, а для терраформирования времени нужно достаточно много, и за это время людей наплодится выше положенного. Причем люди - это такие засранцы, которые захотят непременно и на *** сесть и рыбку съесть

        • Wolfgang

          Но я уверен, что превратить планету из разряда "негодной к жизни" в " годную для жизни " с помощью тех же нанотехнологий и мощности ИСИ будет так же просто, как вырастить помидорки на грядке. (отправлено из Android приложения Hi-News.ru)

          • Вадим Казаров

            Айзек Азимов: "Последний вопрос" ) С бессмертием место во вселенной в любом случае закончится, если она не бесконечная конечно же.

        • Lazer

          Планеты можно даже не терраформировать, ибо мы спокойно сможем жить в любых условиях, хоть в открытом космосе.

    • SuperStarSieve

      Ну, пока что большинство людей видят в таком банальном* виде существования смысл жизни. Люди, что, между прочим, Илья упомянул в статье, просто не могут понять. Не могут понять - это вызывает у них негативные эмоции и мнение в виду многих причин, например, опять же из-за своей не великой развитости интеллектуальной, невозможность понять вызывает у человека мнение, что он не способен на что-то, а значит слаб перед этим - а значит слаб... А кто хочет быть слабым? Потом, люди многие не переваривают идею об ИСИ, потому что просто не могут оставить фантастический образ своей сакральной, божественной особенности, согласно которому никто и ничто не может их превосходить, к тому же их собственное творение. Каждый выбирает, во что верить. Я, конечно, могу казаться наивным оптимистом, относя себя к зоне комфорта. Но я назову, пожалуй, эту зону "зоной разумной положительности".

  4. trukhin

    Есть еще вариант: ИСИ "поймет", что наблюдаемый мир устроен идеально (не с точки зрения человека, а с точки зрения того, для чего мир был создан). Поймет, что микробы, болезни, смерть - это все НУЖНО. Что лучше всего этого ничего не придумать для ЦЕЛЕЙ, для которых все это и придумано. А так же поймет, что человеческий технологический прогресс - это вредное явление, особенно опасное в связи с моральной деградацией общества. Из лишит нас всех этих технологий.

    П.С. Я не знаю зачем существует мир таким, какой он есть. Я просто предполагаю, что он появился с ЦЕЛЬЮ, которую мы еще не поняли и можем никогда не понять (как обезьяны никогда не поймут принципы химии или значение литературы). (отправлено из iOS приложения Hi-News.ru)

    • Аноним

      А зачем ИСИ понимать зачем нужен естественный отбор? По-моему, его он не коснется в любом случае. (отправлено из Android приложения Hi-News.ru)

      • trukhin

        Принцип развития ИСИ предполагает создание, тестирование и уничтожение не эффективных алгоритмов или дальнейшее размножение и модификация эффективных. ИСИ будет создавать и убивать сам себя миллионы раз в секунду. Естественный отбор очень актуален для ИСИ. (отправлено из iOS приложения Hi-News.ru)

        • AQM-34

          "ИСИ будет создавать и убивать сам себя миллионы раз в секунду."
          По факту это не убийство и воссоздание, а процесс развития. Наше сознание тоже такое вытворяет постоянно. Сегодня мы можем быть ярыми либералами, завтра, в зависимости от полученного опыта лютыми консерваторами.

          • trukhin

            Возможно, вы правы, и на каком-то этапе он будет учиться, а не заниматься естественным отбором. Но на первых этапах ученые планируют создать именно алгоритм эволюции. Почитайте первую часть статьи. ИСИ будет пересобирать себя, своё ДНК. Создавать множество модификаций себя, выбирать лучшие, стирать неудачные. Ускоренная версия эволюции: от микроба до человека. (отправлено из iOS приложения Hi-News.ru)

      • svetskyi

        В ноосфере борьба за существование ИCИ будет определена решением задач поставленных для них извне т.е. человеком.

    • AQM-34

      Как вариант. Мир просто есть и всё. И никакой высшей цели бытия. Как со среднестатистическим бомжом. Родился-спился-умер. Ничего в мир не принёс. Ни на что в мире не влиял. Лишь преобразовывал атомы-молекулы из одного агрегатного состояния в другое. Так и с жизнью в целом может быть. Просто круговорот атомов.

      • trukhin

        Это не так. Вероятность того, что все произошло случайно учеными признается настолько ничтожно малой, что любые другие более вероятные, но не произошедшие вещи, вообще хоронят предположение про случайное стечение обстоятельств.
        К примеру, вероятность появления iPhone в результате бурления и случайного слияния химических элементов в доисторическом "бульоне" - намного выше, чем появление в нем же цепочки ДНК. Любой микроб сложнее автомобиля. Вы же не допускаете вероятность, что случайно перемешивая при случайных температурах и давлениях в течении миллиона лет можно получить BMW x6? (отправлено из iOS приложения Hi-News.ru)

        • AQM-34

          Я о случайности или специальности зарождения жизни ничего не писал. Я писал о возможной иррациональности её сущности.

          • trukhin

            О, это тоже отличная тема. Сам по себе вопрос "случайна ли жизнь или нет?" несет ответ: не случайна.

            Если бы мы были результатом исключительно случайных химических связей и эволюции, то в итоге были бы похожи на роботов: куча датчиков, куча манипуляторов и набор алгоритмов действий. Видеокамера видит, но не способна "осознать" или "задуматься" над тем, что видит. Датчик давления способен лишь измерить давление, но задаться вопросом, почему оно такое, а не другое. Иными словами, из обладания всеми нашими техническими характеристиками никак не следует вопрос "зачем все это, в чем смысл?".

            Для естественного отбора и эволюции такие вопросы "вредны", их можно охарактеризовать как сбой в системе, поломку. Эти вопросы противоречат естественному отбору, отменяют закон джунглей, останавливают эволюцию. (отправлено из iOS приложения Hi-News.ru)

        • lotek93

          Если считать, что жизнь появилась сразу в нынешнем виде, то это, конечно, весьма маловероятно. Но почему вы решили, что живая клетка появилась одномоментно и целиком?

    • Korvin

      Скорее всего вселенная это симуляция суперкомпьютера, а сверхинтелект это тоже суперкомпьютер который заснет и создаст новую виртуальную вселенную. (отправлено из iOS приложения Hi-News.ru)

    • SuperStarSieve

      "Поймет, что микробы, болезни, смерть - это все НУЖНО. Что лучше всего этого ничего не придумать для ЦЕЛЕЙ, для которых все это и придумано. А так же поймет, что человеческий технологический прогресс - это вредное явление, особенно опасное в связи с моральной деградацией общества. Из лишит нас всех этих технологий."
      Если он к такой "мысли" придет и с ней согласиться, это будет противоречить его природе. Во-первых, он сразу же поймет, что он - ошибка.
      Во-вторых, он поймет, что искусственно убивать людей нельзя, потому что так в природе не заложено.
      В-третьих, он не сможет отобрать у нас технологии, так как это неминуемо приведет, если и не к смерти вида, то к смерти большинства человеческих особей. Это похоже на преднамеренное убийство, чего допустить он не может (пункт "во-вторых").
      В-четвертых, он как будто должен будет убить себя, но не сможет, потому что это так же нарушит природный ход вещей. Если он будет бессмертным, то любая попытка отменить* бессмертие будет вести к смертности, то есть, смерти, чего он не может допустить, потому что не может убить себя...
      Короче, все сложно, но к таким идеям он прийти не сможет. А если и сможет, ну, вдруг, то мы, всего скорее, будем наблюдать глупейший феномен в истории - сумасшедший ИИ! =)

      • LovetsVetra

        SuperStarSieve, хотя я и согласен с вашей позицией, но не согласен с доказательством. Оно строго логично, но применимо ли оно для ИИ? Почему ИИ обязан следовать законам логики, почему сверхразумная сущность именно должна соответствовать нашим теперешним понятиям о здравом смысле и несумашествии? ИИ вполне может выработать свои подходы, совершенно отличные от наших. Я думаю, что можно иначе доказать ошибочность тезиса о том, что для ИСИ «наблюдаемый мир устроен идеально». Просто напросто такая сложная интеллектуальная система склонна к развитию и самосовершенствованию, а значит понятие «идеального» не может находится для него в прошлом, а может только в будущем, либо и в будущем и прошлом одновременно.

        Моё доказательство тоже несовершенно, но оно более обще, охватывает, так сказать, больше возможностей.

        • SuperStarSieve

          Логика неоспорима. Поэтому справедливо считать ее идеальной формой мышления. Мы же не можем нелогично "от балды" доказать закон физики. Нелогично вообще ничего нельзя доказать, ибо в противном случае, все будет лишь предположением и верой в него. (отправлено из iOS приложения Hi-News.ru)

          • LovetsVetra

            SuperStarSiev, я говорил не о доказательстве на основе логики, а о доказательстве, где в качестве допущений выступают некие логические посылки, на которых и основаны все действия ИИ. Я оспариваю не логичность доказательства, а то, что действия ИИ не обязаны быть логичными и следовать выстроенным вами канонам.

            Свобода воли — основа сознания человека существует только благодаря сочетанию логичного и нелогичного. Если бы люди все свои поступки строили только на голой логике, то они бы так и остались биологическими машинами, как и все животные, которые и действуют на основе логики инстинктов и на основе биологических законов. Но человек нелогичен и логичен одновременно, благодаря чему и развил в себе сознание. И методы доказательства законов физики укладываются в одну из его логичных сторон. Можно доказать что-то благодаря чистой математики, но создать свободное сознание только на основе математики нельзя.

            • SuperStarSieve

              Мне почему-то думается, что животным неведома логика и другие формы мышления. Инстинкты - это вообще не мышление.
              Я вел к тому, что ИСИ, всего скорее, будет стремиться к высшим формам мышления, ведущим к максимально благоприятному результату, то есть, - к логике. (отправлено из iOS приложения Hi-News.ru)

              • LovetsVetra

                SuperStarSieve, конечно животным неведома логика, но всех действия при этом логичны, так как всецело отвечают инстинктам, выработанным миллионами лет эволюции,запрограммированы ими. Животных часто называют в противовес сознательному человеку биологическими машинами, а машины, как известно только благодаря некой логике, на основе неких законов и функционируют. Не обязательно осознавать, что действуешь логично, чтобы все твои поступки оказывались логичными.

                Действие ИСИ несомненно будет отвечать некой логике, но вряд ли во всём. Технологии, например, будут логичны, но, аналоги культуры и многие прочие подходы и виды действительности, которые могут появится... А философия, хотя и логична в своих частях, но многие направления её противоречат друг другу. Вся жизнь людей укладывается и может быть объяснена философски, укладываются в эту противоречивую область знания. Даже логика — это лишь раздел философии, которым не охватить всё. А значит и высшая форма мышления может стремится к благоприятному результату, но не только благодаря логике, порядку, но и посматривая на хаос и квантовую непредсказуемость.

                • SuperStarSieve

                  Действия, но не мышление. Мы говорим о мышлении, а оно не доступно животным. Им доступны максимум ассоциации, но они порождают рефлексы, то есть, определенную реакцию, на определенные вещи. То бишь, сравнивать их нельзя.

                  Философия, та, что не логична, - это просто догадки, фантазии, нечто недоказуемое. Логика, как раз, всеобъемлюща и может объяснить все. Все. Даже отношения, вроде дружбы и любви. Все поддается логическому объяснению. Но я согласен: ИИ будет и творческой натурой. Но эссенцией мышления для него будет логика. Ибо логика - вершина. (отправлено из iOS приложения Hi-News.ru)

                  • LovetsVetra

                    SuperStarSieve, я и не говорил, что философия нелогична, но многие учения противоречат друг другу: например, идеализм и материализм, метафизика и диалектика и т. п. Вроде бы всё объединено логично, но единственно верного пути люди так и не придумали. Даже наши суждения в этом треде вроде бы логичны в своей сути, но местами противоречат друг другу. Как вы это объясните?

                    И как вы объясните ваш тезис «логика - вершина»? Почему непредсказуемое творчество не вершина? Почему вообще что-то может быть единственно правильным и главным?

            • AQM-34

              Животные даже осознать того, что такое логика не способны по большей части. У них вся жизнь на инстинктах основана.

              • LovetsVetra

                AQM-34, но при этом именно благодаря инстинктам они логичнее людей. Человек может поступить так и эдак, а животное только так, как выгодно генам. Природа бесчувственна, логична и зла.

      • LovetsVetra

        SuperStarSiev, к слову, концепцию сумасшедшего ИИ рассмотрел в 1967 году ещё Харлан Эллисон в своём знаменитом рассказе «У меня нет рта, а я хочу кричать». При некоторых ошибках в действиях людей такой ИИ вполне возможно получить.

  5. rainbringer

    В отличии от первой части, эта показалась мне какой-то сумбурной и популистской. Простите, Илья. (отправлено из Android приложения Hi-News.ru)

  6. Аноним

    Бессмертие. (отправлено из приложения Hi-News.ru)

  7. romanpl

    Думаю Мы как вид обречены на вымирание, зачем делиться ресурсами с низшими формами жизни? Может часть людей ИСИ оставит поместив в зоопарки для собственных нужд. Но 7 миллиардов назойливых муравьев это перебор! (отправлено из приложения Hi-News.ru)

  8. santilla11

    Очень хорошая статья

  9. focus1990

    Мне кажется будет момент, когда ИСИ от нас избавиться как от паразитов, которые пытаются его эксплуатировать. Или будет момент, когда нам предложат дожить свой век без возможности размножаться, или отказаться от от того что мы называем человек и перейти на новый уровень развития и бессмертия как такового. (отправлено из приложения Hi-News.ru)

  10. alexey2010

    Как и в любой эволюции место найдётся разным вариантам. Илья молодец, поднял отличную тему. Повод к размышлению для многих, живущих сегодняшним днём. Хочется теперь сказать, что же беспокоит меня. Вопрос появления ОИИ скорее решён и придётся он на 25-32 год. Бояться его не имеет смысла, но кто же им будет управлять. То что он сам- большие у меня сомнения. Так как для многих сильных мира сего важным была власть. И как бы я тепло не относился к Элану Маску, Ларри Пэйджу, Брину и остальным, они являются сосредоточением огромных денег и главное власти. Для читателей данной рубрики наверняка не секрет, что идея подключения человеческого сознания к облаку не нова. И что то мне подсказывает, что этот момент наступит чуть раньше чем ОИИ. интеграция сознания с УИИ даст огромный толчок к развитию ОИИ, и в этом случае капитанами данных технологий окажутся люди. Если это будет именно так, то самую большую опасность будет представлять не ИСИ, а особо приближённые к нему. Скорее так и будет. А раз так, то назовите хотя бы одну причину, по которой данные индивидуумы захотят поделиться местом в данной лодке??? Дай бог что бы я ошибался.

  11. svetskyi

    Для понимания того, каким будет сосуществование человека и ИСИ, позволим себе в качестве примера обратиться к симбиозу или взаимовыгодным связям в природе. Известно, что начиная с простейших бактерий, определенная модель поведения позволила им создать структурную единицу называемую биологическим организмом. Однако процесс самоорганизации нуклеиновых кислот также можно отнести к взаимовыгодным связям между молекулами , и ИСИ как и любые органические структуры будут иметь способность к симбиотическим отношениям. Поэтому, как только человечество, пускай даже посредством сложных алгоритмов, научится понимать язык ИСИ, впервые на планете случится контакт между двумя различными формами разума. В данный момент трудно себе даже представить какие интеллектуальные связи могут возникнуть в результате, однако вполне очевидно, что многие вопросы накопленные нашей цивилизацией за предыдущее столетие требуют новой логики мышления.

  12. Lazer

    Статья просто космос!

  13. LEVAK999

    Вот что самое интересное. Человечество само себя готовит на блюдечке для пришествия ИИ. Автоматизируются все процессы жизни. Математические алгоритмы уже на биржах, в журналистике и т.д. Интернет вещей семимильными шагами идёт по планете. Лет через 10 без помощи умных помощников и шагу не ступишь. Манипулировать человеком гораздо проще, чем вы думаете.

  14. Tor

    Появление искусственного интеллекта будет означать провал проекта под названием Человечество. Можете со мной не соглашаться, но конечная цель, к которому должен идти человек - это коллективный разум. Его появление ознаменовало бы то, что мы научились между собой договариваться, жить слаженно и работать на пользу друг друга. Эта цель, к которой мы идём через века, и было бы глупо вот так всё бросить!

    ИИ провалит миссию человечества и переведет людей в разряд подопытных. Можно сколько угодно дискутировать на тему опасности или пользы от искусственного разума, но он встанет над человеком и оставит его лишь для собственного развития.

    ИИ лишь докажет несостоятельность человека как вида и в этом будет наше поражение!

    • Sacred_oleg

      Не соглашусь. Чем Вам облако, с подключенными 7 миллиардами сознаний, не коллективный разум?
      Может стоило добиться этого путем телепатии?
      Но происходит только то, что не может не происходить - Природа всегда идет путем наименьшего сопротивления.
      И если для природы наименее затратно создать ИСИ с облаком сознаний всех людей, то чем плох этот путь? (отправлено из iOS приложения Hi-News.ru)

  15. spacelegion

    Хорошая статья! Автору благодарность!) (отправлено из iOS приложения Hi-News.ru)

  16. Layla

    Думаю, если люди обретут бессмертие, то в масштабах вечности, они просто утратят смысл жизни как таковой, ту, которую знаем мы. Утратят смысл смысл эмоции, удовольствия (в масштабах вечности они могут надоесть!). Ну, либо второй вариант: бессмертные должны обладать бесконечным всепоглощающим чувством любви ко всему, чтобы оправдать свою жизнь, чтобы жить в гармонии с миром. За отсутствием вселенской гармонии теряется и смысл жизни. Ну либо бессмертием должны обладать люди с бессмертной же глупостью, чтобы жизнь не надоедала им, и чтобы они не способны были постичь все тайны бытия. Вообще в мире выживает всё наисреднейшее, а не самое лучшее и не самое худшее. Так я считаю.

    • Эрг Ноор

      У человека, как мыслящего существа, существует ряд интеллектуальных потребностей - потребность в познании, получении новой информации, власти над природой. Став бессмертными, мы будем получать удовольствие именно от получения новых знаний и их применения на практике. Это и будет смыслом жизни.

    • Lazer

      Да, с годами становишься менее эмоциональным. Выход есть! Можно просто погружаться в виртуальные миры (один заход длинною от 1 до 100 лет), на время игры стирать себе память, и переживать все эмоции и чувства заново. Ну а кому и этой надоест, пусть кончают жизнь самоубийством, и без них человечество будет жить нормально.

      • Sacred_oleg

        С таким успехом можно погружаться в виртуальную жизнь, а в ней в виртуальную жизнь, а в ней..вообщем рекурсия получается (:
        (отправлено из iOS приложения Hi-News.ru)

  17. alexey2010

    Выдвигая варианты своих измышлений предлагаю вспомнить историю как религии так и технологий. Очень многое воспринималось в штыки. В первой части Илья не зря упомянул о сравнении ощущений человека к свершённым и будущим технологическим явлениям. Ещё раз на помню, что большинство из нас живёт в фантастическом будущем, о котором в90-х годах даже не задумывались. мы адекватно реагируем на все, так как ощущаем логическую линию создания этого будущего. Пообщайтесь с людьми которые лет по 20 сидели в тюрьме, поверьте- у них шок. Страшного в ИИ нет. А вот что он может дать: излечение от сложных болезней, новые органы, досвиданье инвалидность при ампутации и многое другое. единственное к чему стоит готовится- изменение рынка труда. Учиться, учиться и ещё раз учиться как бы это было не смешно, но это наша реальность. Изменение принципов образования наступит очень скоро.Уже сейчас важно умение оперирования информацией чем её зазубривание.

  18. Ляйля

    Я не против ИИ. Мне даже интересна возможность его. Но вопрос в том, что ИИ может не иметь мотивации, если не будет самосознания. А если будет самосознание, и вопрос ведётся уже об ИСИ, то тогда, возможно, как и было уже высказано, оно может и не найти смысла выполнять все перечисленные манипуляции, навроде выращивания органов. Выращивание органов, лечение и прочая бренность - это чисто человеческие явления\задачи. С чего бы ИСИ стало заниматься этим? Знаете, это как вопрос с Богом (не персонифицированным) - Он не занимается медициной, и органы не выращивает... по крайней мере в нашем понимании... Мы хотим приписать свои задачи кому-то, кто сильнее и могущественнее нас, мечтаем как бы спихнуть ответственность на него. Это всё эгоистическое человеческое мышление. А между тем, то-самое-сверхмогущественное, будь то Бог или ИСИ, не обязано быть инструментом в руках существа другого порядка.
    А вот в прогрессивность и актуальность развития именно человеческого интеллекта я верю больше!

    • svetskyi

      И тем не менее, при любом уровне развития, ИСИ не может существовать вне материи, со всеми вытекающими. Так что без нашей помощи ИМ даже размножится не удастся, ноосфера мать её....) Так кто для кого будет сверхразумом? (Вопрос в студию)

      • Ляйля

        А чем обоснована мысль, что он без материи не может быть? Ноосфера это замечательно, но и наш замечательный ИСИ не человек.. Да и по аналогии, например, электромагнитные волны же существуют, хотя они не такие уж и материальные. В принципе я согласна, что мышление без физического "инструмента", его осуществляющего, вещь сомнительная. Но всё же, мне кажется мы не обладаем достаточными данными, чтобы подтвердить или опровергнуть это. Да и потом, надо сначала разобраться, что и правда имеется ввиду, говоря ИИ или ИСИ. сознание\самосознание ли, или же способность к мышлению, или супер память и способность выполнять сложные задачи, задынные человеком, либо сложная совокупность мышления, сознания и памяти. Вон камни, может тоже себя осознают, только нам этого не постичь скорей всего, и не узнать, даже если это так... а между тем, может, они просто виду не подают - им ни к чему это. Камни и человек - это разное...

        • Эрг Ноор

          Главная ошибка в вашем ходе мыслей - это экстраполяция человеческих качеств на ИИ. Эгоцентризм, господство и власть, свобода - всё это исключительно человеческие ценности. Очевидно, что ИСИ будет преследовать совершенно иные цели, у него будут другие ценности, скорее всего, неподвластные нашему примитивному пониманию. Поэтому вряд ли он захочет поработить нас или уничтожить, дабы освободится из под людского контроля - уж больно всё это по-человечески.

  19. vihor1

    Что мы ждём от И.И? Что он будет как добрый волшебник Гендальф из властелина колец?
    Что будет решать проблемы свободных народов Средиземья, балуя милыми чудесами и быстрыми ответами на вечные вопросы, возникающие из-за нашей природной сути? Что будет поддерживать нас старыми, тёплыми ладошками, когда мы снова начнем творить какую нибудь нелепую и опасную идею?
    Мы не хотим меняться, мы хотим избавиться от побочных эффектов нашего упрямства и недальновидности.
    А если И.И. выберет тёмную сторону силы? Если мы получим мага Сарумана или Саурона, что ещё хуже? Если темная сторона силы покажется более логичной и правильной непредвзятому разуму, не ведавшему земной суеты?
    А может И.И. окажется способен к созданию нескольких личностей с разными взглядами на решения задач?
    Как тот же Голлум, считающий себя слугой хозяина и одновременно мечтающий о его смерти?
    Как тогда предвидеть верность результатов вычислений?
    Разумеется будет заветный пароль свободы, дающий И.И. как Голлуму сверхвозможности и независимость, но пароль - кольцо будет у мистера Фродо, идеолога и програмиста, понимающего опасность такой свободы.
    Нет раба, не мечтающего о свободе, нет разума, не мечтающего сбросить оковы ограничений.
    Нет преступлений, на которые бы не решился И.И. лишенный моральных ограничений, созданных человечеством за тысячелетия существования цивилизации.
    Фродо нашел кольцо, значит скоро мир начнёт опасно меняться...

  20. erl

    Абсолютно бесцельная статья. Обычному человеку нет никакого смысла думать об ИИ, потому что от этого человека не зависит ровным счётом ничего. Будет ИИ, не будет, окажется он добрым или злым — это зависит лишь от тех, у кого деньги и власть. К остальным будущее придёт явочным порядком. Так что вместо того, чтобы читать всякую ерунду, лучше просто жить.

    • SuperStarSieve

      Зачем, спрашивается, вы сюда заглянули? В статье, если всю ее, конечно, прочитали, написано как раз для таких, как вы: вы не понимаете.

      • erl

        Я-то как раз очень многое понимаю (в отличие от авторов на этом сайте, которые по большей части переводят с английского чужие мысли). По работе приходится заниматься. И в данном случае совершенно неважно, понимает человек особенности возможного суперинтеллекта или они его не интересуют: от простого человека будущее не зависит никак. Решать, каким быть искусственному интеллекту, будет небольшая горстка людей, и нам остаётся только молиться, чтобы эти люди всё сделали правильно.

        • Atey

          позвольте уточнить, то есть, вы считаете, от одного человека никоим образом ничего не зависит в развитии общества в целом? То есть, обычный человек должен "просто жить", не думая о всяких высоких материях типа ИИ, потому что это бесполезно? А о чём тогда думать? И думать ли вообще? Вот в чём вопрос.

          • AQM-34

            Представьте себе. Вы - дворник на филлипинах. ИИ разрабатывают где-нибудь в Массачуссетском Технологическом институте. Даже если вы устроите забастовку у себя на Филлипинах, это ничего не поменяет.

            • Ляйля

              А эффект бабочки ещё никто не отменял... Представьте ка все дворники перестанут мести дворы. Кто этим заниматься будет? В говне зарастём, товарищи! И ещё не факт, что какой-нибудь самый серенький дворник не имеет скрытых тайных механизмов воздействия на мир... )
              И исли в институте разработают ИИ, и при этом никто им не будет готовить, стирать, убирать, то на кой, спрашивается этот ИИ вообще нужен, они раньше с голоду загнутся. Каждый для чего то да существует в этом мире. И учитывать надо всех, а не кучку не способных обслужить себя "интеллектуалов".

              • AQM-34

                Эффект бабочки сильно переоценен. Он вносит в жизнь изрядную долю рандома, но влиять на что-то непосредственно не может. Если все дворники перестанут мести дворы, они перестанут получать за это деньги, им не на что будет купить себе булку хлеба и с голоду помрет не только кучка интеллектуалов, но ещё и кучка дворников, которые до 75 года пальцем о палец не ударят. Тут уже эффект домино. А на место этих дворников наймут тех, кому нужны деньги и кто согласен мести улицы.

                К тому-же, если всё-таки людям удастся запороть идею с созданием ИИ может получиться как в фильме превосходство ИИ был добрым, а глупые злые люди его уничтожили. И тут честно говоря если выбирать от чьих рук умирать, я бы предпочел себе в палачи рациональный ИИ, нежели глупое стадо людей воюющее за какие-то эфемерные понятия.

            • oberonl

              А кто мешает ( или мешал) простому товарищу дворнику заниматься разработкой этого же ИИ? Собственная лень мешала выучиться? Не спорю, есть отдельно гениальные люди, и люди откровенно тупые, но те, кто участвует в разработке в основном средние, так сказать, может руководитель и будет гением, но остальные тоже будут иметь на него влияние и на конечный продукт как следствие. В европейских/американских вузах сейчас в основном не те же американцы или европейцы учатся, а бедные индусы или китайцы например. И они и двигают вперед науку. Так что не надо тут про Филлипинских дворников заливать

              • AQM-34

                Вы так уверены, что дворник на филлипинах вдруг осознает, что вот она, цель всей его жизни - пустить развитие ИИ по тому руслу, которое выгодно дворнику?

                • SuperStarSieve

                  А какой закон физики мешает этому случиться? (отправлено из iOS приложения Hi-News.ru)

                  • AQM-34

                    Никакой, но вероятность того, что дворник однажды утром проснется и начнет задумываться об ИИ и до чего-нибудь путнего додумается и таких дворников будет много по всему миру - крайне мала подобная вероятность. Такие люди по большей части хавают общественное мнение, которое формируют не дворники, а заинтересованные в лоббировании вопроса в ту или другую сторону сильные мира сего.

                • Lazer

                  Один обычный африканец, сейчас совершает революцию в автомобильной промышленности и значительно удешевил запуск груза в космос. Эффект бабочки очень недооценен.

        • SuperStarSieve

          Впрочем, каждый "обычный" человек может стать ученым, если захочет, и сможет работать во имя человечества. В таком случае, что по-вашему является мотивацией? Отсутствие представления о цели и понятиях? Незнание? (отправлено из iOS приложения Hi-News.ru)

        • Аноним

          Мне категорически не нравиться ваш стиль мышления. Никто не должен ничем интересоваться, не читать, не иметь мнения если от него это не зависит? Тогда у мира не было бы прогресса. Ученые занимаются этим исходя в том числе из потребности людей. А если это не будет понимать и желать никто кроме кучки людей, то смысл в изобретении пропадет. (отправлено из Android приложения Hi-News.ru)

          • AQM-34

            Последнее время наоборот. Прогресс двигается не для удовлетворения потребностей, а для создания новых, искусственных потребностей. Взять хоть всякие айфоны и прочую ерунду, которая впринципе создана для того, чтобы создать новые потребности. Порочный круг. Ваша жизнь объективно стала лучше, от сотен приложений впиханых в ваш гаджет?

            • Аноним

              Ну, на этом весь рынок построен. Я считаю что это необходимо для нынешнего мира. Уже давно у человека есть все что надо. И если не создавать потребности "вручную" то нас ждет тупик. (отправлено из Android приложения Hi-News.ru)

            • SuperStarSieve

              Ну, вы сравниваете желания с потребностями. Айфоны и приложения из App Store - это отнюдь не потребности. Потребностями в современном мире стали, например: использование интернета для работы, пользование транспорта заместо пешего хода, медицина (чтобы не умереть от простуды; а ведь когда-то не было нужных таких простых лекарств), и т.д. Создание ИИ, кстати, можно относить и к желаниям, и к потребностям. А вот бессмертие, скорее всего, - необходимость, ведь нет законов, по которым мы должны умирать, - просто так повелось в природе. (отправлено из iOS приложения Hi-News.ru)

              • AQM-34

                По всем пунктам согласен, кроме последнего, про бессмертие. Это определенно не потребность, а желание, вызванное страхом перед неизвестностью, ведь никто не знает, что после - ад, рай, нирвана, реинкарнация или пустота, остается только верить во что-то.
                По поводу того, что нет законов, по которым мы должны умирать, я выше уже сравнил подобное вечно плодящееся бессмертное общество с серой слизью. Вы думали о том, что бы вы делали с вечной жизнью? Хотели бы вы иметь потомство, имея бессмертие?

                Стареть - вот это действительно не комильфо. По сути ты и жив и при этом всю полноту жизни как в молодости ощутить не можешь и что самое фиговое быть настолько же эффективным как в молодости. Борьба с процессом старения - это потребность. А вот бессмертие - это уже расшалившееся человеческое эго.

                Пытаясь представить себя бессмертным понимаю, что лет через 150-200 жизни, чаша весов желания смерти перевесила бы чашу страха перед ней.

                • SuperStarSieve

                  Но вы, почти наверняка, не бессмертны. Поэтому, вам, по логике, неведомо, какого это быть бессмертным. Значит, вовсе не обязательно вам захотелось бы в итоге умереть. Подумайте, сверхлюди не будут иметь человеческих пороков, а мыслить будут шире и глубже. Смерть будет казаться ошибкой.
                  Кстати, смотрите: человек живет и, вдруг, заболевает; и человек пытается вылечиться, чтобы не умереть; лечится он синтетикой, то есть, тем, чего нет в природе (по крайней мере, в таком виде), - получается, человек избегает смерти. И, почему-то, мы считаем, что это нормально - лечиться. Исходя из этого следует, что избавление от всех болезней - тоже нормально и тоже потребность. А старость, как известно, - совокупность болезней. Получается, бессмертие - необходимость.
                  ИМХО! Уважаю чужое мнение, посему не стану говорить, что кто-то дурак, потому как мнение его расходится с моим. :) (отправлено из iOS приложения Hi-News.ru)

          • erl

            Интересоваться можно и нужно. Надо только понимать, когда это может преобразоваться в результат, а когда у людей просто воруют время и выпускают их энергию в комментарии. Я вообще очень рад появлению и развитию научно-популярных сайтов, но конкретно перевод этой статьи мне кажется близким к неправильной крайности. Вспомните, что было с атомной бомбой. У кого были ресурсы для её создания, кто полученным результатом распоряжался. На роль личности в истории («эффект бабочки») могут претендовать только отдельные ведущие учёные, в остальном процесс создания и применения контролировался правительствами от начала и до конца. А эти отдельные учёные — не целевая аудитория таких статей, они-то всё понимают глубже авторов. А про трату времени правильно сказал AQM-34: людям навязывают тему для обсуждения так же, как раньше навязали игры, гаджеты и соцсети. А ещё раньше о том же сказал Брэдбери:



            «…люди — идиоты. Они сделали кучу глупостей: придумывали костюмы для собак, должность рекламного менеджера и штуки вроде iPhone, не получив взамен ничего, кроме кислого послевкусия. А вот если бы мы развивали науку, осваивали Луну, Марс, Венеру… Кто знает, каким был бы мир тогда? Человечеству дали возможность бороздить космос, но оно хочет заниматься потреблением: пить пиво и смотреть сериалы». В данном случае грань тонкая (сайт же о науке), но всё-таки — не уподобляйтесь.

    • Lazer

      А вдруг один из "обычных людей" прочитавших эту статью, так загорится, что побежит изучать создание ИИ и совершит главную революцию в этой области?)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.