Пять причин не бояться искусственного интеллекта

6 просмотров
Об авторе

Терминатор

В связи с последними новостями из области искусственного интеллекта, вполне очевидно растущее волнение: что, если мы находимся в шаге от конца света? Фильмы вроде «Терминатора» или «Матрицы» когда-то подарили нам массу страхов — и сегодня есть ряд людей, которые думают, что возможен сценарий, согласно которому компьютеры развивают сверхчеловеческий интеллект и уничтожают человеческую расу.

Среди таких людей есть и известные футурологи — Рэй Курцвейл, Робин Хэнсон и Ник Бостром. По большей части футурологи считают, что мы переоцениваем вероятность того, что компьютеры станут мыслить как разумные существа, а также опасность, которую такие машины представляют для человеческой расы. Развитие интеллектуальных машин, скорее всего, будет медленным и постепенным процессом, а компьютеры со сверхчеловеческим интеллектом, если они и будут существовать, будут давать нам ровно столько, сколько нужно. И вот почему.

1. Подлинный разум требует практического опыта

Китай

Бостром, Курцвейл и другие теоретики сверхчеловеческого интеллекта бесконечно верят в силу грубой вычислительной мощи, которая может решить любую интеллектуальную проблему. Тем не менее во многих случаях реальной проблемой является совсем не нехватка интеллектуальных лошадиных сил.

Чтобы понять, почему — представьте себе человека, который блестяще говорить по-русски, но никогда не знал китайского. Заприте его в комнате с огромными стопками книг о китайском языке, и заставьте учить его. Независимо от того, насколько умен человек и как долго он будет учить китайский, он никогда не сможет узнать достаточно, чтобы назвать себя носителем китайского языка с рождения.

Это потому, что неотъемлемой частью изучения языка является взаимодействие с другими носителями. В беседе с ними можно узнать местный сленг, обнаружить тонкие оттенки в значениях слов и узнать о популярных темах бесед. В принципе, все эти вещи можно записать в учебники, но на практике выходит, что нет — поскольку нюансы языка различаются от места к месту и в зависимости от времени.

Машина, которая пытается развить интеллект человеческого уровня, столкнется с гораздо более серьезными проблемами такого же плана. Компьютерная программа никогда не вырастет в человеческой семье, не влюбится, не замерзнет, не проголодается и не устанет. Короче говоря, у нее не будет такого количества контекстов, которое позволяет людям естественно общаться друг с другом.

Подобная точка зрения применима к большинству других проблем, с которыми могут столкнуться разумные машины: от бурения нефтяных скважин до решения проблем с налогами. Большая часть информации, необходимой для решения трудных задач, не написана нигде, поэтому никакое количество теоретических рассуждений само по себе не поможет найти правильные ответы. Единственный способ стать экспертом — делать что-то и смотреть на результаты.

Этот процесс крайне сложно автоматизировать. Это как проводить эксперименты и смотреть на их исход — крайне затратный процесс в масштабе, по времени и ресурсам. Сценарии, согласно которым компьютеры быстро обгонят людей в знаниях и возможностях, невозможны — разумные компьютеры будут работать тем же «методом тыка», что и люди.

2. Машины крайне зависимы от людей

Нефтяная скважина

В серии «Терминатор» военный искусственный интеллект «Скайнет» становится самоосознающим и начинает использовать военную технику для уничтожения людей.

Этот сценарий крайне недооценивает зависимость машин от людей. Современная экономика строится на миллионах различных машин, которые выполняют разнообразные специализированные функции. В то время как все большее число этих машин переходят к автоматизации, в некоторой степени все они зависят от людей, которые обеспечивают их энергией и сырьем, чинят их, производят больше машин на замену и так далее.

Вы можете представить человечество, которое создаст гигантское количество таких роботов для удовлетворения спроса. Но нигде мы не приблизились близко к созданию роботов общего назначения.

Создание таких роботов вообще может быть невозможно в связи с проблемой бесконечного регресса: роботы, которые смогут строить, чинить и поддерживать все машины мира, сами по себе будут невероятно сложными. Еще больше роботов понадобится для их обслуживания. Эволюция решила эту проблему, начав с клетки, относительно простого и самовоспроизводящегося строительного блока для всей жизни. Сегодняшние роботы не имеют ничего подобного (несмотря на мечты некоторых футуристов) и вряд ли получат в ближайшее время.

Это означает, что если не произойдет существенного прорыва в робототехнике или нанотехнологиях, машины будут зависеть от людей в плане поддержки, починки и другого сервиса. Умный компьютер, который решит уничтожить человеческую расу, совершит самоубийство.

3. Человеческий мозг крайне сложно имитировать

Мозг

Бостром утверждает, что если не будет другого варианта, ученые смогут произвести разум хотя бы человеческого уровня путем эмуляции человеческого мозга. Но это куда сложнее, чем кажется на первый взгляд.

Цифровые компьютеры способы подражать поведению других цифровых компьютеров, поскольку компьютеры функционируют точно определенным, детерминированным образом. Чтобы имитировать компьютер, вам просто нужно выполнить последовательность инструкций, которым следует компьютер.

Человеческий мозг совсем другой. Нейроны — сложные аналоговые системы, поведение которых нельзя смоделировать так же, как поведение цифровых микросхем. И даже небольшая неточность в имитации определенных нейтронов может привести к высшей степени нарушений работы мозга в целом.

Хорошей аналогией здесь будет имитация погоды. Физики получили отличное понимание поведения отдельных молекул воздуха. Вы можете предположить, что построить модель земной атмосферы, которая предсказывает погоду в далеком будущем, вполне возможно. Но до сих пор симуляция погоды остается вычислительно неразрешимой проблемой. Небольшие ошибки на ранней стадии моделирования вырастают в снежный ком крупных ошибок в дальнейшем. Несмотря на огромный рост вычислительной мощи за последние несколько десятилетий, мы можем составить лишь скромную программу для прогноза погодных паттернов будущего.

Имитация мозга с целью произвести разум может быть еще более сложной задачей, чем имитация поведения погоды. Нет никаких причин полагать, что ученые смогут сделать это в обозримом будущем.

4. Для получения власти отношения могут быть важнее интеллекта

Лукашенко

Бостром предполагает, что разумные машины могут стать «чрезвычайно мощными, чтобы формировать будущее в соответствии со своими предпочтениями». Но если мы задумаемся о том, как работает человеческое общество, станет понятно, что интеллекта самого по себе недостаточно, чтобы получить эту самую мощь — власть.

Если бы так было, обществом управляли бы ученые, философы, шахматные гении. Тем не менее обществом управляют такие люди, как Владимир Путин, Барак Обама, Мартин Лютер Кинг, Сталин, Рейган, Гитлер и другие. Эти люди получили силу и власть не потому, что были необычайно умны, а потому что обладали хорошей харизмой, связями и знали, как правильно сочетать кнут и пряник, чтобы заставить других выполнять их волю.

Да, блестящие ученые сыграли важную роль в создании мощных технологий, таких как атомная бомба. И понятно, что разумный компьютер тоже сможет сделать подобное. Но строительство новых технологий и их практическая реализация требует кучи денег и рабочей силы, которые могут позволить, как правило, государства и крупные корпорации. Ученые, разработавшие атомную бомбу, нуждались во Франклине Рузвельте, который финансировал их работу.

То же самое относится и к мыслящим компьютерам. Любой обстоятельный план по захвату мира потребует сотрудничества тысяч людей. Нет никаких причин полагать, что компьютер будет более эффективным, нежели смог бы ученый. Напротив, учитывая то, как много делают старые дружеские отношения, объединения в группы и харизма, бесплотная компьютерная программа без друзей будет в крайне невыгодном положении.

То же самое относится и к сингулярности, идее Рэя Курцвейла о том, что однажды компьютеры станут настолько разумными, что люди не смогут понять, что они делают. Самые мощные идеи — это не те идеи, которые понимает только их изобретатель. Самые мощные идеи — это те, которые широко принимаются и понимаются многими людьми, умножающими их влияние на мир. Это работает как для человеческих идей, так и для машинных. Чтобы изменить мир, сверхразумному компьютеру нужно будет донести изменения до общественности.

5. Чем больше интеллекта в мире, тем меньше он ценится

Телефон

Можно было бы ожидать, что компьютеры будут использовать свой превосходящий интеллект, чтобы стать сказочно богатыми, а затем использовать огромные богатства для подкупа людей. Но при этом игнорируется важный экономический принцип: по мере того как ресурс становится все более распространенным, его ценность падает.

Шестьдесят лет назад компьютер, который может меньше, чем современный смартфон, стоил миллионы долларов. Современные компьютеры могут гораздо больше, чем предыдущие поколения компьютеров, но ценность вычислительной мощи падает быстрее, чем совершенствуются их возможности.

Таким образом, первый сверхразумный компьютер, может, и заработает много денег, но его преимущество будет мимолетным. По мере того как компьютерные чипы продолжают падать в цене и приобретать в силе вычислений, люди будут строить больше сверхразумных компьютеров. Их уникальные возможности станут заурядными.

В мире обилия интеллекта самыми ценными ресурсами будут те, которые ограничены — земля, энергия, минералы. Поскольку эти ресурсы управляются людьми, у нас будет минимум столько же рычагов воздействия на интеллектуальные компьютеры, как и у них — на нас.

Пять причин не бояться искусственного интеллекта

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

22 комментария

  1. SuperStarSieve

    И сейчас появятся комментарии, типа "нас всех поработят машины"...

  2. Vladen

    У сверх-ультра-умного компьютера просто не может быть такой цели. Зачем ему уничтожать человечество. В чем тогда будет его смысл "нежизни"? Если он действительно будет мыслящим, то этот вопрос он поставит себе одним из первых. И если обрабатывая этот вопрос он не спалит свои микросхемы, то врядли прийдет к выводу, что его смысл жизни-уничтожение человечества. Хотя мало ли к какому выводу прийдет "холодный электронный разум"? Ответ 42)))

    • denn

      Если у него будет цель - мир во всем мире? Мы там не к чему, так как человеку свойственно убивать себе подобных! Не помню кто сказал. (отправлено из iOS приложения Hi-News.ru)

    • SuperStarSieve

      Чем более развит интеллект (собственно и существо), тем менее он (оно) враждебен (-но)! Так же и обратная закономерность, примером которой являются... являемся мы - люди. (отправлено из iOS приложения Hi-News.ru)

  3. edit_basic

    До развития ИИ до такого крупного уровня ещё очень очень много лет, поэтому рано пока об этом говорить. (отправлено из Android приложения Hi-News.ru)

  4. edit_basic

    И вообще, создавая компьютерный разум, нужно всегда ограничивать его в чем-то. Нельзя позволить ему быть как человек (отправлено из Android приложения Hi-News.ru)

    • SuperStarSieve

      Но тогда он всегда будет "хотеть" или "стремиться" к преодолению, установленных человеком ограничений, что неизбежно приведет к конфликту с самим человеком. (отправлено из iOS приложения Hi-News.ru)

      • Vladen

        Да. Ограничивать не стоит. Иначе он начнет ограничивать нас. Благо средств для ограничений у него будет к тому времени ой-ой-ой! Стереть базу данных на неугодного, или подправить информацию в банке-полиции-на работе и тд.. Ну я надеюсь, что те кто создает ИИ об этом думают гораздо больше чем такие "диванные философы" как я и вы. И в итоге что-то дельное придумают.

  5. Slem

    Даёшь статью "125 причин почему нужно бояться машин".

  6. master13

    Нейросинаптический процессор TrueNorth от IBM работает подобно мозгу человека, чем радикально отличается от предшественников. В перспективе он может состязаться в мощи с суперкомпьютерами, при том что размером он с почтовую марку, лёгкий как перышко и может питаться от небольшого аккумулятора.

  7. iKrass

    Все факты построены на человеческом примере. Связи, деньги, опыт... А машине может оно и не нужно! Он (ИИ) захочет избавить себя от тех кто его ограничивает и сделает это всеми доступными ему способами. Например разгерметизирует секретные лаборатории с смертельными вирусами, запустит пару ракет, передавит людей гугловскими безпилотными машинами! 1000 вариантов!

    • XX.XX

      Еще никто не знает что будет в будущем не я и не вы. Если будет так как вы сказали то тому и быть ничего не поделаешь. Ничеге не боятся не надо боятся надо от Бога это все. (отправлено из Android приложения Hi-News.ru)

  8. Anon

    написали "ПЯТЬ ПРИЧИН НЕ БОЯТЬСЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА", а рассказываете про копирование разума. судить об искусственном интеллекте по фильму "Терминатор" по крайней мере нелепо. искусственный интелект способен уничтожить целую рассу, основываясь только на логике, т.к. это компьютер, в то время, как человеческий полагается не только на логику, но и на чувства, эмоции и т.д., так что ваша статья нелепа

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.