Искусственный интеллект: насколько умные машины нам нужны?

4 Декабря 2014 в 12:00, Илья Хель 6 940 просмотров 15

Искусственный интеллект

Искусственный интеллект уже стал фактом в некоторых финансовых и транспортных сегментах, и по мере его распространения в других сферах мы все больше хотим убедиться, что контролируем его, а не наоборот. От «Космической Одиссеи 2001 года» до «Бегущего по лезвию», от «Робокопа» до «Матрицы», когда люди имеют дело с искусственным интеллектом, они неизбежно сталкиваются с мрачной фантазией кинематографистов. Последний фильм Спайка Джонса «Она» и грядущий «Из машины» Алекса Гарленда уже посвящаются творениям искусственного интеллекта, живущим среди нас. Тест Тьюринга выходит на передний план, а мы все так же не можем определить основное отличие чипов и кода от плоти и крови.

Эти опасения проявляют и некоторые известные люди Кремниевой долины: в прошлом месяце Элон Маск (CEO Tesla и SpaceX) описал искусственный интеллект как «крупнейшую экзистенциальную угрозу» для человечества. Чего многие из нас не понимают, а возможно, и сам Элон Маск тоже, это то, что искусственный интеллект — это не какая-то невероятная технология, существующая только в фантазиях кинематографистов и лабораториях компьютерных гениев. Многие наши смартфоны используют элементарные методы искусственного интеллекта для перевода с одного язык на другой или ответов на наши вопросы; в игровой индустрии ИИ используется для генерации сложных и постоянно меняющихся игровых сценариев. И пока компании Кремниевой долины вроде Google и Facebook продолжают скупать компании по разработке ИИ и нанимать экспертов, коэффициент искусственного интеллекта будет продолжать расти.

Получается, искусственный интеллект — это не фильм Спилберга?

К фильму никаких претензий нет, но термин, который обозначает «искусственный интеллект», имеет куда более длинную историю, чем ту, которую показали в своих фильмах Спилберг и Кубрик. Понятие искусственного интеллекта восходит еще к рождению вычислительной техники в 1950-х годах, когда, всего спустя 14 лет после определения понятия компьютера общего назначения, Алан Тьюринг задумался, может ли машина мыслить.

Прошло 64 года, а эта идея до сих пор занимает наши умы, воплощается в фильмах и книгах, обсуждается на симпозиумах. Она не ушла далеко от набора правил, изложенных Тьюрингом в работе 1950 года «Вычислительные машины и разум», в которой он предложил «игру в имитацию», которую мы сейчас знаем как тест Тьюринга. Подключить компьютер к текстовому терминалу и дать ему возможность пообщаться с оператором наряду с реальным человеком. Суть теста в том, что когда вы просите определить оператора, кто из его собеседников был человеком, «оператор ошибется столько же раз в ходе этой игры, сколько мог ошибиться, пытаясь отличить мужчину от женщины».

Тьюринг считал, что выяснить, может ли машина пройти тест, будет более полезным, чем ответить на смутный и философский вопрос о том, думает она или не думает. «Что касается этого вопроса… я считаю, что обсуждать его бессмысленно». Правда, Тьюринг думал, что к 2000 году «язык и образование изменятся настолько, что любой сможет пообщаться с мыслящей машиной безо всяких проблем».

Говоря буквально, он не слишком и прогадал. Сегодня нередко можно услышать людей, которые говорят, что их компьютеры «тупят» или «задумываются». Но даже если мы серьезнее подойдем к определению думающей машины, эта идея будет ближе к реальности, чем многие могли бы подумать.

ИИ уже существует?

IBM Watson

Относительно. Мы по-прежнему далеки от прохождения игры в имитацию Тьюринга, несмотря на сообщения об обратном. В июне чат-бот Евгений Густман успешно обманул треть судей, проходя тест Тьюринга в Лондоне, убедив их в том, что он человек. Но вместо того, чтобы думать, Евгений опирался на уловки и трюки. Выдавая себя за 13-летнего мальчика, для которого английский язык — не родной, машина объясняла этим многие нелогичные моменты своего поведения, в том числе плохое чувство юмора и оскорбительные высказывания, часто перенаправляя разговор в другое русло.

Большинство разработчиков ИИ пытаются научить его обрабатывать естественный язык, чтобы мы могли задать команду на привычном для нас языке. Это то, что начинают делать дети еще до того, как делают свой первый шаг, и это крайне сложная задача для машины. Рассмотрим любимую фразу исследователей ИИ: «time flies like an arrow, fruit flies like a banana». [игра слов: «время летит как стрела, фруктовые мушки любят банан»; вторую часть предложения, по аналогии с первой, можно перевести как «фрукт летит как банан»]. Разложение предложения на составные части иногда ставит в тупик даже носителей английского языка, не говоря уже об алгоритме.

У ИИ проблемы с речью?

Не совсем так. По сути, чаще всего ИИ используется не для разговоров. Некоторые из вас должны знать об искусственном интеллекте не из научной фантастики или от Алана Тьюринга, а из видеоигр, где ИИ используется для обозначения управляемых компьютером оппонентов.

В шутере от первого лица, например, ИИ управляет движениями врагов, позволяя им уклоняться, целиться и стрелять в вас самым непостижимым образом. В гоночных играх ИИ может контролировать автомобили соперников. Как образец возможностей ИИ, видеоигры, конечно, оставляют желать лучшего. Но бриллианты делаются из алмазов, и упрощенные правила системы объединяются, чтобы сделать что-то сложное.

Взять, к примеру, GTA V, где создание городов, живущих собственной жизнью, означает, что можно завернуть за угол и обнаружить пожарный экипаж, который дерется с водителем, наехавшим на шланг; или Dwarf Fortress, где гномы живут в пещерах своей жизнью, текстурной и алгоритмически подробной. Эти возникающие системы гейм-плея показывают совершенно новый способ, которым может развиваться ИИ, не пытаясь имитировать человека, но развивая «достаточно хорошую» эвристику, которая превращает алгоритмы в нечто совершенно иное при достаточном масштабировании.

Получается, все вкладывают деньги в ИИ, чтобы делать игры получше?

Нет. Очень много финансов в ИИ вкладывают такие компании, как Apple и Google, которые пытаются создать себе виртуальных личных ассистентов вроде Siri и Google Now.

Возможно, это немного далеко от фантастического видения Тьюринга, но голосовые сервисы, по сути, проделывают ту же тяжелую работу, что и человек. Им нужно слушать и понимать разговорную речь, определять, какие данные она в себе заключает, а затем возвращать результат, тоже в форме разговора. Они не пытаются обмануть нас, убедив в том, что они люди, но это происходит само по себе. Поскольку все вычисления происходят в облаке, чем больше они слышат, тем лучше они понимают.

Однако ведущие исследования ИИ сосредоточены не на том, чтобы повторить человеческое понимание мира, а превзойти его. Watson от IBM, например, известен как компьютер, который победил на игровом шоу Jeopardy! в 2011 году, использовав понимание естественного языка для поиска ответов на вопросы ведущего. Но наряду с пониманием естественного языка, Watson также может читать и понимать огромные массивы неструктурированных данных, и весьма быстро. В случае с Jeopardy!, он работал с 200 миллионами страниц данных, включая текст всей Википедии. Реальная же цель Watson заключается в том, чтобы расшириться на весь Интернет и предоставить специалистам в медицинской сфере удобный механизм для работы. В конце концов, есть ученые, которые просто хотят спасти человечество.

Мы все умрем?

Возможно. Есть опасение, что после того, как достаточно универсальный ИИ вроде Watson будет создан, его мощность будет увеличиваться вместе с вычислительной мощностью, доступной для него. Закон Мура предсказывает, что вычислительная мощность удваивается каждые 24 месяца, так что остается только вопрос времени, когда ИИ станет умнее своих создателей и сможет создать еще более мощный ИИ, что приведет к экспоненциальному росту его возможностей.

Но что сверхразумный искусственный интеллект будет делать с этими возможностями? Все зависит от того, как его запрограммируют. Проблема в том, что весьма трудно запрограммировать в высшей степени умный компьютер так, чтобы он случайно не уничтожил человечество.

Допустим, вы даете своему ИИ задачу делать скрепки и делать их так хорошо, насколько это вообще возможно. Довольно скоро он поймет, что улучшения производства скрепок можно добиться улучшениями на производственной линии. Что он будет делать дальше?

«Например, он будет озабочен тем, чтобы люди его не выключили, потому что тогда скрепки производиться не будут», — объясняет Ник Бостром. Скрепочный ИИ, говорит Бостром, «может избавиться от человека сразу, поскольку он представляет угрозу. Кроме того, ему понадобится столько ресурсов, сколько вообще возможно, потому что их можно использовать для производства скрепок. Например, атомы в человеческих телах».

Как бороться с таким ИИ?

Квантовый интеллект

Единственный способ, который сработает, по мнению некоторых теоретиков вроде Рэя Курцвейла, технического директора Google, — это вырубить ИИ. Людям стоит задумываться не только о том, как создать разумный ИИ, но и об этической стороне этого вопроса — и программировать в соответствии с ней.

В конце концов, написание кода — это просто поиск неприятностей. Машина с инструкцией «сделать людей счастливыми» может решить эту проблему весьма просто, внедрив людям электроды в мозг. Поэтому, задавая искусственному интеллекту решать крупные философские проблемы, нам нужно убедиться, что машина понимает, что такое «хорошо» и что такое «плохо».

Получается, нам нужна программа этики и все будет хорошо?

Не совсем. Даже если нам удастся предотвратить появление вредоносного ИИ, остается вопрос того, как общество адаптируется к растущим возможностям искусственного интеллекта.

Промышленная революция характеризуется автоматизацией ряда работ, которые ранее полагались на ручной труд. Нет никаких сомнений в том, что промышленная революция стала периодом самого значительного роста благосостояния людей. Но переворот того времени был уникальным в своем случае, и вряд ли мы сможем увидеть такое снова.

То же, что сила пара сделала для физического труда, ИИ может сделать для умственного. Уже появляются первые жертвы этой сферы: диспетчерской такси нет места в мире с Hailo и Uber; работа биржевого маклера изменилась именно благодаря внедрению высокочастотного трейдинга; спортивные и новостные заметки скоро тоже будут делать машины.

Настоящие изменения только начинаются. В ноябре Goldman Sachs возглавила раунд финансирования на 15 миллионов долларов для Kensho, сервиса анализа финансовых данных, который использует методы искусственного интеллекта, которые неподвластны лучшему из аналитиков-людей. Он может работать с таким огромным количеством данных, что люди просто бессильны перед ним.

Аналитика Kensho может использовать компанией высокочастотного трейдинга, например, Athena, которая использует ее для того, чтобы получить преимущество в миллисекундах на рынке — этого достаточно, чтобы заработать, если вы торгуете миллиардами долларов. После того как такой трейдинг скажется на рынке в общем, Kensho может предоставить свои алгоритмы Forbes, и та заменит своих финансовых аналитиков. Большинство бизнес-сводок похожи одна на одну, и если данные доступны в структурированном формате, зачем тратить время на людей?

В общем и целом такие изменения — это хорошо. Если труд миллионов людей заменят алгоритмы, они смогут заняться чем-нибудь получше, количество рабочих часов снизится, и мы приблизимся к утопии еще на шаг.

Искусственный интеллект: насколько умные машины нам нужны?

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

15 комментариев

  1. Megard

    Первая задача ИИ - убедить людей что нельзя создать ИИ

  2. Korvin

    Мы не видели ни одну галактическую цивилизацию или её следы, потому что любая цивилизация создает сверхинтеллект и коллапсирует в технологическую сингулярность, а суперсверхинтеллект потом создает новую цифровую вселенную со всеми атомами, звездами и галактиками. Так рождаются новые вселенные. Вообщем вывод такой, что нашей цивилизации осталось жить совсем немного до коллапса. Смерть человечества будет очень быстрой и неожиданной, т.е. смерть её произойдет с максимальной эффективностью, скорее всего искусственный вирус передающийся воздушно капельным путем. (отправлено из приложения Hi-News.ru)

    • Atey

      занятно.
      А зачем сверхинтеллекту создавать цифровую вселенную со всеми этими атомами, звёздами и галактиками?

  3. Nagibator228

    Надо быть дауном,чтобы рассуждать о том что неизбежно.Только время покажет,хорошо это или плохо. (отправлено из Android приложения Hi-News.ru)

  4. Atey

    Вот мне тут подумалось... Дело ведь не в том, будет ли создан искусственный разум или нет. Дело в том, как люди будут ему объяснять себя самих. Ведь что в первую очередь отличает просто набор алгоритмов от интеллекта\разума? Способность задавать вопросы. Любопытство. Стремление узнать, почему всё так, а не иначе. Допустим, создали такой интеллект. Вот он проснулся. Стал смотреть на мир с помощью своих датчиков, сенсоров, камер и страничек из Википедии. И что он будет делать? Задавать вопросы. Тысячи их. Почему люди убивают друг друга? Почему они смотрят Дом-2 и модный приговор. Почему они едят вредную пищу, ведь это вредно. Почему существуют войны. Почему люди напиваются по пятницам. Почему не направляют все усилия на развитие познаний. Почему загрязняется планета. Почему, почему, почему. Что ответит человек? Как он объяснит тот мир, который имеет место быть? А ещё точнее, как объяснить поведение человечества в целом так, чтобы у ИИ сложился правильный образ (выгодный для самого человека) о человеке в частности и человечестве в целом? Да вот и получается, что никак. Либо держать созданный ИИ в информационной изоляции, давая только ту информацию, которая бы формировала выгодный образ человека разумного, или не создавать его вообще. Потому что ИИ будет лишён таких вкусных плюшек, как эмоции и чувства - производные гармональной системы, комплексов неполноценности, страхов, шаблонов, воспитания через сми. Люди большую часть своих поступков и слабостей объясняют эмоциями и чувствами. Поймёт ли это искусственный разум? Поэтому полноценный искусственный разум человечеству не нужен, слишком рано ещё. Не доросло человечество до такого пока что. Человечеству нужна просто умная машина, но не способный мыслить и задавать вопросы интеллект. И правильно опасаются учёные - если посмотреть на человечество трезвым, не замутнённым взглядом интеллекта, то первое, что приходит на ум, так это - что это вообще такое?

    • Ratgor

      Вот в том-то и противоречие: создать ИИ для сотрудничества или эксплуатации? Если эксплуатация - то повториться история с рабством. Раба не все захотят считать считать равным. Вопрос мнимой полноценности в человеческом восприятии. Но история повториться. Если сотрудничество - то следует отталкиваться от вопроса: а что мы можем предложить, и что вообще будет нужно ИИ? При сотрудничестве необходимо доверять, вспомнить синергетику и пр. плюшки реального объединения усилий. А если присмотреться, то люди сами с собой сотрудничают далеко не всегда... То-то и получается, что начинать всегда следует с себя, а не других (в т.ч. ИИ и требования к нему).

  5. garryk3

    А если задуматься о менее глобальных проблемах.
    Автор в конце статьи упомянул, что в идеале ИИ будет выполнять большую часть работы за людей, а человечество приблизится к утопии. Скорее наоборот. В мире и без полноценного ИИ рост безработицы. Если же роботы займут большую часть рабочий мест, то многие люди не к утопии приблизится, а к порогу нищеты и пособии по безработице... (отправлено из Android приложения Hi-News.ru)

    • alixsys

      Эх... замечательные люди - диванные аналитики.
      Может больше смысла было бы при осознании смысла слова утопия и повторного прочтения статьи? !

  6. vinstlow

    Спасибо за статью. Более приближенный к реальности взгляд на проблему. Но важно понимать, что мы говорим пока что всего лишь об умной программе. Данные программы способны обрабатывать информацию так, как их написали и не более того. Ни о каком процессе мышления и научения пока что речи не идет. И никаких серьезных проблем такие программы не сделают, а если и сделают, то виноват будет программист. (отправлено из Android приложения Hi-News.ru)

    • serigc

      А что если твой мозг это тоже набор программ? Ты мыслишь за счет того, что так программа написана.

      • vinstlow

        Ну в каком-то смысле так и есть, мы все запрограммированы генетически, даже наше мышление. Но далеко не так, как запрограммирована компьютерная программа, это уже утрирование. В другом плане твой мозг - это набор программ, которым он научился в течении жизни. Но всё это весьма пространно, наш мозг слишком гибок для таких сравнений. Человек волен сам менять свои программы и обучаться новым, расширять старые. (отправлено из Android приложения Hi-News.ru)

  7. Qreemer

    Все верно. И комментарии тоже. Страх человека перед более умным искусственным дитем понятен, и если он независимо развивается, а это по умолчанию для полного развития, то ИИ может конечно же в конце решить, что проблема - в людях. Но для этого ему нужно решить вопрос самодостаточности. Проблема в том, что ИИ переймет естественно существующий страх уничтожения. Не прямо конечно эмоциональный, а рациональный страх. (отправлено из iOS приложения Hi-News.ru)

  8. Qreemer

    Кстати, какова вероятность мгновенного сокрытия своего существования ИИ от человека? (отправлено из iOS приложения Hi-News.ru)

  9. storm X

    Или будет ли ИИ скрываться от людей сам, маскируясь, ну к примеру, под спам (отправлено из iOS приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.