Искусственный интеллект далеко не такой умный, каким вы и Илон Маск его считаете

26 Июля 2017 в 11:30, Николай Хижняк 10 437 просмотров 34

В марте 2016 года компьютерный алгоритм AlphaGo компании DeepMind смог одержать победу над Ли Седолем, на тот момент лучшим в мире игроком в сложную логическую го. Это событие стало одним из тех определяющих моментов в истории технологической индустрии, коими в свое время стали и победа компьютера Deep Blue компании IBM над чемпионом мира по шахматам Гарри Каспаровым, и победа суперкомпьютера Watson от той же IBM в викторине для эрудитов Jeopardy в 2011 году.

Но все же, несмотря на эти победы, какими бы впечатляющими они ни были, здесь речь в большей степени идет о тренировочных алгоритмах и использовании грубой вычислительной мощности, нежели о реальном искусственном интеллекте. Бывший профессор робототехники Массачусетского технологического института Родни Брукс, являющийся одним из основателей компании iRobot, а позже Rethink Robotics, говорит, что обучение алгоритма игре в сложную стратегическую головоломку – это не интеллект. По крайней мере не такой, каким мы его представляем для человека.

Эксперт объясняет, что каким бы сильным AlphaGo ни показал себя при выполнении поставленной перед ним задачи, на самом деле он не способен ни на что другое. Более того, он настроен таким образом, что может играть в го только на стандартном поле 19 x 19. В интервью порталу TechCrunch Брукс рассказал, как недавно имел возможность пообщаться с командой из DeepMind и выяснить одну интересную деталь. На вопрос о том, что случилось бы, поменяй организаторы соревнования размер доски го и увеличив ее до 29 x 29 клеток, команда AlphaGo призналась ему, что даже легкое изменение игрового поля привело бы к тому, что «нам настал конец».

«Я думаю, что люди видят, насколько хорошо алгоритм справляется с одной задачей, и, видимо, тут же считают, что он способен так же эффективно выполнять другие. Но дело в том, что он не может», — прокомментировал Брукс.

Грубый интеллект

В мае этого года в интервью Дэвину Колдвею на мероприятии TechCrunch Disrupt Каспаров отметил, что разработка компьютера, способного играть в шахматы на мировом уровне, – это одно, но совсем другое назвать такой компьютер чистым искусственным интеллектом, так как он им не является. Это просто машина, которая бросает всю свою вычислительную мощность на решение проблемы, с которой она привыкла справляться лучше всего.

«В шахматах машины побеждают из-за возможности глубокого вычислительного расчета. Они могут стать совершенно непобедимыми при наличии огромной базы данных, очень быстрых аппаратных средств и более логичных алгоритмов. Однако они лишены понимания. Они не распознают стратегические шаблоны. У машин нет цели», — заявил Каспаров.

Гил Пратт, генеральный директор Toyota Institute, отдела компании Toyota, занимающегося вопросами и проектами, связанными с искусственным интеллектом и его использованием в домашних роботах и беспилотных автомобилях, тоже принял участие в интервью TechCrunch в рамках мероприятия Robotics Session. По его мнению, тот страх, который мы слышим от широкого круга людей, включая Илона Маска, недавно назвавшего искусственный интеллект «экзистенциальной угрозой человечеству», может быть обусловлен не более чем теми антиутопичными описаниями мира, которые нам предлагает научная фантастика.

«Наши нынешние системы глубинного обучения хороши в выполнении поставленных перед ними задач лишь настолько, насколько мы их сами создали. Но на самом деле они довольно узкоспециализированы и крошечны по своим масштабам. Поэтому я считаю важным каждый раз в контексте этой темы упоминать и то, насколько они хороши, и то, насколько они на самом деле малоэффективны. А также то, как далеки мы от того момента, когда эти системы смогут начать представлять ту угрозу, о которой говорит Илон Маск и остальные», — прокомментировал Пратт.

Брукс, в свою очередь, на TechCrunch Robotics Session отметил, что среди людей вообще наблюдается тенденция считать, что если алгоритм способен справляться с задачей «икс», то он, видимо, такой же умный, как человек.

«Я думаю, что причина, по которой люди, включая Илона Маска, совершают эту ошибку, заключается в следующем. Когда мы видим человека, очень хорошо справляющегося с поставленной перед ним задачей, мы понимаем, что он обладает высокой компетенцией в этом деле. Мне кажется, что ту же самую модель люди пытаются применить и к машинному обучению. И в этом как раз и заключается главная ошибка», — говорит Брукс.

Глава компании Facebook Марк Цукерберг провел в минувшее воскресенье прямую трансляцию, в ходе которой тоже выступил с критикой комментариев Илона Маска, назвав их «довольно безответственными». По мнению Цукерберга, ИИ будет способен существенно улучшить нашу жизнь. Маск в свою очередь решил не отмалчиваться и ответил Цукербергу, что у того «ограниченное понимание» об ИИ. Тема еще не закрыта, и Маск пообещал чуть позже более подробно ответить на нападки со стороны коллег в IT-индустрии.

К слову, Маск не единственный, кто считает, что ИИ может нести потенциальную угрозу. Физик Стивен Хокинг и философ Ник Бостром тоже выражают свою озабоченность о потенциале проникновения искусственного интеллекта в уклад жизни человечества. Но, скорее всего, они говорят о более генерализированном искусственном интеллекте. О том, который изучают в таких лабораториях, как Facebook AI Research, DeepMind и Maluuba, нежели о более узкоспециализированном ИИ, первые зачатки которого мы можем видеть уже сегодня.

Брукс также отмечает, что многие из критиков ИИ даже не работают в этой сфере, и предположил, что эти люди просто не понимают, насколько сложным бывает поиск решения каждой отдельной задачи в этой области.

«На самом деле людей, считающих ИИ экзистенциальной угрозой, не так много. Стивен Хокинг, британский астрофизик и астроном Мартин Рис… и еще несколько человек. Ирония в том, что большинство из них объединяет одна особенность – они даже не работают в сфере искусственного интеллекта», — сказал Брукс.

«Для тех же нас, кто работает с ИИ, вполне очевидно, насколько сложным бывает добиться работы чего-то на уровне готового продукта».

Неправильное представление ИИ

Часть проблемы исходит еще и из того факта, что мы называем все это «искусственным интеллектом». Правда в том, что этот «интеллект» совсем не похож на человеческий интеллект, который в справочниках и лексических словарях обычно описывается как «способность к обучению, пониманию и приспосабливаемости к новым ситуациям».

Паскаль Кауфман, генеральный директор Starmind, стартапа, предлагающего помощь другим компаниям в использовании коллективного человеческого интеллекта в поисках решений проблем в сфере бизнеса, в течение 15 последних лет изучал нейробиологию. Человеческий мозг и компьютер, отмечает Кауфман, работают совсем по-разному, и было бы очевидной ошибкой их сравнивать.

«Аналогия – мозг работает как компьютер – очень опасна и стоит препятствием в прогрессе развития ИИ», — говорит Кауфман.

Эксперт также считает, что мы не продвинемся в понимании человеческого интеллекта, если будем рассматривать его в технологическом плане.

«Это заблуждение, что алгоритмы работают как человеческий мозг. Людям просто нравятся алгоритмы, и поэтому они думают, что мозг можно описать с их помощь. Я же считаю, что это в корне неверно», — добавляет Кауфман.

Если что-то пойдет не так

Есть множество примеров, когда ИИ-алгоритмы оказываются далеко не так умны, как мы привыкли о них думать. И одним из, пожалуй, самых бесславных может служить ИИ-алгоритм Тэй (Tay), созданный командой разработки ИИ-систем компании Microsoft и вышедший из-под контроля в прошлом году. Потребовалось менее одного дня, чтобы превратить бота в настоящего расиста. Эксперты говорят, что это может произойти с любой ИИ-системой, когда ей предлагают плохие примеры для подражания. В случае с Тэй, она попала под влияние расистских и других оскорбительных лексических словоформ. А так как она была запрограммирована на «обучение» и «зеркальное поведение», то вскоре вышла из-под контроля исследователей.

В рамках получившего широкое распространение исследования специалистов Корнеллского и Вайомингского университетов было установлено, что очень легко обмануть алгоритмы, натренированные на идентификацию цифровых изображений. Специалисты обнаружили, что изображение, которое выглядело как «скремблированная бессмыслица» для людей, алгоритмом определялось как изображение какого-нибудь повседневного объекта вроде «школьного автобуса».

Согласно статье, опубликованной в MIT Tech Review и описывавшей этот проект, не до конца понятно, почему алгоритм можно обмануть тем образом, которым это делали исследователи. Что удалось выяснить, так это то, что люди научились распознавать, что перед ними находится – либо самодостаточная картинка, либо некое непонятное изображение. Алгоритмы же, в свою очередь, анализирующие пиксели, легче поддаются манипуляции и обману.

Что же касается самоуправляемых автомобилей, то здесь оказывается все гораздо сложнее. Есть некоторые вещи, которые человек понимает, когда готовится столкнуться с определенными ситуациями. Машину же этому обучить будет очень сложно. В большой статье, опубликованной в одном из автомобильных блогов Родни Бруксом в январе этого года, приводятся несколько примеров таких ситуаций, включая ту, в которой описывается, как беспилотный автомобиль приближается к дорожному знаку «Стоп», расположенному рядом с пешеходным переходом в городе, в самом начале которого стоят и общаются взрослый с ребенком.

Алгоритм, вероятнее всего, будет настроен так, чтобы дождаться перехода пешеходов через дорогу. Но что, если у этих пешеходов и в мыслях не было переходить дорогу, так как они стоят и ждут, скажем, школьный автобус? Водитель-человек в этом случае мог бы посигналить пешеходам, которые в ответ могли бы помахать ему рукой, сообщая о том, что тот может проезжать. Беспилотный же автомобиль в такой ситуации может просто застрять намертво, бесконечно ожидая перехода людей через дорогу, потому что алгоритм не обладает пониманием таких уникальных человеческих сигналов, пишет Брукс.

Каждый из таких примеров показывает нам, насколько далеко нам еще предстоит продвинуться в развитии алгоритмов искусственного интеллекта. Насколько сильно смогут преуспеть разработчики генерализованного ИИ – это еще вопрос. Существуют вещи, с которыми человек способен запросто справиться, однако для обучения алгоритма это будет настоящей пыткой. Почему? Потому что мы, люди, не ограничены в нашем обучении набором определенных задач.

Искусственный интеллект далеко не такой умный, каким вы и Илон Маск его считаете

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

34 комментария

  1. vyshny

    Маск обвинил Цукерберга в ограниченном понимании. Ржу нимагу...

  2. werter

    Единственный способ стать умнее — играть с более умным противником. ©новы шахмат, 1883 г (отправлено из приложения Hi-News.ru)

  3. werter

    Враг,который знает будущее, не может проиграть.© Гранi будующэго (отправлено из приложения Hi-News.ru)

  4. Lazer

    Слишком капитанская статья. Макс понимает, что сегодня ии на примитивном уровне, но он ведь говорит за БУДУЩЕЕ. Пройдёт лет 30-60 и всё изменится. Именно потому он и говорит, что у Цукерберга «ограниченное понимание» об ИИ.

  5. allexxic

    Маск действительно не понимает сложность (невозможность) создания ИИ ("'электронного сознания"). Ему и некогда копаться в этом вопросе, для чего он собирает всех специалистов в этой области и пытается от них что то понять. Но он все равно так узко не поймет это вопроса как нейрохирург или программист. И они не станут его отговаривать, пока он платит за исследования. Нельзя быть специалистом во всех областях, или можно, но жить надо вечно.

    • resurrected

      Нельзя говорить что невозможно, не являясь узким специалистом. А я не знаю ни одного такого узкого, который бы сказал что невозможно.

      • allexxic

        Есть в инете есть комментарии узких специалистов в области оцифровки мозга (областей мозга) крысы и человека. Суть их в том что они не верят в электронное сознание, и их цель - достать готовые алгоритмы работы мозга для решения определенных задач, а также для диагностики и изучения заболеваний нервной системы.

    • vyshny

      Маск не гений,но и не такой дурак,как вы тут ненароком описали.

      • allexxic

        Не люблю крайностей (гений, дурак).Побольше бы таких людей как Маск, с его сильной и чистой (исследовательской и мечтательной) мотивацией к совершенству технологий. Несомненно исследования в области ИИ нужны и неизбежны. Остерегаться нам стоит лишь одного - своей степени доверия к алгоритмам (программам на основе нейросетей, пусть кто то называет их ИИ), которые во всех областях будут выдавать нам готовые , самые "оптимальные" решения: как отдохнуть, как сбросить вес именно вам, что почитать, во что лучше поиграть, куда отправить учится детей, какую выбрать себе спутницу жизни и тд. А возможность написания и этих алгоритмов будет не только у людей с чистой совестью. Опасность состоит в управлении нами через наше доверие, но управление людьми , а не ИИ. И я имел ввиду что нам нечего боятся (пусть в ближайшие несколько тысяч лет) ИИ у которого загорится лампочка сознания и которыйй начнет строить свои "сумашедшие" планы.

    • Lazer

      Чепуха.

    • designer_andrew

      Ну так создать ИИ возможно. Сам интеллект человека - неопровержимое доказательство того, что это модно создать. Вопрос лишь времени, и Маск имеет ввиду именно перспективу, а не текущие достижения. (отправлено из iOS приложения Hi-News.ru)

      • allexxic

        В перспективе в лучшем случае это будет ну очень умный поисковик и помощник в любом деле. Но вы не сможете, сидя на лавочке вечерком, попивая пивко, поболтать с ним как с другом, пошутить, рассказать свою историю, а он вам свою. Если его даже напичкают всеми историями и книгами и шутками, которые он будет кидать( не в тему, по вашему настроению, по лучшим выборкам соц сетей), ощущение живого друга не будет. И вы станете проводить над ним эксперименты в общении, те что не позволили бы сделать с настоящим другом. Если вас устраивает такой "разум" называйте его - ИИ.

  6. MyR

    А что будет, если стравить два искусственных интеллекта? Они же поубивают друг друга)) или сгорят))
    В "Законах робототехники" нужно записать что нельзя устраивать соревнования между ИИ - последствия непредсказуемы.

  7. abdula

    По сути в статье верно описывается, что алгоритмы и вычислительная мощность в узконаправленной деятельности - это не есть ИИ. Для меня ИИ - это возможность алгоритму самообучаться, и скорее даже не в узкой деятельности, а в обширных сферах, причем компетентность ИИ будет самовозврастать, ИИ должен будет сам приспосабливаться к нестандартным ситуациям, пусть даже методом проб и ошибок, и принимать самостоятельно решения. (отправлено из приложения Hi-News.ru)

    • Fred

      «способность к обучению, пониманию и приспосабливаемости к новым ситуациям»
      Здесь ключевое слово - "новым"
      Современный ИИ напоминает готовый инструмент как "гаечный ключ", который хоть и может быть "разводным", никогда не станет отверткой, если его таким не сделать заранее.

  8. Vladimir2017

    ЭМ и К -визионеры, которые видят и понимают опасность возникновения носителя субъктности природы отличной от человека. Опасность представляет именно свойство быть субъектом, а не быть интеллектом, но к глубокому сожалению, эти два свойства неотделимы.

  9. dawson.white

    Все правильно. Так и калькулятор можно назвать ИИ. Он же лучше человека считает, и быстрее. А вообще я думаю пока не смогут воссоздать работу человеческого мозга никакого мощного универсального ИИ не будет. И уж тем более с самосознанием. А именно такой сможет представлять угрозу. А это все игрушки. (отправлено из приложения Hi-News.ru)

  10. konstahnten

    Человектоже не поймет сигналов пешеходов если он их незнает человек нестанет ждать долго и проедет потомушто хочет кушать и тп... ИИ тоже нестанет ждать долго и проедет если возможно потомушто такая программа * не ждать долго* в чем разница между ИИ и человеком
    (отправлено из iOS приложения Hi-News.ru)

  11. amd212

    ИИ это программа, алгоритмы, код, база данных ... Он не может быть умным или глупым. Его нельзя стопроцентно отладить; написать идеально; без багов, ошибок и ботлнеков.
    И так будет всегда.

    • bari

      Ну не совсем так. ИИ это программа, но в отличие от других может менять саму себя (менять свой алгоритм) - обучаться.
      Согласен, что до уровня человеческого мозга ему никогда не добраться, но в выполнении некоторых задач может вполне подойти.
      А кто думает, что ИИ сможет когда нибудь превзойти человека, или хоть сравняться с ним, глубоко заблуждаются.

      • mannannlegur

        Ах, если бы он мог менять алгоритм! ИИ сегодня - это фиксированный алгоритм с большим набором параметров. Меняя их, он может обучаться. Но если сделать перед обучаемой нейронной сетью алгоритм, переводящий, скажем, звук в вектор чисел, то этот алгоритм НИКОГДА не сможет распознать, что находится, например, на картинке. (отправлено из iOS приложения Hi-News.ru)

        • mannannlegur

          Я к тому, что алгоритм очень узко специализирован. Создаётся для одной конкретной задачи. Если более формально, он пытается аппроксимировать какое-то вероятностное распределение каких-то конкретных данных. Дайте ему другие данные с другим распределением - он уже ничего не сможет. (отправлено из iOS приложения Hi-News.ru)

      • amd212

        ИИ не меняет свой алгоритм, не переставляет строчки собственного кода (если конечно разработчик не имплиментировал это). Под обучением по сути имеется ввиду изменение содержимого собственной "базы знаний" под влиянием внешних воздействий транслирующихся в стандартные БД команды "добавь / измени / удали"

  12. ElkTheSenior

    Человек ничтожен в знаниях без иного человека, так-как индивидуум узко ограничен личным временным опытом, который тот способен передавать другим в процессе своей непродолжительной материальной жизни, оттого и прослеживается нынешний технологических прогресс, без которого не было бы калькуляторов и прочих вычислительных схем.

    Люди преуспели благодаря обмену между собой, в широком смысле этого слова, иначе и быть не может. Индивидуальный людской опыт, предназначен не для самого индивидуума, а для общего развития всего вида, к какому бы тот не относился.

    Мало просто создать искусственный "интеллект". Нужно научить таковой общаться с другими AI, компенсируя одни узконаправленные сети за счёт других, сотворив нечто, напоминающее муравейник, где у каждого отдельного "индивидуума" имелась бы своя определённая обязанность по отношению к остальным сетям. Вот тогда это нечто во множественном числе и можно будет начинать называть интеллектом.

    • vyshny

      верно. только в этом случае, возможно создать нечто похожее на нейронную сеть. хотя, в любом случае, добиться от машины самосознания, на мой взгляд, не реально. удастся совместить биологию и электронику, тогда можно думать о опасности для человека. все остальное профанация. чем собственно и занимаются роботофобы.

  13. VGRB

    Тут че одни Цукерберги собрались? Речь о Будущем ИИ! Сегодня это калькулятор. (отправлено из iOS приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.