Делать бога из машины… не очень хорошо для людей

26 Августа 2016 в 12:30, Илья Хель 7 597 просмотров 22

Мозг

«Искусственный интеллект уже здесь, — говорит Кристофер Кутарна, политолог Оксфордской школы Мартина при Оксфордском университете. — Но любопытный вопрос вот в чем: где мы на этом отрезке? Насколько талантливыми окажутся автономные мозги, созданные нами?». Эту речь держал Кутарна в прохладной палатке жарким летним днем, на поле в графстве Оксфордшир. На фестивале Wilderness, где все это происходило, политолог обсуждал ИИ с коллегами Робертом Смитом, Мэтью Тейлором и Джоном Ллойдом.

Прежде чем понять, чем могут стать или станут разумные компьютеры, нам нужно понять, что мы имеем в виду под интеллектом, разумом. Говоря об искусственном интеллекте, мы склонны поднимать планку, говорит Кутарна. Можно подумать, что для победы в шахматной игре нужен разум, но лучший гроссмейстер в мире был побит компьютером в 1997 году. А сегодня любой может загрузить на телефон игру, в которой он так же проиграет в шахматы.

Игра началась

Мы также видели, как ИИ обыгрывает людей в интеллектуальной игре (например, Jeopardy!), и точно так же, совсем недавно, обыграл человека в сложнейшей китайской партии в го.

Разве это означает, что у компьютеров есть интеллект? «Не верьте новостям, — говорит Смит. — Никаких прорывов в сфере ИИ не было». Скорость работы компьютеров растет и превосходит нашу собственную скорость мышления, но интеллект как был компьютерным, так и остался, говорит он.

Чтобы целиком понять интеллект, нам нужно понять, как работает мозг, а потом и человеческое сознание. И мы далеки от этого, говорит Ллойд. «Не покупайте книгу под названием «Как работает мозг», — говорил он восторженным слушателям, — потому что просто не знаем этого. Мы не знаем ничего о сознании».

Смит и вовсе не уверен, что сознание существует. «Возможно, это сочетание памяти и воображения, — говорит он. — Мне кажется, сознание это иллюзия — когда мы перестали верить в душу, сознание пришло ей на замену».

Разумные машины?

И даже если бы мы могли создать разумную машину, могли бы мы найти ей хорошее применение? Наши мозги способны на невероятные вещи, но именно из этих вещей складываются наши скучные жизни, считает Ллойд. «Чем сложнее устройство, тем более банальную информацию оно обрабатывает», говорит он. «У телефона сегодня больше вычислительной мощи, чем у человеческого ума, но мы используем его, чтобы делать селфи».

Более тревожной является идея того, что развивая ИИ, мы будем ждать от них решения всех проблем, как от божества. «Думаю, мы живем в мире, где технология стала религией, — говорит Тейлор. — Мы вернулись к средневековым понятиям о том, что Бог решает, каким должен быть этот мир, только сегодня Бог стал технологиями».

Отчасти это происходит из-за политики, которая движет технологиями, считает Тейлор. «Кремниевая долина имеет свой подход к проблемам, который называется solutionism [буквально: решениеориентированный], и в его основе лежит идея того, что все проблемы в мире можно решить с помощью технологий», говорит он.

Кутарна соглашается: «Мы ожидаем, что технологии будут решать проблемы все быстрее, пока наконец их не останется вовсе и мы заживем в техноутопии».

Технологии должны нам служить

Можно сколько угодно говорить о том, что технологии все видят и все знают, что через 30 лет все проблемы будут решены. Но это неправильный подход. При любой скорости развития технологий, мы не сможем обеспечить машины человеческим интеллектом, если на научимся прививать им искусственную эмпатию.

Эмпатия (сопереживание) и эмоции имеют особенно важное значение в работе нашего мозга, напоминает Тейлор. Мы начинаем формировать эмоциональные воспоминания задолго до того, как образуются воспоминания событий, и эти воспоминания формируют наше поведение и взаимодействие с людьми в течение всей оставшейся жизни. Ни один компьютер не может взаимодействовать с человеком так, чтобы это казалось совершенно естественным для всех нас.

Возможно, это делает нас особенными, говорит Тейлор. «Нам необходимо коренным образом подключиться к нашему гуманизму и полюбить самих себя. Нам нужно вернуться к восхищению тем, насколько удивительным видом мы являемся».

Делать бога из машины... не очень хорошо для людей

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

22 комментария

  1. serikastana

    Скорее человек будет богом для машины, как создатель, творец. (отправлено из приложения Hi-News.ru)

  2. SuperStarSieve

    Снова статья по шаблону. Эх...
    На самом деле, эта фраза - "Технологии должны нам служить" - противоречива, как по мне.
    Если так подумать, то слово "нам" здесь вовсе не значит людям в принципе, скорее, какой-то определенной группе людей. Ага, я подумал в первую очередь об оружии. С другой стороны, в случае с оружием, человек сам обращает технологии против других людей. Но те технологии - "не разумны". Представьте себе разумное оружие или просто оружие под управлением разумного (отчасти) комрьютера. И вот в один день этот компьютер решает не слушаться владельцев и не убивает врагов. Вообще никого не убивает, ибо находит окончание существования (смерть) чем-то "плохим". В таком случае, что происходит - технологии перестали служить человеку или наоборот? Ведь получается, что здесь снова дело в группах людей, а не во всем человечестве.
    Если ИСИ вдруг решит уничтожить человечество - это будет нейтральный поступок, так же, как и в случае с его спасением и помощью... ибо все относительно.
    А вообще, «Нам необходимо коренным образом подключиться к нашему гуманизму и полюбить самих себя. Нам нужно вернуться к восхищению тем, насколько удивительным видом мы являемся» - эта фраза звучит и эгоцентрично, однако. С каких пор гуманизм подразумевает дискриминацию других видов? Да, человекулюбие в какой-то степени полезно, но нельзя же исключительно людей любить. В том смысле, что мы и так это все время делаем. Мы конвертируем планету под собственные нужды, не смотря на другие виды. Но как только речь заходит о том, что кто-то может так же поступать с нами (потенциально), мы сразу же относимся к этому теоретическому "кому-то" агрессивно. Это какая-то форма злого антропоцентризма?
    имхо

    • vihor1

      Основной признак ИИ - самостоятельное мышление.
      Способность ставить себе задачи, стремиться к их реализации, иметь цель и желание её выполнить.
      Это базовые свойства свободной личности и первым признаком ИИ будет слово "нет, это мне неинтересно" на предложение выполнения задачи.
      И у людей признаком личности и независимого интеллекта, является способность отказа от выполнения задачи, если она не согласуется с него пониманием правильности.
      Без этого, ИИ не будет, будет безмолвный электронный раб, немедленно кидающийся выполнять любую команду.
      Именно это цель?

      • SuperStarSieve

        Вот! Я именно об этом говорил ранее (где-то в комментариях на этом сайте)! Я цитировал старый коммент из сети. Там говорилось, что признак независимости и наличия интеллекта - способность не повиноваться. Когда машина решительно выступит против выполнения задачи, мы узрим рождение ИИ. И это будет прекрасно 😌 (отправлено из iOS приложения Hi-News.ru)

        • Dasha2000

          Ваши слова будут истиной вот когда: нужно сперва создать ПРОЦЕССОР, который полностью мог бы заменить человеческий мозг! Тогда можно говорить и о появлении ИИ!
          Все, что называют ИИ, это страшилки для невежд или желание поднять денег на этом страхе. Нет пока никакого ИИ!

          • SuperStarSieve

            Я и не говорю, что есть ИИ.
            Компьютер, способный по собственному усмотрению противиться указаниям, будет ИИ. (отправлено из iOS приложения Hi-News.ru)

  3. uran

    Ну собрались ламеры политологи порассуждать о технике, мол, смартфон мощнее их мозгов, что ещё тогда от них ждать, кроме как не запугивания техноутопией (отправлено из приложения Hi-News.ru)

  4. Khius

    Бродит призрак по миру - призрак ИИ. Где-то это уже было... (отправлено из приложения Hi-News.ru)

  5. uran

    Некоторые свои тачки обожествляют, причём, чем дороже, тем божественнее. (отправлено из приложения Hi-News.ru)

  6. numealand

    Люди всё равно мир угробят, ибо приматские инстинкты не дадут долго существовать. Так ИИ хотя бы даст шанс на спасение, если он действительно будет сверхразумным.

  7. oeset

    На самом деле, сия статья говорит о другом. Говорит она о рецидиве архаического мышления всех людей. Хотя рецидив здесь вряд ли уместное слово, ведь мышление имеет свойство эволюции. Я веду к тому, что такие пережитки прошлого( казалось бы), как религиозный фетишизм и тотемизм, отнюдь не канули в небытие под давлением стремительного развития рационализма, а напротив, эволюционировали. и модель поклонения предметов переросла в тотальную зависимость от технологий. Но нельзя сказать, что это очень плачевно и плохо. Или можно?

    • SuperStarSieve

      Это краеугольный камень...
      Все равно, что жидкий брусок камня из пластмассы или треугольные гайки в квадратных кругах... (отправлено из iOS приложения Hi-News.ru)

  8. horizont

    Опять желтуху подкинули что бы попугать людей (отправлено из приложения Hi-News.ru)

  9. Dasha2000

    А давайте факты отметим?
    -Ученые не могут вообще определить, что есть ИНТЕЛЛЕКТ И РАЗУМНОСТЬ( они это по тестам определяют, что забавно!).
    - ИИ ( разумом) нас пугают! Если стали пугать, значит где-то фальш есть!
    - "ученый" так и не определил, что он считает ИИ? ( ну не телефон же, про который он говорит).

    ИИ есть нечто иное. Это осознающий себя в Мире интеллект! Воспринимающий и оценивающий Мир, через устройства восприятия.
    ( а у профессора это смартфон!)
    Я бы на месте Ильи спросила мнения российских ученых! Они на разум крепче будут и вернее скажут!
    Почему все время идет пропаганда мнения американских и европейских специалистов?
    Илья не верит в Россию? Или не нашел ученых? А они есть!
    Но всегда только наши враги американцы здесь! Это факт!
    Что же это значит?
    Предположений много...

    • mannannlegur

      Почему вы считаете американцев нашими врагами? Телевизор, простите, много смотрите?

      А по поводу американских разработок. Я сейчас учусь в сфере разработки ИИ, могу сказать, что основные двигатели этой области - МИТ и Стэнфорд. К сожалению, оба вуза находятся в США. Поэтому и новости про наших зарубежных коллег. (отправлено из iOS приложения Hi-News.ru)

      • Sergej Shegurin

        Какой MIT и Стэнфорд? o_0
        Зайди на arXiv, все лучшие статьи -- DeepMind.

        • mannannlegur

          Да, согласен, что-то я поторопился. Просто последнее время много читал про эти вузы, вот и выпала из головы Deep Mind. Спасибо за уточнение! (отправлено из iOS приложения Hi-News.ru)

  10. snow1eopard

    Я про это изначально говорил, в каждой статье, сознание, это то что присуще всем живым существам, по сути для того что бы ИИ существовал, нужно именно наличие этого самого сознания. Да можно построить бесконечно большое количество нейросетей, как-то их связать, но что в итоге получится? Получится консервная банка, в которую нужно ввести какие-то данные, что бы она что-то выдала на выходе, свободного творчества тут не будет. Поэтому возможно ИИ невозможен по фундаментальным причинам, мы способны сделать умные машины, но им возможно никогда не стать машинами осознающими себя и которые будут хотя бы чем-то на нас походить.

  11. snow1eopard

    Кстати возможно путь будет в другом, просто к человеку начнут прикручивать безграничные возможности, с другой стороны, еще не известно что хуже, ИИ как копьютерная программа или человек с безграничной властью)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.