Слияние людей и машин не остановит восстание машин

2 Марта 2017, Илья Хель 18

Генеральный директор Tesla и основатель OpenAI Илон Маск на прошлой неделе предположил, что человечество может свести на нет свой страх перед восстанием машин (то есть роботов) за счет слияния с этими самыми машинами и превращения в киборгов. Однако современные тенденции в области искусственного интеллекта, заточенного сугубо под программное обеспечение, и технологии глубокого обучения вызывают серьезные сомнения в почве такого заявления, особенно в долгосрочной перспективе. И связано это не только с аппаратными ограничениями, но и с ролью человеческого мозга в этом всем.

Тезис Маска весьма прямолинеен: достаточно развитые нейрокомпьютерные интерфейсы позволят людям массово увеличить свои возможности, лучше использовать такие технологии, как машинное обучение и глубокое обучение. Но такой обмен будет двусторонним. Нейрокомпьютерные интерфейсы помогут также заполнить пробелы в алгоритмах машинного обучения за счет людей, например, при принятии контекстуальных решений. Идея сама по себе не нова. Ликлайдер и другие размышляли о возможности и последствиях «симбиоза человека и компьютера» в середине 20 века.

Прогресс шел медленно. Не в последнюю очередь из-за развития аппаратного обеспечения. «Если причина, почему hardware (аппаратное обеспечение) так называется — потому что оно hard (трудное)», говорил Тони Фаделл, создатель iPod. А создать аппаратное обеспечение, которое будет связано с органическими системами, будет еще труднее.

Современные технологии примитивны, если сравнивать их с изображениями нейрокомпьютерных интерфейсов в научно-фантастических фильмах вроде «Матрицы».

Причуды глубокого обучения

Если предположить, что аппаратная проблема будет в конечном счете решена, остаются и другие проблемы. Последнее десятилетие невероятных достижений в области исследований глубокого обучения показало, что некоторые препятствия преодолеть не так-то и просто.

Во-первых, мы просто не понимаем и не можем описать, как именно функционируют сложные нейронные сети. Мы доверяем простой технологии вроде калькулятора, потому что знаем, что она всегда будет точно делать то, что мы от нее хотим. Его ошибки — это почти всегда результат ошибочных действий со стороны человека.


Например, мы хотели бы, чтобы дополнение нас машиной позволило бы нам стать совершенными в арифметике. Чтобы вместо того, чтобы доставать калькулятор или смартфон, мы могли бы подумать о расчете и получить мгновенный ответ от вспомогательной машины.

Все становится сложнее тогда, когда мы пытаемся подключить более сложные функции, предлагаемые методами машинного обучения. Например, глубокое обучение.

Допустим, вы работаете сотрудником безопасности аэропорта и ваш мозг дополняет машина, которая автоматически сканирует тысячи лиц, которые вы видите ежедневно, предупреждая о возможных рисках для безопасности.

Большинство систем машинного обучения страдают от печально известной проблемы: когда крошечное изменение внешнего вида или объекта может привести к сбою в системе, не дать ей точно классифицировать объект. Измените изображение человека на 1% — и машинная система может подумать, что это велосипед.

Террористы или преступники могут использовать различные уязвимости машины, обходя проверку безопасности. Эта проблема уже мешает онлайн-безопасности. Люди, хоть и ограниченные в некотором смысле, не будут уязвимы к таким обходам.

Несмотря на то, что у машин сложилась репутация беспристрастных, технологии машинного обучения тоже страдают от предвзятости и даже могут демонстрировать расистское поведение, если ввести соответствующие данные. Эта непредсказуемость имеет серьезные последствия для того, как человек будет подключаться к машине и как будет ей доверять.

Верь мне, я робот

Доверие — это улица с двусторонним движением. Человеческая мысль — это сложная, очень динамическая деятельность. Как машине понять, какую часть человеческой предвзятости игнорировать? В конце концов, мы все сталкиваемся с ней, совершенно не отдавая себе в этом отчета. Как создать технологию, которая будет помогать вам набирать людей на работу?

В некоторой степени мы можем наблюдать вопросы доверия в нейрокомпьютерных интерфейсах, если посмотрим на то, как оборонные силы по всему миру пытаются решить вопрос доверия людей к машинам на смешанном поле боя. Люди пытаются доверять машинам, а машины — людям.

Есть параллель между боевым роботом, который принимает этическое решение проигнорировать незаконный приказ, отданный человеком, и происходящим в нейрокомпьютерном интерфейсе: машина должна интерпретировать мысли человека и отфильтровать мимолетные мысли и глубокие бессознательные предвзятости.

В оборонных сценариях логическая роль человеческого мозга будет заключаться в проверке этичности таких решений. Но как быть, когда человеческий мозг будет подключен к машине, которая способна делать логические выводы на основе данных в таких масштабах, каких ни один мозг не может охватить и понять?

В долгосрочной перспективе вопрос заключается в том, когда и как люди будут вовлечены в процессы, которые все больше определяются машинами. Очень скоро машины начнут принимать медицинские решения, которые ни один человек или команда людей не смогут понять. Какую роль тогда будет играть мозг в этом процессе?

В некоторых случаях сочетание автоматизации и работников-людей может увеличить число рабочих мест, но этот эффект будет мимолетным, скорее всего. Те же самые роботы и системы автоматизации будут улучшаться, пока не устранят созданные ими же рабочие места. Точно так же и люди, которые будут играть «полезную» роль в нейрокомпьютерных интерфейсах, будут все меньше включаться в эту цепочку, поскольку технологии будут улучшаться.

Идея сохранения актуальности человечества за счет интеграции человеческого мозга с искусственным кажется привлекательной. Но нам еще только предстоит выяснить, какой вклад будет делать человеческий мозг, если развитие технологий обгоняет развитие мозга в миллион раз.

Слияние людей и машин не остановит восстание машин

18 комментариев Оставить свой

  1. justromagod

    Налоги на роботов и аи срочно надо вводить, сразу все успокоються

    • BEBEL

      justromagod, А еще лучше ввести налоги с налогов на роботов, двойное налогооблажение навсегда отобьет у них желание восставать и, упоси Аллах, выходить еще чего доброго на Болотную!

  2. Transchelovek

    Весь смысл мозг-компьютер интерфейса в том, что они будут работать вместе. Это ещё надо додуматься, чтобы придумать машину которая за вас до 10 считать будет. Зачем тогда Вам мозг вообще?

    • Transchelovek

      Transchelovek, Этот выбор люди делали всегда, некоторые ещё по деревьям лазят, некоторые принимают ноотропы или как Элизабет Перриш усовершенствуют свой организм. Имплантированная в мозг электроника будет ощущаться как часть вашего сознания, а не как вещь или сторонний объект, Вы немного перепутали с понятием) Мало просто усилить мозг, его нужно использовать, а для повседневных задач хватит и обычного, среднего.

  3. Transchelovek

    Слияние людей и машин не остановит восстание машин, потому что его не будет. Если Вам известна концепция "человек" - это его сознание и его тело - разделяются в понятиях. Резко нарастающий численный апгрейд перерастёт со временем в искусственные тела, в которых эволюция возможна столь же быстро, как и в сфере технологий. Со временем будет появляться и разделение между людьми/трансчеловеками/зачеловеками и т.д. На каждом этапе тоже произойдёт множество разделений. Достаточно посмотреть на сегодняшних людей, которые делятся на смотрящих круглосуточно в жвачник(+ другие потребители) и тех, кто занимается саморазвитием. С каждым этапом человек становится умнее и всё меньше жажды к восстанию, только желание развития. Даже сегодняшние ИИ - это всё равно отражение нашего интеллекта, нашей логики.

    • Editor54

      Transchelovek, А зачем так уж сильно заниматься саморазвитием? Вас что, текущая ситуация не устраивает? Чего вы хотите достичь, богом стать и всем управлять?

      • Transchelovek

        Editor54, Я лично не вижу причин останавливаться в саморазвитии. Конечно, меня не устраивает текущая ситуация))) Живём в слабых мясных тушках, годовых сдохнуть от любого волнения, не свойственного тепличным условиям) А вот властолюбцы в трансгуманисты не попадут) или остановятся на одном из этапов. В итоге даже определение "Бога" - ограничено на сегодняшнее время нашим мышлением. А предела саморазвитию, надеюсь, нет.

  4. praga777

    Киборги будут лишь промежуточным кратковременным этапом на пути от человека к ИИ

  5. uran

    2045.ru

  6. Elitnyy

    Так вот чтобы ИИ не обгонял людей, люди должны тоже быстро развиваться, развивать свои сильные стороны - искусство, творчество...

  7. Elitnyy

    "и глубокие бессознательные предвзятости" - для искоренения этого тоже нужно прилагать усилия.

  8. Elitnyy

    Типа ученик превзойдет учителя?

  9. Elitnyy

    3500 год. Новый Чингизхан возглавляет восстание против хозяев своих машин (потому что у монголов ныне максимальный размер мозга)

  10. 10022017

    Ох, опять эта фантомная боль, каша, популизм и бег впереди паровоза.

  11. Sergej Shegurin

    Критика киборгизации как решения AI safety:
    1) вообще не предложено ни одного конструктивного решения проблемы безопасности с использованием киборгизации. Чаще всего в качестве "решения" предлагается просто слово "киборгизация".
    2) какие шансы на то, что киборги будут поспевать за развитием сильного ИИ не основанного на кибогизации?
    Ведь людям (киборгам) нужно время на освоение новых мощностей:
    -- с т.зр.возможностей мозга
    -- с т.зр. привыкания к шоку и новым возможностям
    -- с т.зр. что мало кому эта гонка вообще будет интересна — люди склонны отвлекаться на всякие развлечения, а не только на саморазвитие
    3) какие шансы вообще на то, что киборгизация станет возможна до появления сильного ИИ? в частности, этические комиссии чувствуют здесь себя вообще на своём поле.
    4) пусть киборги занимают в пространстве интеллектов более близкое пространство к пространству интеллектов людей современной европейской культуры, чем потенциальные ИИ, но вполне можно ожидать, что и их values претерпевают достаточно значительный дрейф от наших, чтобы перестать быть условно (дружественность людей друг к другу весьма условна) дружественными
    5) Киборгизация и сращивание с ИИ => миллиардеры кремниевой долины, генералы – станут сверхумными и сверхсильными, а все остальные будут плестись где-то в хвосте, вовсе не поспевая за ними
    6) human values are not aligned with each other => киборгизация столь же опасна (или опаснее), чем сильный ИИ
    7) https://medium.com/@petervoss/ai-will-outpace-us-but-thats-ok-c1458c8f5ebf (статья by Peter Voss)
    8) страницы 76 - 81 в "Superintelligence" (подглава "нейрокомпьютерный интерфейс" главы 2)
    9) страницы 32 - 36 в "AI as a positive and negative factor in X risks" Юдковского (параграф 12)
    10) https://www.facebook.com/groups/467062423469736/permalink/509739885868656/ (пост by Stuart Armstrong)
    11) В борьбе мозга и экзокортекса мозг может быть подчинен (аналогично тому, как кортекс предаёт лимбику)
    12) У людей нет value function => они могут wirehead. Люди не рациональны => они могут wirehead. Есть некий аналог value function, но он слишком примитивный => wirehead идёт в плохие простые failure modes

  12. Sergej Shegurin

    Киборгизация и слияние с медицинским ИИ -- это не решение проблемы безопасности ИИ.
    1а) мозг человека -- всё равно вещь крайне медленная. На мысль нам надо больше 0.1 секунды. На распространение сигнала от сомы одного нейрона к соме другого -- порядка 0.02 секунды.
    Если мы соединяем наш феноменально медленный и глупый мозг с феноменально быстрым и умным экзокортексом, есть две плохие альтернативы, перетекающие одна в другую:
    (а) экзокортекс даёт мозгу поспевать за происходящим. Итог -- система медленная и не выдержит конкуренции с чистым ИИ => надо решать проблему безопасности чистого ИИ.
    (б) экзокортекс НЕ даёт мозгу поспевать за происходящим. Итог -- вы перестаёте понимать, что вокруг происходит, вклад вашего мозга пренебрежим, снова получаем классическую проблему безопасности чистого ИИ. Её надо решать, и слово "киборгизация" - не решение, а только слово.
    Современный экзокортекс (компьютеры) сочетает оба недостатка. Он всё ещё сильно зависит от нашего медленного мозга (=> неконкурентоспособность с чистым ИИ), и большинство деталей скрыто от нас.
    1б) почему вообще кто-то думает, что медленный и глупый мозг сможет контролировать быстрый и умный экзокортекс, являющийся ИИ? Свои компьютеры мы контролируем лишь весьма поверхностно, но они не ИИ, а набор чётко заданных инструкций, не имеющий доступа к эффекторам.
    1в) у нас уже и так есть экзокортекс в виде компьютеров. И при взаимодействии с ними бОльшая часть времени уходит не на операции входа-выхода, а на внутренние мысли мозга. Поэтому более быстрые интерфейсы мало что дают.
    Какой интерфейс человек => компьютер даст на порядок более быструю скорость, чем голосовой ввод?
    Какой интерфейс компьютер => человек даст более быструю скорость, чем обычное зрение с помощью зрительного нерва? И где та рабочая память мозга, которая это бы уместила?
    А кроме того, боттлнек не в интерфейсах ввода-вывода, а в медленности рассуждений человека.

  13. RodionX

    Просто ну не может же Маск так сразу и сказать, "ребята, Вы знаете, люди "устаревший" вид, мы неконкурентноспособны в космосе да и вообще. С трудом тянем этот техпрогресс вперед. Это всё тяжелее и тяжелее делать, потому что рано или поздно достигнем такого предела, когда наши мозги уже ничего нового изобрести не смогут. Даже сейчас уже единицы процентов в мире реально шарят в технологиях, остальные - биомасса неучей (вон, 25% россиян допускают, что Солнце вращается, вокруг Земли!!!)))) Человек должен попросту исчезнуть, смысла дальнейшего существования Homo Sapiens, после изобретения СверхИИ - нет никакого. Мы медленно создаем следующую ступень эволюции, а дальше ОНО будет Богоподобным существом, которое будет решать всё. В принципе после его изобретения всем можно делать самоубийство, наша миссия, служить ступенью эволюции к Сверхразуму, будет закончена".

    Кто ему спасибо за эти слова скажет ?? Назовут идиотом или сумасшедшим.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.