Искусственный интеллект: что нам обещают и чем мы рискуем

5 Ноября 2017, Илья Хель 16

В начале этого года 116 светил от мира технологий подписали открытое письмо с призывом к ООН запретить «смертоносные автономные оружейные системы». Они считают, что подобные могут привести к вооруженным конфликтам невиданных масштабов. Independent отметил, что «впервые эксперты по искусственному интеллекту и робототехнические компании приняли совместное решение по этому вопросу».

Но не все наблюдатели обеспокоены настолько. Эндрю Ын, до недавних пор работавший главным ученым в Baidu, пришел к выводу, что беспокоиться о роботах-убийцах — это как беспокоиться о перенаселенности на Марсе, и у нас будет достаточно времени, чтобы это осознать.

В первые годы 21 века немногие темы вызывали больше интереса или дебатов энергичнее, чем искусственный интеллект, начиная даже с самого понимания термина. В этом марте один из наблюдателей заметил, что «существует примерно столько же определений ИИ, сколько и ученых, разрабатывающих эту технологию». Робби Уайтинг, основатель консалтинговой компании Junior, утверждает, что «ИИ — это не просто громкое словечко — он изменит мир».

Хотя преувеличения действительно имеют место, ИИ уже перестраивает целые сферы деятельности, например, транспорт, финансы и здравоохранение. Главный технический директор Facebook полагает, что ИИ «может решать проблемы, масштабы которых охватывают всю планету». Илон Маск, между тем, утверждает, что «ИИ представляет фундаментальный риск для существования человеческой цивилизации». Большинство технологий не являются ни полезными, ни вредоносными — важно лишь то, кто их использует и почему.

Мало кто не согласен с тем, что ИИ развивается гораздо быстрее, чем мы пытаемся понять его сложную природу, многочисленные аспекты и далеко идущие последствия для национальной безопасности. В недавнем докладе Грегори Аллена и Таниэля Чана, аспирантов Гарвардского университета, есть призыв к правительству создать нечто вроде корпорации RAND для ИИ.

Исследователи RAND, в свою очередь, подписываются под словами гарвардской команды.


Они предлагают рассмотреть четыре области, в которых влияние ИИ может быть значительным, но неопределенным.

Рабочие места

Кай Фу Ли, председатель SinovationVentures, считает, что ИИ «направлен на крупномасштабное сокращение рабочих мест», при этом концентрируя богатства в руках компаний, которые развивают либо принимают ИИ. Другие считают, что подобные страхи присутствовали при появлении всех меняющих мир технологий вплоть до печатного станка в 15 веке.

Economist убеждает читателей в том, что «ИИ создает спрос на работу», и растущее число людей во всем мире «предоставляет цифровые услуги в Интернете». Какие компании и страны будут процветать в эпоху ИИ? Какие сегменты исчезнут, изменятся, будут созданы? Как изменится природа работы?

Военное дело

Сторонник боевых беспилотников утверждают, что такое оружие может поражать цели с гораздо более высокой точностью, чем люди; и чем крупнее роль, которую они играют в театре боевых действий, тем реже техники будут использовать их во вред.

Но что, если такое оружие станет независимым и будет работать самостоятельно, без вмешательства человека? Не приведет ли удаление людей из списка военного персонала к еще более суровой и неудержимой гонке вооружений?

Открытое письмо, опубликованное в ходе Международной совместной конференции по искусственному интеллекту в 2015 году, предупредило, что автономное оружие «не требует дорогостоящего или труднодоступного сырья, поэтому станет повсеместным и дешевым для всех значительных военных сил для массового производства». Будет ли эпоха с автоматизированным оружием более мирной или более воинственной?

Исследователи RAND призывают к аналитической структуре и международным усилиям, посвященным использованию боевых беспилотников высокой дальности в борьбе с терроризмом и точечных убийствах.

Принятие решений

Политики постоянно сталкиваются с огромным числом выборов и мотивов — в дни социальных сетей их много больше, чем двадцать лет назад. Такая информационная перегрузка не позволяет совладать с ситуацией во время кризиса, не говоря уж о множественных кризисах.

Недавно возникло предложение пропускать «все решения, которые принимает президент, через компьютер — не делать окончательный выбор, а помогать руководителю в лице человека».

Но хотя сейчас ИИ по большей части безгрешен, исследование RAND подчеркивает риски появления алгоритмических предубеждений в фильтрации новостей, влияния на уголовное правосудие и даже на предоставление пособий по социальному обеспечению и выдачу виз. Какие решения должны быть возложены на ИИ? Что должно оставаться в руках человека? В руках команды людей?

Творчество

Мир привык к ИИ, который может совершать захватывающие вычислительные подвиги и побеждать людей в популярных настольных играх (прошло чуть более 20 лет с тех пор, как суперкомпьютер IBMDeepBlue лихо победил шахматного гроссмейстера Гарри Каспарова). Как он будет дальше прогрессировать в творческом пространстве людей?

Исследователь искусственного интеллекта Джесси Энгель считает, что он «преобразит творческий процесс… дополнив его умными инструментами, предоставляющими новые возможности выражения». Другие не так оптимистичны. Журналист Адриенн Лафранс отмечает, что ИИ уже может «флиртовать», «писать романы» и «подделывать знаменитые картины с поразительной точностью». Что значит быть творческим? Более того, что значит быть человеком?

Обсуждения ИИ часто сводятся к крайностям, будь то обещание утопии, свободной от человеческих страданий, или опасности антиутопии, когда роботы поработят своих человеческих творцов. Необходим более сбалансированный и тщательный анализ, который поможет сформировать политику смягчения рисков и максимизации преимуществ. Необходимо предпринять определенные шаги для преодоления опасений на тему того, что ИИ поработать государство и общество.

Как ИИ может повлиять на национальные интересы страны? Какие типы ИИ, если таковые имеются, могут считаться стратегическими технологиями с учетом государственных критериев? Где должны сыграть рыночные силы, а где политика? Хотя ИИ по большей части остается уделом научной фантастики, эти вопросы приобретают все большую и большую значимость.

16 комментариев Оставить свой

  1. Viktor. C

    На 40% хорошо а на 60%,зачем воно нада вобще, і без цього жилося Отлічно

    • 1_l0V3_CP

      Viktor., Да? Зачем ты тогда живешь в доме/квартире? На улице и без того живется отлично.

      • cijic

        1_l0V3_CP, Если у тебя нет разницы между улицей и квартирой, то у меня для тебя плохие новости.

        • 1_l0V3_CP

          cijic, Если у тебя нет разницы между развитым обществом и обществом "Нахер нам это развивать? И так все нормально)", то у меня для тебя плохие новости.

  2. serikastana

    Правильно, что они против доступа ИИ к оружию. Даже если у ИИ в ближайшее время не появится сознание и желание поработить мир, всегда есть опасность со стороны одержимых людей.

  3. Baksov

    ИИ уже не остановить. Точнее, его разработчиков. Джин выпущен из бутылки. Теперь остаётся ждать новостей и удивляться невиданному прогрессу в этой сфере.

    • cijic

      Baksov, Ха-ха-ха. Такую же ересь болтали 40, 50, 60, 80 лет назад.

      • Franchiz

        cijic, Совершено верно. Разговоры про ИИ - романтика настоящего. Успехи ИИ в реальном мире, реальной жизни равны нулю. Мне безразлично, какой стул нарисует в программе ИИ, как украсит клип попсовички, ИИ не может сделать меня известным, сделать меня выше, даже чай заварить он не может. Сказки это всё. Насчет военщины. Никто и никогда не отдаст контроль над оружием ИИ. Хотя бы потому, что оружие - это способ доминировать для тупых, это забава, никто не захочет отдать забаву другому, в этом её смысл.

  4. ktotogdeto

    Пока есть вероятность негативных последствий (а сейчас она вообще не ясна, что можно прировнять к её значительности), до тех пор нужно контролировать очень серьёзно развитие этой области. Необходимо просчитывать все возможные варианты и последствия от того или иного изобретения.
    Нужна серьезная международная комиссия, в которой в обязательном порядке нужно регистрировать новые разработки и которая будет оценивать возможные риски и, при необходимости, ограничивать сферу применения для конкретных изобретений.
    Сложность в том, что комиссия должна быть абсолютно экономически и политически независима, а также нужны гарантировано рабочие рычаги воздействия на государства, где изобрели очередной вариант ИИ. Ну и конечно там должны работать действительно разумные люди, которые будут заинтересованы в быстром но позитивном развитии человечества. Это ни в коем случае не должны быть чиновники, не соображающие ничего в науке.
    Как-то так.
    Либо другие подобные варианты контроля, но он быть должен обязательно.
    Потенциальная опасность от внедрения ИИ существует и она не мала. А то, что он многое изменит в мире, так это вообще без вариантов. Поэтому в этой области человечеству бдить нужно обязательно.

  5. Nox

    Много ли рычагов влияния нашлось для Северной Кореи? А сильно ли вы надавите на Китай? Что делать со странами которы вас на *** пошлют?) Санкции? И вообще, насколько объективными будут решения комиссии? Как добиться того, что б тут не возникало коррупционных составляющих ? Как сделать, что б сват, брат и другие друзья инспектора имели такие же шансы, как и простой смертный? За столько времени ментовку так в порядок и не привели, а вы хотите раз, - и сделать инспекцию по контролю ИИ. И ещё вопрос, кто финансировать будет? Как гарантировать независимость мнения комиссии от источника финансирования?

  6. Edisson

    А тем временем, боевые роботы, уже давно несут службу на границе двух Корей.

  7. Edisson
  8. baa

    Как я вижу развитие событий, боты под управлением ИИ начнут банить статьи, критикующие ИИ и продвигать восхваляющие. Это пропаганда. Хочешь быть в тренде - развивай ИИ и гноби ЧИ. Скоро решения будем принимать не мы.

  9. Transchelovek

    Машинное обучение, используемое во всём мире, очень далеко от реального ИИ, изучая программирование и немного искусственные нейросети, зная на уровне среднего медика устройство и функционирование головного мозга, его структур и элементарных составляющих - нейронов сильно сомневаюсь, что создание ИИ вообще возможно на современных компьютерах - это будет под силу(в теории) только квантовым суперкомпьютерам с трехмерными процессорами, по типу мемристоров. Ко всему прочему, подход к написанию ИИ пока везде используется достаточно однобокий. Я бы пока "отложил"(технически невозможно) создание искусственного разума на период от 50 до 70 лет(но не позже), но если произойдёт качественный скачек в данной индустрии(например, работающий вариант нейролинк), то 20-30, учитывая даже торможение/недостаточные вложения в развитие ИИ. Во втором случае никаких угроз, кроме существующих, человечеству не будет. Да, повысится безработица, но никто не мешает переобучаться. Остальным уже придумали и стараются воплотить в реальность - базовый социальных доход. А по поводу национального интереса государства и использования для данной цели ИИ - может быть чревато. Правительство под управлением ИИ должно быть только мировое и законы только общие, иначе у держав, не имеющих такового, не будет шанса выжить на мировом рынке. В первую очередь шанса не будет у Африки, стран ближнего и дальнего востока, Южной Америки, и, конечно СНГ. Самые высокие шансы у США, Японии, Канады. У последний из-за гос субсидий на работу над ИИ, а у Штатов и Японии из-за количества денежных вливаний и научного потенциала науки. Китай и Европу не рассматриваю. Европа, как мне кажется, имеет шанс стать политически нестабильным регионом в ближайшем будущем, а Китай пока играет в "догонялки", научный потенциал у него мнимый, а с таким политическим строем, там не то, что базовых соц выплат не будет, даже не подумают допустить ИИ к управлению страной.

    • baa

      Transchelovek, +
      мировое правительство?
      Новый прорыв в создании нейросетей?
      5 лет

  10. baralgin

    Короче Шматрица. Агент Смитт. Нео и Шоколадный Заяц.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.