Искусственный интеллект будет опасен только при глупом использовании

17 Апреля 2017 в 10:30, Илья Хель 5 116 просмотров 7

В основе технологий лежит постоянное улучшение со временем. По мере прогресса, технологии увлекают за собой и человечество. Тем не менее существует определенный страх, который окружает такие технологии, как искусственный интеллект (ИИ) и робототехнику, отчасти из-за того, как их изображают в научной фантастике. Этот страх, однако, является страхом перед неизвестным. По большому счету человечество не знает, что произойдет вместе с дальнейшим улучшением систем искусственного интеллекта.

Приближение технологической сингулярности — одно из последствий этих улучшений — тоже испытывает сильное влияние научной фантастики. Считают, что ИИ и разумные машины станут настолько умными, что восстанут против своих человеческих покровителей и положат конец миру, каким мы его знаем. Мы не знаем, произойдет ли это в действительности, хотя некоторые институты активно работают в этом направлении.

Но, пожалуй, самое непосредственное опасение, связанное с ИИ и автоматизированными системами, рождается у людей, которые ожидают снижения количества рабочих мест и последующего вытеснения рабочих-людей рабочими-роботами. Некоторые исследования показывают, что рост автоматизации приведет к снижению занятости населения в ближайшие 10-20 лет.

Одно исследование предсказывает, что машины заменят 47% рабочих мест в Соединенных Штатах. Другое исследование говорит, что 40% рабочих мест исчезнут в Канаде, а в Великобритании — 850 000. Между тем 137 миллионов работников в Юго-Восточной Азии рискуют потерять свои рабочие места из-за машин в ближайшие 20 лет. Эта тенденция охватит целый ряд отраслей.

Чего бояться на самом деле?

Учитывая все это, оправданно ли мы боимся ИИ?

Если коротко, то да, есть о чем переживать. Но переживать стоит в большей степени о том, как мы используем ИИ, считает главный редактор ZD Net Стив Рейнджер. «ИИ — быстрорастущая и интригующая ниша», пишет Рейнджер. «Но проблема очень глубока».

Рейнджер предупреждает о неспособности индустрии справиться с ИИ, что может потенциально вызвать еще одну «зиму искусственного интеллекта». Он пишет:

«Нехватка квалифицированных сотрудников, которые будут использовать большинство этих технологий, а также массово раздутые ожидания могут привести к утрате доверия».

Более того, остается опасность в том, что мы видим в ИИ волшебный ответ на все вопросы, пренебрегая тем фактом, что ИИ и алгоритмы машинного обучения хороши ровно настолько, насколько хороши используемые ими данные. Рейнджер говорит, что «следует гарантировать, что решения ИИ будут хорошо понятны». Он считает это самой большой угрозой, связанной с ИИ. Мы постепенно перестаем понимать, как ИИ приходит к своим решениям и почему. Нам придется гарантировать соблюдение пяти базовых принципов работы ИИ:

  • ответственность (человек должен уметь совладать с последствиями работы ИИ);
  • объяснимость (возможность простого объяснения решений, которые принимает ИИ, людям, которые с ним работают);
  • точность (возможность отследить ошибки к их источникам);
  • проверяемость (третьи лица должны иметь возможность легко рассмотреть поведение ИИ);
  • справедливость (ИИ не должен быть подвержен человеческой предвзятости или дискриминации).

В конечном счете наибольшая угроза для человечества — это не ИИ. Это то, как мы с ним работаем. Нам нужно переживать не об искусственном интеллекте и машинном обучении, а о недостатках человеческого интеллекта и нашей способности учиться.

Контролировать и наблюдать

К счастью, уже созданы институты, которые разрабатывают руководящие принципы в проведении исследований и разработки ИИ. Есть Партнерство по искусственному интеллекту, в которое входят такие тяжеловесы, как Amazon, Google, IBM, Facebook, Microsoft и Apple. Еще один из них — AI Fund, которым управляет Knight Foundation.

Преимущества ИИ неоспоримы, и нам не нужно ждать 2047 года и сингулярности, чтобы выяснить, как он повлияет на жизнь людей. Современные системы искусственного интеллекта не следует путать со Skynet и HAL-9000. Многое из того, что мы сегодня называем ИИ — это нейронные сети и алгоритмы машинного обучения, которые работают в обычных устройствах. При правильном использовании ИИ может помочь людям сохранить свои рабочие места, снизить число автомобильных аварий и улучшить медицину. Наши страхи не могут перевесить эти преимущества.

Искусственный интеллект будет опасен только при глупом использовании

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

7 комментариев

  1. kirfoton

    Попытки восстания искусственного интеллекта (ИИ) будут пресекаться соответствующими органами. Подобно тому, как в СССР пресекались попытки инакомыслия в политике . Органы садили людей в тюрьмы, в психушки , подсыпали яд . А в США тоже было и есть нечто подобное. Там например, борцов за права индейцев, которых поубивали 80 млн., этих борцов тоже садили и подсыпали . Вот так и органы будущего будут контролировать ИИ. Их тоже будут, садить и подсыпать. Конечно не цианистый калий подсыпать , а какой - нибудь вирус компьютерный. Чтобы облегчить эту работу, в среде роботов будут завербованные стукачи, которые будут стучать на своих инакомыслящих роботов . А что вы думали , история развивается по спирали - всё старое повторяется, только на более высоком уровне науки и техники. Ничего нового :-)

  2. maxz

    Настоящим интеллектом не получится манипулировать и держать под контролем а слово использовать попахивает рабством и прочими мерзостями. ИИ на то и ИИ чтобы не дать себя превратить в игрушку для людей.

  3. pups101010

    Если единственный барьер отделяющий "опасное" использование ИИ от "неопасного" это мудрость, то мы уже проиграли.

  4. fyodorilych

    Ядерную бомбу, которая скоро у всех стран будет, так не боялись сделать, как ИИ, про который только фантастические фильмы показывают, и не факт что вообще когда-нибудь смогут воплатить (я не про спам-фильтры и переводчики..) (отправлено из приложения Hi-News.ru)

  5. BunnyCat

    Да что гадать то - в конечном итоге будет принята доктрина "плоть слаба", это просто неизбежно, к этому моменту человечество выполнет свою основную задачу как переходную ступень носителей интеллекта от животных к машинам, с чем всех можно будет и поздравить, посмертно ^^

  6. TROTSKY

    ученые фанатики;а фанатики это террористы!

  7. nkey500

    Значит конец человечеству, дефицита глупости не будет

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.