Пришло время готовиться к машиноцену

5 608 просмотров
Об авторе

Машиноцен

Интеллект человеческого уровня у биологического оборудования есть — вы используете его сейчас. Наука и технологии, похоже, сближаются с нескольких направлений, чтобы повторить интеллект или создать нечто подобное в небиологических системах. Сложно сказать, когда это случится, но большинство специалистов в области искусственного интеллекта считают, что не в этом столетии.

Освободившись от биологических ограничений, например от необходимости проходить через человеческие родовые пути (и энергопотребления в 20 Вт), небиологические машины могут стать гораздо умнее нас. Что это будет означать для нас? Ведущий исследователь ИИ Стюарт Расселл полагает, что, к лучшему или к худшему, это будет «величайшее событие в истории человечества». В действительности, наш выбор в этом столетии может иметь далеко идущие последствия не только для нашей планеты — для всей галактики. Будущее интеллекта в космосе зависит от того, что мы делаем сейчас на Земле.

Стоит ли нам беспокоиться? Люди размышляли о возможностях машинного интеллекта много лет — чего мы можем не знать?

За последние несколько десятилетий произошло два серьезных прорыва. Во-первых, мы наблюдали много реального прогресса — теоретического, практического и технологического — в понимании механизмов интеллекта, как биологического, так и небиологического. Во-вторых, ИИ достиг точки, где он чрезвычайно полезен в решении многих задач. Так что он имеет огромное коммерческое значение и привлекает серьезные инвестиции. Это процесс продолжается и даже ускоряется.

Так или иначе, нам придется делить планету с небиологическим интеллектом во многих проявлениях. И чем бы он ни был, людям придется вместе встречать такое будущее. Очевидно, мы заинтересованы в этом. И мы также хотим, чтобы он оставался под контролем.

Осознание этих вопросов, их веса, растет. Тысячи исследователей ИИ и другие подписали открытое письмо с призывом гарантировать, чтобы исследования в области ИИ оставались безопасными и полезными. Совсем недавно образовалось также новое партнерство по ИИ, в числе членов которого оказались Google, Amazon, Facebook, IBM и Microsoft.

На данный момент особое внимание уделяется безопасности, относительно краткосрочной выгоде и воздействию ИИ (на рабочем места, например). Но этим круг вопросов к рассмотрению не ограничивается. Яан Таллинн, один из главных инженеров Skype, приводит такой пример. Представьте, что мы выводим человечество в космос на флоте больших кораблей. Нам нужно убедиться, что эти корабли безопасны и управляемы и что каждый на борту будет накормлен и найдет себе место для ночлега. Это будет очень важно, но этим все не ограничится. Нам также нужно понимать, куда этот флот летит и что нам нужно сделать, чтобы добраться до пункта назначения наилучшим образом. Ведь в космосе могут быть райские угодья, а могут быть холодные, темные просторы. Нужно понимать, куда мы движемся.

Говоря о долгосрочном влиянии ИИ, есть повод для оптимизма. Он мог бы помочь нам решить многие практические проблемы, перед которыми бессильны наши лучшие умы. Но когда дело доходит до полной карты возможных исходов, выбора между лучшим и худшим и как нам избежать возможных негативных последствий, здесь мы оказываемся совершенными невеждами. Мы чувствуем, что некоторых острых углов нужно избегать, но общая карта остается неизведанной землей. Те, кто предлагает просто сидеть и ждать, глубоко заблуждаются.

Одним из первых предвестников, кто заговорил об этом, был Алан Тьюринг. «Кажется возможным, что как только метод машинного мышления начнет работать, очень скоро он превзойдет наши скромные силы», писал он в заключении к лекции в 1951 году. «Мы видим перед собой не так далеко, но можем четко разглядеть множество вещей, которые необходимо закончить».

Если мы сможем создать машины, которые смогут мыслить, убедиться, что они безопасны и полезны, это будет величайшим интеллектуальным и практическим подвигом столетия. И нам придется столкнуться с ним всем вместе — этот вопрос слишком важен и огромен, чтобы рассматриваться отдельным институтом, корпорацией или нацией. Наши внуки или правнуки, скорее всего, будут жить уже не в антропоцене, а в машиноцене, в эпоху машин. Нам нужно как можно лучше осуществить этот переход, ради грядущего и всех грядущих поколений.

Пришло время готовиться к машиноцену

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

11 комментариев

  1. Gigaxer

    В предыдущей статье жаловались на тупость Сири и что за пять лет она не поумнела, а тут вдруг искуственный интелект. (отправлено из приложения Hi-News.ru)

  2. deaddreams

    не чересчур ли эгоцентризма, заявлять что от кучки лысых обезьян, зависит судьба галактики? :DD

  3. Dasha2000

    Статья очень понравилась!
    Уважение автору!
    Если будут ссылки про ИИ, поделиться прошу!
    DASHA2000ROS@gmail.com
    ( вдруг не лень)

  4. storm X

    аутоцен как-то созвучнее

  5. mars2017

    Ссылки?

    национальной конференции США по искусственному интеллекту AAAI
    http://www.aaai.org/Conferences/conferences.php
    AAAI Conferences
    www.aaai.org

    Google открыла код своей системы машинного обучения — TensorFlow
    https://habrahabr.ru/post/305578/

    Разработка → Hello, TensorFlow. Библиотека машинного обучения от Google ..

    habrahabr.ru

    Компания приняла искусственный интеллект в совет директоров
    "Он получил название VITAL (Validating Investment Tool for Advancing Life Sciences). Алгоритм был разработан крупной командой биоинформатиков, работающих в британском агентстве Aging Analytics. Это агентство специализируется на постоянном анализе рынка регенеративной медицины и биогеронтологии"
    http://www.vesti.ru/doc.html?id=1597236&cid=2161

    Microsoft открыла инструменты для распределённого машинного обучения — Distributed Machine Learning Toolkit
    http://www.nixp.ru/news/13647.html

    Алгоритмы ИИ можно будет купить на специальном рынке
    https://hightech.fm/2016/09/19/ai_market

  6. Bishkekskyi ckenTuk

    ИИ а что если он подумает , что люди должны умереть? Или еще что то есть планы как его контролировать при критических ситуациях?

    • Riccard

      Мы не сможем контролировать сверх ИИ. А если решит, значит решит правильно, от людей только вред всему живому на Земле.

  7. varwar

    ИИ разрабатывают корпорации и энтузиасты во всем мире. В разработки вкладываются миллиарды долларов. Часть секретна и никому не подконтрольна.

    В работы по безопасности вкладываются всего лишь миллионы и занимаются ими горстка энтузиастов, международных или других соглашений по контролю за развитием ИИ пока нет

    Человечество совсем не готово. Но разработки будут продолжены, потому что у каждого отдельного игрока есть материальная заинтересованность продолжать.

  8. DeusEx

    "Разработки будут продолжены" - конечно, мы постоянно модернизируем систему "Периметр" (Dead hand), страна может спать спокойно.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.