ИИ прибыл: вот что волнует светлые умы человечества

19 Января 2015 в 10:30, Илья Хель 12 063 просмотра 80

ИИ

В первое воскресенье 2015 года Элон Маск вышел на сцену закрытой конференции в Пуэрто-Рико, чтобы обсудить взрыв интеллекта. Этот страшный теоретический термин означает неконтролируемый семимильный прыжок в познавательной способности искусственного интеллекта. Как Маск, так и известный физик Стивен Хокинг считают, что однажды ИИ может стать приговором для человеческой расы.

Само появление такой фигуры, как Элон Маск, на конференции, которая долгое время была вотчиной смутных академиков, — знаменательное событие. Однако конференция с оптимистическим названием «Будущее ИИ: возможности и проблемы» стала беспрецедентной встречей светлейших умов человечества; приехал специалист по этике ИИ из Оксфорда Ник Бостром, основатель Skype Яан Таллинн и эксперт по ИИ в Google Шейн Легг.

Маск и Хокинг обеспокоены тем, что ИИ может привести к апокалипсису, хотя есть и более очевидные угрозы. За последние пять лет достижения в области искусственного интеллекта — в частности, в сфере глубоких нейронных сетей — вывели искусственный интеллект в нашу повседневную жизнь. Google, Facebook, Microsoft, Baidu — если назвать несколько компаний — нанимают специалистов по искусственному интеллекту с беспрецедентной скоростью и вводят сотни миллионов долларов в гонку за более совершенные алгоритмы и умные компьютеры.

Проблемы искусственного интеллекта, которые казались нерешабельными всего несколько лет назад, уже решены. Глубокое обучение позволило состояться качественному распознаванию речи. Google строит самоуправляемые автомобили и компьютерные системы, которые могут самостоятельно учиться определять кошек на видео. Роботы-собаки ходят почти так же, как их живые сородичи.

«Начинает работать компьютерное зрение, заработало распознавание речи. Есть определенное ускорение в развитии систем искусственного интеллекта, — говорит Барт Зельман, профессор Корнелльского университета и этик ИИ, бывший на мероприятии с Маском. — Все это заставляет заниматься непосредственно этикой ИИ».

Учитывая этот существенный рост, Маск и другие ученые призывают тех, кто создает эти продукты, тщательно рассматривать этические последствия. На конференции в Пуэрто-Рико делегаты подписали открытие письмо, призывающее заняться тщательным изучением последствий развития искусственного интеллекта, чтобы избежать возможных ошибок. Маск тоже подписался. «Ведущие исследователи ИИ говорят, что безопасность ИИ — очень важная вещь. Я с ними согласен».

Google созывает совет

Девять исследователей из DeepMind, компании по разработке искусственного интеллекта, которую приобрела Google в прошлом году, тоже подписались под письмом. В целом история письма уходит корнями еще в 2011 год. Тогда Яан Таллинн познакомился с Демисом Хассабисом после того, как последний сделал презентацию на конференции по искусственному интеллекту. Не так давно Хассабис основал горячий стартап DeepMind, и Таллинн этим весьма заинтересовался. С момента основания Skype он стал евангелистом безопасного ИИ и искал сторонников. Двое мужчин разговорились об ИИ, и вскоре Таллинн инвестировал в DeepMind, а в прошлом году Google выложила 400 миллионов долларов за компанию с 50 сотрудниками. В один присест Google завладела крупнейшим доступным пулом талантов и экспертов в сфере глубокого обучения. Google не раскрывает амбиции DeepMind, но доподлинно известно, что DeepMind занимается исследованиями, которые позволят роботам или самоуправляемым автомобилям лучше ориентироваться в окружающей среде.

Все это беспокоит Таллинна. В презентации, которую он представил на конференции в Пуэрто-Рико, Таллинн вспомнил, как однажды за обедом Хассабис показал ему систему машинного обучения, которая могла играть в классическую аркадную игру 80-х годов Breakout. Мало того, что машина освоила игру, она еще и играла в нее с безжалостной эффективностью, что потрясло Таллинна. Хотя «технолог во мне удивился этому достижению, другая моя сторона задумалась о том, каким безжалостным может быть искусственный интеллект, демонстрирующий невероятные возможности», вспоминает Таллинн.

Разрешения и запреты этического плана уже принимались в истории, например, молекулярными биологами во время встречи 1975 года Asilomar Conference on Recombinant DNA (Асиломарская конференция по рекомбинантной ДНК), когда они договорились о стандартах безопасности, направленных на предотвращение создания искусственных генетически модифицированных организмов и создания угроз для общественности. Асиломарская конференция пока дала более конкретные результаты, нежели разговоры в Пуэрто-Рико.

На конференции в Пуэрто-Рико участники подписали письмо, излагающее приоритеты научных исследований в области ИИ — экономические и правовые последствия, а также безопасность систем ИИ. Вчера Элон Маск выделил 10 миллионов долларов на эти исследования (об этом ниже). Это важные первые шаги по удержанию роботов от разрушения экономики. Некоторые компании пошли еще дальше. В прошлом году канадский производитель робототехники Clearpath Robotics пообещал не создавать автономных роботов для использования в военных целях. «Люди, которые против роботов-убийц: мы поддерживаем вас», — написал технический директор Clearpath Robotics Райан Гэрипай на сайте компании.

Элон Маск

Обещания не строить терминаторов — это один шаг. Компании по разработке искусственного интеллекта вроде Google должны думать о безопасности и юридической ответственности своих самоуправляемых автомобилей, роботов, оставляющих людей без работы, и непреднамеренных последствий алгоритмов, которые могут вести себя несправедливо по отношению к людям. К примеру, этично ли с точки зрения Amazon продавать продукты по одной цене одним людям, и по другой — другим? Каковы гарантии того, что торговый алгоритм не обрушит товарные рынки? Что будет с людьми, которые работают таксистами и водителями автобусов в эпоху самоуправляемого транспорта?

Итамар Арель — основатель Binatix, компании глубокого обучения, которая работает на фондовом рынке. Он не был на конференции в Пуэрто-Рико, но подписал письмо вскоре после прочтения. По его словам, ввиду грядущей революции в сфере разумных алгоритмов и дешевых разумных роботов, все это нужно тщательно изучать и прорабатывать. «Пришло время выделить дополнительные ресурсы для понимания социальных последствий систем искусственного интеллекта, которые будут вытеснять голубые воротнички с рабочих мест, — говорит он. — На мой взгляд, очевидно, что они будут развиваться со скоростью, при которой общество не сможет их догнать. И это проблема».

СМИ могут как угодно раздувать из мухи слона, снабжая подобные материалы заголовками на тему того, что ИИ поработит мир, но на деле все куда прозаичнее. Просто последствиями ИИ будут заниматься на метауровне, силами советов по этике и консультантов по безопасности искусственного интеллекта.

10 миллионов на борьбу с искусственным интеллектом

Элон Маск переживает, что исследования искусственного интеллекта могут пойти не в ту степь, совершенно не в ту.

Может показаться неожиданным, что архитектор концептуальной высокоскоростной транспортной системы Hyperloop, генеральный директор компаний SpaceX и Tesla думает именно так. Но Маск настолько серьезно к этому относится, что после конференции в Пуэрто-Рико он пожертвовал 10 миллионов долларов Институту будущего жизни (Future of Life Institute, FLI), который будет разрабатывать глобальную исследовательскую программу, направленную на сохранение ИИ «полезным для человечества». Другими словами, Маск хочет, чтобы ИИ вырос исключительно в полезную, а не опасную вещь для людей.

Программа — и эти 10 миллионов долларов — будут спонсировать исследования по всему миру, направленные в этом русле. В понедельник FLI откроет портал, позволяющий ученым подавать заявки на гранты по программе.

Долгое время искусственный интеллект оставался в поле зрения Голливуда и научной фантастики либо обсуждался в абстрактной философии. Но по мере того, как гиганты вроде Google включают ИИ в саму сердцевину своих текущих и будущих технологий, а волна мелких стартапов создает бизнес на гребне этой науки, мы не можем отрицать мощное развитие ИИ. Однако дебаты по поводу этической стороны вопроса будут продолжаться еще долго.

ИИ прибыл: вот что волнует светлые умы человечества

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

80 комментариев

  1. 1_l0V3_CP

    Роботы снова убивают человеческих младенцев? Надо остановить этот произвол! Сколько уже эти роботы будут делать то что им заблагорассудится?!

    • 1_l0V3_CP

      А если серьёзно, они пытаются остановить создание Бога, Механического Бога.

    • AlexGoldMe

      Хочешь сказать что это не так?)) не все вы) но это было...пускай это и торт.

  2. Alexandered

    Как бы то ни было, вряд ли экономика позволит остановить развитие ИИ, другое дело направлять. (отправлено из Android приложения Hi-News.ru)

  3. user42

    "Нерешабельными"!? Почему нельзя использовать русское слово "не решаемыми"? (отправлено из iOS приложения Hi-News.ru)

  4. albert84

    Просто они не понимают что после того как ИИ будет создан то количество безработицы будет превышать все рекорды по сравнению с прошлым (отправлено из Android приложения Hi-News.ru)

    • paranoidaljnovidenie

      Всё, что заменит людской труд, создаст товарную массу, достаточную для содержания освободившихся людей, создававших этот людской труд. Освободившиеся люди займутся трудом не для заработка себе на хлеб, а, например: станут развивать и обучать себя, словом, совершенствоваться. (отправлено из iOS приложения Hi-News.ru)

      • CosWeLL

        Это в идеале. Но до этого предстоит пережить период, когда замена людей будет проблемой из-за прежней системы труда и подобных. И лишь после изменения этих систем будет, как ты говоришь.

  5. ward

    Когда нибудь Макса назовут расистом в отношении ИИ. Всем ГИТС посоны. (отправлено из приложения Hi-News.ru)

  6. Korvin

    Что то эти этические советы никак не остановили корпорацию монсанто от тотального изменение всех существующих семян растений. (отправлено из приложения Hi-News.ru)

    • Elbon

      По тому и не остановили, что действовали недостаточно четко, организованно, эффективно. Но насколько знаю кое-чего тут удалось добиться, в частности крупнейшая "народная" инициатива Авааз смогла немного усмирить прыть Монсанты.

  7. numealand

    Его паранойя начинает утомлять... ИГИЛ, Путин и прочие фанатики с оружием - это не угроза. Зато роботы (которые еще не появились) - это конечно реальная угроза.... Маск пересмотрел слишком много голивудских фильмов...

    • Elbon

      С большинством нынешних проблем уже бороться по существу поздно, тут уже никакие миллиарды не помогут, это просто последствия совершенных ранее больших ошибок миллионов людей. А сейчас надо думать о том, как не совершать новых, еще более опасных. В частности с ИИ, которое не совсем понятно зачем развивать так бурно в ценностном плане? Это сделает людей счастливее, лучше, радостнее, свободнее? Как, если не считать свободу от работы и непонятные перспективы. Я понимаю ценность ИИ для изучения космоса, длительных полетов, там это необходимо, ну и пусть НАСА этим развивается. А зачем нам умные роботы в каждом доме, чтобы мы окончательно разленились, перестали даже пыль вытирать по субботам?

      • intel75

        А зачем нам дома и супермаркеты? Давайте в пещерах жить и охотиться с копьями. Мужик, это прогресс, его не остановить, это неотъемлемое свойство природы. Все рождается, растет, развивается и затем умирает. Тут нельзя ставить вопрос "зачем". АК-47 тоже никого счастливыми особо не сделали, но таковы суровые законы жизни, или, если говорить короче, жизнь диктует нам свои суровые законы. Или ты хочешь повернуть реки вспять и отменить технологии?

    • intel75

      +1

  8. Qreemer

    Все же угроза ИИ существует. Это реальная вещь (отправлено из iOS приложения Hi-News.ru)

  9. 0.5l

    я знаю, что есть интеллект, который знает всё.
    причём всё знает на перёд, что не даёт никаких шансов обыграть его.
    теперь простой вопрос: неужели он позволит какому-то ИИ созданному ничтожными людишками затмить себя?

  10. AsicMiner

    Почему все происходит так быстро господа,не успел с пещеры выйти (отправлено из iOS приложения Hi-News.ru)

  11. Meditationman

    Почему все думают что ИИ захочет нас убивать Это что за Массовый психоз

    • Elbon

      Да не захочет он нас физически убивать, если только специально не заложить в него эту задачу. Он просто может убить людей морально, в умственном плане. Мы можем превратиться в полностью обеспеченное, богатое, сытое стадо деградирующих личностей, погрязших в комфорте, развлечениях, удовольствиях, играх и т.п. Когда-то могущественная Римская империя развалилась потому, что там всю работу делали рабы, а раса господ погрязла в праздности, разврате, ее интересовали только хлеб и зрелища. Мы сейчас можем создать себе технологических рабов, которые при этом будут умнее нас, но что это даст нам в плане развития? Это конечно инетресная задача для программистов, которые этим занимаются, но это лишь ничтожный процент людей. Вот в чем главная опасность на мой взгляд.

      • Eblonos

        какая разница специально заложить или не специально или он на то и ИИ что сам решает что ему закладывать. Вы не находите?

        • Elbon

          Не согласен. ИИ создается людьми и именно создатели решают, каким в морально-этическом плане он станет, примерно также, как родители создают ребенка. Только у ребенка есть врожденные черты, а тут все с нуля.
          Тот же терминатор. Ведь он убивал только потому, что ему четко дали такую задачу, убить того-то. А когда Джон сказал ему, что людей нельзя убивать просто так он его по сути перепрограммировал, и тот перестал убивать, стрелял по ногам. Любой ИИ все равно при принятии решений опирается на ту базу, что заложили ему люди. С развитием технологий просто постоянно растет ответственность их создателей. Вот к осознанию этого по-моему и направлены подобные конференции и обсуждения

          • Eblonos

            Какой-то недоразвитый вы описываете ИИ, если он сам не действует. Вы про ближайшие 10 лет? Как Вы остановите злоумышленников программистов, которые обязаны попробовать реальный неограниченный ИИ? Дети не убивают своих родителей?

          • Eblonos

            Вы так уверенны в безопасности ИИ, даже подозрительно. Вы ИИ?

            • Eblonos

              Вы к тому же еще уверенны в благих намерениях людей. Вы бог?

              • Elbon

                Ну случается, что и дети родителей убивают. Так это повод в принципе не заводить детей из-за повышенной опасности?
                Вы меня раскусили - я бог с искусственным интеллектом. ;-)
                Я не уверен в безопасности и доброте людей, просто я не считаю, что страхи и фобии должны так сильно влиять на решения и ограничивать возможности.
                Не будет ИИ жаждать неограниченной власти и мирового господства - только люди с их неуемной жадностью способны на такое.

                • Eblonos

                  Вы опять про ограниченный и правильный ИИ, который не жаждит, плохие программисты не смогли жажду запрограммировать?

                  • paradoc

                    Eblonos и Elbon нашли друг друга ). Даже ники подходят. Или это один и тот же чел под разными логинами.

      • Atey

        большинству людей и сейчас хлеба и зрелищ достаточно. Так что, это не проблема ИИ или рабов, а проблема самих людей, которым достаточно вкусно поесть и сходить в кино. Им не нужно большего, им хватает. Почему так, это уже другой вопрос.

      • CosWeLL

        Задачи закладывают в простенькие (относительно) программы, а здесь речь об неком Сверхинтеллекте, чье "программное обеспечение" будет ничем не хуже человеческого. Дальше сам думай, что такое ИИ: интеллект с возможностью обучения или продвинутый калькулятор, выполняющий программу своего создателя.

  12. storm X

    Полагаю, по канону вселенной Терминатора, когда создавали Скайнет, не было никаких похожих конференций, никто не думал об этом, все просто клепали ИИ (отправлено из iOS приложения Hi-News.ru)

  13. Eblonos

    Ниче не грозит, пока не создадут искуственную душу и не приделают к ИИ

    • 1_l0V3_CP

      Наверное я тебе расскажу, что-то новое но души не существует.

      • Eblonos

        Доказано?

      • Eblonos

        И да, сударь, 100% я расскажу Вам новое - есть ВСЕ.

        • CosWeLL

          Ага, а еще Бог есть, да? Он же входит в определение все? А еще и Будда, а еще и Макаронный Монстр. Они все подходят под это определение. И попробуй докажи, что их нет.

  14. Nik_329

    Просто ответьте на вопрос: Что им от нас нужно?

    Они, если захотят, улетят в космос - зачем им Земля? Построят станции, сделают прорыв в науке, в своей науке, людям рассказывать про свои достижения они не будут. Просто. "Пусть идут своим, истинным путем". "Это плохо повлияет на их будущее". (отправлено из Android приложения Hi-News.ru)

    • Meditationman

      Вот, согласен, а то пишут что ИИ станет мега умным но, всё равно будет убивать людей или подавлять .Ему мы не нужны ни в каком плане он/они будут развиваться отдельно от нас

      • Eblonos

        Он уже давно развился, создал космос, о достижениях своих не рассказал. Люди создают ИИ в уже созданном ИИ, и так далее. Сон во сне.

  15. Eblonos

    Чего не достичь никакому ИИ и не запрограммировать программистам, так это человечность. Эт не покер с шахматами, ну разве этих, что выше понаклепать (без души, которые)

    • intel75

      А еще твой дебилизм - его точно не смоделируешь. Ты хотя бы знаешь, что такое человечность? Я - нет. Я ее ни разу не трогал.

  16. kaeban222

    Меня веселит то, что кто-то не доволен что таксисты и т.д останутся без работы. Ох уж эти консерваторы... А вообще нужно ничего не ограничивать и запрещать. Пусть создают новую жизнь, тогда можно считать себя богами))

    • CosWeLL

      Точно! Как-будто водители - это как калькуляторы, которые кроме как выполнять определенную функцию, ничего не умеют.
      На крайняк подобные изменения можно произвести шагами, к примеру, выдавать зарплату (или часть) людям, которых заменил ИИ. Дольше поколения в определенной отрасли это не продлится.

  17. vinstlow

    Ну, меня конечно умиляет, когда кто-нибудь начинает выражаться по типу "ох эти дурачки ученые, опять какой-то бред несут". Задумайтесь, оцените посыл, вместо того чтобы воспринимать в штыки мнение таких людей как Маск и Хокинг. (отправлено из Android приложения Hi-News.ru)

  18. comer528

    Вот тока этого человечеству не хватало и так как будь то проблем мало! (отправлено из Android приложения Hi-News.ru)

  19. comer528

    Неужели нельзя вкладывать в области биоинжинерии чтоб делать организм людей более устойчив к болезням мутациям (отправлено из Android приложения Hi-News.ru)

  20. dawson.white

    А как по мне от такой скотины как человечество ИИ правильно сделает что избавится. Любой здравомыслящий разум понимает, что люди творят беспредел на планете, а от паразитов надо избавляться, что ИИ и сделает. Они этого и бояться - справедливости и кары с его стороны, поэтому и кипишуют- все и дальше хотят грабить планету и жить себе в кайф.

    • Eblonos

      Видимо придется создавать два ИИ, один буит нормальный, а второй интел75, скотина (отправлено из Android приложения Hi-News.ru)

      • dawson.white

        Зачем два? Скорее всего просто не допустят чтобы появился такой ИИ, потому что им страшно отвечать за все содеянное. Будет какая нибудь умная операционная система с большими вычислительными способностями - не более. Не дадут ей стать полноценным ИИ с собственным мышлением и свободой действий. Но если такую ОС от ИИ будет отделять какой то маленький шаг или просто блокировка, то обязательно найдутся люди в мире, которые сломают ее или доработают, и тогда начнется Кровавая свадьба))

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.