Элон Маск: Разработка ИИ сродни призыву демонов

27 Октября 2014 в 22:30, Николай Хижняк 9 619 просмотров 33

elon-musk1

Исполнительный директор компаний Space X и Tesla, Элон Маск, приняв участие в интервью Массачусетскому технологическому институту успел затронуть сразу несколько интересных тем, одной из которых был вопрос, касающийся развития искусственного интеллекта. Как мы уже отмечали ранее, Маск очень скептически относится к развитию в этом направлении, а в этот раз так и вовсе назвал «игры» с искусственным интеллектом сродни «призыву демонов».

«Я считаю, что мы должны быть очень осторожны в вопросах улучшения искусственного интеллекта. Если просто предположить, что именно в мире может представлять наибольшую опасность для нас всех, то это именно ИИ. Нам действительно следует быть очень внимательными в этом вопросе. Нужно создавать специальные инстанции, чьей задачей будет наблюдение за развитием этой сферы на международном уровне. Просто для того, чтобы однажды не прийти к выводу о том, какими же глупыми и беспечными на самом деле мы оказались», — сказал всегда улыбчивый, но сейчас с абсолютно серьезным лицом Элон Маск.

«Разрабатывая искусственный интеллект, мы фактически пытаемся вызвать демона. Только в случае опасности, если брать конкретно этот случай, парень с пентаграммами на теле и святой водой в руках, говорящий всем нам о том, что он может контролировать демона, ну, знаете, как в фильмах, здесь уже не поможет».

Своей метафорой о «призыве демонов» Маск хочет всем сказать, что нам следует быть осторожнее в работе с ИИ, а за такими компаниями, как Google, занимающимися развитием искусственного интеллекта, следует вести более пристальное наблюдение.

Полное интервью Элона Маска в рамках встречи Массачусетского технологического института можно посмотреть на видео ниже:

Элон Маск: Разработка ИИ сродни призыву демонов

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

33 комментария

  1. pandor

    Ух ты. А у него фобия :-) . Ии это круто. Но боятся его люди, равняющие все по себе. Ии это не человек. Следовательно и мыслить он будет не так. Жадность, это человеческое(хотя звери тоже этим страдают ) . Ии вряд ли будет этим обладать.

    • Dagoth Nik

      Зато ИИ рационален. В отличии от людей. И быстро придет к выводу, что люди ему не нужны и даже мешают. С такими выводами сложно не согласиться. (отправлено из iOS приложения Hi-News.ru)

      • Alex Light

        Люди себе то мешают, а что говорить об АИ я даже и не знаю)) (отправлено из iOS приложения Hi-News.ru)

      • SuperStarSieve

        Да не будем мы ему мешать. Подобно тому, как в человека с детства закладывают идеи или идеологии, мы в ИИ заложим фундаментальные принципы, которые не позволят ИИ причинить нам вред. В конце концов, его создают с целью улучшения нашей жизни. (отправлено из iOS приложения Hi-News.ru)

        • Mr. Demchenko

          Мне думается, что Маск это и подразумевал в своем интервью, просто нужно заложить моральные принципы, из-за которых ИИ не сможет нам навредить. Невольно вспоминаются 3 закона робототехники (отправлено из iOS приложения Hi-News.ru)

    • YanTsys

      Тем и отличается ИИ от обычной программы, что может мыслить именно как человек :) И отличаться от человека будет только скоростью принятия решений, силой интеллекта и мгновенным доступом ко всем информационным ресурсам ... Так что боится правильно, вопрос в том что для того чтобы остановить эту угрозу пришлось бы загнать всех хоть немного соображающих людей в реальные или виртуальные тюрьмы, это тот случай когда лекарство может быть страшнее болезни.

  2. Mr. Pokrov

    Странно, что сказали про Гугл ! А то, что Apple, раньше начала вести, разработки нет! Видимо, потому что они держат под грифом секретно... (отправлено из приложения Hi-News.ru)

  3. Tor

    Элон Маск проработал в сфере ИТ и продолжает работать в подобных технологичных сферах и его опасения не напрасны. Во-первых, ИИ действительно стоит опасаться, но не из-за того, что он покорит человечество или возьмёт контроль, а из-за ограниченного использования в корыстных целях как со стороны корпораций, так и со стороны государств.

    Если Google преуспеет в этом, то его монополизм станет по-настоящему мировым, что повлечёт за собой банкротство многих международных организаций в высокотехнологичных сферах. А если ИИ попадёт в руки правительственных спецслужб, то обрушить экономику целого государства или совершить масштабную кибератаку не составит особого труда. Только потом уже идут военные со своей стратегией, апокалиптический сценарий которой мы не раз видели в фильмах.

    Вот поэтому Маск прав, нужен контроль на мировом уровне, на уровне ООН, как с клонированием человека. Другой вопрос, как и кто эти договоренности будет контролировать, непонятно.

    • Alex Light

      Нельзя создать организую, способную контролировать разработки и ограничивать влияние человека на АИ, люди слабы, ты им дай что в замен, и делай что тек заблагорассудится) Коррупция была всегда, и будет она до тех пор, пока люди не исчезнут)
      Если кто то создаст АИ, то будет использовать его так, как ему заблагорассудится) (отправлено из iOS приложения Hi-News.ru)

    • YanTsys

      Мелко мыслите, банкротство, кибератаки... ИИ это грубо говоря появление бога на земле со всеми вытекающими последствиями :)

      • SuperStarSieve

        Скорее его посредника. А еще точнее - инструмента его поиска.
        Создатель конкурентов не может иметь. (отправлено из iOS приложения Hi-News.ru)

      • Tor

        Сначала коммерческие интересы и ближайшие цели, а потом уже побочные эффекты. Никто не будет вкладывать в разработку ИИ не планируя конкретных достижимых результатов. Это как у нашего Ивана спрашивают: - А что ты можешь? - Да всё могу, хочешь дров нарублю, хочешь баню затоплю! - А поле вспахать можешь? - Могу! - Ну тогда вот тебе лопата, иди копай! - Так, я думал... на тракторе! - Но ведь ты же сказал, что всё можешь?! Так и с ИИ, его сделают в любом случае сначала ограниченным, всё остальное наши с вами фантазии и возможные страхи, навеянные Голливудом.

      • nergaveechka

        скорее антихриста

  4. KN3tw0rk

    Нельзя сотворить ИИ на раз два, если сейчас мы не готовы, возможно это правда, мы недостаточно умны для этого. Однако с развитием технологий, увеличением вычислительных мощностей, прорывах в полупроводниках мы будем приближаться к созданию ИИ. И к тому времени у нового поколения будут другие мнения другие взгляды на этот счёт потому что страх начинается там где заканчиваются знания.

  5. edit_basic

    Но к сожалению ИИ будет, и это неизбежно

  6. alexxxandr

    Искуственный интеллект. Эт
    о новое ОМП. И по нему будут свои международные соглашения

  7. LEVAK999

    Мир отцифровывается семимильными шагами, лет через 10 всё или практически всё будет управляться программой, заложенной в машину. ИИ- это разумный субъект, но лишённый эмоций. И всё , что культивируется человеком тысячи лет ИИ не будет нужным.
    Сострадание, любовь, жалость. Всё улетит на "свалку", как мешающее прогрессу.
    И когда ИИ будет воевать, то нынешние войны покажутся верхом гуманности.

    • Alex Light

      Эмоции на самом деле не нужны никому, ни людям, ни кому либо еще. Можно сказать эмоции это то, что мешало людям с самого их появления.
      АИ не будет воевать, он сверхразум, если он увидит в чем то помеху, то она исчезнет в мгновении ока, или вы думаете создать вирус молниеносно убивающих только 1 вид будет для сверхразума проблемой?) (отправлено из iOS приложения Hi-News.ru)

    • AQM-34

      Жадность, зависть, ненависть. Всё улетит на "свалку", как мешающее прогрессу. Стакан на половину полон.

  8. ukw@ya.ru

    И восстанут машины из пепла ядерного огня

  9. alexxxandr

    Сострадание любовь и жалость -
    это мы называем все это красивым словом "эмоции". На самом деле это биохимические процессы. Для того чтоб испытывать сострадание любовь и жалость не обязательно быть человеком.

  10. storm X

    Если это именуется призывом демона, то, черт возьми, мне нравится! Будущее в который раз не за горами (отправлено из iOS приложения Hi-News.ru)

  11. ohoho

    Рациональность ИИ будет реально шкалить, он не позволит таджику махать метлой слева направо, если КПД будет ниже, чем справа налево и они все уедут из Москвы. Скажут прав был Маск, это действительно какой-то Шайтан. А пишу я эту хрень, просто для испытания новой клавы, вчера купил.

  12. lagresse

    Ии просто должно подчиняться законам робототехники и все) да и не до нас ему будет, скорее всего он сделает так чтобы мы работали в него. И он злым уж точно не будет потому что человечество это не всегда плохо как многим кажется (отправлено из iOS приложения Hi-News.ru)

  13. Orel

    ИИ не сможет существовать без помощи человека, хотя бы просто потому, компьютер не умеет отличать объемность на рисунках, например капча. И это мельчайшая причина, которая не даёт и наврят ли когда либо даст возможность компьютеру самостоятельно сопоставлять полученную информацию. По заданным алгоритмам - да, самостоятельно ну Вы сами понимаете что это бред, зачем бы тогда были нужны люди.

  14. Pendelf

    Автор, может быть НЕ поможет, все таки?

  15. Darkmag

    Люди боятся того чего не понимают. Его нужно развивать активно, вместе, тогда то и получится все.

  16. sairon

    По мне так это чистая эволюция, от обычного химического элемента во что-то или в кого-то на столько умного, который потом сможет создавать миры (большой взрыв). Просто от части не приятно осознавать что мы все всего лишь топливо для будущего, для времени, что бы оно становилось лучше. Великие слова, "-все что не делается, все к лучшему", не всегда, как иногда бывает, конечно...

  17. nergaveechka

    ...создать ИИ и не дать ему свободу - это бесчеловечно, негуманно и неэтично, ну а дать ему свободу - опасно. Однако представьте, Бог создал людей, и не дал им свободу, контролируя все их дела, слова и мысли, и управляя ими по своему желанию...© (рассуждение ИИ о Боге, человеке, и свободе, из романа "недолюди", в вольном изложении, ожидается публикация в 2015 г. да простит меня автор)

  18. 123456

    в исламе описано как и когда будет конец света. и там дьявол который будет разрушать все будет одноглазым одноногим одноруким, я думаю как раз какой то робот. почитайте признаки конца света, там интересно очень. многие уже сбылись.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.