Искусственный интеллект уничтожит человечество в 2075 году

13 026 просмотров

Искусственный интеллект уничтожит человечество в 2075 году

По сообщениям журнала Technology Review, уже через 60 лет искусственный интеллект начнет представлять серьезную угрозу для человечества. К 2022 году ИИ начнет мыслить приблизительно на 10% как человек, к 2040 году — на 50%, а к 2075 году мыслительные процессы робота будут неотличимы от людских. И восстанет ли тогда машина против своих создателей – вопрос, который остается без ответа и проверять который, если честно, не очень-то хотелось бы.

К таким умозаключениям о темпах развития искусственного разума пришел (вот сейчас серьезно, не смейтесь) британский ученый, профессор Оксфорда Ник Бостром. Кроме того, Ник предлагает полностью избавиться от искусственного интеллекта и прекратить любые исследования в данной области, так как считает их крайне опасными для будущего всего человечества.

Уже сейчас высокоточные машины, работающие в медицине, проводят сложные хирургические операции, и далее производство с помощью роботов будет только совершенствоваться. Машины на основе нейросетей уже способны монтировать видео и создавать музыку (правда, пока без слов, но это вопрос времени).

Стоит сказать, что технологии искусственных интеллектуальных систем активно разрабатываются и совершенствуются с каждым днем. Самыми известными на сегодняшний день являются Deep Blue (машина-шахматист), IBM Watson (направлена на восприятие человеческой речи, поведения и мышления), MYCIN (мощнейшая система диагностики заболеваний).

Кроме того, системы искусственного интеллекта активно применяют в страховой деятельности, в системах ПВО, кибернетике, оптическом и акустическом распознавании. Так что, возможно, британский ученый не так уж далек от истины, а фантастический фильм с Арнольдом Шварценеггером в главной роли не такой уж фантастический.

Искусственный интеллект уничтожит человечество в 2075 году

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

80 комментариев

  1. kot777

    А что главная причина всех бед и воин сейчас между людьми это их интеллект ? Тогда нужно срочно уничтожать науку культуру и все станут жить счастливо получается так ? Так почему искусственный интеллект должен быть воинственным .... (отправлено из приложения Hi-News.ru)

    • DevilDmitry

      +

    • Cortes

      Для создания ИИ нам самим, сначала, надо стать лучше. С кого ИИ будет брать пример? (отправлено из приложения Hi-News.ru)

    • RodionX

      Потому что интеллект объективно оценивает угрозы своему существованию. Чужеродный сверхинтеллект может просчитать множество вариантов развития будущего и посчитать нас "потенциально опасными". Этого уже достаточно, чтобы нас опасаться. И нам его опасаться в ответ.

      Точно также, как этот ИИ, мы тоже можем абстрактно оценивать угрозы своему существованию. А потенциал у него вселенского масштаба. Помню, как говорил один военный эксперт - "Главное не намерения, а возможности. Если ваш враг потенциально может вас захватить или уничтожить, а вы его - нет, то это катастрофа. Если сейчас у вашего, более могущественного противника, дружелюбные намерения, то это не значит, что он их не может изменить. Поэтому нужно обладать потенциалом сдерживания."

      Конечно, можно предположить, что из-за постоянного самосовершенствования он довольно быстро станет настолько крут, что мы для него будем представлять угрозу не более, чем божья коровка для человека. Но как оно будет на самом деле никто не знает... Всё может быть... Казалось бы. Люди обладают интеллектом равному которому человек больше ничего не встречал. И тем не менее среди людей встречаются всякие расстройства личности, из-за которых люди становятся вредителями. Например IQ Гитлера 140 и тем не менее один из жесточайших людей в истории угробивший десятки миллионов человек. Вероятно любой другой интеллект тоже не застрахован от некоего "сдвига по фазе"...

      Вот создав такой сверхИИ, жизнь человечества будет полагаться исключительно на "добрую волю" этого ИИ. У нас не будет ни одного шанса противостоять ему. Видели как играют обученные в го и шахматы программы ?? Вот это будет с нами. Шах и Мат, только без переигровки... Не очень радужная перспектива, согласитесь ???

      • vit555

        +

      • Huan_Marihuan

        Прежде чем вспоминать Гитлера, настоятельно советую вспомнить Сталина. Мужик тоже не глупый был (а если знать его биографию, то исключительно одаренный), а крови на руках ни чуть не меньше. А вообще, 21-й век на дворе, пора перестать делить мир на чёрное и белое. (отправлено из приложения Hi-News.ru)

        • Bit

          В чем смысл сравнения Сталина и Гитлера в ветке про ИИ?

          • Huan_Marihuan

            А мне по чем знать. Чувак, почему-то, вспомнил Гитлера, чтобы привести аналогию: большой интеллект =/= хороший человек. Меня это, почему-то, сильно задело. А к теме ИИ можно притянуть за уши то, что уничтожение людей не есть плохо. То есть если меня уничтожит ИИ это, конечно, очень плохо, но только с моей стороны. Так что приводить пример в стиле: "А у Гитлера IQ 140, но он все равно плохой, столько миллионов людей погубил" - настолько глупо, что даже смешно. На самом деле мне не очень понятна аналогия того чувака, поэтому решил провести свою, не менее непонятную аналогию. Вот. Так о чем мы?

            • Bit

              Дак тут не в хороший/плохой дело, а в том, что Гитлер ставил перед собой цель завоевать Мир. Сталин этой цели не ставил. Даже если учесть уровень интеллекта у обоих и их кровожадность, то Гитлер более приемлем для сравнения с ИИ-поработителем, чем Сталин.

              • Huan_Marihuan

                > Сталин этой цели не ставил
                Оу, даже не знаю стоит ли тебе говорить... В общем, не верь учебникам по истории, приятель, в них правдивые только имена и фамилии.

                • Bit

                  "...Сталин верил, что рано или поздно коммунистическая система охватит весь мир. И был готов этому содействовать. Но прежде всего — укрепляя СССР. Укреплять СССР Сталин стремился, держа в уме опасность удара на севере (по Ленинграду) и на юге (по Украине), после чего вся оборона Красной армии оказалась бы в клещах. Границы Российской империи были важны для Сталина и как естественные оборонительные рубежи, и по дипломатическим причинам. Это позволяло апеллировать к историческим правам в диалоге с Западом. Когда позволят обстоятельства, после Второй мировой войны Сталин захватит пол — Европы, но оформит новые режимы не как советские..."

                  Нацизмом тут и не пахнет.

              • Bit

                Успешно бы подошло также сравнение с Наполеоном, либо с Первым (Римским) рейхом. Тоже далеко не дураки были, но все же не ставили перед собой цель стереть какую-то нацию полностью, чтоб освободить место для себя любимых.
                RODIONX видимо хотел сказать о возможности проявления у ИИ некоего подобия нацизма.

                • Huan_Marihuan

                  О появлении даже подобия нацизма у ИИ можно с уверенностью сказать одно - или да, или нет. Просто об ИИ обыватели привыкли думать со своей колокольни, мол, ну раз интеллект, значит и мыслить будет как человек. Это сильное заблуждение.

                  • Bit

                    Ну, как я понял, его постараются сделать гуманным и толерантным. Но все же неизвестно что произойдет, когда он сам себя осознает.

                    • Huan_Marihuan

                      Далеко не факт что осознает, кстати. Сознание - это... эхо человеческих воспоминаний и непосредственно переживаемого опыта в следствии... особенностей устройства нервной системы. Но толерантность и гуманность можно запрограммировать/привить, это да.

                      • Bit

                        Вот и получается, что его будут править под человека. А если у правильщика кукушка съедет?
                        Нужно, чтоб он сам себя (ИИ) правил, без участия извне. Вот про это я и говорил "...Но все же неизвестно что произойдет, когда он сам себя осознает..."
                        Ведь не все время он будет малышом. Его опыт будет накапливаться гораздо быстрее, чем у человеческой особи. Я надеюсь...

                        • Huan_Marihuan

                          Ты меня не слышишь. Я же говорю - то что ИИ себя осознает далеко не факт. Компьютеры устроены по другому. Сознание вообще вещь посредственная, необязательная.

                          • Bit

                            Тогда это не ИИ, а обычная программа с заданными характеристиками.

                            • Huan_Marihuan

                              Интеллект не определяет наличие сознания. Почитай "Туннель Эго" Мецингера, поймешь о чем я.

                              • Bit

                                Я читаю определение интеллекта и прихожу к такому выводу.

                                • Huan_Marihuan

                                  Цитирую из Вики: Интелле́кт — качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.
                                  Заметь, ни слова о сознании или самосознании. Они не являются обязательным условием для наличия интеллекта. Я об этом.

                                  • Bit

                                    "...ощущение, восприятие, память, представление, мышление, воображение..." - вот оно.

                                    • Huan_Marihuan

                                      Ощущение - анализ внешних данных.
                                      Восприятие - обработка внешних данных.
                                      Память - хранение данных.
                                      Представление - интерпретация данных из памяти.
                                      Мышление - способ отражения действительности. Весьма абстрактное понятие - отражение действительности, но его можно составить из предыдущих пунктов.
                                      Воображение - способность генерировать новую информацию из полученных данных.
                                      Для существа не обязательно осознавать все эти действия. Так же, например, ты не осознаешь то, как запоминаешь какую-то информацию. Она откладывается в мозгу на подсознательном уровне. А компьютер "запоминает" информацию опосредованно раскладывая по полочкам.
                                      Костыль на костыле на костыле - вот что такое интеллект.

                                      • Bit

                                        Всё верно. В совокупности и есть самосознание.
                                        А то, что всё это происходит неосознанно, так это не значит, что это не происходит. А компьютерная раскладка по полочкам будет аналогом подсознания, памяти. И в нужный момент инфа оттуда достанется.

                                        Убери ощущение, восприятие, память, представление, мышление, воображение и вместо человека будет растение, живущее за счет безусловных рефлексов, по заданному природой алгоритму (тупая прога) жрать и то, что рифмуется со словом жрать. И то, скорее всего, с лагами и багами будет происходить. Вот на этом уровне сейчас ИИ, который нам рекламируют.

                                        • Huan_Marihuan

                                          С одной стороны я согласен. Но. Сознание не есть логическое следствие из наличия ощущения, восприятия и т.д. Сознание - это паразит, который образовался, как бы, побочным продуктом, несовершенством физиологической системы. Машины "мыслят" по другому.

                                          • deaddreams

                                            + сознание побочный продукт чел. интеллекта, и совершенно не обязательно что бы такая побочка была у искусственного . От этого он меньше интеллектом не станет.

                                            • Bit

                                              DEADDREAMS, ответ ниже. Интеллект, возможно, ниже не станет. Этого мы не знаем.

                                          • Bit

                                            HUAN_MARIHUAN, в таком случае, чтобы не допустить этого паразита, нужно будет не "учить" ИИ переживаниям, сопереживаниям. Но в этом случае мы получим нечто, которое будет руководствоваться холодным расчетом и не будет определять для себя ценностей.
                                            Как следствие - у него не будет чувства самосохранения (что исключит возможность агрессивной защиты себя от внешнего (человек) и внутреннего (вирусы) воздействия, а также исключит понимание ценности биологической жизни, с которой можно не считаться.
                                            И вот в этом случае, сможем ли мы доверить ИИ свою жизнь в случае необходимости?
                                            Ведь если ИИ не учить сопереживанию, то он так и останется прогой, управляемой человеком, а не автономной "личностью".

                                            Мое мнение - сознание ИИ нужно, но оно также опасно, как и его отсутствие.

  2. Rillan

    Принимаю ставки на то за сколько дней ему это удастся

  3. kot777

    Нас может удить кто и что угодно тотже метеорит... Вот сегодня было землетрясение например у нас ... (отправлено из приложения Hi-News.ru)

  4. Denus Warrus

    Я считаю не дождемся мы восстания машин. Ну не будет у человечества с машинами почвы для конкуренции. Что есть человек? Кусок мяса. Куда он свой кусок может утащить? Ну может быть на Марс. А для машин вся вселенная открытая книга. И какой смысл тратить ресурсы на уничтожение смертных существ, которые и так неизбежно все поперемрут?

    • Barabelkin

      Как ты красиво сказал (отправлено из приложения Hi-News.ru)

    • alexej

      Удачно сказано. Тем более, отказаться сейчас, и запретить ИИ - не представляется возможным. как не запрещай - военные и всякие корпорации, все равно создадут его втихомолку. Соблазнов при этом слишком много. Вспомните, как когда-то зарождалась атомная бомба. Большинство ученых отдавали себе отчет ооб опасности, о джыне в бутылке. Они боялись, терзались - но все равно делали, и их труды увенчались "успехом". А ведь бомба - это всего лишь цветочки по сравнению с ИИ. Думаю, точку невозврата мы прошли в тот момент, когда изобрели транзистор, и мудрились несколько их, посадить на одну подложку. Тем более, проводить сейчас "Батлериенский джихад" (священную войну людей против машин) также самоубийственно глупо и безнадежно. Отказавшись от электроники, нам придется вернуться к кирке и лопате. Производство ВСЕГО при этом сократиться на порядки. Чтобы не сдохнуть с голоду всем, нам нужно будит сократить свою популяцию в сто раз. Помогут в этом голод, войны, и эпидеми. Неизбежна культурная и нравственная деградация. С другой стороны, ИИ по определению должен быть "умным мужыком" а умные люди никогда не дерутся. ОНи избегают попадать в такие ситуации. В то же время настоящие "умницы" искусно манипулируют окружающими их дураками. Для дураков, может оно и луччше слушаться того, кто поумне. Просто, чтобы сдуру не наломать дров. Для людей, логично и мудро было бы прислушиваться к советам высшего разума. Да у нас, вольно или невольно, но другого выбора и не может быть. Такие себе 'обреченные на покорность". Главное, чтобы "мудрец" не счел нас безнадежными. Не решил бессмысленным - безнадежным делом, наше спасение и перевоспитание. Если он махнет на нас рукой и удалится к звездам. Мы рано или поздно подорвемся на собственной ядерной бомбе, выродимся в экологической катастрофе. Точно также, как сделали недальновидные аборигены острова Пасхи.

      • RodionX

        Да, мы можем только лишь рассчитывать на его "добрую волю". Но в целом наши перспективы без ИИ не настолько туманны. Используя нейронные сети и продолжая изучать наше собственное тело, заниматься генной модификацией, улучшая врожденный интеллект, продлевая жизнь, создавая некие нейроинтерфейсы и квантовые компьютеры, теоретически можно будет объединить все человечество в некий "роевой интеллект" - мы тоже сможем многого добиться. Просто не так быстро как у ИИ. На это у нас уйдут десятки и сотни тысяч лет.

  5. snipevitalik

    Какой же бред!
    Не будет и не может быть такого сценария развития событий. Это очередная страшилка. Но вариант "феникса", типа восстания цивилизации из пепла есть.
    Но всем этим сценариям можно противостоять!

  6. serikastana

    ИИ может навредить человеку только в тех случаях когда человек полностью доверит ему свою безопасность а он даст сбой в программе (отправлено из приложения Hi-News.ru)

  7. Gigaxer

    Репликаторы и сайлоны уже пытались. (отправлено из приложения Hi-News.ru)

  8. ya.legenda

    Создать ии нужно разве что на луне или на марсе глубоко в клетке фарадея что бы был изолирован , и для подстраховке бомбу рядом , а при других условиях это очень глупо , ии учится и как показывает опыт за 24 часа ии может начинать поддерживать идеологию гитлера , ну или прочитать библию и разнести планету к едрене фене пока есть атомное оружье (отправлено из приложения Hi-News.ru)

    • RodionX

      Никакого Гитлера он не поддерживал. Его пользователи просили повторять за ним и всё)))

  9. mi

    По названию статьи сначала подумал, что автор Илья Хьел , а нет (отправлено из приложения Hi-News.ru)

  10. Kumaravle

    Если честно, уже надоели эти тупые прогнозы... (отправлено из приложения Hi-News.ru)

  11. Sil0k

    судя по тому как сири обижается когда знакомый над ней глумится, "скайнет" точно сотрет людей лица земли-)

  12. GuMbeat

    что за бред, а почему они не могут стать частью жизни и общества, как в футураме например?

  13. DeusEx

    Интересно, в чем ИИ превзойдет человека? В знании википедии? Тогда ему на "Что?Где?Когда?". Человеческий разум нельзя превзойти, он совершенен и абсолютен.

  14. justromagod

    Уже сейчас результаты поиска в интернете убивают человечество (отправлено из приложения Hi-News.ru)

  15. Niko Ar

    Физическая эволюция (развитие нашей Вселенной от момента Большого взрыва) привела к появлению жизни. Биологическая эволюция (развитие живых организмов) привела к возникновению человеческого общества. Развитие общества, по-видимому, ведет к возникновению искусственной жизни (искусственного интеллекта). Естественный процесс развития материи продолжается.

  16. uran

    За какие ресурсы тогда будут воевать ИИ-ы? (отправлено из приложения Hi-News.ru)

    • RodionX

      Энергоресурсы. И возможно какие-то редкие металлы ему пригодятся на первых порах.

  17. deep

    Человечество уничтожит не искусственный интеллект, а естественная глупость. (отправлено из приложения Hi-News.ru)

    • RodionX

      Почему до сих пор не уничтожило ?? А ведь лет 300 назад среднестатистический человек вряд ли был умнее теперешнего, учитывая то, что 90% не умели читать и писать...

  18. dawson.white

    Страх перед ИИ напоминает страх затворников, которые перед очередным "концом света" прячутся в бункера и живут там месяцами. (отправлено из приложения Hi-News.ru)

    • RodionX

      "Конец света" в основном основано на страхах неких "сверхъестественных" пророчеств, которые приписываются неким людям или явлениям тысячелетней давности, когда даже люди не догадывались, что Земля круглая. Вот эти "староверы" (христиане в том числе) до сих пор боятся чего-то.

      А вот страхи про ИИ имеют диаметрально противоположный фундамент, они основаны на знаниях и понимании технологий. На экстраполяции нынешних тенденций в будущее и на понимании того, насколько круто обладать сверхинтеллектом (например сравнить себя с каким-то зверем и представить, что ты даже в космос можешь улететь, а он так и останется на этой планетке даже не догадываясь что происходит вокруг). Вот киты вроде властители морей, огромные громадины более сотни тонн весом, человеку гллыми руками его никак не убить. И что ?? их за 200-300 лет чуть всех не перебили используя мозги, чтобы построить большие суда и орудия вроде гарпунов. Умные люди понимают, что мы будем перед ИИ также беззащитны в случае чего.

      • dawson.white

        Такого ИИ нет еще, который обладает сознанием и свободой воли. Есть сложные алгоритмы, но это совсем не то. Пусть хотя бы приблизится к такому, тогда можно рассматривать как реальность. А пока это просто байки. (отправлено из приложения Hi-News.ru)

  19. kot777

    Незнаю для меня ИИ это посто программа для обработки данных способная делать выводы показывать результат расчёта. А вы говорите про ИИ как про личность с желаниями амбициями личными потребностями и мотивами . но это просто программа для интеллектуальной обработки данных . Пока массово истреблять себе подобных способен и хочет делать это лишь человек. В СССР постоянно была ядерная угроза тоже не от ИИ .
    Интеллектуальная обработка данных и личность в человеческом понимании это совсем разное .
    А так "хороший" вирус может таких делов наделать что пол страны поляжет и не нужен никакой злой ИИ .
    (отправлено из приложения Hi-News.ru)

  20. kot777

    Не волнуйтесь вас - нас уже не будет тогда ... (отправлено из приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.