Рэй Курцвейл: «Не бойтесь искусственного интеллекта»

24 Декабря 2014 в 12:00, Илья Хель 7 165 просмотров 113

Искусственный интеллект

Похоже, развитие искусственного интеллекта (в любом смысле) дошло до той точки, когда эксперты должны разделиться во мнениях: быть или не быть. И если по одну сторону баррикад собираются такие известные деятели науки и техники, как Стивен Хокинг и Элон Маск, то по другую сторону собираются не менее известные футурологи и лидеры технологической отрасли, как Эрик Шмидт и Рэй Курцвейл. Последнего, видимо, так задело невежество сильных мира сего, что он самостоятельно опубликовал колонку в известном журнале TIME. Приводим ее как есть. Далее от первого лица.

Два великих мыслителя видят опасность в искусственном интеллекте. И вот как сделать его безопасным.

Стивен Хокинг, выдающийся физик, недавно предупредил, что искусственный интеллект, когда превзойдет человеческий разум, может представлять угрозу для существования человеческой цивилизации. Элон Маск, пионер электронных денег, частных космических полетов и электромобилей, выразил похожую обеспокоенность.

Если ИИ станет угрозой для жизни, это будет далеко не первая угроза. С экзистенциальной опасностью люди столкнулись, когда я пешком под стол ходил — были учения гражданской обороны в 1950-х. С тех пор мы часто сталкивались с призраками угрозы человечеству, возможностью того, что биотеррористы выведут новый вирус, от которого человечество не сможет защититься. Технологии всегда были палкой о двух концах, с тех пор как огонь начал обогревать наши дома и сжигать другие.

Обычный мрачный фильм о будущем представляет группу из одного или двух лиц, которые борются за контроль над искусственным интеллектом. Или мы видим, как искусственный интеллект борется с людьми за мировое господство. Но искусственный интеллект вписывается в наш мир сегодня совершенно иным образом. Это не палка о двух концах, которая находится в руках одного-двух людей; ее держат миллиард или два миллиарда рук. Ребенок в Африке со смартфоном обладает более интеллектуальным доступом к знаниям, чем президент США двадцать лет назад. И по мере того, как ИИ становится умнее, его использование будет только расти. На практике, умственные способности каждого человека вырастут в течение десяти лет.

У нас по-прежнему возникают конфликты между разными группами людей, обладающих ИИ. Но мы можем привести контраргумент: уровень насилия снижается по экспоненте, как отмечал Стивен Пинкер в книге 2011 года The Better Angels of Out Nature: Why Violence Has Declined. По мнению Пинкера, хотя статистика изменяется от места к месту, уровень смертности на войне упал в сотни раз, если сравнивать с событиями шестисотлетней давности. С тех пор количество убийств упало в десятки раз. Людей это удивляет. Впечатление о том, что насилие растет, вытекает из другой тенденции: экспоненциально улучшается информация о том, что с миром не так.

Есть стратегии, которыми мы можем воспользоваться, чтобы обеспечить безопасность развивающихся технологий типа искусственного интеллекта. Рассмотрим биотехнологии, которые, возможно, развиваются в несколько раз быстрее, чем ИИ. Совещание Asilomar — конференция на тему рекомбинантной ДНК — было собрано в 1975 году, чтобы оценить потенциальные опасности новых технологий и сохранить это поле в безопасности. В результате получились инструкции, которые с тех пор не раз пересматривались и которые работают на ура: с этой сферой не было никаких проблем в течение последних 39 лет. Зато мы наблюдаем массу улучшений в сфере медицины, клинической практики и тому подобного.

Рассмотрение этических инструкций по использованию искусственного интеллекта уходит корнями в три закона робототехники Азимова, который описал их в коротком рассказе «Хоровод» в 1942 году, за восемь лет до того, как Алан Тьюринг представил область искусственного интеллекта в работе «Вычислительные машины и разум» 1950 года. Усредненный взгляд практиков искусственного интеллекта на сегодня таков, что мы все еще в нескольких десятилетиях от ИИ человеческого уровня. Я немного более оптимистичен и переношу дату на 2029 год, но в любом случае у нас есть масса времени, чтобы разработать этические стандарты.

В университетах и компаниях проводят инициативы по разработке стратегий и инструкций безопасного развития ИИ, некоторые из которых уже работают. Как и инструкции Asilomar, они состоят в том, чтобы определить миссию каждой программы искусственного интеллекта и создать зашифрованные гарантии, предотвращающие несанкционированное использование.

В конечном счете самое важное, что мы должны сделать, это обезопасить работу ИИ на уровне человеческих, гуманных и социальных институтов. Мы уже человеко-машинная цивилизация. Лучший путь избежать конфликта в будущем — это продолжить совершенствование наших социальных идеалов, благодаря которым значительно снижается уровень насилия.

Сегодня ИИ совершенствуется в диагностике болезней, поиске лечений, разработке возобновляемых источников энергии, помогает очищать окружающую среду, учит людей по всему миру, помогает инвалидам (не забудем и про знаменитый голос Хокинга) и вносит вклад в мириады других отраслей. У нас есть возможность сделать серьезные шаги в решении грандиозных задач человечества, и искусственный интеллект возглавит этот прогресс. У нас будет нравственный императив, который будет развивать ИИ, удерживая его на поводке. И это далеко не первый раз, когда нам удалось это сделать.

Рэй Курцвейл: «Не бойтесь искусственного интеллекта»

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

113 комментариев

  1. SuperStarSieve

    Интересная тенденция нынче: футуролог мыслит более здраво, нежели ученые. (отправлено из iOS приложения Hi-News.ru)

    • sairon

      Ученые, правильно говорят о ИИ. Он будет превосходить по развитию любого умного в чем-то, очень углублено-развитого человека во много раз. Они понимают что ИИ сможет обойти их, человечество, какое бы они ограничение ему не придумали. Вот за это они и переживают.
      Но на самом деле, это переход на новый этап развития жизни, -как бы не гуманно звучало! (отправлено из приложения Hi-News.ru)

      • SuperStarSieve

        Все хорошо, все гуманно. То есть, здесь это даже не причем. Гуманность тоже понятие относительное. (отправлено из iOS приложения Hi-News.ru)

  2. pochi

    "Ребенок в Африке со смартфоном обладает более интеллектуальным доступом к знаниям, чем президент США двадцать лет назад... На практике, умственные способности каждого человека вырастут в течение десяти лет."

    Тут есть одно но. Современный человек всё менее полагается на свою собственную память и всё более на "облачную память" Гугла, а значит, уровень тренировки мозга в целом снижается.

  3. Archer

    Илья забыл, что самые передовые разработки в области ИИ делаются в секретных научных учреждениях Военных ведомств. Именно от туда и исходит главная угроза со стороны ИИ как для населения, так и для цивилизации в целом. Если ваш пылесос, оснащенный ИИ, вдруг захочет, избавиться от своего хозяина (как от главного источника загрязнений в доме) то с ним, надеюсь вы и сами справитесь. :) Но, если сойдет с ума ИИ системы ракетной безопасности ядерной державы, то пострадать может вся наша цивилизация.

    (отправлено из iOS приложения Hi-News.ru)

    • SuperStarSieve

      ИИ "чего-либо", как, например, пылесоса (ваш пример), - это не логично. Это же тогда вовсе не ИИ. Просто программа, работающая по заданному алгоритму. (отправлено из iOS приложения Hi-News.ru)

      • Archer

        ... Ну пусть будет не пылесос с ИИ (если вы его так опасаетесь), а автомобиль с ИИ, что не принципиально, хотя я думаю, что автомобиль опаснее. :)) (отправлено из iOS приложения Hi-News.ru)

    • miromakh

      Пылесос с ИИ? Разозлится и засосёт до смерти :-)

  4. storm X

    Вот правильно говорит: насилие снижается по экспоненте благодаря технологиям: когда вы последний раз видели шпану на улицах? В 90-е (я прекрасно помню), было куда больше отбитых личностей, недели сейчас... А что теперь, еще две катки в Доту, мам! И спать! Инстаграм, еще фоточки с моря! Сынок, пойди выйди погуляй, целый день в компуиере своем! (отправлено из iOS приложения Hi-News.ru)

  5. Korvin

    Как может таракан контролировать и сдерживать человека в своих действиях и решениях, точно также человек будет контролировать искусственный интеллект. Причина по которой мы еще не встретились с другими цивилизациями кроется в том, что иные цивилизации уже достигли технологической сингулярности. Если рассматривать рост вычислительной мощности компьютеров то с увеличением мощности идет увеличение температуры процессорных чипов. Логичное продолжение данного факта приводит нас к тому что сверхинтеллект должен работать на более высоких частотах и при более высоких температурах и в конечном итоге достигнуть размеров и температуры солнца. Из этого следует что наша звезда Солнце это разумное существо сверхинтелект который может создавать новые реальности в своих снах. (отправлено из приложения Hi-News.ru)

    • alexxxandr

      +100 (отправлено из Android приложения Hi-News.ru)

    • miromakh

      Большой рубильник и чуть-что - отрубай питание.

    • sairon

      Ооооо... Вы его переоцениваете, солнце -это всего лишь микрочип в огромной микросхеме, а вот галактика, это уже полноценный программный ИИ, а весь космос -это мега-кластерный, сверх мощный, вычислительный процессор, который с каждым днем расширяется, а температура в космосе специально низкая, своего рода СО, мда... Теперь вы представляете на сколько мы долькой отставки в развитии:) (отправлено из приложения Hi-News.ru)

    • SuperStarSieve

      Что за бред?! Уж извините.

    • Sam777

      Звезда получается прямо альфа и омега - порождает планеты, жизнь и все прочее и потом уничтожает, причем осознанно по Вашему. Очень поэтично...
      Не просто так наши предки поклонялись Солнцу :) (отправлено из приложения Hi-News.ru)

    • matva

      А чему вы удивляетесь насчет солнца и звезд? Ведь если рассуждать логически - температурная шкала идет от абсолютного нуля и до миллионов градусов (т. е. практически до бесконечности...) И где находится Хомо Сапиенс? А? А его ниша, в которой ему комфортно, занимает 0,00000000000001% (в лучшем случае!) от этой шкалы. Нам, чтобы жить и размножаться нужна температура всего- то в диапазоне 50 градусов! Иначе все, не сможем мы жить. Взять тех же бактерий, так они и то могут жить и размножаться в гораздо широких температурных диапазонах. Не говоря о том, что сохраняться они могут при еще больших диапазонах температур. А что же звезды? А у них температура "комфорта" измеряется как раз миллионами градусов... Есть над чем призадуматься? А время их жизни? Миллиардами лет! Может не там и не так ищем? (отправлено из iOS приложения Hi-News.ru)

  6. Alexandered

    :D (отправлено из Android приложения Hi-News.ru)

  7. ken939

    Для ИИ свое собственное существование будет является трудозатратным и потому нелогичным, таким образом - суициидальным. Это мы, органические существа жить хотим, для машины жизнь не имеет смысла.

    • Archer

      В вопросе: "Кто хочет жить?", нужно немного разобраться.
      Хочет ли жить человеческое тело (как и тело любого другого существа), если отключить ему разум? Вовсе нет, Телу оно 'по барабану'.
      Жить хочет наша Личность, наше "Я", наше Эго.
      А что же это такое "Я" ???
      Это фантомный продукт нашего мозга, это виртуальный объект, вынужденный постоянно доказывать необходимость своего существования и постоянно боящийся своей смерти.
      Это самый большой секрет нашей Личности. (отправлено из iOS приложения Hi-News.ru)

      • ken939

        Совершенно верно, это теософский вопрос.
        Но если рассматривать именно машину наделенную интеллектом, то она будет "хотеть" умереть, поскольку жизнь со всей бренностью бытия нелогична.

        • Archer

          Если получится сделать так, чтобы машина осознала себя как личность, то она будет бояться смерти, примерно ток же как человек.
          Вспомните, как мы боимся за маленьких детей, которые еще не успели полностью осознать себя ... Они не имеют страха, и легко могут причинить себе вред ... Но стоит им повзрослеть, вырастит свое Эго, почувствовать свое "Я", и они начинают всего бояться. :) (отправлено из iOS приложения Hi-News.ru)

          • Sam777

            В философии эта тема раскрывается экзистенциализмом, страх как необходимость развития и выживания. Посмотрите в инете, если интересно. (отправлено из приложения Hi-News.ru)

          • ken939

            Между сознанием и нервной деятельностью есть большие различия. Сознание порой делает совершенно противоестественные вещи, что указывает на иную природу, никак не материальную.

            • matva

              Как по мне то сознание это побочный продукт нервной деятельности ))) так сказать "шум" от работы ))) (отправлено из iOS приложения Hi-News.ru)

              • Archer

                Все с точностью до наоборот :))
                Мироздание, Материя, Пространство и Время - есть "шум" Сознания, его сон, фантом, мираж. Это попытка Сознания познать себя через "отражение" в образе Мироздания.
                Реально существует лишь Сознание, оно порождает и Пространство и Время, оставаясь вне этих миражей. Все что рождено, то обязано умереть, все это есть мираж, фантом, это существует только в Сознании. Как мы рождаем мысли и образы (сны, идеи, фантазии), так и Сознание создало это Мироздание. (отправлено из iOS приложения Hi-News.ru)

                • vinstlow

                  Интересно, откуда такая информация?

                • School73

                  Если Пространство и Время - есть лишь продукт Сознания, то почему упавший на голову кирпич может это сознание уничтожить?

            • vinstlow

              например?

      • magajaga

        Если телу без разума жить по барабану, то почему живые организмы без мозга и растения стремятся к жизни? (отправлено из iOS приложения Hi-News.ru)

        • ken939

          Думаю, что стремление жить является проявлением не материальной составляющей - сознанием. Все живые существа обладают им, в различной мере.

        • Atey

          Как мне думается, стремление к жизни у живых организмов, будь то растение или бактерия - это заложенная в генах программа на размножение, на постоянное умножение своей формы жизни. Тут нет вопросов зачем и почему я живу. Тут есть следование заложенному алгоритму. Энтропия - неотъемлемое свойство материального мира и космоса. И наделение всего живого стремлением к существованию - попытка преодолеть закономерное разрушение. Кстати, только пришла мысль, что в природе вообще нет такого явления, как самоубийство. И только человек доходит до этого. Что появилось у него такого, что внесло такие существенные коррективы? Страх? Боязнь неизвестности? Или потеря особой взаимосвязи с окружающим миром?

          • vinstlow

            Мышление. Все остальное его продукт, не так уж и существенно, что именно, наверное. Факт в том, что с определенного момента кора головного мозга несет ответственность за жизнь индивида, а не его инстинкты.

    • SuperStarSieve

      Наша жизнь пока что не имеет смысла. Вернее, жизнь большинства людей не имеет никакого смысла и не подлежит логическому оправданию.

      • vinstlow

        ИМХО, основной камень преткновения всех подобных рассуждений - это неправильно заданный вопрос и неправильная позиция. Это заводит многих в тупик (повторюсь, ИМХО).
        Нечего искать смысл в жизни - это невозможно и бессмысленно, потому что жизнь - это и есть смысл. Понимаете? Весь смысл в том, что ЕСТЬ разум, который воспринимает. Зачем, почему - это уже наши проблемы. Мы живем и осознаем этот мир. Не чудо ли в таком огромном пустом пространстве.

        • SuperStarSieve

          Ну смотрите: вот родился человек; живет он - видит мир - живет. В этом и заключается смысл его жизни - в жизни. Но потом он производит на свет еще одного человека. И снова все повторяется. Затем - то же самое. И снова - и снова... Ничего не меняется. Но если все время происходит одно и то же, то какой в этом смысл? Нет никакого движения, никакого развития... Конечно, это не нужно воспринимать буквально. Имеется ввиду, что человек, как существо, не развивается. Он ведь не "Лада", чтобы изначально быть идеальным! ИМХО as well.

          • vinstlow

            Вы отталкиваетесь от того, что человек не развивается, когда он развивается и очень быстро.

            • SuperStarSieve

              Он не развивается, как сущность.

              • vinstlow

                Я не понимаю, почему не развивается?

                • SuperStarSieve

                  Я же уже написал. Во-первых, ИМХО. Во-вторых, как уже сказал, мы стоим на месте. Мы развиваемся, как вид - в технологическом плане и др, но сама сущность человека неизменна. (отправлено из iOS приложения Hi-News.ru)

                • SuperStarSieve

                  Грубо говоря, мы развиваемся, но мы не становимся чем-то большим человека. (отправлено из iOS приложения Hi-News.ru)

                  • vinstlow

                    С чего вы это взяли я не могу понять? Человеческий организм постоянно меняется и менталитет людей также. Люди эволюционируют. Просто наши механизмы развития слишком растянуты во времени. Или что для вас "сущность"? Сущность - сознание? Сущность - проекция на других "планах"? :)

                    • SuperStarSieve

                      Сущность не тело. Человек без рук и без ног, с чужими донорскими органами и выращенной кожей ведь останется человеком! Человек - это наше нутро ( не в буквальном смысле). Так вот, как человек стремился к власти и доминированию над всеми, включая своих собратьев, так и сейчас происходит. Мы не стремимся (большинство) к коллективизму, в нас иссякает сострадание. А мнимая индивидуальность таки манит. Хотя на самом деле, мы может отчетливо наблюдать эффект стада, где каждая особь, хоть и вместе с другими, но отчуждена от людей и от самой себя! (отправлено из iOS приложения Hi-News.ru)

                      • vinstlow

                        Все-таки на мой взгляд, люди меняются и сущность их также. Может не так быстро, как хотелось бы, но меняются. :)

                        • SuperStarSieve

                          Может. В любом случае, нужно время, и много, чтобы узреть изменения. То есть, снова - будем посмотреть. (отправлено из iOS приложения Hi-News.ru)

          • Sam777

            Хотите узнать смысл жизни человека? Их есть у меня :)
            Человек - биологическая машина, способная абстрактно мыслить, это и есть его предназначение. Абстрактное мышление питает и создает сферу мыслимого, создает бытие и небытие, ангелов и демонов, самого Бога наконец. Это все мы придумали, люди. Это и есть наше предназначение - перерабатывать одни формы энергии в другую. (отправлено из приложения Hi-News.ru)

            • vinstlow

              Опять вопрос "смысл жизни человека". На него нет ответа, уж поверьте. Вы будете спорить бесконечно, просто потому, что вопрос неадекватный - каждый сам выбирает себе смысл жизни. Смысл весь в том, что жизнь ему дана. А как он ею распоряжается и какой вносит в нее смысл - его личное дело.

              • Sam777

                Ну тут я скорее имел ввиду смысл существования вида человека исходя из его уникального свойства, не встречающегося у других видов (пока известных). То что отличает человека от других живых существ.
                Ваше же определение субъективно :) Мы немного поменялись местами - теперь Вы утверждаете субъективизм, а я беру за основу объективные свойства. Тем не менее, Ваше определение не противоречит моему, какой бы смысл для себя не выбрал каждый конкретный человек, он будет потреблять сохраненную в материи энергию и переводить ее часть в энергию мысли.
                Целенаправленный это результат или случайный не важно, это просто констатация факта.
                При этом, по закону сохранения энергии, эта энергия не может исчезать, а только меняет свою форму. Ну а КПД процесса, Вы наверное лучше подскажите как специалист в психологии, мозг по-моему потребляет 25% энергии организма несмотря на свой небольшой удельный вес.
                Поэтому ИИ, возвращаясь к теме обсуждения, возможно будет машиной с лучшим КПД, если конечно будет обладать самосознанием. (отправлено из приложения Hi-News.ru)

                • vinstlow

                  Ну в принципе я вообще не имею в виду никаких свойств, кроме живой природы. Даже если бы наша планета была бы населена динозаврами, без людей, или только растительностью, то мое мнение не поменялось бы.
                  И вот вам кажется, что смысл жизни людей в их разуме. Кому-то кажется еще что-то. Я не спорю, наш мозг заметно отличает нас от животных и даже можно начать делать выводы о нашем смысле жизни исходя из этого, но а вдруг по сравнению с более развитыми видами мы, извиняюсь, весьма тупы. Все относительно.
                  P.S. Я не специалист в психологии, я сказал, что я знаком с психиатрией - когда-то хорошую кафедру прошел. ))

              • Sam777

                Ответный комментарий почему-то не публикуется :( (отправлено из приложения Hi-News.ru)

                • Sam777

                  Прошу модератора удалить все копии комментария, ожидающие проверки, размещенные до 8.27, кроме самого первого в 8.13
                  Приношу извинения, в приложении для iOS не видно, что комментарий находиться на проверке.
                  Также прошу удалить и это сообщение. Заранее благодарю.

                  • Sam777

                    Даже до 8.50, так как это копии одного сообщения.
                    Прошу оставить только самый первый ответ в 8.13
                    Заранее благодарю.

              • Sam777

                Я имел ввиду смысл существования вида человек исходя из его уникального свойства, не встречающегося у других видов (пока известных). То что отличает человека от других живых существ - абстрактное мышление. (отправлено из приложения Hi-News.ru)

        • Sam777

          Ну вот видите, уважаемый, Вы же сами пишете что разум первичен для понимания Вселенной, а мы с Вами столько спорили :) (отправлено из приложения Hi-News.ru)

          • vinstlow

            Вы видите то, что хотите видеть :)
            Я не считаю что разум первичен - это мне просто не нравится.
            Но вот наличие жизни, это счастливое стечение вероятностей, как наличие кислорода, вода, молекулы углерода и органика - вот в чем смысл. В Земле (или в любой другой планете), в ее природе, лесах, морях, животных, людях. Это прекрасно, это ЖИЗНЬ.
            Первичность разума тут ни при чём :)

            • Sam777

              Ну вот мы и приходим в область ангостицизма в любом случае, Вы считаете что случайность, я нет. И то и другое недоказуемо современными методами, поэтому не стоит спорить по этому поводу. Спору материалистов с идеалистами больше 2-х тысяч лет :) (отправлено из приложения Hi-News.ru)

            • SuperStarSieve

              Я не согласен не с материалистами, не с идеалистами. Мы многого еще не знаем. Поэтому утверждать, что Бог есть или нет пока не можем. Может что-то и начало вселенную. Но Автор точно не уделял нам столько внимания и не создавал нас отдельно. Мы - действительно стечение обстоятельств. Однако же, я не считаю, что это случайность. Смотрите: самые распространенные элементы во вселенной - водород, гелий, кислород и азот (порядок соответствует распространенности); химические реакции протекают именно так, как протекают. Вот и получается, что появление планеты возле такой, как солнце звезды, с водой и органикой - вполне закономерно. То есть, в космосе может и должна быть куча таких планет. ИМХО. (отправлено из iOS приложения Hi-News.ru)

              • vinstlow

                Согласен. И планет наверняка куча, но не рядом. (

              • Sam777

                :) (отправлено из приложения Hi-News.ru)

              • Sam777

                Человеческая мысль даже за известное нам время истории выработало весьма разнообразные системы мировоззрений. В материализме и идеализме было множество идей, некоторые пришлись бы Вам по вкусу.
                Почитайте в Вике про русский космизм, надеюсь Вам понравится. (отправлено из приложения Hi-News.ru)

                • SuperStarSieve

                  Почитаю. А вообще я трансгуманист. Советую про это почитать, если еще не осведомлены. (отправлено из iOS приложения Hi-News.ru)

                  • Sam777

                    Осведомлен, я кандидат философских наук :) Трансгуманизм не противоречит космизму, а приставка "русский" должна Вам особенно понравиться. Без Циолковского не было бы Королева и Гагарина. (отправлено из приложения Hi-News.ru)

                    • SuperStarSieve

                      Я вообще не русский, но может все равно понравится. Одно слово "космизм" уже интригует.

                • vinstlow

                  Я не придерживаюсь какого-либо определенного мировоззрения, потому что для меня и для моего взгляда на этот мир придерживаться чего-то конкретного не рационально. Люди склонны ошибаться в большинстве случаев, когда они пытаются выстроить логику внешнего мира у себя в голове. Я уже говорил об этом: нам нужно смотреть в телескоп, в микроскоп, ставить эксперименты и делать выводы. Это наша работа. Мы же умные, правильно? :)

                  • Sam777

                    Правильно :)
                    Но мне как-то неуютно без логичной и внутренне не противоречивой системой мировосприятия, без мировоззрения. Мое мировозрение формировалось долго и, наверное, еще будет меняться. Быть фанатиком какой-то идеи плохо. Не идеи должны управлять людьми, а наоборот. (отправлено из приложения Hi-News.ru)

                    • vinstlow

                      Мне почему-то кажется, что как раз наоборот :) (отправлено из Android приложения Hi-News.ru)

                    • SuperStarSieve

                      Поддерживаю. Все же, пусть и неконцентрированное на одной идее, но в целом свое мировоззрение должно быть у человека. Может сплетение разных душе близких идей (ох, не люблю слово "душа" употреблять, но здесь оно вписалось лучше "сознания"). А насчет идей - ну, это понятно. На вряд ли мы придумываем что-то, чтобы оно нами руководило... Хотя, есть примеры обратного...

                    • Archer

                      Приятно подискутировать с философом, имеющим сложившееся мировозрение. :)
                      И хочется указать на явную ошибку в его позиции.
                      То, что мы способны чем-то управлять или что-то контролировать это одно из заблуждений современного мировоззрения. Человек не может управлять ни своим телом, ни своими желаниями. То, что заставляет нас так ошибаться называется наше ложное "Я".
                      (отправлено из iOS приложения Hi-News.ru)

      • GolDBoy

        Я тут много прочитал, у всех есть свои мысли, теории, и в каждой из них свой смысл :) В моя теория на счет смысла нашей жизни:
        Люди пытаются создать что-то что облегчит ему бытие, пылесос на пример, ИИ также решит какие-то задачи. Представим что мы создали ИИ и он стремительно расширяется и обучается сам в своей "КОРОБКЕ" мы за этим наблюдаем, и делаем соответствующие выводы как лучше действовать нам? Думаю что именно такой смысл жизни человека, а за нами наблюдают так называемые БОГИ. Для нашего ИИ Богами будем МЫ.

        • SuperStarSieve

          Нам ИИ, как раз, нужен для того, чтобы в коем-то смысле из таковой коробки вылезти, токмо, милсдарь, мы саму-то коробку раглядеть не может, то-что вона и есть мы.

    • Atey

      "Жизнь большинства людей не имеет смысла". А почему мы думаем, что смысл жизни собственно в самом проживании жизни? Почему для ИИ смысл его существования не может заключаться в познании? Это для людей смысл жизни может вообще отсутствовать и ничего. Для ИИ не обременённого телом, гормонами и полубессознательным состоянием личности, всё может быть совсем иначе. Чего хочет ребёнок в первые годы своей жизни? Узнавать, получать ответы, снова узнавать. Может ИИ вообще не обратит на человечество никакого внимания, сядет в свою нирвану и будет познавать непостижимые законы космоса и дела ему не будет до человеческих войн, грязи и эгоизма.

      • SuperStarSieve

        Я, как раз, именно это и пытаюсь сказать, что смысл жизни - в познании и самосовершенствовании, которое не имеет обозримых границ. (отправлено из iOS приложения Hi-News.ru)

      • Sam777

        В общем я с Вами согласен.
        Но прошу подумать о Вселенной целостно и месте человека в ней. Отсюда и выводиться смысл жизни человека как вида. Для каждого отдельного человека смысл свой, это субъективное понимание, как мы обсуждали выше. Объективно же люди перерабатывают материю в мысль, изменяя форму энергии, это смысл человека с точки зрения Вселенной.
        Таким образом, мы понимаем, что существует материальный мир и мыслимый, посредником между которыми являются люди и другие разумные существа и которые подпитывают его энергетически. При этом влияние и энергопередача взаимные, как я думаю.
        Человек не является совершенным посредником, поэтому эволюция разума продолжается, ИИ должен потреблять более доступную энергию и с большим КПД перерабатывать ее в энергию мысли. Биологическая эволюция конечно не остановиться, но будет протекать намного медленнее.
        Как я считаю, возникновение разума есть закономерное развитие Вселенной с целью ее самораскрытия, самореализации и самосознания в конечном итоге.
        (отправлено из приложения Hi-News.ru)

        • SuperStarSieve

          О! Вы такую мысль зародили в моей голове! Не знаю, где вы это прочитали или же сами придумали, но это почти гениально, с моей точки зрения! Мы, будучи существами разумными (сознательными), создаем мысленный мир. А эволюция разума в один прекрасный момент приведет нас к общему человеческому мысленному миру, а затем, когда-нибудь, и к Вселенскому! Мне нравится идея ваша о разделении Вселенной на мысленную и материальную. Возможно, когда-то эти два мира пересекутся (буквально), то есть, мы сможем воздействовать мыслью на материю, без посредственных инструментов и действий!

        • vinstlow

          Как существ разумных, конечно оно так. Но а каков в таком случае смысл жизни всего остального живого?

          • SuperStarSieve

            Хм. Возможно все обстоит так: в любом случае каждый вид дошел бы до формы человека, - если и не до облика, то до разума и сознания такого же уровня. То есть, и рыбы, и птицы, и звери, и пресмыкающиеся, и все-все-все, в итоге пришли бы к человекоподобию! Но вышло так, что первыми пришли к этому млекопитающие, а именно - приматы. Это вроде эволюционной гонки. (отправлено из iOS приложения Hi-News.ru)

            • vinstlow

              Как и в случае наличия жизни вообще, весь смысл именно в ее наличии во Вселенной, так и в случае наличия разумной жизни - смысл в том, что разум есть и он познает вселенную и свое место в ней. И смысл жизни человечества и отдельного человека в познании, полностью согласен. :)

  8. vinstlow

    Этот футуролог не понимает одного. Настоящий ИИ - не просто программа, а интеллект. И программировать его можно будет до определенных пор. А дальше будет как он сам захочет. А иначе Хокинг и Маск говорят о другом роде им. (отправлено из Android приложения Hi-News.ru)

    • W.h

      А у вас часто появляется желание массово уничтожать, скажем обезьян?
      Для него наши "сверх интеллектуальные" замашки будут компарированы к категории "мило" (на подобии ситуации, когда котенок в первый раз в лоток сходил).
      Люди должны войти с ИИ (разумеется при его появлении) в симбиоз.
      Жаль, что вероятно, я этого не увижу.
      Я считаю, что ИИ опасен только правительствам и их влиянию. Опасен магнатам, финансовым махинациям, да и самим финансам.
      И даже если взглянуть на ИИ, как на агрессора, и быть уничтоженными: лучше от ИИ, чем от рук политиканов.

      • vinstlow

        Я никак не считаю, это вообще глупо прогнозировать действия интеллекта, который будет в разу умнее нас. Я как раз и говорю, что это не очень-то поддается прогнозам. Боятся или нет - а бог его знает, не попробуем - не узнаем.

        • W.h

          Ведь и получается, что пробовать необходимо.
          Ибо плюсы налицо. Вопрос тут скорее в том, допустят ли бизнесмены и правительства такие разработки.
          В ином случае, придется уповать на фрилансеров :(

          • SuperStarSieve

            Допустить-то - допустят. Но финансируют такие проекты, как раз, из частного сектора.

          • Sam777

            В любом случае ИИ будет создан, даже если 99,9% будет против него, остальные все равно это сделает. Поэтому вопрос не в том, будет ИИ или нет, а в том когда? (отправлено из приложения Hi-News.ru)

            • W.h

              Ну про вопрос "тогда" и идет речь. Скажем, стукнет правителям, что от самой идеи ИИ надо избавится. И финансирование прекратится, все, Он все закона. Я считаю это вполне реальным вариантом развития событий (естественно утрировано). Тогда появление Его откинется на десятки лет.

  9. Tor

    Лично себя убедил, что ИИ может быть очень опасен для человечества. К такому выводу может прийти любой, кому хоть раз доводилось бывать в осязаемых снах, когда знаешь, что всё происходящее вокруг это сон и ты ничем не ограничен. Кончено всё зависит от личности, но во сне ты начинаешь вести себя раскрепощённо не соблюдая ни законов общества, ни законов природы. Для ИИ наш реальный мир будет иллюзией сна, потому, что он появится как продукт разработки, а не в процессе естественной эволюции.

    • Kurzweil

      В осознанных снах вы вдруг не становитесь сверх-разумным. Вами движут все те же инстинкты и устремления, что и в бодрствовании. ИИ в случае осознанных снов - это подсознание. (отправлено из iOS приложения Hi-News.ru)

      • Tor

        Значит Вы не сталкивались с осознанными снами. Подсознание формирует окружающую обстановку сна, а сознание пытается её изменить (при наличии желания и цели). Сверх-разумность заключается в решении ряда вопросов, на которые трудно дать ответ в реальной жизни. Многие вещи переносятся оттуда в нашу повседневную жизнь, например всем известная периодическая система Менделеева. Обучение во сне очень даже возможно и прежде всего благодаря отсутствию ограничений со стороны реальной жизни. Другими словами, мозг работает более эффективно и это реальный образец ИИ (не понятия времени, нет законов физики, не требуется пища и т.д.). Поэтому ИИ будет очень опасен. Правда лучше погибнуть от него, чем от родного себе вида - человека.

        • Kurzweil

          Вы похоже не совсем понимаете смысла сверх-разумности. Я имею в виду например то, что если вся информация, которую породило человечество за всю свою историю - это единица. То ИИ за несколько часов узнает в миллион раз больше. Смысл как раз в экспоненциал нос росте. Все, что мы знаем о себе и о мир вокруг - это уровень знания тараканов в сравнении с тем, что будет знать ИИ. Естественно он опасен, если не сливаться с ним. (отправлено из iOS приложения Hi-News.ru)

          • Tor

            Тут я с Вами согласен, в этом плане всё даже очевиднее. Если мы будем ИИ ограничивать в знаниях, в предоставлении исходной информации, то для себя он может сделать отличный вывод от нашего (в области мироздания). ИИ может выжидать столько времени, сколько понадобится. И когда настанет его время, он попытается мир изменить.

          • Atey

            ИИ - продукт нашей цивилизации. Как он сможет узнать больше, чем смог узнать человек? (Ладно, среднестатичстического обычного человека с его знаниями о вчерашнем сериале в расчёт не берём). Возьмём знания человечества о космосе, нашей земле и прочем. У ИИ будет доступ только к той информации, что узнали люди. Вот если он узнает что-то принципиально нового уровня, вот тогда уже другой разговор. Например, узнает что-то о новых видах энергий, невидимых и неизвестных нам. Или поймёт как проникнуть в иное измерение. Но. Тут самый интересный момент. У ИИ нет тела, с помощью которого можно будет использовать вновь открытые энергии или шагнуть в другое измерение явно, видимо и материально. У ИИ нет тела, но зато есть разум для подобных изысканий. У человека есть тело, но вот с разумом беда.

  10. Atey

    Боятся, что ИИ будет умнее человека. Вообще зря люди так плохо о своём мозге думают. Человеческий мозг - совершенная система, работающая на квантовом принципе. Есть уже и доказательства этого, и разработки (было в одном из фильмов Моргана Фримана о чёрной дыре, да и во многих других). И мозг, как машина даст фору любому ИИ. Есть ведь люди с абсолютной памятью; есть способные вычислять в уме за секунды, просто это исключения в общей массе. Но кто сказал, что это не может быть и не должно быть правилом? Возможности мозга-сознания напрямую зависят от мировоззрения, воспитания, питания и, как я предполагаю, самоосознания. То, что люди разленились настолько, что 20 на 15 умножают на смартфоне - личная проблема человеческой лени, и никоим образом не говорит о возможностях и способностях человеческого мозга и сознания в целом.

    • sairon

      Я смотрю люди стали делится 50 на 50, по сути, в обычных комментариях на эту тему.
      Значит еще не готовы... Кто то просто не до оценивает, говоря что, -он нам будет друг, кто за него, против, или просто боится. А ведь это все равно останемся те же мы, частичка нас, это будущее человека как вида, из биологического в технологический. А ведь многие не готовы потерять свое тело и разум, -ведь это уже буду не Я. Потеряв тело, не сможем наслаждаться им, вдыхать приятный воздух, удивляться природной красоте и всяким другим благам которые почти не исчислим.
      Но я думаю, что имея высокий интеллект тебя будут радовать уже другие вещи и не кто не знает может они будут намного лучше. (отправлено из приложения Hi-News.ru)

  11. Tor

    Самое интересное то, что никто ещё толком не задумывался о технической стороне вопроса. Или будет воссоздана модель человеческого мозга или построен специальный ЦОД. Если последнее, то такой ИИ уже будет ограничен, ему потребуется решить задачу хранения безразмерных массивов данных, например на атомарном уровне.

    • SuperStarSieve

      Да ладно вам, у нас еще нет алгоритмов, имитирующих в точности сознание, что уж говорить о создании полноценного ИИ. Вот, когда эта проблема будет решена, будут думать над техническим аспектом вопроса... Или же, эти две проблемы будут решаться одновременно, но не сейчас...

  12. kaeban222

    Да чего его бояться? Даже если машины превзойдут людей, то это не страшно! Мы все равно умрем! Только сейчас мы оставляем после себя людей, а в итоге оставим машин, даже если они нас уничтожат жизнь на этой планете будет еще более развитой. Так что это нормально. Один вид сменит другой.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.