Однажды автомобиль с искусственным интеллектом убьет человека

8 Августа 2015 в 11:00, Илья Хель 7 768 просмотров 36

Google Car

С этим никто не будет спорить. Мы находимся на грани прорывов в робототехнике и искусственном интеллекте (ИИ), которые обладают потенциалом существенно изменить жизнь человеческой расы в лучшую сторону. Эти технологии начали выходить за рамки научно-исследовательских лабораторий, чтобы двигать вперед старые и новые отрасли. Но что произойдет, когда кто-то умрет от руки робота? Начнется золотой век человечества? ИИ поглотит нас? Самые разные мнения рождаются время от времени. В этот раз мы поговорим о благоприятном будущем.

Билл Гейтс, Элон Маск и Стивен Хокинг уверенно заявили, что ИИ представляет собой одну из самых глубоких угроз человечеству. Трудно игнорировать такое заявление, исходящее от одних из самых блестящих умов, живущих ныне. Несмотря на неоспоримые преимущества достижений в робототехнике и ИИ, они указывают на страх перед тем, что у машин появятся когнитивные способности, которые безусловно приведут к глубоким противоречиям с интересами человечества. Эти люди, кажется, приняли реальность, в которой «Терминатор» выходит за пределы большого экрана.

Терминатор

Конечно, в ответ на месседж Билла, Элона и Стивена есть экспертное мнение: мы не обречены на порабощение злобными и неуправляемыми роботами. Да, автономный автомобиль однажды неизбежно убьет человека — но не благодаря акту самоосознания, а из-за ошибки в алгоритме, который неправильно оценит некоторые элементы общей картины. Несмотря на мрачный исход, такая ошибка не будет сильно отличаться от ошибки, скажем, в шахматной программе, которая делает плохой ход, поскольку не учитывает некоторый скрытый нюанс. Конечно, это не смягчит потерю человеческой жизни. Но этот риск ничем не отличается от другого риска, сопряженного с принятием новых технологий — вспомните, сколько людей за всю историю человечества погибли в шахтах, во время испытаний первых самолетов и так далее.

Чтобы лучше оценить такую сложную угрозу, нам придется нырнуть под капот почти всех современных систем ИИ. Как бы невзрачно это на первый взгляд ни звучало, почти любое приложение можно представить просто как задачу оптимизации, которой поручено найти самое эффективное по затратам или самое эффективное по награде решение конкретной проблемы. Нет магии или эмоций в таком классе ИИ. Есть цель — найти оптимальное решение, которое будет соответствовать нашему восприятию интеллекта. К примеру, автономный автомобиль выбирает путь так, чтобы свести к минимуму штрафы риска или пройденное расстояние, и если алгоритм компьютерного зрения видит кошку, переходящую дорогу, то он делает это исключительно потому, что видит миллионы пикселей, которые статистически соответствуют больше кошке, чем чему-либо другому.

Даже системы «глубокого обучения», которые сейчас чрезвычайно популярны, больше относятся к слоям нейронов в структуре мозга, а не к тому, как те «обучаются». В конце концов, несмотря на ряд невероятных применений, под капюшоном этой системы лежит еще одна задача оптимизации, алгоритм, созданный для сбора и обработки данных.

Машина

Программа, которая определяет содержание изображения, имеет не больше сознания, чем программа, совершающая блестящий шахматный ход или планирующая движение самоуправляемого автомобиля по оживленной улице. Ни одна из таких систем на самом деле не «думает» так, как это делаем мы — она оптимизирует конкретную проблему так, чтобы та соотносилась с намерениями людей в определенной ситуации. И какими бы сложными системы ИИ ни были, пока они выполняют сугубо линейные в глобальном понимании задачи.

Таким образом, хотя смерть от рук роботов и даже от самоуправляемого автомобиля может звучать жутко, мы должны напомнить себе, что сотни тысяч людей погибают в автомобильных катастрофах каждый день. Хотя мы можем найти утешение в том, что человек в настоящее время сидит за рулем каждого автомобиля, статистически это никогда не будет безопаснее, чем когда роботы примут на себя обязанности водителей. И когда преимущества самоуправляемых автомобилей переплюнут факторы безопасности — в том числе эффективность ежедневных поездок, нашего планирования городов, смещение динамики цен при обновлении целых отраслей промышленности — мы будем бояться их не больше, чем персональных компьютеров.

Настоящий риск, связанный с развитием робототехники и искусственного интеллекта, заключается в непреднамеренном их использовании. Точно так же, как есть тонкая грань между ядерной энергией и ядерным оружием, эти достижения в робототехнике и ИИ обещают непредсказуемые возможности злоупотребления: смертельные военные применения, расширение способов шпионажа и взлома точно таких же сложных систем. Поэтому мы должны быть полностью осведомлены об этих рисках и готовы решать связанные с ними вопросы, при этом не забывая о том, какую пользу они могут принести человечеству.

Гейтс, Маск и Хокинг абсолютно правильно поощряют осторожность во время движения вперед. Однако видят угрозу немножко не там, поскольку человеческое намерение остается куда более грозной опасностью, нежели машины, которые оно изобретает. Невообразимые технологии находятся на расстоянии вытянутой руки, когда-то о них можно было лишь мечтать, но главным врагом людей всегда были лишь сами люди.

Однажды автомобиль с искусственным интеллектом убьет человека

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

36 комментариев

  1. AKZORD

    Люди боятся не опасности со стороны ИИ, а то, что ИИ не захочет жить по правилам человека. И это не обязательно значит, что ИИ захочет поработить людей. (отправлено из Android приложения Hi-News.ru)

  2. Bleizard

    А что ИИ сейчас не убивает людей? Как будто из-за прогаммных ошибок ничего, никогда не повлекало за собой смерть человека. Такой бред. Пускай делают свои самоуправляемые машины и тестируют. Будем потом кататься на них, а если уж и собъет, то будут разбираться и если уж и виноват ИИ,то понесет ответственность компания производитель. Явно из-за таких авто людей меньше погибнет, чем и за лихих и бухих

  3. caduceus

    Когда изобретали колесо, наверное, тоже говорили "когда-нибудь оно убьет человека". Прогресс не остановить (отправлено из приложения Hi-News.ru)

  4. Thir133nth

    Скорее человек убьет себя об самоуправляемое авто. Пока статистика дтп говорит, что в подавляющем большинстве дтп именно люди являются виновниками, потому что самоуправляемое авто тупо едет по правилам, а правила писали именно для уменьшения количества дтп к минимуму. А люди нарушают правила, отсюда и дтп. Не будет нарушений - не будет дтп. Ну или практически не будет (учитывая сколько тысяч людей гибнет в дтп каждый день, то о самоуправляемых авто и говорить нечего, с их процентом дтп, в которых никто толком не травмировался даже). (отправлено из Android приложения Hi-News.ru)

    • amd212

      Гугл водит непредсказуемо, как новичок.
      Сами разработчики например признавались здесь на hi-news, что наисложнейший алгоритм работает на перекрёстке в ситуации когда у всех стоп. Очень сложно машины заставить вести себя как люди.

      • Thir133nth

        Помню помню, это вы агитировали за таксистов. :-)
        По вашему вбросу - если новичок едет осторожно, то опасности от него минимум. Проблемы чаще от "типа профессионалов", которые отвлеклись/не среагировали/или просто бухие. (отправлено из Android приложения Hi-News.ru)

        • amd212

          Новичку место на парковках и во дворах оттачивать навыки и рефлексы вождения.
          Новичок в жёстком городском трафике это граната в руках неопытного бойца. Ездить "по правилам" не достаточно. Правила в большинстве своём не закон а лишь рекомендации.
          Гугл например это знает и пишет публикации на тему как заставить робота ездить так же как и человек. Сидит уже третий год в небольшом городке Маунтин Вью и в СанФранц/ЛА даже и не суётся, хотя формально разрешение имеет.

          • CSKA

            Новичку оттачивать свои навыки во дворе? Да это тоже самое, что инструктор будет обучать человека только на автодроме, и выпустит его в город на экзамен, тупо со знанием книжки ПДД и навыками вождения по автодрому. А после того как он не сдаст скажет, что это он виноват сам потому, что плохо учился.

            Не думаю что будут возникать такие проблемы и такие вопросы как в статье, если автопилот будет ехать строго по всем правилам. Не превысит скорость, не срежет поворот и т.д. и т.п. Т.е. если человек вдруг по своей прихоти захочет ехать "по быстрее" авто не должен этого допускать. Т.е. полное соблюдение всех правил. Если ПДД лишь рекомендации, то тогда почему садясь за руль ты руководствуешься ими?

            • amd212

              Мне кажется всё это от недостатка практики. Надо не бояться, сдавать на права, покупать машину и водить, водить каждый день сначала по небольшому количеству маршрутов. Потом всё дальше и разнообразнее. Со временем знания перейдут в умения, а умения в навыки. И вы будете получать настоящее удовольствие от вождения машины. :-)

              • CSKA

                Ну так в том и суть, что не зря же когда учишься на права тебя обучают ездить не только в замкнутом пространстве, для постепенного приобретения навыков

                • amd212

                  Да, но водишь с инструктором на соседнем сиденье и эмблемой автошколы на крыше машины.

                  • CSKA

                    Естественно. Далеко не каждый сидел за рулем с пяти лет. И как раз для этого автодром и делают, что бы человек чувствовал себя в городе по лучше после него.

                    Да и вопрос: как тогда приобретать навыки и получать права. Без прав сейчас дороговато гонять как то

                    • amd212

                      Это был сарказм. :-)
                      Как правило люди обожающие самоуправляющие машины и рьяно ратующие за вождение строго по рекомендациям в ПДД либо "безлошадники", либо по каким-то причинам не любят водить.

                      • CSKA

                        Либо просто нормальные и здравомыслящие люди))) Но, конечно не спорю, порой иногда хочется вдавить педаль в пол. Но основная помеха-жалко машину

                        • amd212

                          Не бывает "нормальных и здравомыслящих людей". Это просто устоявшееся выражение.
                          Люди все водят по разному, и машины у них разные, а ещё условия вождения, сезоны и погода иногда на дню по пять раз меняется.
                          Надо побольше опыта и появится любовь к вождению.
                          Против расширенного круиз контроля и автоматической системы экстренного торможения ничего против не имею :-)

                          • CSKA

                            А ну да. Точно. А лично я утверждаю, что нет "силы воли", что это придумали слабые люди. Есть только желание самого человека. Захочет сделает.

                            Конечно опыт нужен, но он не накопиться если ты будешь кататься в замкнутом пространстве, где не будет таких ситуаций как на дороге. И уж тем более если ты будешь думать о ПДД, как о простых рекомендациях

  5. deepresss

    Убьет-убьет! Но таких убийств будет гораздо меньше, чем от рук человека... (отправлено из iOS приложения Hi-News.ru)

  6. amd212

    Гугл кстати за июль отчитался. Один традиционный въезд в задницу и одна чуть не задавленная собака с хозяином. В отчёт попадают все случаи о которых заявлено в полицию.
    http://static.googleusercontent.com/media/www.google.com/en//selfdrivingcar/files/reports/report-0715.pdf

  7. Ce3apyc

    Представьте надпись на радужке созданного для помощи по хозяйству кибергуманоида: "Made in China". Будете вы такому доверять?;)

    • Myp3ik

      Ну вы же доверили своему гаджету, сделаному там же, написать эти сроки...

    • CSKA

      В Китай выпускает много чего, и даже далеко не самого наихудшего качества

  8. dawson.white

    Боятся того, чего еще нет. Даже не знают че будет, зато боятся) Если бы всего, что изобрели, так боялись, то ничего бы не изобрели. (отправлено из Android приложения Hi-News.ru)

    • amd212

      Ничего они не боятся. Им просто не повезло в том, что они известные люди. Селебритиз как говорят американцы. Известность это обязанность. Отсюда и глупые ответы на глупые вопросы.

  9. storm X

    чтоб этот лупоглазик кого-то убил? даже если так - это мило. погибнуть под его колесами...последнее. что увидишь - этого "извиняющиеся" глаза-фары...прямо всё по заветам С. Кинга

  10. Cool

    Автомобили и без ИИ людей убивают... 20тыс. в год только в России

    • amd212

      Автомобили то здесь при чём?
      Дороги нормальные строить надо с современными развязками и обязательным разделением встречных потоков.

      • CSKA

        Да, автомобили не при чем. Но и не только дороги виноваты

        • amd212

          Если бы в России дороги и климат были бы как в штатах количество аварий уже бы сильно снизились.

          • CSKA

            Так я и не говорю, что дороги тут не при чем

          • Mr. Clever

            Причем тут климат (можно подумать, он такой только в РФ) и дороги? В РФ нихрена ездить не умеют, покупают права, бухают и тп.

            • amd212

              Ну давй, скажи, что в германии дороги и климат практически такие же как в РФ :-)
              А самый северный густонаселённый город в штатх Торонто лежит на широте Киева. Ванкувер вообще субтропики.

  11. TIMA

    Народ. Кто знает где есть концепция транспортного движения сумоуправляемого транспорта в населенных пунктах?
    Хочу поучаствовать в его доработке.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.