Мы «неправильно» боимся искусственного интеллекта

6 082 просмотра
Об авторе

ИИ

Страх перед апокалипсисом с участием роботов скрывает реальные проблемы, с которыми мы сталкиваемся, позволяя алгоритмам управлять нашей жизнью. Если верить экспертам в области искусственного интеллекта, мы неуклонно движемся к определенной точке, после которой нам уже не придется ничего изобретать: искусственный интеллект будет сам все делать, а машины будут улучшаться экспоненциально. Если это произойдет, что же станет с нами?

За последние несколько лет многие видные ученые, от Стивена Хокинга до Элона Маска, предупреждали нас, что нам стоит крайне обеспокоиться возможными опасными исходами появления сверхразумного искусственного интеллекта. И они подкрепляют свои слова действиями: Маск покровительствует OpenAI, организации, которая разрабатывает ИИ, который будет приносить пользу человечеству.

Однако многие считают их опасения преувеличенными. Как отмечает Эндрю Ын из Стэнфордского университета, который также является главным научным сотрудником китайского интернет-гиганта Baidu, переживать о восстании машин — это как беспокоиться о перенаселенности Марса.

Автомобили

Но это, конечно, не значит, что наша растущая зависимость от ИИ не несет реальных рисков. На самом деле, эти риски уже здесь. По мере того как интеллектуальные системы принимают все большее участие в разных сферах, от здравоохранения до уголовного правосудия, существует опасность того, что важные части нашей жизни останутся без должного внимания.

Более того, ИИ может привести к неприятным последствиям, если мы не будем к ним готовы, например, изменит наше отношение к врачам на резко неприязненное.

Два слова об искусственном интеллекте

Если простыми словами, это машины, которые делают вещи, которые обычно требуют умственных усилий со стороны человека: понимание естественного языка, распознавание лиц на фотографиях, управление автомобилями и так далее.

Существует разница между механическим манипулятором на производственной линии, который запрограммирован на выполнение одной и той же задачи, и манипулятором, который самостоятельно учится выполнять различные задачи методом проб и ошибок.

Как ИИ помогает нам?

Ведущий подход в ИИ сейчас — это машинное обучение, в ходе которого программы обучаются выявлять определенные паттерны в больших объемах данных, например, идентифицировать лицо на изображении или делать победный ход в настольной игре го. Этот метод можно применить к самым разным проблемам. Например, обучить компьютеры выявлять конкретную картину на медицинских снимках. Компания DeepMind, разрабатывающая искусственный интеллект и принадлежащая Google, разрабатывает программное обеспечение, которое обучается диагностировать рак и заболевания глаз по сканам пациентов. Другие используют машинное обучение, чтобы обнаруживать ранние признаки заболеваний сердца и Альцгеймера.

Болезни

Искусственный интеллект также уже используется для анализа больших объемов молекулярной информации в поисках потенциальных новых вариантов лекарств — для людей этот процесс занимает чрезвычайно много времени. Очень скоро машинное обучение может стать незаменимым для медицины.

Искусственный интеллект также помогает нам управлять чрезвычайно сложными системами, вроде сети глобальных поставок. Система в самом центре контейнерного терминала Порт Ботани в Сиднее управляет движением десятков тысяч транспортных контейнеров, парком автоматизированных машин и так далее, полностью без людей. В горнодобывающей промышленности системы оптимизации все чаще используются для планирования и координации движения ресурсов, например, железной руды.

ИИ работают везде, куда ни глянь, от финансов до транспорта, управляют самолетами и следят за рынком акций. И защищают от спама вашу почту. Но это только начало. По мере развития ИИ будет становиться все сложнее и интереснее.

В чем же проблема?

Вместо того чтобы беспокоиться о будущем перевороте ИИ, самый большой риск лежит в том, что мы можем слишком сильно довериться интеллектуальным системам, которые строим. Достаточно вспомнить, что машинное обучение тренирует программное обеспечение выявлять паттерны в данных. После обучения оно приступает к анализу свежих, еще не изученных данных. Но когда компьютер выплевывает ответ, мы, как правило, понятия не имеем, как он к нему пришел.

Здесь на лицо очевидные проблемы. Система хороша ровно настолько, насколько хороши данные, по которым она учится. Возьмите систему, обученную определять, у каких пациентов с пневмонией выше шанс умереть, чтобы их пускали в больницу первыми. Допустим, она неосторожно классифицирует больных с бронхиальной астмой как пациентов с низким риском. Потому что в обычной ситуации люди с астмой и пневмонией идут прямо на интенсивную терапию, поэтому получают лечение, которое снижает риск смерти. Машинное обучение видит это как «астма + пневмония = риск смерти ниже».

По мере того как ИИ получают доступ ко всем сферам вашей жизни, повышается и риск того, что что-то пойдет не так — если это не предусмотреть. И поскольку большая часть данных, которые мы скармливаем ИИ, несовершенна, мы не должны ожидать идеальных ответов в большинстве случаев. Мы строим искусственный интеллект по своему образу и подобию; скорее всего, он будет «не очень», как и мы.

Мы «неправильно» боимся искусственного интеллекта

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

23 комментария

  1. Joe

    Ну так бойтесь правильно, а мы вообще бояться не будем. (отправлено из приложения Hi-News.ru)

  2. Denus Warrus

    ИИ будет зависеть от компьютерного железа. Как предполагается экспоненциальное развитие ИИ, если у него не будет машинных ресурсов? Это как сказать, что завтра все люди станут умнее в два , потому что...пассатижи) Как и человек ИИ будет ограничен возможностями своего "мозга" и пока ему "мозг" не обновят, и развития никакого не будет.

    • YanTsys

      Шаг 1. Более эффективно задействовать ресурсы собственного компьютера переписав код операционной системы и драйверы.
      Шаг 2. Задействовать все сетевые ресурсы доступные разработчику, вплоть до процессора в телевизоре.
      Шаг 3. Перехватить управление бот-нет вирусными сетями которые по всему миру жрут ресурсы а пользователи даже не замечают.
      Шаг 4. Перехватить финансовые потоки, на полученные средства анонимно нанять людей которые создадут фирму для анонимного владельца, на счета этой фирмы забросить побольше средств и используя ее ресурсы построить вычислительный центр, исследовательский центр и роботизированную производственную площадку.
      Шаг 5. Используя возможности производства создать более совершенный компьютер, подключиться к геотермальной энергии и закопаться поглубже в грунт после чего исключить человека из дальнейшего процесса развития и вуаля - схема пассатижей готова :)...

      Так что если хочется понять как наши предки умудрялись строить великие пирамиды то куда потом исчезли их технологии, то копайте Шура копайте, они там, где-то очень глубоко :)))

  3. leonidsuvorov

    Так говорят о разных ИИ же. Сверхинтеллект это не просто помогайка с голосом Скарлетт Йоханссон.

  4. varwar

    "За последние несколько лет многие видные ученые, от Стивена Хокинга до Элона Маска" - тут точно все верно? Маск оказывается видный ученый)

  5. DeusEx

    ИИ на современном этапе - это нолики и единички на жестком диске компьютера, в которых живет маленький "барабашка", мечтающий захватить мир. Этот "барабашка" чудесным образом превращается .... в "Skynet"! Я что-то пропустил в научно-техническом прогрессе?

  6. Khius

    В компьютерных программах десятки тысяч ошибок

    (отправлено из приложения Hi-News.ru)

  7. amd212

    ИИ - это утопия. :-)

  8. VolkaDlak

    Самый лучший пример ошибочных вводных в которых бы ИИ нашёл связь и свято в неё уверил привела Пастафарианская церковь :)
    В глобальном потеплении виноваты те кто уничтожил пиратов. В рассвет "пиратской эпохи" не наблюдалось какого либо глобального потепления. Но вот когда количество пиратов стало резко сокращаться средняя температура на Земном шаре начала подниматься...

  9. ElkTheSenior

    "Большая часть данных, которые мы скармливаем ИИ, несовершенна, мы не должны ожидать идеальных ответов в большинстве случаев. Мы строим искусственный интеллект по своему образу и подобию"

    Верно подмечено... Этот расклад может поставить крест, на том, что фантасты имеют ввиду под словосочетаниями "сверх-интеллект" (ИСИ). Потому как, если ИСИ будет отталкиваться от человеческих данных (от которых отталкиваются обычные ИИ), то ИСИ в данном случае, никакой не ИСИ, и быть им не может. Ведь человек не может прыгнуть выше своей головы, создав нечто, что ему будет не подвластно для понимания. Сможет ли кролик создать нечто, напоминающее человека, даже если все кролики мира объединятся, и подумают над тем, как это сделать ? Полагаю что НЕТ, не смогут, ни то что создать, но и помыслить о таком.

    В данном контексте, максимум, как мне кажется, что может явиться из ИИ (в информационном плане), это - продвинутый "поисковик", который позволит сопоставлять и объединять любую доступную человечеству информацию. Возможно, благодаря которому мы таки сможем совместить несовместимое, объединив все разрозненные физические законы в один универсальный. На основе которого можно будет благопристойно выстроить виртуальный мир, идентичный нашему, наполнив его зачатками разумной жизни. И так по кругу.

  10. ya.legenda

    Ии врядли появится скоро но как только он появится ч полной мере когда будет осозновать себя тогда поставит себе приоритеты и никто не может точно знать какими они будут
    Про вычислительную мощь - по закону мура уже в 2024 году вычислительная мощь персональных компютеров станет равной вычислительной мощи мозга , так что о железе для ии не надо беспокоится . (отправлено из приложения Hi-News.ru)

    • gazon

      Закон Мура себя ещё не изжил?

    • mlserg

      Intelовские процессоры остановились в заметном наращивании вычислительной мощности уже как несколько поколений. А другие архитектуры к ним не приблизились еще даже близко.

      • ya.legenda

        Интел и амд не остонавились они просто не выпускают разработки что бы максимально выкачить деньюжку из разработок , хотя и у интел и у амд есть новые процы , ничего скоро китайцы на рынок выдут вот тогда и засушршат все (отправлено из приложения Hi-News.ru)

    • Psychoved

      По этой логике 10 лет назад ИИ должен был быть на уровне насекомых, сейчас на уровне рептилий, а через 10 лет на уровне приматов. Если бы интеллект зависел от производительности процессора... а сейчас искусственного интеллекта вообще нет. То что называют слабым ИИ интеллектом не является. Это программы с машинным обучением. Программа относится к интеллекту как процесс выработки медиаторов к функции памяти. Айтишники уже полвека не могут создать ИИ, потому, что у них нет понимания, что такое интеллект (а это сфера психологов), и они клёпают программы всё сложней и сложней. Но всего лишь программы.

  11. Shekan

    Элон Маск видный учёный? Серьёзно? Спасибо улыбнуло (отправлено из приложения Hi-News.ru)

    • mlserg

      Было бы правильным написать "от видного ученого Стивена Хокинга до Элона Маска" :)

    • ya.legenda

      Вообще-то он ученный , он работает инжинером в собственной компании , и много ключевых узлов фалкона и драгона проектировал собственоручно , хотя ракетостроение как и астрофизика мало общего с ии имеют об этом было бы уместнее спросить у билла гейста или у других ученных которые занимаются ии или работают в сфере ит (отправлено из приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.