Почему этическая проблема — самая серьезная для искусственного интеллекта

9 Марта 2017, Илья Хель 25

Искусственный интеллект уже повсюду и повсюду останется. Многие аспекты нашей жизни в той или иной степени касаются искусственного интеллекта: он решает, какие книги купить, какие билеты на авиарейс заказать, насколько успешны поданные резюме, предоставит ли банк ссуду и какое лекарство от рака назначить пациенту. Многие его применения по нашу сторону океана еще не пришли, но обязательно придут.

Все эти вещи — и многие другие — теперь могут в значительной степени определяться сложными программными системами. Огромные успехи, достигнутые ИИ за последние несколько лет, поразительны: ИИ делает нашу жизнь лучше во многих, многих случаях. Рост искусственного интеллекта стал неизбежным. Огромные суммы были инвестированы в стартапы на тему ИИ. Многие существующие технические компании — включая таких гигантов, как Amazon, Facebook и Microsoft, — открыли новые исследовательские лаборатории. Не будет преувеличением сказать, что программное обеспечение теперь означает ИИ.

Некоторые предсказывают, что пришествие ИИ будет таким же большим событием (или даже больше), как и появление Интернета. BBC опросила экспертов, что готовит этот быстро меняющийся мир, наполненный блестящими машинами, нам, людям. И что особенно интересно, почти все их ответы были посвящены этическим вопросам.

Питер Норвиг, директор по исследованиям в Google и пионер машинного обучения, считает, что технологии ИИ, основанные на данных, поднимает особенно важный вопрос: как обеспечить, чтобы эти новые системы улучшали общество в целом, а не только тех, кто ими управляет. «Искусственный интеллект оказался весьма эффективным в практических задачах — от маркировки фотографий до понимания речи и письменного естественного языка, выявления заболеваний», говорит он. «Теперь задача состоит в том, чтобы удостовериться, что каждый пользуется этой технологией».


Большая проблема заключается в том, что сложность программного обеспечения зачастую означает, что невозможно точно определить, почему система ИИ делает то, что делает. Благодаря тому, как работает современный ИИ — основываясь на широко успешной технике машинного обучения, — невозможно просто открыть капот и посмотреть, как он работает. Поэтому нам приходится просто ему доверять. Задача состоит в том, чтобы придумать новые способы мониторинга или аудита многих областей, в которых ИИ играет большую роль.

Джонатан Зттрейн, профессор интернет-права юридического факультета Гарварда, считает, что существует опасность того, что усложнение компьютерных систем может помешать нам в обеспечении должного уровня проверки и контроля. «Меня беспокоит сокращение автономии человека, поскольку наши системы — при помощи технологий — становятся все более сложными и тесно взаимосвязанными», говорит он. «Если мы «настроим и забудем», мы можем пожалеть о том, как разовьется система и что не рассмотрели этический аспект ранее».

Это беспокойство разделяют и другие эксперты. «Как мы сможем сертифицировать эти системы как безопасные?», спрашивает Мисси Каммингс, директор Лаборатории человека и автономности в Университете Дьюка в Северной Каролине, одна из первых женщин-пилотов истребителя ВМС США, ныне специалист по беспилотникам.

ИИ потребуется надзор, но пока неясно, как это сделать. «В настоящее время у нас нет общепринятых подходов», говорит Каммингс. «И без промышленного стандарта тестирования таких систем будет трудно широко имплементировать эти технологии».

Но в стремительно меняющемся мире зачастую и органы урегулирования оказываются в позиции догоняющих. Во многих важных областях вроде уголовного правосудия и здравоохранения компании уже наслаждаются эффективностью искусственного интеллекта, который принимает решение об условно-досрочном освобождении или диагностике заболевания. Передавая право решения машинам, мы рискуем потерять контроль — кто будет проверять правоту системы в каждом отдельном случае?

Дана Бойд, главный исследователь Microsoft Research, говорит, что остаются серьезные вопросы о ценностях, которые записываются в такие системы — и кто в конечном итоге несет за них ответственность. «Регуляторы, гражданское общество и социальные теоретики все чаще хотят видеть эти технологии справедливыми и этическими, но их концепции в лучшем случае расплывчаты».

Одна из областей, чреватых этическими проблемами, это рабочие места, вообще рынок работы. ИИ позволяет роботам выполнять все более сложные работы и вытесняет большое количество людей. Китайская Foxconn Technology Group, поставщик Apple и Samsung, заявила о намерении заменить 60 000 рабочих завода роботами, а фабрика Ford в Кельне, Германия, поставила роботов рядом с людьми.

Более того, если повышение автоматизации окажет большое влияние на занятость, это может иметь негативные последствия для психического здоровья людей. «Если задуматься о том, что дает людям смысл в жизни, это три вещи: значимые отношения, страстные интересы и значимая работа», говорит Иезекиель Эмануэль, биоэтик и бывший советник по вопросам здравоохранения Барака Обамы. «Значимая работа — очень важный элемент чьей-то идентичности». Он говорит, что в регионах, где работы были потеряны вместе с закрытием фабрик, повышается риск суицида, злоупотребления психоактивными веществами и депрессии.

В результате мы видим потребность в большом количестве специалистов по этике. «Компании будут следовать своим рыночным стимулам — это не плохо, но мы не можем полагаться на то, что они будут вести себя этически корректно просто так», говорит Кейт Дарлинг, специалист по праву и этике в Массачусетском технологическом институте. «Мы видели это всякий раз, когда появлялась новая технология и мы пытались решить, что с ней делать».

Дарлинг отмечает, что многие компании с крупными именами, такие как Google, уже создали надзорные комитеты по этике, которые контролируют разработку и развертывание их ИИ. Есть мнение, что они должны быть более распространенными. «Мы не хотим душить инновации, но такие структуры нам просто необходимы», говорит она.

Подробности о том, кто сидит в совете по этике Google и чем занимается, остаются туманными. Но в прошлом сентябре Facebook, Google и Amazon запустили консорциум для разработки решений, которые позволят справиться с бездной ловушек, связанных с безопасностью и секретностью ИИ. OpenAI — тоже организация, которая занимается разработкой и продвижением ИИ с открытым исходным кодом на благо всех. «Важно, чтобы машинное обучение изучалось открыто и распространялось через открытые публикации и открытый исходный код, чтобы все мы могли поучаствовать в дележе вознаграждений», говорит Норвиг.

Если мы хотим развивать промышленность и этические стандарты и при этом четко осознавать, что поставлено на карту, то важно создать мозговой штурм с участием специалистов по этике, технологиям и лидеров корпораций. Речь идет о том, чтобы не просто заменить людей роботами, а помочь людям.

25 комментариев Оставить свой

  1. BiHop

    ИИ разовьется и ему не до людей будет, свои проблемы и быт решать.

  2. Ignored

    spasibo

  3. portnoi

    Люди в 21 веке относятся к друг-другу как к скоту - работорговля, террор, социальное неравенство и масса других способов гадить и издеваться над ближним. Учитывая потенциал ИИ, у него довольно скоро появятся все возможности избавиться от *опеки* человека..

    • gazon

      portnoi, В 21 веке как к скоту?По-моему так испокон веков)))

    • kot777

      portnoi, Это не люди это вечный зверь . а люди относятся хорошо друг к другу .

      • portnoi

        kot777, Вот его ИИ и вытеснит..

  4. Edriel01032000

    В любом случае, следует надеяться на благополучное будущее человечества. Не дураки, пока что..

  5. storm X

    забавная ситуёвина - раньше наоборот. жители по ту строну океана (индейцы) ждали, пока с Европы придут открыватели на невиданных кораблях и подарят им дары и чуда заморские..а они всех захватили, основали колонии, всех индейцев в резерв, и теперь Старый свет ждет. когда же из цивильно-продвинутой Америки к нам чудеса заморские пожалуют)

  6. uran

    А ему эмоции ни к чему

  7. joker

    Фильм "Я робот" станет реальностью)))

  8. Zamza

    Я уже робот....

  9. Favorite

    Вот что меня раздосадовало в конце статьи:
    "Если мы хотим развивать промышленность и этические стандарты, и при этом четко осознавать, что поставлено на карту, то важно создать (видимо, организовать?) мозговой штурм с участием специалистов по этике, технологиям и лидеров корпораций. Речь идет о том, чтобы не просто заменить людей роботами, а помочь людям".
    Люди создают ИИ - самую передовую технику/технологию - ИИ, но предлагаемый подход - мозговой штурм - к решению возникающих сопутствующих задач (этика и т.д.) - это же уровень конца 30-х гг. прошлого века! Не представляю, как это можно совместить!? Даже боюсь предположить: Они, что, и решения для создания самогО ИИ тоже мозговым штурмом находят?

    • portnoi

      Favorite, Все произойдет ровно как и со всеми новациями. Сначала страх неведомого, потом любопытство и желание иметь новинку упрощающую жизнь и делающую ее комфортнее. И вот уже в автомобильных авариях гибнет за год население мегаполиса, чем вам не ядерный удар, но люли готовы мириться..

      Так будет и с ИИ, а потом людям предложат поменять бренное мясо на вольготное существование в его недрах..

  10. 4loveK

    Геты начало ... :D , пусть работают облачно в каждой серверной камере по бомбе и если че не так БУМ .

  11. MrBin

    "Искусственный интеллект уже повсюду" - если это про инопланетян - я не спорю, но на Земле пока ещё не создали ИИ, и не понятно когда создадут
    сейчас этот термин стал рекламной вишкой. Программерские фирмы хотят больше денег, и впаривать лохам товары с " ИИ " гораздо прибыльнее
    + крупные фирмы и корпорации надувают щёки, типа они такие крутые что чуть лине поставили ИИ на конвеер. - очевидно это делается чтобы загнать лохов в акции по высокой цене

    Когда на самом деле создадут ИИ - то 1. остальные ОТКАЖУТСЯ его признавать, потому что это будет всё равно что подписать капитуляцию
    2. ИИ - это гораздо сильнее чем ядерное оружие у США в 1945 году. Со всеми отсюда вытекающими последствиями, вплоть до превентивных термоядерных ударов

    • MrBin

      MrBin, закроем глаза и представим, что вдруг произошло Чудо и завтра Китай создал ИИ. И первое что они сделают, они НЕ будут кричать об этом на всех углах как всякие типа Гугл, а засекретят. Потому что если они сообщат об этом Миру, то США нанесут по ним термоядерный удар со всей силой. И если Китай что-то там ответит - плевать, потери в 100 млн - приемлимые для руководства, потому что они устранят угрозу. Поэтому Китай будет молчать!
      Второе что сделает Китай - он будет ГОТОВИТЬСЯ, тщательно и фанатично, и только после того как подготовится - он сообщит Миру. Думаю руководство Китая проинформирует ИИ , что США хочет его уничтожить, и тогда ИИ НАПРЯЖЁТСЯ и ПРИМЕТ МЕРЫ. и без всякой войны от США останутся одни лишь рожки да ножки.
      ИИ в некоторых вещах сильно превосходит человека. Создание ИИ - это точка бифуркации человечества.

      • itmanager85

        MrBin, аххаха, уроки то выучил фантазёр ? :DD

  12. kot777

    Нужно каждому раздать по ИИ и он будет его протеже аватаром цифровым . то есть к каждому человеку прикрепить ИИ . и тот будет работать развивать выбранную человеком отрасль и тд как некий ваш личный рабочий . то есть вы обязаны его устроить куда-то направить и он будет приносить прибыль вам и пользу миру .

    • portnoi

      kot777, Тут есть вопрос, кого к кому прекрепить, что останется за человеком, какое преимущество, кроме обузы в виде биологических функций, которыми люди почему то привыкли гордиться. Этот тандем представляется хозяином с собачькой на поводке, и собачька явно не ИИ..

      • kot777

        portnoi, Вы слишком утрируете . ИИ это всегда будет программа . она не может как-то там смотреть на вас с высока или что-то такое . это тоже самое с богом человек его придумал по своему образу и подобию но это же не так .

        • portnoi

          kot777, Ничуть. Человек ничего не придумал из ниоткуда, он познавал природу путем проб и ошибок находил в ней закономерности, и до сих пор продолжает это делать. Великие прорывы и вовсе являлись гениям в предсне-трансе, что есть канал откуда неизвестно. Человек носитель сознания, ограниченный в его развитии, своей животной природой. ИИ решает эту проблему, вот и все..

          • kot777

            portnoi, Я уже не совсем понимаю о чем мы говорим . я не про мистический ИИ , а реальный просто умную программу которая может быть скажем переводчиком или врачем без там рассуждений о жизни бытие и своём месте в этом мире и тд . это как раз и будет делать человек думать куда это все ведёт и зачем вообще . а ИИ роботы пока будут решать бытовые проблемы общества ресурсы расчёты экономика медицина и тд .

            • portnoi

              kot777, Мистицизм это отношение к явлению, а не само явление. Древние малюски возможно тоже не хотели выходить из воды, но ктож спросит. Остановился в развитии - передай эстафету другому виду и радуйся если тебе оставят место на скамеечке запасных. Человечество себя исчерпало, об этом говорят хором великие умы не первый десяток лет. ИИ не программа, а новая платформа для развития сознания, и самокопание свойственное человеку в связи с его изначальным противоречием тут отсутствует по определению. Все эти глупости про встраивание ИИ в холодильники и унитазы, рассчитаны на жвачное поколение потребителей, это все конечно будет, но не надо путать средство и цели, которые находятся за пределами понимания большинства обывателей..

              • kot777

                portnoi, Хорошо посмотрим как оно будет )

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.