IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ

16 Декабря 2016 в 12:00, Николай Хижняк 5 405 просмотров 9

Новости о том, что автоматизация рано или поздно начнет массово лишать людей их работы и оставит за забором социальной полезности, вряд ли вызовут положительные эмоции у человека, с перспективой смотрящего в будущее. Масла в огонь подливают такие шоу, как «Терминатор» или, например, свежий «Мир Дикого запада», которые тоже вносят свой вклад в общую копилку опасений, но уже с точки зрения разработки «недружелюбного» искусственного интеллекта.


Имеют ли эти страхи под собой реальную основу? Возможно. А возможно, это всего лишь надуманная истерия. Но как бы там ни было, Институт инженеров элект­ро­тех­ни­ки и электроники (IEEE) уверен в том, что развитие ИИ и автоматизационных систем должно «согласовываться с полным учетом и соответствием человеческим моральным ценностям и этическим принципам».

Свои идеи институт представил в виде 136-страничного документа с названием «Ethically Aligned Design», являющегося своего рода «стандартом» для разработок, производства и развития роботов и искусственного интеллекта. Документ разработан при содействии более 100 мировых экспертов в сфере ИИ, законов, этики, философии и политики. Другими словами, при участии самых видных академиков, ученых и представителей правительственного сектора.

«Благодаря обеспечению экспертов и разработчиков практическими рекомендациями для создания автоматизированных и интеллектуальных продуктов, сервисов и систем с учетом соблюдения выработанных этических человеческих принципов мы сможем справиться с нашими страхами, связанными с этими технологиями и сосредоточить свое внимание на тех преимуществах, которые эти технологии смогут принести человечеству не только в будущем, но уже и сегодня», — говорится в заявлении Константиноса Карачалиоса, управляющего директора ассоциации по вопросам стандартизации в IEEE.

В IEEE отмечают, что инициатива является полностью открытой и они готовы к предложениям и обсуждениям интересующих вопросов со стороны инженеров, разработчиков и дизайнеров систем автоматизации и развития ИИ. При этом они готовы вести полноценный диалог, так как обратная связь в этом вопросе является одним из важнейших аспектов в выработке обсуждаемых стандартов.

Что касается предложений, описанных в самом документе, то в них включены соображения по вопросам методологии проведения исследований и разработок; описываются опасения по поводу создания «черных ящиков». Другими словами, документ предостерегает сферу ИИ и автоматизации от проведения закрытых разработок.

С более фундаментальной точки зрения то, что предлагает IEEE, приводит к появлению сразу нескольких интересных вопросов, важнейшим из которых, пожалуй, является следующий: а можно ли вообще запрограммировать мораль? Возможно ли на самом деле подстроить технологии ИИ и автоматизации под те «стандарты и человеческие и социальные ценности», о которых говорится в документе IEEE?

Однако IEEE настаивает на своем и говорит о важности и необходимости стандартов. Ведь благодаря им мы сможем быть уверены в том, что при создании и развитии новых технологий в конечном итоге не пострадают люди.

«Стандарты смогут обеспечить производственный контроль интеллектуальных и автономных технологий. Интеллектуальные системы становятся все сложнее и потому их незапрограммированное поведение может стать опасным. Для решения этого вопроса необходим надзор за процедурой разработки интеллектуальных и автономных систем».

«Исследователям и разработчикам, занимающимся развитием и внедрением автономных и интеллектуальных систем, придется столкнуться с более прогрессивным и сложным набором мер соответствия по вопросам моральной и технической безопасности. Следовательно, к своей работе им придется подходить более ответственно».

Если смотреть на ситуацию в целом, то IEEE сделала очень важный и действительно необходимый шаг на пути к «очеловечиванию» автономных и интеллектуальных систем.

IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ

9 комментариев

  1. ttutiki

    Я не понимаю почему все хотят сделать ИИ - искусственный Интеллект, но в тоже время хотят сделать ИРЛ - искусственного раба людей. Ведь одно с другим вроде не вяжется?

    • Leroy269

      ttutiki, не переживай, пока что это только теории, реальный прототип ИИ увидим лет через 20, не раньше, а пока что это только сказочки для гиков

      • unkn0wn

        Leroy269, Да он возможно уже есть. Вот только никто не спешит вам об этом докладовать. Зачем сеить панику среди рабов ?

    • Siberdt

      ttutiki, Современный тренд. Сейчас что ни фильм или сериал с намеком на сайфай - везде плохие люди что-то делают не так в отношении к хорошим роботам, и хорошие роботы сразу становятся очень плохими.

      Вчера, вот, посмотрели с женой "Морган", давеча - очередную серию Люди, а еще раньше - Мир Дикого Запада... этот монопенисуальный список можно продолжать. :)

    • Lila

      ttutiki, ИИ и ИР - синонимы (просто первое не вызывает морально-этических ассоциаций с рабством, а только позитивные креационистские, и оценки как исторически обусловленный(эволюционный) результат), никто не будет вкладываться в развитие конкурента, а тем более развитый вариант. Но куда более вероятно, что будут развивать киборгов, превращая человеческую особь в машину, как более эффективную единицу.

    • DestroiD

      ttutiki, Вот и меня этот вопрос занимает. Пока что не вижу даже необходимости внедрять "модуль милосердия" в ИИ. Пусть это будет разум, который останется жить после нас как и мы после первобытного человека. Какая в сущности разница из чего носитель разума - мяса или железа? Ну погибнет человечество и дальше что? Мы страдаем, варимся в котле своей алчности, тщеславия, жестокости. Да и за жизнь цепляемся сугубо из природных позывов.

  2. granny

    Маркетолухи, смотрите. ИИ! ИИИ! И-ИИ! ИИИ-И! КРЯ! КРЯ! КРЯ! Никто уже не то, что горячо не обсуждает, а никто уже даже не шутит на тему ИИ. Смотрите, мы уже узрели суть, которая - муть, как водится. Значит нужно освежать тренд.. и бренд. Делать ребрендинх. Например, вставить ИИ в голову гуся! Как вам идейка? ИИ! КРЯ-КРЯ! ИИ! Не благодарите.

  3. uran

    Стандарт - это сдерживающий фактор, это закон, который необходим для выживания человечества, т.е. дело больше юридическое, чем просто технический вопрос. (отправлено из приложения Hi-News.ru)

  4. pepel

    ИИ возможен только если у робота будет инстинк самосохранения. У нас к примеру психологическое здоровье требует рекриаций в виде развлечений, чтобы не выгореть, потребность в еде, одежде и тд, чтобы заработать. Те же индивиды что снижают свои потребности снижают и интелектуальный уровень. Построить сильный интелект без желания конкурировать и доминировать невозможно. Так что на доброго дервиша электронной эры не расчитывайте. Скорее это будет железка вмеру тупее вас, либо усконаправленый алгоритм. Чтобы создать человекоподобного андройда надо дать ему потребности, в противном случае это будет нечеловеческая логика, куда там уж нам мы свою то прописать не можем. (отправлено из приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.