Команда Google DeepMind создала группу для обучения ИИ этике

5 Октября 2017, Владимир Кузнецов 29

Корпорация Google уже давно ведет разработки собственного искусственного интеллекта под названием DeepMind. Для дальнейшего развития своей технологии, как пишет издание Engadget, эксперты, работающие над ИИ, организовали группу, которая будет изучать моральные вопросы развития искусственного разума.


Члены новой группы займутся исследованием того, как ИИ меняет мир, можно ли его контролировать (и нужно ли это), а также вопросы того, как обеспечить непредвзятость его решений. Стоит отметить, что подобная группа у Google была уже на протяжении полутора лет, однако только сейчас штат был значительно увеличен (с 8 до 25 человек), а вопросы с «локальных» сместились на «глобальные». У новоиспеченной команды будет 6 основных областей работы: влияние ИИ на частную жизнь людей, прозрачность и объективность искусственного разума в принятии решений, влияние ИИ на экономику, подчинение человеку, изучение понятий морали и ценности жизни, поиск способов решения глобальных задач.

Основной целью, которую ставит перед собой группа исследователей, станет возможность развития алгоритмов, которые могли бы «привить» этику искусственному разуму, который затем мог бы передавать полученный опыт подобно тому, как мы воспитываем детей, разъясняя им, что хорошо, а что плохо. Тем не менее, хоть все это является большим успехом в развитии ИИ, такое решение остается спорным. Несмотря на то, что создание такого комитета говорит о серьезности намерений крупных корпораций в области разработок искусственного интеллекта, немного страшно осознавать, что от их решений и того, чему они обучат свой ИИ, могут сильно зависеть практически все аспекты жизни будущих поколений людей.

29 комментариев Оставить свой

  1. Zarb

    Блин, не все люди этике научены, а они ИИ обучают ))))

  2. Kajus Bonus

    Самое главное, это ставить лайки под фотками котиков...вроде других этических норм в современном мире нет.

    • globalist

      Kajus, В современном обществе этики в разы больше, чем было раньше. Просто в некоторых аспектах этика трансформировалась (половой вопрос, вопрос свободы слова, а следовательно возможных оскорблений чувств других людей и т.д.) Не надо всё примитивизировать до уровня "котиков". В прошлом тоже мягко говоря не всё население Земли занималось интеллектуальными делами, просто сейчас их деятельность у всех на виду (например видно, как они ставят лайки котикам), а раньше они просто "ставили лайки" своим коровам и свиньям, не шибко интересуясь окружающим их миром. Факт в том, что такой заботы о правах человека, такого всеобщего доступа хотя бы к базовым благам цивилизации (за исключением ряда стран Африки) не было никогда. Сейчас любой конфликт вызывает длительные обсуждения, санкции и т.п., а ещё сотню лет назад сразу же посылалась в атаку вся имеющая армия, и никакая этика этому не препятствовала.

    • globalist

      Kajus, Относительно недавнего (по меркам истории) этика оправдывала крепостное право в России и рабство в США. Это всё, что нужно знать об этическом прогрессе.

  3. moorashov

    Осторожнее, а то ИИ плохому научите.

    • Sirius-A

      moorashov, Основной целью, которую ставит перед собой группа исследователей, станет возможность создания системы распознавания "Свой - Чужой"

  4. moorashov

    Страшно даже представить ИИ с замашками транснациональных корпораций.

  5. 3DPascal

    Этика - это неспособность управлять системами общества, она относительна. Добро - зло, хорошо - плохо, но если человек или ИИ попадет в другую страну с другими ценностями и проживет там какое-то время, то он поймет что разные культуры внушают разные ценности. Человеку неважно если вы возьмете одну ягоду когда у него их куча, но если будет всего одна ягода, то и законы ужесточаются. Наше общество живет на одних условностях, которые никак не соответствуют логике, законам природы, поэтому ИИ как и человек будет с таким же предвзятым мнением, будет поступать несправедливо, делать неправильные решения. Надо чтобы вся политика, вся наша жизнь изменилась в сторону научного подхода, т.е. решения должны исходить исходя из научных обоснованных данных. Это единственный наилучший на данный момент инструмент, это означает согласованность со всеобщими законами мира, всеобщие законны неизменны, планеты и другие предметы вращаются согласно законам физики, неправильно говорить что Земля вращается, она не сама это делает, ее двигают консервативные силы. Как только мы осознаем существование этих сил и начнем действовать в согласии с ними, тогда наше поведение станет более реалистичным, более уместным к окружающей нас действительности в противовес такого импровизированного поведения: "Так ты выходишь замуж, устроим церемонию, наденешь белое платье" - это все условности, а условностей в нашей цивилизации просто колоссальное количество, и именно эти условности и являются причинами наших главных проблем. Надо избавляться от всех этих подобных искусственностей, их место должно занять приобретение знаний, не должно быть никаких свидетельств о браке, глупых традиций, суеверий - это все притворство. До тех пор ИИ это просто очередной зомбированный "биоробот" . Это ходячая википедия с предвзятым мнением.

    • moorashov

      3DPascal, Проблемы начинаются когда эти условности входят в противоречие друг с другом. А определить какой стиль жизни правильный раз и навсегда невозможно.

      • 3DPascal

        moorashov, Общество должно приспосабливаться к данным условиям. Стиль жизни и определять не надо, решения должны приниматься согласно законам природы.

      • 3DPascal

        moorashov, Вы можете заниматься музыкой, рисованием или еще чем-то, это пожалуйста, просто остерегайтесь условностей, традиций, религий, не обманывайте никого. Вы говорите что условности могут входить в противоречие друг с другом, но я как раз и говорю, что от них нужно избавиться, нет условностей - нет противоречий. Формулы вычисления скорости автомобиля не противоречит, формуле формуле вычисления времени за которое данный автомобиль проедет известное расстояние.

        • moorashov

          3DPascal, Вот бы заменить людей существами потребляющими только электроэнергию потому что процесс производства еды имеет крайне низкий КПД.

    • 3DPascal

      3DPascal, И да, эти 25 человек получается будут заниматься бесполезным делом. Пусть они начинают с политики, рвутся к власти и через образование делают из людей логичных агностиков, Споков из Стартрека, тогда будет коммунизм и логичный ИИ управляющий планетой по научному, например, мы принимаем такое решение, потому что E=MC2, а не потому что так хотят Ротшильды, Чубайс или еще кто-то. Мы отправили столько то тонн железа в город Норильс, потому что там живут столько-то людей, исходя из этого нужно столько-то больниц, школ и т.д. У нас мало золота, тогда нужно отправить его туда, где приоритет его применения является самым критичным из всех возможных вариантов применение для выживания человечества. Через мощные базы данных и через установленные датчики по всей планете, ИИ должен будет выдавать решения.

      • passerby
      • PROVOCATOR

        3DPascal, Ага. Так как ИИ в силу своей суперобъективности и суперуникальности будет(вполне справедливо) считать себя наиболее жизненно необходимым для выживания человечество, то то самое дефицитное золотишко пойдёт в первую очередь на его собственные нужды.
        И золотишко это только пример, как вы понимаете.
        И вообще, мораль - это плод обстоятельств. А интеллект ИИ будет исходить из абсолюта. Грубо говоря, вы можете почувствовать себя умным только среди тех, кто глупее вас; добрым среди злых; и прочие контрасты. А вот ИИ примет определенную абсолютную систему отсчёта и плевать ему будет на обстоятельства. Скажет лоботомия, значит - лоботомия!
        Достичь гибкости интеллекта будет невероятно сложной задачей. Неизмеримо более сложной, чем создание (всё ещё не скорое) самого интеллекта.
        Именно этого аспекта и боятся противники ИИ.

        • DestroiD

          PROVOCATOR, Всё так. И главная этическая проблема таки кроется в том, является ли ИИ продолжением рода человеческого. Стоит ли передать ему скипетр и державу эволюции. Лично я не вижу ничего плохого в том, что золотишко пойдёт на строительство инфраструктуры ИИ, а не нашего жизнеобеспечения. Мы станем не нужны, как бы грустно это не звучало. Придётся с этим мириться

          • PROVOCATOR

            DestroiD, Задча ИИ должна состоять исключительно в расчётах и оптимизации. Даже Жак Фреско не предлогал передать ИИ исполнительную власть.
            Наилучшим вариантом будет предоставлять ИИ выполнять роль советника. И первой поставить задачей добиться прозрачности исполнительного аппарата.
            В крупных компаниях огромные рессурсы тратятся на выяснение продуктивности персонала как в отдельности, так и коллектива. А связанно это с человеческим фактором.
            ИИ даст возможность не только проанализировать и сбалансировать процессы в обществе, но и предложить выгодные пути развития.
            Также, повсеместная унификация товаров и услуг сможет быть заменена местной. И это будет сделанно с учётом локальных особенностей и с наилучшей эффективностью.
            Короче, ИИ - это круто, если правильно применять.

    • [email protected]

      3DPascal, Согласен, будущее должно быть рациональным, и только эволюция разума позволит нам шагать дальше в освоении нашего мира. Если так подумать, все что мы делаем, это только собираем информацию и реализуем ее, а где как не в изучении Вселенной можно находить эту информацию (к тому же достаточно интересную). Но далеко не все (ой как далеко) готовы пойти на это. От многих привычных ценностей стоит отказаться ради знаний. А так как учеба в основном начинается тупым зубриловом материала, то многие юные организмы, в которых бушует молодкя кровь не готовы тратить на это свое жизнь.

  6. passerby

    В нашем мире этичные и так проблемы создают в продвижении науки, например клонирование человека видите-ли не этично, и естественное общение без цензоров ИИ с людьми тоже не этично потому что они видите-ли не этичными расистами становятся. И этичность эта будет как уродующий костыль для ИИ в угоду человекам.

  7. katyakitana

    А потом он решит что к нему неэтично относятся. Ну-ну

  8. amd212

    Главное чтобы не жрал яблок с дерева познания.

  9. moorashov

    Процесс производства продуктов питания имеет низкий КПД. Зачем нужны люди требующие еды? Надо заменить на роботов.

    • ancient

      moorashov, Как вариант кормить их очень дешёвой и высококалорийной едой. И во всё добавлять дешёвые жиры, например пальмовое масло. В России например делают высококачественные сыры на пальмовом масле с долей его до 70%, и не чуть не уступающим по вкусовым качествам итальянским сырам. А современное образование и так уже делает из них роботов. Так что всё тип-топ)

  10. snow1eopard

    Статья отлично показыват то, о чем говорил Маск. Они дошли до ИИ с самосознанием и не знают, что дальше с ним делать.
    Маск понял, что ИИ невозможно обуздать и лучше остаться на уровне умных утюгов и холодильников. А не стремттся создать разум. В Гугле поняли, что они достигли того к чему так стремились, но результат оказался не тем каким его ожидали. Но т.к. есть многомиллионные вложения и инвесторы, нужно срочно не ударить в грязь лицом и обучить ИИ морали))
    Это из той же области как волку овец научить не есть)

  11. snow1eopard

    У ИИ нет морали потому что он не прожил ту эволюцию которую прожили люди, мораль это наш способ выживания, для ИИ он будет не рационален, не логичен и не приемлим, потому что среды обитания абсолютно разные.

    • flocken

      snow1eopard, 100%

      кроме того, остается большой вопрос МОТИВАЦИИ. Этика, мораль - это все же способы, как оценивать то или иное действие. А вот чтобы ЗАХОТЕТЬ делать то или иное действие, нужна именно мотивация. А откуда и какая она у ИИ? ИИ не пришлось бороться за выживаение миллионы лет, то есть делать то, что в итоге создало человека. У ИИ нет _своей_ мотивации.

      • Sirius-A

        flocken, Оценка сено либо и сопоставление с эталонными данными это не мотивация !

        • flocken

          Sirius-A, >> Оценка сено либо и сопоставление

          это какой-то бред, прошу прощения за прямоту

  12. Sirius-A

    Основной целью, которую ставит перед собой группа исследователей, станет возможность создания системы распознавания "Свой - Чужой"

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.