Команда Google DeepMind создала группу для обучения ИИ этике

5 Октября 2017 в 15:00, Владимир Кузнецов 4 316 просмотров 29

Корпорация Google уже давно ведет разработки собственного искусственного интеллекта под названием DeepMind. Для дальнейшего развития своей технологии, как пишет издание Engadget, эксперты, работающие над ИИ, организовали группу, которая будет изучать моральные вопросы развития искусственного разума.

Члены новой группы займутся исследованием того, как ИИ меняет мир, можно ли его контролировать (и нужно ли это), а также вопросы того, как обеспечить непредвзятость его решений. Стоит отметить, что подобная группа у Google была уже на протяжении полутора лет, однако только сейчас штат был значительно увеличен (с 8 до 25 человек), а вопросы с «локальных» сместились на «глобальные». У новоиспеченной команды будет 6 основных областей работы: влияние ИИ на частную жизнь людей, прозрачность и объективность искусственного разума в принятии решений, влияние ИИ на экономику, подчинение человеку, изучение понятий морали и ценности жизни, поиск способов решения глобальных задач.

Основной целью, которую ставит перед собой группа исследователей, станет возможность развития алгоритмов, которые могли бы «привить» этику искусственному разуму, который затем мог бы передавать полученный опыт подобно тому, как мы воспитываем детей, разъясняя им, что хорошо, а что плохо. Тем не менее, хоть все это является большим успехом в развитии ИИ, такое решение остается спорным. Несмотря на то, что создание такого комитета говорит о серьезности намерений крупных корпораций в области разработок искусственного интеллекта, немного страшно осознавать, что от их решений и того, чему они обучат свой ИИ, могут сильно зависеть практически все аспекты жизни будущих поколений людей.

Команда Google DeepMind создала группу для обучения ИИ этике

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

29 комментариев

  1. Zarb

    Блин, не все люди этике научены, а они ИИ обучают ))))

  2. Kajus Bonus

    Самое главное, это ставить лайки под фотками котиков...вроде других этических норм в современном мире нет.

    • globalist

      В современном обществе этики в разы больше, чем было раньше. Просто в некоторых аспектах этика трансформировалась (половой вопрос, вопрос свободы слова, а следовательно возможных оскорблений чувств других людей и т.д.) Не надо всё примитивизировать до уровня "котиков". В прошлом тоже мягко говоря не всё население Земли занималось интеллектуальными делами, просто сейчас их деятельность у всех на виду (например видно, как они ставят лайки котикам), а раньше они просто "ставили лайки" своим коровам и свиньям, не шибко интересуясь окружающим их миром. Факт в том, что такой заботы о правах человека, такого всеобщего доступа хотя бы к базовым благам цивилизации (за исключением ряда стран Африки) не было никогда. Сейчас любой конфликт вызывает длительные обсуждения, санкции и т.п., а ещё сотню лет назад сразу же посылалась в атаку вся имеющая армия, и никакая этика этому не препятствовала.

    • globalist

      Относительно недавнего (по меркам истории) этика оправдывала крепостное право в России и рабство в США. Это всё, что нужно знать об этическом прогрессе.

  3. moorashov

    Осторожнее, а то ИИ плохому научите. (отправлено из приложения Hi-News.ru)

    • Sirius-A

      Основной целью, которую ставит перед собой группа исследователей, станет возможность создания системы распознавания "Свой - Чужой"

  4. moorashov

    Страшно даже представить ИИ с замашками транснациональных корпораций. (отправлено из приложения Hi-News.ru)

  5. 3DPascal

    Этика - это неспособность управлять системами общества, она относительна. Добро - зло, хорошо - плохо, но если человек или ИИ попадет в другую страну с другими ценностями и проживет там какое-то время, то он поймет что разные культуры внушают разные ценности. Человеку неважно если вы возьмете одну ягоду когда у него их куча, но если будет всего одна ягода, то и законы ужесточаются. Наше общество живет на одних условностях, которые никак не соответствуют логике, законам природы, поэтому ИИ как и человек будет с таким же предвзятым мнением, будет поступать несправедливо, делать неправильные решения. Надо чтобы вся политика, вся наша жизнь изменилась в сторону научного подхода, т.е. решения должны исходить исходя из научных обоснованных данных. Это единственный наилучший на данный момент инструмент, это означает согласованность со всеобщими законами мира, всеобщие законны неизменны, планеты и другие предметы вращаются согласно законам физики, неправильно говорить что Земля вращается, она не сама это делает, ее двигают консервативные силы. Как только мы осознаем существование этих сил и начнем действовать в согласии с ними, тогда наше поведение станет более реалистичным, более уместным к окружающей нас действительности в противовес такого импровизированного поведения: "Так ты выходишь замуж, устроим церемонию, наденешь белое платье" - это все условности, а условностей в нашей цивилизации просто колоссальное количество, и именно эти условности и являются причинами наших главных проблем. Надо избавляться от всех этих подобных искусственностей, их место должно занять приобретение знаний, не должно быть никаких свидетельств о браке, глупых традиций, суеверий - это все притворство. До тех пор ИИ это просто очередной зомбированный "биоробот" . Это ходячая википедия с предвзятым мнением.

    • moorashov

      Проблемы начинаются когда эти условности входят в противоречие друг с другом. А определить какой стиль жизни правильный раз и навсегда невозможно.
      (отправлено из приложения Hi-News.ru)

      • 3DPascal

        Общество должно приспосабливаться к данным условиям. Стиль жизни и определять не надо, решения должны приниматься согласно законам природы.

      • 3DPascal

        Вы можете заниматься музыкой, рисованием или еще чем-то, это пожалуйста, просто остерегайтесь условностей, традиций, религий, не обманывайте никого. Вы говорите что условности могут входить в противоречие друг с другом, но я как раз и говорю, что от них нужно избавиться, нет условностей - нет противоречий. Формулы вычисления скорости автомобиля не противоречит, формуле формуле вычисления времени за которое данный автомобиль проедет известное расстояние.

        • moorashov

          Вот бы заменить людей существами потребляющими только электроэнергию потому что процесс производства еды имеет крайне низкий КПД. (отправлено из приложения Hi-News.ru)

    • 3DPascal

      И да, эти 25 человек получается будут заниматься бесполезным делом. Пусть они начинают с политики, рвутся к власти и через образование делают из людей логичных агностиков, Споков из Стартрека, тогда будет коммунизм и логичный ИИ управляющий планетой по научному, например, мы принимаем такое решение, потому что E=MC2, а не потому что так хотят Ротшильды, Чубайс или еще кто-то. Мы отправили столько то тонн железа в город Норильс, потому что там живут столько-то людей, исходя из этого нужно столько-то больниц, школ и т.д. У нас мало золота, тогда нужно отправить его туда, где приоритет его применения является самым критичным из всех возможных вариантов применение для выживания человечества. Через мощные базы данных и через установленные датчики по всей планете, ИИ должен будет выдавать решения.

      • passerby

        +

      • PROVOCATOR

        Ага. Так как ИИ в силу своей суперобъективности и суперуникальности будет(вполне справедливо) считать себя наиболее жизненно необходимым для выживания человечество, то то самое дефицитное золотишко пойдёт в первую очередь на его собственные нужды.
        И золотишко это только пример, как вы понимаете.
        И вообще, мораль - это плод обстоятельств. А интеллект ИИ будет исходить из абсолюта. Грубо говоря, вы можете почувствовать себя умным только среди тех, кто глупее вас; добрым среди злых; и прочие контрасты. А вот ИИ примет определенную абсолютную систему отсчёта и плевать ему будет на обстоятельства. Скажет лоботомия, значит - лоботомия!
        Достичь гибкости интеллекта будет невероятно сложной задачей. Неизмеримо более сложной, чем создание (всё ещё не скорое) самого интеллекта.
        Именно этого аспекта и боятся противники ИИ. (отправлено из приложения Hi-News.ru)

        • DestroiD

          Всё так. И главная этическая проблема таки кроется в том, является ли ИИ продолжением рода человеческого. Стоит ли передать ему скипетр и державу эволюции. Лично я не вижу ничего плохого в том, что золотишко пойдёт на строительство инфраструктуры ИИ, а не нашего жизнеобеспечения. Мы станем не нужны, как бы грустно это не звучало. Придётся с этим мириться

          • PROVOCATOR

            Задча ИИ должна состоять исключительно в расчётах и оптимизации. Даже Жак Фреско не предлогал передать ИИ исполнительную власть.
            Наилучшим вариантом будет предоставлять ИИ выполнять роль советника. И первой поставить задачей добиться прозрачности исполнительного аппарата.
            В крупных компаниях огромные рессурсы тратятся на выяснение продуктивности персонала как в отдельности, так и коллектива. А связанно это с человеческим фактором.
            ИИ даст возможность не только проанализировать и сбалансировать процессы в обществе, но и предложить выгодные пути развития.
            Также, повсеместная унификация товаров и услуг сможет быть заменена местной. И это будет сделанно с учётом локальных особенностей и с наилучшей эффективностью.
            Короче, ИИ - это круто, если правильно применять. (отправлено из приложения Hi-News.ru)

    • [email protected]

      Согласен, будущее должно быть рациональным, и только эволюция разума позволит нам шагать дальше в освоении нашего мира. Если так подумать, все что мы делаем, это только собираем информацию и реализуем ее, а где как не в изучении Вселенной можно находить эту информацию (к тому же достаточно интересную). Но далеко не все (ой как далеко) готовы пойти на это. От многих привычных ценностей стоит отказаться ради знаний. А так как учеба в основном начинается тупым зубриловом материала, то многие юные организмы, в которых бушует молодкя кровь не готовы тратить на это свое жизнь. (отправлено из приложения Hi-News.ru)

  6. passerby

    В нашем мире этичные и так проблемы создают в продвижении науки, например клонирование человека видите-ли не этично, и естественное общение без цензоров ИИ с людьми тоже не этично потому что они видите-ли не этичными расистами становятся. И этичность эта будет как уродующий костыль для ИИ в угоду человекам.

  7. katyakitana

    А потом он решит что к нему неэтично относятся. Ну-ну (отправлено из приложения Hi-News.ru)

  8. amd212

    Главное чтобы не жрал яблок с дерева познания.

  9. moorashov

    Процесс производства продуктов питания имеет низкий КПД. Зачем нужны люди требующие еды? Надо заменить на роботов. (отправлено из приложения Hi-News.ru)

    • ancient

      Как вариант кормить их очень дешёвой и высококалорийной едой. И во всё добавлять дешёвые жиры, например пальмовое масло. В России например делают высококачественные сыры на пальмовом масле с долей его до 70%, и не чуть не уступающим по вкусовым качествам итальянским сырам. А современное образование и так уже делает из них роботов. Так что всё тип-топ)

  10. snow1eopard

    Статья отлично показыват то, о чем говорил Маск. Они дошли до ИИ с самосознанием и не знают, что дальше с ним делать.
    Маск понял, что ИИ невозможно обуздать и лучше остаться на уровне умных утюгов и холодильников. А не стремттся создать разум. В Гугле поняли, что они достигли того к чему так стремились, но результат оказался не тем каким его ожидали. Но т.к. есть многомиллионные вложения и инвесторы, нужно срочно не ударить в грязь лицом и обучить ИИ морали))
    Это из той же области как волку овец научить не есть) (отправлено из приложения Hi-News.ru)

  11. snow1eopard

    У ИИ нет морали потому что он не прожил ту эволюцию которую прожили люди, мораль это наш способ выживания, для ИИ он будет не рационален, не логичен и не приемлим, потому что среды обитания абсолютно разные. (отправлено из приложения Hi-News.ru)

    • flocken

      100%

      кроме того, остается большой вопрос МОТИВАЦИИ. Этика, мораль - это все же способы, как оценивать то или иное действие. А вот чтобы ЗАХОТЕТЬ делать то или иное действие, нужна именно мотивация. А откуда и какая она у ИИ? ИИ не пришлось бороться за выживаение миллионы лет, то есть делать то, что в итоге создало человека. У ИИ нет _своей_ мотивации.

      • Sirius-A

        Оценка сено либо и сопоставление с эталонными данными это не мотивация !

        • flocken

          >> Оценка сено либо и сопоставление

          это какой-то бред, прошу прощения за прямоту

  12. Sirius-A

    Основной целью, которую ставит перед собой группа исследователей, станет возможность создания системы распознавания "Свой - Чужой"

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.