Нейросети плохо распознают темнокожих мужчин и женщин

15 Февраля 2018 в 10:30, Владимир Кузнецов 11

Система распознавания лиц уже достаточно плотно вошла в нашу жизнь. Она находит применение в сканерах наподобие Face ID и даже используется для поиска преступников. Но, как сообщает издание Science Daily, группа исследователей из Массачусетского технологического университета (MIT) и Стэнфорда, изучив несколько коммерческих ИИ-алгоритмов для распознавания лиц, выявила в них признаки сексизма и расизма.


В ходе исследования выяснилось, что при анализе фотографий белых мужчин алгоритмы неверно определяли пол лишь в 0,8% случаев, а в случае темнокожих женщин процент ошибок составлял в среднем около 30%. Для выявления закономерностей сотрудница MIT Джой Буоламвини собрала 1200 фотографий разных людей (на которых, впрочем, в основном были запечатлены женщины с темной кожей). Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи, где I – самый светлый, а VI – самый темный.

В итоге выяснилось, что для женщин с темной кожей с оценкой IV, V или VI по шкале Фицпатрика процент ошибок составил 20,8%, 34,5% и 34,7% соответственно. Таким образом удалось установить, что чем темнее фототип кожи – тем больше вероятность того, что алгоритм допустит ошибку. При идентификации мужчин со светлой кожей процент ошибок не превышал 0,8%. Более того, Джой (которая сама является афроамериканкой) попыталась проанализировать собственные фото, и оказалось, что системы либо не распознают ее лицо, либо неверно определяют пол.

На самом деле, к подобному исследованию можно относиться по-разному. Но отбросив в сторону все шутки и предрассудки о толерантности, исследование поднимает очень важный вопрос: а действительно ли алгоритмы распознавания лиц работают должным образом? Ведь с их помощью в том же Китае уже могут попытаться привлечь к уголовной ответственности. Кроме того, новое изыскание слабо соотносится с заявлением одной из софтверных компаний, которая создавала программное обеспечение для нейросетей и утверждала, что их софт распознает лица с точностью в 97% случаев. А как считаете вы? Выскажете свое мнение в нашем новом телеграм-чате.

Нейросети плохо распознают темнокожих мужчин и женщин

11 комментариев Оставить свой

  1. ponchic

    Очень расиский заголовок

  2. ponchic

    Точнее антифеменистский

    • doctorwhyy

      ponchic, Проведен эксперимент, компания собеседовала сотрудников зная только их техническое резюме, у женщин шанс получить работу упал в три раза=)))

      • Dagoth Nik

        doctorwhyy, Да вы что, не может быть такого! (Сарказм). Левачьё просто думает, что всех уравнять получится под одну гребёнку. Только вот так не бывает. Все мы разные и наши успехи или неуспехи в каких-то областях зависят от генов (а это пол, раса и т.д.) Единственный способ сделать всех людей равными - это убить всех.

  3. ilyasamurai

    в заголовке скрывается самая секретная информация : женщины из другой галактики , из этого их не считают людьми

  4. Jack Fresco

    интересно, а темнокожих-азиатов как нейросеть распознает?

  5. wowiliamus

    Может потому что негритянки больше похожи на негров-мужчин, чем белые женщины на белых мужчин?
    Заголовок не соответствует содержанию, так как в тексте сказано, что алгоритм плохо распознает только чернокожих женщин.
    Но заголовок отделил людей от женщин, это смешно.

  6. AMDRYZEN

    Гы гы гы , пусть подадут в суд :D

  7. nkey500

    Понятно, людей нормально распознают, ии эволюционирует

  8. Gitler

    Расист наверное.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.