Система распознавания лиц уже достаточно плотно вошла в нашу жизнь. Она находит применение в сканерах наподобие Face ID и даже используется для поиска преступников. Но, как сообщает издание Science Daily, группа исследователей из Массачусетского технологического университета (MIT) и Стэнфорда, изучив несколько коммерческих ИИ-алгоритмов для распознавания лиц, выявила в них признаки сексизма и расизма.
В ходе исследования выяснилось, что при анализе фотографий белых мужчин алгоритмы неверно определяли пол лишь в 0,8% случаев, а в случае темнокожих женщин процент ошибок составлял в среднем около 30%. Для выявления закономерностей сотрудница MIT Джой Буоламвини собрала 1200 фотографий разных людей (на которых, впрочем, в основном были запечатлены женщины с темной кожей). Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи, где I – самый светлый, а VI – самый темный.
В итоге выяснилось, что для женщин с темной кожей с оценкой IV, V или VI по шкале Фицпатрика процент ошибок составил 20,8%, 34,5% и 34,7% соответственно. Таким образом удалось установить, что чем темнее фототип кожи – тем больше вероятность того, что алгоритм допустит ошибку. При идентификации мужчин со светлой кожей процент ошибок не превышал 0,8%. Более того, Джой (которая сама является афроамериканкой) попыталась проанализировать собственные фото, и оказалось, что системы либо не распознают ее лицо, либо неверно определяют пол.
На самом деле, к подобному исследованию можно относиться по-разному. Но отбросив в сторону все шутки и предрассудки о толерантности, исследование поднимает очень важный вопрос: а действительно ли алгоритмы распознавания лиц работают должным образом? Ведь с их помощью в том же Китае уже могут попытаться привлечь к уголовной ответственности. Кроме того, новое изыскание слабо соотносится с заявлением одной из софтверных компаний, которая создавала программное обеспечение для нейросетей и утверждала, что их софт распознает лица с точностью в 97% случаев. А как считаете вы? Выскажете свое мнение в нашем новом .
Очень расиский заголовок
Точнее антифеменистский
ponchic, Проведен эксперимент, компания собеседовала сотрудников зная только их техническое резюме, у женщин шанс получить работу упал в три раза=)))
doctorwhyy, Да вы что, не может быть такого! (Сарказм). Левачьё просто думает, что всех уравнять получится под одну гребёнку. Только вот так не бывает. Все мы разные и наши успехи или неуспехи в каких-то областях зависят от генов (а это пол, раса и т.д.) Единственный способ сделать всех людей равными - это убить всех.
в заголовке скрывается самая секретная информация : женщины из другой галактики , из этого их не считают людьми
интересно, а темнокожих-азиатов как нейросеть распознает?
Jack, Как врагов человечества ))
Может потому что негритянки больше похожи на негров-мужчин, чем белые женщины на белых мужчин?
Заголовок не соответствует содержанию, так как в тексте сказано, что алгоритм плохо распознает только чернокожих женщин.
Но заголовок отделил людей от женщин, это смешно.
Гы гы гы , пусть подадут в суд :D
Понятно, людей нормально распознают, ии эволюционирует
Расист наверное.