Создан алгоритм, который мешает системе распознавания лиц

1 Июня 2018 в 20:30, Владимир Кузнецов 11 104 просмотра 22

Технология распознавания лиц, вне всяких сомнений, является полезной и нужной разработкой, но при всех своих достоинствах она может нести и вред, нарушая свободу человека и позволяя проводить слежку за ним. Специально для этих целей и был создан алгоритм, который нарушает работу системы распознавания, не разрешая ей вторгаться в частную жизнь.


Новая система построена на основе глубокого машинного обучения, а значит способна самосовершенствоваться в будущем. Сам же алгоритм использует динамические способы разрушения алгоритмов распознавания. Для разработки системы противодействия ученые использовали два ИИ, которые боролись друг с другом. Один работал для идентификации лиц, а другой пытался ее нарушить. Результатом этой «войны» стало создание особого фильтра (пока только для фотографий), который заменяет определенные пиксели на изображениях таким образом, что человеческий глаз не может увидеть разницы, а вот система распознавания лиц дает сбой. Как заявил автор работы профессор Пархам Аараби,

«Сейчас алгоритмы нейронных сетей постоянно совершенствуются и по одному изображению могут узнать очень многое о человеке. И из-за этого конфиденциальность — реальная проблема».

Профессор Аараби протестировал свое изобретение на фотографиях 600 людей различной этнической и гендерной принадлежности. В итоге выяснилось, что система способна снижать долю распознанных лиц со 100% до 0,5%. Но это еще не все. В ходе исследования был обнаружен довольно приятный бонус: система не просто мешает алгоритму распознавать лица, но и не дает считывать цвет кожи, этническую принадлежность, пол, мимику и так далее, делая фото «просто картинкой» для алгоритма распознавания.

Создан алгоритм, который мешает системе распознавания лиц

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

22 комментария

  1. tonik

    Примерно за день можно обучить ИИ обходить алгоритм защиты от распознавания. (Кстати, простейший вариант, наложить фильтр какой-нить. Да хоть сглаживания, хоть смена цветовой схемы, уменьшить количество цветов в палитре до 256, и все их ухищрения просто отсеются) (отправлено из приложения Hi-News.ru)

    • Zamza

      tonik, И так же за день можно обучить ИИ защите от "обхождения алгоритма защиты от распознавания".... Дальше будем продолжать?

  2. kirm

    Я вот думаю... А что, если ходить по улице со включенным налобным фонариком? Это должно засвечивать изображение на камерах и помешать им распознавать лица... И без каких-либо нарушений...

  3. Brevno

    "...она может нести и вред, нарушая свободу человека и позволяя проводить слежку за ним. Специально для этих целей и был создан алгоритм, который нарушает работу системы распознавания"
    Может лучше было профессору по фамилии Аараби заняться лоббированием отмены уголовного кодекса? Тогда, в случае успеха, работа систем распознавания просто потеряет смысл. Незачем будет ловить террористов, убийц, жуликов, хулиганов.

    • Akibastarec

      Brevno, Нужно распределять цели по степени их опасности. Сейчас для нас самое страшное не ИГИЛ, не НАТО, а окончательно слетевшая с катушек от безответственности и безнаказанности власть.

      • SERGZV

        Akibastarec, Ну вот власть то нас террористами и пугает.. Якобы террористы страшнее нашей власти...

        • SERGZV

          SERGZV, Как посадят в рабство в тюрьму за подобный пост в коментариях. И будем 20 лет сидеть на станках работать в две смены в колонии за 50р в месяц...

        • Brevno

          SERGZV, SERGZV, поясните, как вы защититесь от власти, сделав невозможным идентификацию вас по фотографии, которую вы же и разместили в интернете?

    • Ce3apyc

      Brevno, Думаешь террористы, жулики и хулиганы будут постить свои селфи, защищенные новым алгоритмом?;)

  4. amd212

    В каком-то фантастическом рассказе, всё что делала подобная программа - внедряла в изображение немного незаметного глазу "мусора" по определённому шаблону. "Гуглы" такие помеченные фотографии действительно не распознавали, но сразу же передавали в спецотдел, где, отфильтровав предварительно известных спецагентов и оперативников под прикрытием, оставшихся тщательно разрабатывали электронным способом (коллекционировали дату, место, события, контактёров).
    Т.е. программа одновременно убирала офицеров спецслужб из поисковых систем и помогала выявлять особо опасных параноиков.

    • Ystyr

      amd212, Писатели фантастических рассказов, часто живут в воображаемых мирах, где правительство искренне заботится о правах, свободах и благополучии граждан, а честные и неподкупные служители закона, эффекно ловят плохих парней. А поскольку, в реальности, всё почти наоборот, любой чиновник любого ранга, должен рассматриваться как потенциальный злодей и находится под пристальным общественным наблюдением.

      • amd212

        Ystyr, Ребёнок однажды пытается представить себе рай и у него рай получается каким-то скучным. В бесконечности есть мороженное, пить газировку и играть в Злых Птиц как-то не достойно Рая. Идеальный мир будущего, конечно же, вовсе не будет иметь правительства, тюрем, полицейских. Поскольку, существование всего этого уже означает несправедливость. Наше современное общество построено на потреблении. Наши парадигмы:
        - Кто больше потребл$яет, тот и успешнее.
        - Потребл$яй завтра больше чем сегодня.
        - Удвоим ВВП.
        В них во всех уже несправедливость и не равенство. Стремление к личному обогащению, эксплуатации других членов общества во имя себя любимого.
        Всё что правительство может и должно сделать в этой ситуации направить откат вовне. По возможности мы должны стремиться эксплуатировать другие страны, обогащаться за счёт финансового управления и контроля внешних экономик. Тогда давление классового противоречия внутри страны постепенно спадёт.

        • Ystyr

          amd212, Не уверен, что уловил направление хода Ваших мыслей. Вероятно, Вы не неверно истолковали моё сообщение. Меня мало волнуют классовые противоречия внутри вашей страны, как не волнует и природа несправедливости. Я просто за то, чтобы называть дерьмо - дерьмом, а не убеждать других, что это шоколад. Из Ваших других сообщений, я понимаю, что Ваша повестка общения - гламуризация гумманистического культа, и общение с Вами мне интересно, так как Вы делаете это с начиная с чернейших его сторон, замалчиваемых большинством гуманистов.

      • Elk

        Ystyr, Ты когда-нибудь читал фантастику?

      • Brevno

        Ystyr, , поясните, пожалуйста, каким образом "шифрование" фотографий поможет в борьбе со "злодейством" чиновничества?

        • Ystyr

          Brevno, Не знаю. Я и не писал, что оно поможет, просто среагировал на про-скотоводческий комментарий amd212

  5. romale

    Профессор кому-то продаст свою разработку...а потом будет платная опция в социальных сетях и т.д. (отправлено из приложения Hi-News.ru)

    • GlobalElite

      romale, Зачем эта опция в социальных сетях? Никто не узнает вашего имени с помощью алгоритмов распознавания лиц, только она светится прямо рядом с выложенной фотографией.

  6. triodpentod

    да, тик и хорею победить трудно, также как и дцп,
    миастению, и ещё штук 20 синдромокомплексов.
    читайте Лазовскиса вот бы он угорал над ИИ

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.