Создан алгоритм, который мешает системе распознавания лиц

Технология распознавания лиц, вне всяких сомнений, является полезной и нужной разработкой, но при всех своих достоинствах она может нести и вред, нарушая свободу человека и позволяя проводить слежку за ним. Специально для этих целей и был создан алгоритм, который нарушает работу системы распознавания, не разрешая ей вторгаться в частную жизнь.


Новая система построена на основе глубокого машинного обучения, а значит способна самосовершенствоваться в будущем. Сам же алгоритм использует динамические способы разрушения алгоритмов распознавания. Для разработки системы противодействия ученые использовали два ИИ, которые боролись друг с другом. Один работал для идентификации лиц, а другой пытался ее нарушить. Результатом этой «войны» стало создание особого фильтра (пока только для фотографий), который заменяет определенные пиксели на изображениях таким образом, что человеческий глаз не может увидеть разницы, а вот система распознавания лиц дает сбой. Как заявил автор работы профессор Пархам Аараби,

«Сейчас алгоритмы нейронных сетей постоянно совершенствуются и по одному изображению могут узнать очень многое о человеке. И из-за этого конфиденциальность — реальная проблема».

Профессор Аараби протестировал свое изобретение на фотографиях 600 людей различной этнической и гендерной принадлежности. В итоге выяснилось, что система способна снижать долю распознанных лиц со 100% до 0,5%. Но это еще не все. В ходе исследования был обнаружен довольно приятный бонус: система не просто мешает алгоритму распознавать лица, но и не дает считывать цвет кожи, этническую принадлежность, пол, мимику и так далее, делая фото «просто картинкой» для алгоритма распознавания.

Создан алгоритм, который мешает системе распознавания лиц

22 комментария Оставить свой

  1. tonik

    Примерно за день можно обучить ИИ обходить алгоритм защиты от распознавания. (Кстати, простейший вариант, наложить фильтр какой-нить. Да хоть сглаживания, хоть смена цветовой схемы, уменьшить количество цветов в палитре до 256, и все их ухищрения просто отсеются)

    • Zamza

      tonik, И так же за день можно обучить ИИ защите от "обхождения алгоритма защиты от распознавания".... Дальше будем продолжать?

  2. kirm

    Я вот думаю... А что, если ходить по улице со включенным налобным фонариком? Это должно засвечивать изображение на камерах и помешать им распознавать лица... И без каких-либо нарушений...

    • amd212

      kirm, Накладной нос с очками Деда Мороза
      festivall.com/foto/1499g_a.jpg

      • Simpson

        amd212, шапочки из фольги дают стопроцентную гарантию.

  3. Brevno

    "...она может нести и вред, нарушая свободу человека и позволяя проводить слежку за ним. Специально для этих целей и был создан алгоритм, который нарушает работу системы распознавания"
    Может лучше было профессору по фамилии Аараби заняться лоббированием отмены уголовного кодекса? Тогда, в случае успеха, работа систем распознавания просто потеряет смысл. Незачем будет ловить террористов, убийц, жуликов, хулиганов.

    • Akibastarec

      Brevno, Нужно распределять цели по степени их опасности. Сейчас для нас самое страшное не ИГИЛ, не НАТО, а окончательно слетевшая с катушек от безответственности и безнаказанности власть.

      • SERGZV

        Akibastarec, Ну вот власть то нас террористами и пугает.. Якобы террористы страшнее нашей власти...

        • SERGZV

          SERGZV, Как посадят в рабство в тюрьму за подобный пост в коментариях. И будем 20 лет сидеть на станках работать в две смены в колонии за 50р в месяц...

        • Brevno

          SERGZV, SERGZV, поясните, как вы защититесь от власти, сделав невозможным идентификацию вас по фотографии, которую вы же и разместили в интернете?

    • Ce3apyc

      Brevno, Думаешь террористы, жулики и хулиганы будут постить свои селфи, защищенные новым алгоритмом?;)

  4. amd212

    В каком-то фантастическом рассказе, всё что делала подобная программа - внедряла в изображение немного незаметного глазу "мусора" по определённому шаблону. "Гуглы" такие помеченные фотографии действительно не распознавали, но сразу же передавали в спецотдел, где, отфильтровав предварительно известных спецагентов и оперативников под прикрытием, оставшихся тщательно разрабатывали электронным способом (коллекционировали дату, место, события, контактёров).
    Т.е. программа одновременно убирала офицеров спецслужб из поисковых систем и помогала выявлять особо опасных параноиков.

    • Ystyr

      amd212, Писатели фантастических рассказов, часто живут в воображаемых мирах, где правительство искренне заботится о правах, свободах и благополучии граждан, а честные и неподкупные служители закона, эффекно ловят плохих парней. А поскольку, в реальности, всё почти наоборот, любой чиновник любого ранга, должен рассматриваться как потенциальный злодей и находится под пристальным общественным наблюдением.

      • amd212

        Ystyr, Ребёнок однажды пытается представить себе рай и у него рай получается каким-то скучным. В бесконечности есть мороженное, пить газировку и играть в Злых Птиц как-то не достойно Рая. Идеальный мир будущего, конечно же, вовсе не будет иметь правительства, тюрем, полицейских. Поскольку, существование всего этого уже означает несправедливость. Наше современное общество построено на потреблении. Наши парадигмы:
        - Кто больше потребл$яет, тот и успешнее.
        - Потребл$яй завтра больше чем сегодня.
        - Удвоим ВВП.
        В них во всех уже несправедливость и не равенство. Стремление к личному обогащению, эксплуатации других членов общества во имя себя любимого.
        Всё что правительство может и должно сделать в этой ситуации направить откат вовне. По возможности мы должны стремиться эксплуатировать другие страны, обогащаться за счёт финансового управления и контроля внешних экономик. Тогда давление классового противоречия внутри страны постепенно спадёт.

        • Ystyr

          amd212, Не уверен, что уловил направление хода Ваших мыслей. Вероятно, Вы не неверно истолковали моё сообщение. Меня мало волнуют классовые противоречия внутри вашей страны, как не волнует и природа несправедливости. Я просто за то, чтобы называть дерьмо - дерьмом, а не убеждать других, что это шоколад. Из Ваших других сообщений, я понимаю, что Ваша повестка общения - гламуризация гумманистического культа, и общение с Вами мне интересно, так как Вы делаете это с начиная с чернейших его сторон, замалчиваемых большинством гуманистов.

      • Elk

        Ystyr, Ты когда-нибудь читал фантастику?

        • Ystyr

          Elk, Да, был грех по молодости. Оставил это гиблое дело лет 25 назад, и Вам советую

      • Brevno

        Ystyr, , поясните, пожалуйста, каким образом "шифрование" фотографий поможет в борьбе со "злодейством" чиновничества?

        • Ystyr

          Brevno, Не знаю. Я и не писал, что оно поможет, просто среагировал на про-скотоводческий комментарий amd212

  5. romale

    Профессор кому-то продаст свою разработку...а потом будет платная опция в социальных сетях и т.д.

    • GlobalElite

      romale, Зачем эта опция в социальных сетях? Никто не узнает вашего имени с помощью алгоритмов распознавания лиц, только она светится прямо рядом с выложенной фотографией.

  6. triodpentod

    да, тик и хорею победить трудно, также как и дцп,
    миастению, и ещё штук 20 синдромокомплексов.
    читайте Лазовскиса вот бы он угорал над ИИ

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.