Как искусственный интеллект учится на наших привычках и обманах

30 Января 2017 в 12:00, Илья Хель 6 098 просмотров 19

Обычно чтобы находить преступность в Сети, онлайн, нужно знать, что искать. Искусственный интеллект, который видит скрытые схемы, паттерны, может делать это лучше людей — и даже быть на шаг впереди. Играющие в видеоигру Counter Strike знают, что довольно трудно постоянно оборачиваться и при этом не терять сути происходящего. В быстрых шутерах от первого лица, всегда найдутся игроки с более быстрыми рефлексами или более острым глазом.

Но на пике популярности игры несколько лет назад, люди начали сталкиваться с игроками, навыки которых были чересчур хороши. Шутеры вроде Counter Strike и Half Life, еще одна весьма популярная игра, получили проблему в лице игроков, которые использовали читы, дополнительное программное обеспечение, фиксирующее прицел на цели или позволяющее видеть сквозь стены.

Поэтому в 2006 году, когда в онлайн-соревнованиях выросли ставки за счет денежных призов, на помощь пришла пара необычных арбитров. Дэвид Экселл и Билл Фицджеральд были математиками, которые только-только запустили компанию по разработке искусственного интеллекта Featurespace в лаборатории Кембриджского университета. Их программа прекрасно справлялась вот с чем: выявление странного поведения.

Featurespace разработала систему машинного обучения, которая обнаруживала неожиданные изменения в данных в реальном времени. На основе этих аномалий она затем принимала обоснованное предположение на тему вероятной причины — и чаще всего оказывалось, что люди делают то, чего не должны.


Первым испытанием ИИ был поиск игроков, которые читерят (используют нечестные методы) в видеоиграх. «Наша технология позволила игровым компаниям убедиться, что люди будут играть против людей, а не против роботов», говорит Экселл. Но ИИ Featurespace теперь строго блюдет и другие виды активности. Он стал молчаливым стражем в сердце онлайн-банкинга, электронной коммерции и страхования. Он позволяет выявлять мошенничество и вредоносные программы в Интернете — и даже помогает компульсивным картежникам.

Автоматическое выявление аномалий в данных в реальном времени не является чем-то новым — именно так спам-фильтры отсеивают нежелательные сообщения электронной почты или антивирусное программное обеспечение, перехватывающее вредоносный код, например. Но обнаружение таких вещей, как правило, требует, чтобы система знала, что ищет. Антивирусное программное обеспечение должно получать свежие данные о состоянии отпечатков пальцев или сигнатур вредоносного ПО.

Но это не поможет вам обнаружить ранее невидимые виды деятельности. Поэтому Экселл и Фицджеральд вознамерились построить систему, которая сможет обнаружить любой тип поведения, отклоняющийся от нормы, и понять, откуда он взялся.

Их ИИ — под названием «Арик» (Aric — адаптивный идентификатор индивидуальных изменений в реальном времени) — основан на работе священнослужителя и математика 18 века Томаса Байеса. Байес разработал способ осмысления вероятности, когда вероятность происшествия рассчитывается на основании того, что уже наблюдалось прежде и случалось. Байесовскую вероятность использовал Алан Тьюринг, чтобы найти подводные лодки нацистов, исходя из их активности в прошлом.

И ее можно использовать для определения, когда игрок в Counter Strike, вероятнее всего, читерит. Отслеживая покадровые данные в игре, «Арик» помечает необычные всплески в точности стрельбы отдельных игроков. Очевидно, что они используют метких ботов, которые играют за них, говорит Экселл. «Арик» также заметил, что некоторые игроки неожиданно быстро атакуют своих противников, и сделал вывод, что те используют чит, позволяющий видеть сквозь стены.

Затем Featurespace использовала свои методы, чтобы снизить число беспилотников, которые британские военные теряют в воздухе. Отслеживая аномалии в данных управления полетом, «Арик» нашел ранее неизвестные ошибки, которые приводили к сбою дронов.

Фицджеральд умер в 2014 году, но технологии, которые он помог разработать, меняют методы выявления мошенничества. Первое серьезное коммерческое применение Featurespace было осуществлено совместно с британской фирмой онлайновых азартных игр Betfair, для которой «Арик» выявлял случаи безрассудной траты на ставки — признак того, что кто-то может ставить на чужие деньги. Если «Арик» поднимает тревогу, Betfair мгновенно разбирается в ситуации — транзакцию можно остановить на лету, если понадобится.

«Арик» также начинает искать азартных игроков и самостоятельно. Серии высоких ставок могут говорить о том, что люди ведут себя компульсивно. Помимо онлайновых ставок, эта система может также отслеживать активность на игровых автоматах и выдавать предупредительные знаки. «Если вы можете спрогнозировать, какие игроки могут стать зависимыми, вы можете попытаться вмешаться до возникновения проблем», говорит генеральный директор Featurespace Мартина Кинг. Сейчас «Арика» используют несколько серьезных игровых контор.

Но крупнейшими клиентами «Арика» стали банки и платежные системы. Наблюдая за каждым этапом сделки по мере ее протекания — каждый клик мышки на выпадающем меню, как обычно человек движется по сайту, — он стал неожиданно мощным инструментом борьбы с преступностью.

К примеру, система может сказать, если кто-то использует украденные банковские реквизиты для входа в систему. Красный флаг будет поднят, если человек использует веб-сайт, а его поведение не соответствует модели, которая привычна владельцу украденной информации.

Точно так же, если некто будет необычно вести себя на сайте, это может быть признаком того, что он вводит свои банковские реквизиты, возможно, под давлением или в состоянии стресса. Любая нерешительность поднимет тревогу у банка, он заинтересуется причинами и, возможно, поможет.

Конечно, программным обеспечением все не ограничивается, говорит Кирк Бресникер из Hewlett Packard. Чтобы сделать подобное выявление аномалий еще мощнее, Бресникер и его коллеги создают компьютеры, специально предназначенные для обработки плотных наборов данных, из которых обучаются программы с машинным обучением вроде «Арика». Аппаратное обеспечение Hewlett Packard — The Machine — добавляет огромное количество памяти каждому из своих процессоров, которые могут взаимодействовать между собой с поразительной скоростью.

В результате получается большой объем данных, которые могут проанализировать все и сразу, что очень важно для выявления аномалий во все более крупных и сложных данных. Hewlett Packard планирует заняться хакерами и вредоносным ПО, а не мошенниками. Но другие фирмы в Кремниевой долине тоже подключаются к этому. Intel недавно приобрела Saffron Technology, которая делает системы, способные обнаруживать и предотвращать мошенничество, благодаря мониторингу «хаотических неструктурированных данных». Featurespace также планирует модернизировать «Арика», совместив программное обеспечение с аппаратным побыстрее, чтобы минимизировать ложные сигналы.

Как искусственный интеллект учится на наших привычках и обманах

19 комментариев

  1. Maus

    Вот так потом и сними деньги будучи пьяным. =( (отправлено из приложения Hi-News.ru)

  2. pups101010

    в недалеком и нехорошем будущем: лозунг "будь как все", а иначе жди письма с текстом "ваше поведение не шаблонно, вы будете удалены"

    • IIIIII

      pups101010, Вы наверное статью не читали... Речь идет об индивидуальной модели поведения - "его поведение не соответствует модели, которая привычна владельцу". Общий шаблонный анализ ни к чему не приведет, шаблон поведения составляется для каждого человека отдельно.
      Вообще даже интересно становится, когда те самые создатели вредоносного кода начнут использовать системы машинного обучения для обхода защит на основе машинного обучения... Но то, что вирус и эксплоит будет сложнее писать я думаю это естественный процесс развития.
      Переживаю дабы подобные системы уже не работали для контроля людей. Под угрозой свободы человека...

      • Rifter

        IIIIII, Скоро появятся ИИ шифровальщики, свободам ничего не грозит =)

        • pups101010

          Rifter, вы ошиблись - статью я прочел, а вот вы похоже читали что то другое, в статье упоминаются как общие так и индивидуальные шаблоны. и да, мой первый пост был черным юмором, но спасибо за обширный и вдумчивый комментарий

        • IIIIII

          Rifter, Кстати да, была же новость о том, что ИИ ловит ИИ на обмане, если подключить фантазию то все так и будет. Только вот обмануть есть намного больше возможностей, нежели угадать, где крылся обман. Правда если сделают ИИ, который будет находить людей, которые пишут ИИ для обхода ИИ, то, в чисто теории, могут задавить в зародыше...
          Например пиратство. Не так уж много групп, готовых работать в этом направлении, и перекрывая их (как показывает пример 3DM) можно значительно притормозить его развитие. Я надеюсь не осталось наивных, считающих что 3DM ушли по своей воле...
          А представь что бы нашли CPY сразу после первого хака Denuvo? Сейчас бы это уже было под снежным комом и под угрозой все пиратское сообщество.

    • Rifter

      pups101010, про как все не говорилось =) Оценивается каждый индивидуально. И шаблон строится с тебя, а не со всех.

      • IIIIII

        Rifter, Спасибо, что повторили за мной, а то вдруг автор этого топика опять испугается читать много текста и ему нужен переводчик на его "язык" =)

    • Google_1

      pups101010, И чип в мозгу вбрызгивает яд в ЦНС...)))

    • uran

      pups101010, Во-во, заставят использовать STL поведения :) (отправлено из приложения Hi-News.ru)

  3. uran

    10-я винда учится, если ее не остановить вовремя :) (отправлено из приложения Hi-News.ru)

  4. sas

    https://futureoflife.org/ai-principles/ (отправлено из приложения Hi-News.ru)

  5. BunnyCat

    А если у человека какое-либо психическое заболевание, например диссоциативное расстройство идентичности (2 и более личности в одном теле, вплоть до нескольких десятков), и он каждый раз ведет себя абсолютно по разному - как AI будет фильтровать это? Постоянно банить? xD

    • uran

      BunnyCat, Психиатры говорят так: "Нет абсолютно психически здоровых людей, есть недообследованные" :) (отправлено из приложения Hi-News.ru)

    • Viktor12345

      BunnyCat, На эту тему есть офигенный интересный новый фильм "Сплит". Все, кто не видел, смотрите трейлер в ютюбе. И если вы любите не стандартное, увлекательное кино, не пожалеете)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.