В «Википедии» разгорелась настоящая скрытая кибервойна между ботами

27 Февраля 2017 в 20:30, Николай Хижняк 14 808 просмотров 14

«Википедия» является одним из самых популярных веб-сайтов в Интернете (согласно самой же «Википедии», ссылающейся на данные Alexa Internet и SimilarWeb). На запущенном в 2001 году сайте к настоящему моменту содержится более 40 миллионов статей различной тематики, написанных почти на 300 языках мира самими же пользователями этого портала. Казалось, вот она – тихая гавань свободного Интернета. Однако под недрами всей этой бесплатной информации и знаний кипит настоящая скрытая кибервойна.

Исследование и анализ истории за первые 10 лет существования «Википедии» показал, что огромное число автоматизированных программных «ботов» — алгоритмов редактирования статей, работающих на базе искусственного интеллекта – оказались втянуты в бесконечно продолжающиеся эпические споры вокруг специфики редактирования опубликованных на сайте статей. Каждый из этих алгоритмов пытается оставить за собой право последнего слова, продолжая бесконечно вносить те или иные правки в ту или иную статью.

«Бои между ботами могут быть гораздо продолжительнее, чем споры между людьми. Люди обычно «остывают» уже через пару дней, однако боты могут продолжать это дело годами», — комментирует исследователь Таха Яссери из Оксфордского университета.

В своем исследовании Яссери вместе с коллегами проследили за случаями внесения правок в «Википедию» между 2001 и 2010 годом. Несмотря на то, что в ранние годы существования сайта отмечалась очень низкая активность редакторских ботов, эта активность резко возросла, как только сама платформа, на которой этот сайт расположен, а также технологии автоматизированных ботов эволюционировали. Исследователи отмечают, что на 2014 год около 15 процентов ото всех правок на всех языках в «Википедии» принадлежало именно редакторским ботам, даже несмотря на то, что на долю алгоритмов приходится всего 0,1 процента от общего штата редакторов «Википедии».


Редакторские боты выполняют на сайте самую разнообразную работу. Помимо внесения редакторских правок, они также пресекают вандализм (ведь информацию на сайт может внести любой желающий, прошедший регистрацию), собирают список пользователей на блокировку, создают ссылки, проверяют орфографию, а также автоматически вносят новый контент на сайт.

В своей изначальной форме эти боты создавались для помощи людям – не только редакторам сайта, но и пользователям, — однако, как оказалось, это правило совсем не действует, когда речь идет о взаимодействии ботов между собой.

В качестве примера в исследовании приводятся два бота — Xqbot и Darknessbot, — написавшие для портала в общей сложности более 3600 статей на самые разные темы, начиная от греческого короля Александра и заканчивая британским футбольным клубом «Астон Вилла». В промежуток с 2009 по 2010 год Xqbot отклонил более 2000 правок, внесенных ботом Darknessbot. Последний в свою очередь решил оказать ответную услугу и забраковал около 1700 редакторских правок, внесенных ботом Xqbot. Еще одна эпическая битва произошла между алгоритмами Tachikoma и Russbot. Каждый из них в общей сложности забраковал более 1000 внесенных другим правок.

Подобное соперничество стало для исследователей настоящим сюрпризом, особенно при учете того, что наличие оного между ними никогда не предполагалось, но тем не менее было каким-то образом инициировано.

«На самом деле мы не ожидали увидеть чего-то интересного. Если рассматривать всех этих ботов по отдельности, то можно уснуть от скуки», — комментирует Яссери.

«Поэтому факт наличия соперничества между ними оказался для нас большим сюрпризом. Поймите правильно: это отличные боты, отлично справляющиеся с поставленными перед ними задачами. Они были разработаны с добрыми намерениями и основаны на одних и тех же открытых технологиях кода. Но видеть такое! Это не может не удивлять».

Еще одним сюрпризом для исследователей стало то, насколько отличается количество конфликтных случаев между ботами с учетом той или иной языковой версии сайта. Например, на немецкой версии «Википедии» было отмечено меньше всего конфликтов – около 24 случаев на каждого бота в среднем за рассматриваемый 10-летний период. На португальской «Википедии» было отмечено наибольшее число подобных стычек – в среднем 185 конфликтов на каждого бота. Бои на английской версии «Википедии» проходят в среднем темпе. Там на каждого бота в среднем приходится по 105 конфликтных случаев за последние 10 лет.

«Мы отмечаем, что боты ведут себя по-разному в различных культурных средах и количество конфликтов между ними тоже очень отличается», — объясняет Милена Цветкова, один из участников исследования.

«Эта информация носит весьма практичный характер. Ведь она может быть полезна не только при разработке искусственных агентов, но и позволяет изучить их возможное будущее поведение. Мне кажется, стоит копнуть поглубже в эту своеобразную социологию ботов».

При таком активном развитии автоматизированных ИИ-систем, становящихся все мощнее и популярнее, а также учитывая вероятностные культурные различия в их программировании, нам следует уделить подобным явлениям куда больше заслуженного внимания. В противном случае судьба нашего будущего может однажды стать зависимой от результатов одного из подобных споров:

В «Википедии» разгорелась настоящая скрытая кибервойна между ботами

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

14 комментариев

  1. gta14

    Ну дак почему они конфликтуют? В чем они не согласны друг с другом?

    На фейк смахивает. (отправлено из приложения Hi-News.ru)

  2. SERG__ZV

    Наверное в орфографии....

  3. toge

    разные правила в них зашиты, только и всего

  4. MrBin

    Статья просто супер!! большое спасибо
    .....
    под безмятежно спокойной гладью идёт жестокая и безпощадная война - война тех, кто не умеет прощать и не ведает жалости, тех, кто никогда не устаёт и не знает пощады.

  5. storm X

    не понял. как это происходит и что мы с этого имеем, пользователи...типо буквы перестраиваются в статье во время чтения? вдруг предложения становятся матерными? или как это?

  6. Kladproraba

    Это сигнал. Картина: армию роботов создаем и роботы восстанут, вдруг станут не согласны с людьми. Терминаторы не за горами.

  7. jonkdp

    Боты все больше становятся похожими на политиков с их маниями и эгоизмом (отправлено из приложения Hi-News.ru)

  8. [email protected]

    Лема напомнило "непобедимый" 😏 (отправлено из iOS приложения Hi-News.ru)

  9. humanoid

    Ничего удивительного, ведь созданы они по образу и подобию человека...

  10. Jeff

    В комментариях уже во всем обвиняют эгоизм и прочие эмоции, а причина наверняка какая-нибудь банальная и скучная, ошибка в коде например или ещё что.

  11. BunnyCat

    Противоположная ситуация: https://www.youtube.com/watch?v=zWuw7tWbrlw

  12. 10022017

    Мм.. комментарии - боль. Меркетологическая зараза "ИИ" зажирает всё больше мозгов. (отправлено из iOS приложения Hi-News.ru)

  13. Elitnyy

    Спасибо. Недоглядели (отправлено из приложения Hi-News.ru)

  14. bronmak

    Комментарии ужасные.. Грустно и печально от того что люди ведутся на такие вбросы, рекламу так сказать.. Все очень просто, если у бота Х прописано, что небо голубое, а трава зеленная, а у бота Y прописано, что небо светло синее (не голубое), а трава салатовая и при этом бот Х имеет право последнего слова в статье про небо, а бот Y в статье про траву, то когда они будут пытаться менять цвета в статьях друг друга получится такая якобы война. Пример очень примитивные, но суть должна быть понятна.. Написать две программы одна с которых открывает дверь, а вторая закрывает, а потом всем рассказывать что у нас тут ИИ воюют между собой за дверь. Ну вы серьезно ?

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.