В «Википедии» разгорелась настоящая скрытая кибервойна между ботами

«Википедия» является одним из самых популярных веб-сайтов в Интернете (согласно самой же «Википедии», ссылающейся на данные Alexa Internet и SimilarWeb). На запущенном в 2001 году сайте к настоящему моменту содержится более 40 миллионов статей различной тематики, написанных почти на 300 языках мира самими же пользователями этого портала. Казалось, вот она – тихая гавань свободного Интернета. Однако под недрами всей этой бесплатной информации и знаний кипит настоящая скрытая кибервойна.

В «Википедии» разгорелась настоящая скрытая кибервойна между ботами. Фото.

Исследование и анализ истории за первые 10 лет существования «Википедии» показал, что огромное число автоматизированных программных «ботов» — алгоритмов редактирования статей, работающих на базе искусственного интеллекта – оказались втянуты в бесконечно продолжающиеся эпические споры вокруг специфики редактирования опубликованных на сайте статей. Каждый из этих алгоритмов пытается оставить за собой право последнего слова, продолжая бесконечно вносить те или иные правки в ту или иную статью.

«Бои между ботами могут быть гораздо продолжительнее, чем споры между людьми. Люди обычно «остывают» уже через пару дней, однако боты могут продолжать это дело годами», — комментирует исследователь Таха Яссери из Оксфордского университета.

В своем исследовании Яссери вместе с коллегами проследили за случаями внесения правок в «Википедию» между 2001 и 2010 годом. Несмотря на то, что в ранние годы существования сайта отмечалась очень низкая активность редакторских ботов, эта активность резко возросла, как только сама платформа, на которой этот сайт расположен, а также технологии автоматизированных ботов эволюционировали. Исследователи отмечают, что на 2014 год около 15 процентов ото всех правок на всех языках в «Википедии» принадлежало именно редакторским ботам, даже несмотря на то, что на долю алгоритмов приходится всего 0,1 процента от общего штата редакторов «Википедии».

Редакторские боты выполняют на сайте самую разнообразную работу. Помимо внесения редакторских правок, они также пресекают вандализм (ведь информацию на сайт может внести любой желающий, прошедший регистрацию), собирают список пользователей на блокировку, создают ссылки, проверяют орфографию, а также автоматически вносят новый контент на сайт.

В своей изначальной форме эти боты создавались для помощи людям – не только редакторам сайта, но и пользователям, — однако, как оказалось, это правило совсем не действует, когда речь идет о взаимодействии ботов между собой.

В качестве примера в исследовании приводятся два бота — Xqbot и Darknessbot, — написавшие для портала в общей сложности более 3600 статей на самые разные темы, начиная от греческого короля Александра и заканчивая британским футбольным клубом «Астон Вилла». В промежуток с 2009 по 2010 год Xqbot отклонил более 2000 правок, внесенных ботом Darknessbot. Последний в свою очередь решил оказать ответную услугу и забраковал около 1700 редакторских правок, внесенных ботом Xqbot. Еще одна эпическая битва произошла между алгоритмами Tachikoma и Russbot. Каждый из них в общей сложности забраковал более 1000 внесенных другим правок.

Подобное соперничество стало для исследователей настоящим сюрпризом, особенно при учете того, что наличие оного между ними никогда не предполагалось, но тем не менее было каким-то образом инициировано.

«На самом деле мы не ожидали увидеть чего-то интересного. Если рассматривать всех этих ботов по отдельности, то можно уснуть от скуки», — комментирует Яссери.

«Поэтому факт наличия соперничества между ними оказался для нас большим сюрпризом. Поймите правильно: это отличные боты, отлично справляющиеся с поставленными перед ними задачами. Они были разработаны с добрыми намерениями и основаны на одних и тех же открытых технологиях кода. Но видеть такое! Это не может не удивлять».

Еще одним сюрпризом для исследователей стало то, насколько отличается количество конфликтных случаев между ботами с учетом той или иной языковой версии сайта. Например, на немецкой версии «Википедии» было отмечено меньше всего конфликтов – около 24 случаев на каждого бота в среднем за рассматриваемый 10-летний период. На португальской «Википедии» было отмечено наибольшее число подобных стычек – в среднем 185 конфликтов на каждого бота. Бои на английской версии «Википедии» проходят в среднем темпе. Там на каждого бота в среднем приходится по 105 конфликтных случаев за последние 10 лет.

«Мы отмечаем, что боты ведут себя по-разному в различных культурных средах и количество конфликтов между ними тоже очень отличается», — объясняет Милена Цветкова, один из участников исследования.

«Эта информация носит весьма практичный характер. Ведь она может быть полезна не только при разработке искусственных агентов, но и позволяет изучить их возможное будущее поведение. Мне кажется, стоит копнуть поглубже в эту своеобразную социологию ботов».

При таком активном развитии автоматизированных ИИ-систем, становящихся все мощнее и популярнее, а также учитывая вероятностные культурные различия в их программировании, нам следует уделить подобным явлениям куда больше заслуженного внимания. В противном случае судьба нашего будущего может однажды стать зависимой от результатов одного из подобных споров:

В «Википедии» разгорелась настоящая скрытая кибервойна между ботами. Фото.