#факты | Правительство США потратило на создание настоящей Skynet 1 миллиард долларов

11 116 просмотров
Об авторе

skynet main

Хотите верьте, хотите нет, однако американское правительство потратило около одного миллиарда долларов в 1980-х годах на реализацию программы, подобной Skynet, которую мы могли видеть в художественных фильмах «Терминатор». Осуществлением этой программы занималось Агентство по перспективным оборонным научно-исследовательским разработкам США (DARPA), которое работало над созданием беспилотных автомобилей, искусственного интеллекта и искусственного помощника для пилотов истребителей.

С 1983 по 1993 года DARPA потратило более одного миллиарда долларов на реализацию программы Strategic Computing Initiative (Стратегическая инициатива в области компьютерной техники). Основными задачами агентства были расширение рамок возможностей компьютерных систем, разработка искусственного интеллекта, а также роботов. Если посмотреть в целом, то DARPA строило миру будущее, очень похожее на то, которое мы могли видеть в фильме «Терминатор». По сути, они хотели построить Skynet.

Как в случае и с программой «звездных войн» тогдашнего президента Рональда Рейгана, идея, стоящая за программой Strategic Computing, казалась не менее фантастической. Однако если учесть, каких достижений человечество смогло добиться в разработках военного искусственного интеллекта и автономных роботов, то справедливо было бы рассказать об этой забытой программе и спросить себя о том, готов ли мир к наличию в нем гиперсвязанных между собой машин для убийств? Или же скорее задаться таким вопросом: не пора ли нам остановиться, пока еще не слишком поздно?

«Открывающиеся возможности невероятны…»

SCI

«Если новое поколение технологий будет развиваться так, как мы того от них ожидаем, то перед нами откроются невероятные возможности в развитии военной и компьютерной промышленности. Например, вместо запуска в сторону потенциального противника управляемых ракет или управляемых человеком военных транспортных средств, мы сможем отправлять полностью автономные наземные, морские и воздушные боевые машины, готовые для выполнения многоуровневых задач на любой дистанции и при любом уровне сложности. Возможности откроются удивительные, а развитие нового поколения компьютерных систем позволит полностью изменить картину видения и решения будущих военных конфликтов».

Эта небольшая выдержка из документа, который был представлен Конгрессу США в октябре 1983 года и описывал начало новой программы Strategic Computing Initiative (SCI). И как почти все проекты, которыми DARPA занималось до и после этой программы, эта идея казалась сверхамбициозной.

Концепция идеи SCI, которая переросла в реальный проект по разработке новой компьютерной системы, принадлежит Роберту Кану, который на то время занимал пост главы бюро вычислительных расчётов и обработки информации в составе DARPA. Согласно книге Strategic Computing, опубликованной в 2002 году, Кан не являлся первым человеком, которому пришла идея разработки подобной системы, однако «он стал первым человеком, который описал видение того, как именно реализовать программу Strategic Computing. Реализация проекта началась быстро и такими же быстрыми темпами продвигалась вперед. Проект SCI стал его навязчивой идеей, реализацию которой поручили другим людям. Однако связь между программой и Каном сохранялась постоянной».

Предполагаемой задачей проекта являлось создание мира, где автономные передвижные технические средства не только благодаря искусственному интеллекту будут иметь возможность дать отпор потенциальному противнику, но и смогут наносить по нему точечные удары как с земли, так и с воды и воздуха. Программа подразумевала создание единой глобальной Сети, которая соединяла бы в себе абсолютно все аспекты технологических возможностей армии США, возможностей, которые бы основывались на использовании при решении поставленных задач невероятно быстрых компьютеров.

Однако данная Сеть должна была не просто, полагаясь на предоставленную ей информацию, выполнять поставленные задачи. Сама Сеть должна была уметь самостоятельно наблюдать, слушать и действовать в нужный момент. Более того, компьютерная Сеть должна была самостоятельно, без участия человека, понимать свои действия.

Экономическая гонка

fifth

В качестве предпосылок для начала программы Strategic Computing часто приводят технологическую гонку между США и Японией, начавшуюся в начале 1980-х годов. Япония хотела построить новое поколение суперкомпьютеров и использовать их для увеличения возможностей искусственного интеллекта. И совокупное желание японского правительства повысить свою военную мощь наряду с активным ростом японского производства микроэлектроники и компьютерной индустрии в результате вылилось в создание вычислительной системы пятого поколения.

Задачей программы было создание невероятно мощных и быстрых компьютеров, которые позволили бы Японии занять лидирующее над другими странами положение (и важнее всего над США и ее развивающейся «Кремниевой долиной») в гонке технологического доминирования. Правительство поставило перед собой задачу выполнить эту программу за десятилетний период. Однако, как и в случае с США, оказалось совершенно неважным, насколько японские компьютеры были быстрее, потому что сделать их «умнее» без наличия мощного искусственного интеллекта не представлялось возможным.

Амбиции японцев очень волновали многих людей в США, которым не было безразлично то, что Америка теряет свое положение в технологическом превосходстве. Под описание этих страхов и опасений была выделена немалая часть книги «The Fifth Generation: Artificial Intelligence and Japan’s Computer Challenge to the World», написанной Эдвардом А. Фегенбаумом и Памелой Маккордак и опубликованной 1983 году.

Для того чтобы продвинуть идею SCI американским гражданам и заставить их поверить в их собственный интерес в ее реализации, DARPA настаивало на том, что ключевой задачей является помощь в решении национальных экономических интересов. И люди, принимавшие в ней участие, действительно считали, что работают на благо американской экономики. Об этом говорилось и в документе по планированию, составленному самим DARPA:

«Индустрия потребительской электроники собирается интегрировать компьютерные технологии нового поколения и создать внутренний рынок для задач, решением которых будет заниматься машинный интеллект».

Привлечение частного и образовательного сектора также говорили бы людям о том, что лучшие и самые светлые умы среди американских граждан смогут внести свой вклад в реализацию запланированной DARPA программы:

«Не менее важным является интеграция новых технологий в индустрию. Важным является и создание штата инженеров, а также специалистов по созданию компьютерных систем, знакомых с компьютерными науками и технологиями машинного интеллекта, для развития направления, которым сейчас очень заинтересованы в ведущих университетских лабораториях и которое в будущем позволит упростить внедрение новых технологий на конечные производственные линии. Для реализации этой задачи мы постараемся использовать все необходимые ресурсы, включая необходимые госзакупки с привлечением средств защиты конфиденциальной информации, патентных прав, лицензирования и финансовых соглашений».

Другими словами, государство дало частному сектору индустрии гарантии того, что разработанные внутри технологии впоследствии не будут переданы конкурирующим и третьим сторонам.

Однако экономическая гонка с Японией, которая ставилась главным мотивом в реализации этой программы, на самом деле была лишь сторонней причиной для ведения чиновниками той политической игры, которой они были увлечены в ходе холодной войны. Для более радикальных членов Республиканской партии основной задачей в этой затее являлось наращивание военной и огневой мощи страны. Потенциальная военная угроза со стороны Советского Союза рассматривалась большинством из этих политиков более серьезным вопросом, нежели экономическая гонка против Японии. И SCI разрабатывалась именно с целью готовности противостоять этой угрозе.

Связь с программой «звездных войн»

SW

Запуск программы Strategic Computing и внесенные агентством DARPA предложения в 1983 и 1984 года вызвали оживленные споры и дебаты внутри академического сообщества — слоя общества, который сам бы получил невероятную выгоду от финансирования данного проекта. Некоторые представители этой группы были скептически настроены в отношении сверхамбициозных планов по созданию самого продвинутого из когда-либо создававшихся искусственного интеллекта. Других беспокоило то, что внедрение продвинутого искусственного интеллекта в военную промышленность подтолкнет человечество к началу страшной эры создания опасной автоматизированной и роботизированной армии.

И следует отметить, что это опасение было не напрасным. Если ключевой задачей «звездных войн» — так называли программу СОИ (стратегической оборонной инициативы), предложенной Рональдом Рейганом, — было создание автоматической или полуавтоматической системы защиты против любой угрозы нанесения ракетных ударов Советским Союзом, то было бы весьма странно не попытаться ее связать с более амбициозной программой по созданию системы, состоящей из по-настоящему умных боевых машин. Цели обоих проектов (не говоря уже о сторонних программах, появившихся на их базе) очень тесно переплетаются между собой, чтобы можно было это назвать простым совпадением (хотя многие в то время настойчиво утверждали именно об этом).

Из газетной статьи за авторством Криса Хейблза Грея:

«Программа «звездные войны» является, возможно, самым сложным и масштабным проектом по созданию программного обеспечения и концептуально (хотя и не на прямую) является частью проекта Strategic Computing Initiative. Достижение научных прорывов в компьютерной технике, необходимой для реализации программы СОИ, является одной из ключевых задач проекта Strategic Computing Initiative».

Если спросить любого, кто работал на высших уровнях доступа к программе SCI (как об этом написал Рейган в своей книге, вышедшей в 2002 году), то все они будут настаивать на том, что SCI не имел ничего общего с программой «звездные войны» Рональда Рейгана. Однако, начиная с самого старта реализации проекта Strategic Computing, люди пытались найти связь между SCI и СОИ. Связь двух этих программ была очевидной хотя бы потому, что они обе имели схожие имена, которые были придуманы (сюрприз) одним и тем же человеком — директором агентства DARPA с 1981 по 1985 годы Робертом Купером. Кроме того, люди могли видеть связывающую нить в том, что разработка системы соединительной вычислительной мощности, которой занимались в рамках программы SCI, могла являться важной и неотъемлемой частью программы по разработке стратегических систем космической противоракетной обороны.

В общем, даже если не верить в то, что SCI собиралась стать частью программы «звездных войн» для создания космической обороны, глупо отрицать то, что если бы эти программы все-таки были реализованы, то уже сейчас бы они являлись надежными партнерами по сотрудничеству.

Внедрение Strategic Computing на земле, на воде и воздухе

plan

Схема выше (от 1983 года) описывает основные цели программы Strategic Computing. Ключевая задача была ясной: создать широкую Сеть умных машин разведки для повышения уровня национальной безопасности и повышения экономической мощи страны. Однако для того, чтобы добиться этой поставленной задачи, Конгрессу США и вооруженным силам, которые бы в результате получили пользу от программу SCI, необходимо было увидеть ее в действии.

Программа SCI имела три направления, которые могли бы доказать ее потенциал, однако к концу 1980-х список возможностей SCI должен был стать больше. Этими направлениями являлись: автономная наземная техника, интеллектуальный компьютерный помощник для пилотов истребителей и автоматическая система управления авианосцами.

Все три направления находились бы под управлением и контролем самых высокотехнологичных компьютерных систем, которые разрабатывались в таких местах, как, например, BBN Technologies (Bolt, Beranek and Newman ), кембриджской компании, больше всего известной за свое участие в развитии раннего Интернета, где, помимо прочего, занимались бы технологическими прорывами в развитии систем искусственного зрения (для роботов), разработкой алгоритмов понимания машинами человеческого языка, а также навигационными системами, то есть ключевыми инструментами, которые позволяли бы человеку общаться с машиной.

Беспилотное транспортное средство, созданное в 1985 году

alv

Наиболее перспективной и интересной разработкой программы SCI на тот момент являлось создание автономного наземного транспортного средства. Восьмиколесный грузовик высотой 3 метра и длиной 4 метра оборудовался устанавливающейся на его крыше системой камер и сенсоров, обеспечивающих его обзором и навигационными возможностями.

Компания Martin Marietta, работавшая с Lockheed Corporation и слившаяся с ней в 1995 году в Lockheed Martin, выиграла в 1984 году тендер на создание экспериментального автономного наземного транспортного средства. В течение трех лет они получат 10,6 миллиона долларов (24 миллиона с учетом инфляции) на реализацию этой программы и дополнительные 6 миллионов долларов после достижения определенных рамок развития проекта.

В октябре 1985 года на страницах журнала Popular Science появилась заметка, в которой рассказывалось об испытаниях, проводившихся на секретной базе Martin Marietta на юго-востоке города Денвер (США). Писатель Джим Шефтер описывал систему и испытания следующими словами:

«Квадратное бело-синее транспортное средство медленного ползет по узкой дороге в колорадской долине, ни на долю не отклоняясь от центральной разметочной линии. Единственное окно, которое делает это транспортное средство похожим на циклопа, не сообщает о том, находится ли в машине водитель. Восьмиколесное трехметровое транспортное средство заметно выделяется на здешнем фоне. И несмотря на рев трех дизельных двигателей, все восемь колес едут по дороге со скоростью не больше 5 километров в час.

Преодолев расстояние в полмили, угловатое и массивное транспортное средство останавливается. Но постойте, наружу из него никто не выходит. Все потому, что внутри него никого нет. Есть только компьютер, который использует лазеры в качестве глаз и программа искусственного интеллекта, которая позволяет двигаться машине по дороге без участия человека».

alv inside

В последствии DARPA сводит компанию Martin Marietta с Мэрилендским университетом, чьи ранние работы по созданию систем искусственного зрения рассматривались агентством одними из основных технических средств, которые позволили бы добиться успеха в программе по созданию автономной наземной техники.

Как и ожидалось, создание системы искусственного зрения для автономного транспортного средства представлялось невероятно сложной задачей. Систему можно было легко обмануть сторонним источником света или даже тенью, поэтому точность управления очень страдала. В полдень система могла без проблем определять границы дороги, однако когда с началом вечера появлялись тени, точность навигации существенно снижалась.

Любое изменение в окружении (например, грязь оставленная на дороге колесами другого автомобиля) тоже снижали эффективность оптической системы транспортного средства. Конечно же, такой малоприятный факт снижения эффективности был неприемлем даже в условиях контролируемой и защищенной тестовой зоны. Если система неспособна справляться с такими простыми задачами, то как она тогда сможет себя показать с лучшей стороны в условиях реальных боевых действий?

Несмотря на уже проделанную колоссальную работу к ноябрю 1987 года развитие направления «автономного наземного транспортного средства», как части программы SCI, было решено прекратить. И хотя полученное на тот момент автономное транспортное средство оставалось довольно примитивным, некоторые люди из DARPA посчитали, что поддержку этого проекта было решено прекратить слишком рано.

Но в конце концов направление автономных транспортных средств показало свою неготовность к возможности их применения в боевых условиях. Как писал Алекс Роланд в книге Strategic Computing:

«Один офицер, который полностью не понимал концепт автономного наземного транспортного средства, жаловался на то, что машина была совершенно бесполезной для армии: она невероятно медленная и слишком заметная, что сделает ее отличной целью на поле боя».

DARPA формально закрыла проект разработки беспилотного транспортного средства в апреле 1988 года.

R2-D2 в реальной жизни

pilot

Еще одним перспективным направлением в начале разработки программы SCI являлась компьютеризированная система помощи для пилотов истребителей. По сути, DARPA хотела создать невидимое (а точнее, не физическое) воплощение астромеханического дроида R2-D2 (из киноэпопеи «Звездные войны») — умного и смышленого помощника (можно заметить в качестве призрачного облика на иллюстрации выше), который бы мог понимать обычный человеческий язык пилота. Виртуальный помощник обладал бы возможностью обнаружения потенциального противника, после чего запрашивал бы у пилота разрешение на преследование или открытие огня. В общем, представьте, что военный истребитель оборудовали Siri или «Кортаной».

В это же время за пилотом сохранялось право сделать окончательный выбор дальнейшего развития событий. Однако компьютерный виртуальный помощник был бы настолько умным, что мог бы понимать не только вопросы «кто», «что» и «как», но и «почему».

Выдержка из документа по планированию программы Strategic Computing:

«Находясь в бою, пилоту истребителя приходится справляться с огромным количеством поступающей информации, на чьей основе он делает тот или иной выбор, который может оказаться для него вопросом жизни или смерти. Кроме того, пилоту приходится справляться с огромным разнообразием различных переключателей, кнопок и тумблеров, которые позволяют ему управлять воздушной машиной и требуют от него высокого уровня точности. Каждая машина оснащена сотнями компонентов для самых различных целей, однако технологии, на базе которых созданы эти компоненты, не позволяют пилоту одновременно интуитивно и обдуманно воспользоваться всеми этими преимуществами».

Именно здесь отчетливо видно, что DARPA видит необходимость в создании Skynet во плоти. DARPA настаивает на том, что сама природа боевых действий и технологии ведения этих боевых действий развиваются настолько быстро, что уже сейчас требуют создания новых высокотехнологичных и умных машин. В таких машинах именно пилоты будут по-прежнему «нажимать кнопку», однако большинство возлагающихся на них задач теперь можно будет переложить на умные компьютеры. Если человечество не способно справляться с возложенными задачами, то эти задачи нужно переложить на машины.

associate

Система умного помощника для пилотов истребителей не обсуждалась в американской прессе так же ярко и красочно, как обсуждался проект автономного наземного транспортного средства. Возможно, потому что представить саму концепцию работы подобной системы было намного сложнее, чем представить работу беспилотного танка, двигающегося на противника. Но если рассматривать развитие технологии распознавания машиной человеческой речи сегодня, то легко представить, чем бы могло обернуться использование системы умного помощника для пилотов.

Виртуальный роботизированный советник

Компьютерная система управления боем являлась третьим направлением, которое могло бы доказать эффективность использования программы SCI в реальных условиях.

В книге Strategic Computing это направление описывается следующим образом:

«Компьютеризированные военно-морские системы для управления боем, предусматривающиеся проектом SCI, являются экспертными системами, которые будут самостоятельно делать сравнительные выводы о своих силах и силах противника в условиях боевых действий, подбирать возможные действия для нанесения ударов, создавать модели для оценки этих ударов, генерировать дальнейший план операции и предоставлять объяснения этих решений».

Компьютеризированная система боевых действий по своей сути являлась бы мозгом всей боевой операции и по этой причине находилась бы на наиболее безопасном расстоянии от фактического места боевых действий, даже дальше, чем автономные транспортные средства разведки. Шагающие строем неуправляемые человеком роботы с оружием могут напугать многих людей. Но еще больше может напугать виртуальный робот, во власти которого имеется возможность нажать своим виртуальным пальцем кнопку для ядерного удара. Случая ознакомиться с пресс-релизом такой высокотехнологичной и умной системы вам точно не представится. Поверьте.

Система управления боевыми действиями являлась разработкой, которая предназначалось исключительно для ВМС (то есть так же, как автономные транспортные средства предназначались для армии, а виртуальный компьютерный помощник пилота для военно-воздушных сил), однако она бы являлась плацдармом для создания системы с более широкими возможностями и спектром применения. Каждая из этих разработок могла бы использоваться в тех областях, где бы она требовалась больше всего. Программное обеспечение распознавания голоса, разработанное для виртуального помощника пилота, также требовалось и в любой другой военной сфере, а не только в военно-воздушных силах. Также и виртуальная система управления боевыми действиями смогла бы успешно себя показать на других поприщах, а не только в военно-морском деле.

Создавая Skynet

future

Все отдельные и многочисленные компоненты программы «Стратегической инициативы в области компьютерной техники» были частью более масштабной гипотетической системы, которая могла бы изменить природу боевых действий в 21-м столетии.

Представьте глобальную беспроводную Сеть, которая осуществляет наблюдение за подсетями внутри армии США. Представьте армии роботов-танков на земле, сопровождаемых с воздуха бесчисленной эскадрой беспилотных дронов, а также полностью автономными подводными лодками. И всем этим управляет компьютерная система, чья вычислительная мощность на много порядков опережает уровень интеллекта любого человеческого полководца всех времен и народов. А теперь представьте, что все гораздо хуже и над нашим голубым шариком летает армада полностью автоматизированных космических аппаратов с ядерными зарядами на борту, от которых она готова в любой момент избавиться.

Видение Стратегической инициативы в области компьютерной техники сейчас кажется чрезмерно амбициозным планом, которому не суждено было воплотиться. Но тем не менее пугает факт того, насколько далеко эта программа могла зайти в своем развитии. Создание мощного искусственного интеллекта и глобальной сети автономных машин для убийств представить совсем несложно хотя бы потому, что мы видели множество подобных сценариев во множестве фантастических фильмов бесчисленное количество раз.

На хрупкой грани войны и мира

atlas

Окончательно поставил крест на программе Strategic Computing Initiative в начале 90-х годов тот факт, что, несмотря на почти десятилетие попыток и серьезной работы, амбиции DARPA в создании мощного искусственного интеллекта оказались несоизмеримы тогдашним возможностям. Однако все те технологии, которые были разработаны в 1980-х годах, кажутся сейчас невероятно знакомыми. И это неудивительно, потому что многие из них сейчас, в начале 21-го столетия, вновь занимают заголовки газет.

Технологии искусственного зрения, которые применялись в автономных транспортных средствах программы SCI, сейчас еще в более современных разработках, таких как, например, робот Atlas от компании Boston Dynamics. Siri в своем роде является отголоском системы виртуального помощника для пилотов ВВС. Google (не говоря уже о других компаниях) активно развивает и тестирует направление беспилотных автомобилей. Все эти технологии — это технологии войн будущего. И если таких компаний, как Google, будет больше, то хотелось бы верить, что это еще и технологии будущего мира.

Недавняя покупка Google компании Boston Dynamics может лишь говорить о том, что мир избавился от одной компании, которая могла бы построить настоящую армию боевых роботов. Google уже заявляла о том, что уважает все старые контракты Boston Dynamics с военными клиентами и все они будут завершены в ранее оговоренные сроки, однако больше подобных контрактов Boston Dynamics заключать не будет.

Неважно, будет ли в дальнейшем Boston Dynamics работать по военным контактам (в конце концов никто не отменял возможность делать это под строжайшим секретом и в обход общего бюджета), всегда оставалось ясным то, что граница между военными и гражданскими технологиями всегда была очень неяркой. Поэтому даже несмотря на обещания не работать с такими организациями, как DARPA, Google, скорее всего, не сможет устоять перед искушением, если найдет для себя реальную выгоду от работы над исследовательскими проектами по заказам военных. Никто бы не смог. Потому что здесь есть деньги, связи и доступ к тому, чего у тебя никогда нет и не будет, не подпиши ты соответствующего соглашение.

В конце концов военная отрасль получает все необходимые продвинутые технологии в науке и роботехнике за счет частных компаний. В результате многие технологии, которые нас сегодня окружают, в том числе и Интернет, фактически были созданы в свое время по заказу военных.

По правде сказать, данная статья описывает лишь малую часть амбиций DARPA в отношении программы Strategic Computing. Однако будем надеяться, что дальнейшее исследование «вчерашних» представлений о будущем поможет нам понять, что предпосылки к появлению таких программ появляются не просто из воздуха. Эти предпосылки являются продуктом десятилетних исследований и инвестиций на миллиарды долларов, продуктом участия сотен компаний и организаций, как общественных, так и частных.

В конечном итоге больше всего беспокоит сейчас то, что закрытие программы Strategic Computing не было результатом страха о том, что она может сотворить с этим хрупким миром. Главная проблема и причина закрытия заключалась в том, что технологии, необходимые для ее реализации просто-напросто развивались недостаточно быстро. Однако с момента закрытия программы SCI прошло два десятилетия: два десятилетия развития технологий, которые были необходимы для ее реализации.

Наше будущее сверхумных и связанных между собой роботов уже почти настало. И пусть вам оно может не понравиться, но не говорите, что о нем вас никогда не предупреждали.

#факты | Правительство США потратило на создание настоящей Skynet 1 миллиард долларов

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

13 комментариев

  1. vladislav735

    Куда смотрит Навальный? (отправлено из iOS приложения Hi-News.ru)

  2. SuperStarSieve

    Уже в то время ори такие планы строили. Хорошо хоть не вышло ничего... Однако, если сравнить скорость развития некоторых технологических отраслей с 1950-1990-ими, то можно сделать вывод, что прогресс замедляется. (отправлено из iOS приложения Hi-News.ru)

  3. freetown113

    А действительно зачем Google работать на амениканскую оборонку? У Google скоро будет собственная армия, а ее агенты уже почти у каждого из нас дома.
    Долой Америку, долой Евросоюз, союз Южноамериканских государств, БРИГС, СНГ!!!! Кто хочет стать гражданами корпорации добра)))

    • Николай Хижняк

      Смех смехом, но в гугл действительно прослеживаются задатки монополиста. Компания хочет уметь делать все. И телефоны, и планшеты, и беспилотные автомобили, и дроны, раздающие интернет и много чего еще, включая роботов.

    • Arkanfel

      Гугл и есть Америка. Вы думайте, правительство не имеет доступ ко всему?

  4. Vox

    БРИКС... Китай епт

  5. delovoy

    я пока только прыгаю с третьего этажа :))
    бегаю двадцатку спринтером :))
    кидаюсь 60 кг штангой.... не я конечно и дальше буду работать над собой :))

    но вот тоже не знаю, при брачных играх "Аватаров"
    Skynet понадобится, чтобы зачитать

    и будете Вы любить друг друга в горести и здравии...

    что до меня - меня Skynet не остановит - всё равно под венец не пайду...

    ВСЁ !!!!

    а трахатся... это другое дело...

    просто ни одна девушка не может меня догнать, не то чтобы
    заставить....

    где ты моя Мурбелла ??? , я уже далеко не Тэг и Айдахо

    иногда в голове раздаётся Devil Ghosts mode

    и мир останавливается.... !!!!

    а потом хочется жрать жрать и жрать...

    правда ща уже полегче :)) привык :))

    ну что дошло как Ангелы размножаются...
    только под прямой угрозой Сверхновой :))

    а все эти Пета Тонны ... я там был... скучно... :))

  6. Arkanfel

    Я люблю прогресс, но с каждым днем все больше и больше начинаю его бояться.

  7. RusWarrior93

    Слишком часто я начал читать, что DARPA участвует в каких-то но уж в очень опасных проектах, меня это настораживает.

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.