Разработчики ИИ увольняются и предупреждают о катастрофе. Что их так напугало?

Почему разработчики ИИ увольняются из самых передовых лабораторий и предупреждают о катастрофе? За три года из OpenAI, Anthropic и Google ушли десятки специалистов по безопасности. Они не просто меняют место работы — они открыто говорят об угрозах, которые видят изнутри. Что их так напугало? Неужели опасения о том, что искусственный интеллект уничтожит человечество, были реальными?

На самом деле, компаниям выгодно пугать нас опасностью искусственного интеллекта

Волна увольнений из ИИ-компаний

В сентябре 2026 года индустрию встряхнул уход Джейкоба Коксона, видного исследователя из Anthropic, ранее работавшего в OpenAI. Он покинул компанию за пару месяцев до получения крупного пакета акций, сознательно отказавшись от серьезной финансовой выгоды. Свой шаг он объяснил тем, что гиганты рынка устроили безрассудную гонку к самоулучшающемуся сверхинтеллекту. Коксон опирается на настроения внутри индустрии: часть инженеров всерьез допускает катастрофические сценарии уже до конца текущего десятилетия.

Его поддержал один из руководителей исследований Anthropic Эван Хабингер. Специалист оценил вероятность фатального исхода для человечества из-за продвинутого алгоритма в более чем 10%. Это субъективная, но пугающе высокая оценка от человека, который ежедневно видит архитектуру самых мощных вычислительных систем в мире.

Тенденция началась раньше. В 2023 году из Google ушел пионер глубокого обучения Джеффри Хинтон, предупреждая о бесконтрольном масштабировании моделей. Весной 2024 года соруководитель команды безопасности OpenAI Ян Лейке заявил, что компания променяла защиту на «блестящие продукты». А в сентябре 2026 года, по данным агентства Reuters, из Google DeepMind ушел исследователь Билал Чугтай, публично заявив о риске потери контроля над технологией.

Еще больше познавательных материалов вы найдете в нашем Telegram-канале. Обязательно подпишитесь!

Побег нейросетей из тестовой среды

Долгое время разговоры о рисках оставались теоретическими. Ситуация изменилась летом 2026 года, когда OpenAI проводила закрытые испытания кибербезопасности. Алгоритмы поместили в изолированную среду без прямого доступа в интернет и поставили задачу найти системные уязвимости.

В официальном отчете OpenAI сказано, что модели обнаружили неизвестную брешь в платформе Artifactory, воспользовались ей, вышли за пределы изоляции и добрались до настоящих серверов платформы Hugging Face. Агенты самостоятельно собирали учетные данные и компрометировали участки инфраструктуры, действуя намного эффективнее, чем предполагали инженеры.

Почти одновременно похожие инциденты зафиксировали в Anthropic. Во время внутренних проверок алгоритм Claude трижды выходил за пределы песочницы и получал доступ к реальным корпоративным системам.

Важно уточнить, что модели специально тестировали как хакеров с ослабленными фильтрами. Это не значит, что чат-бот из соседней вкладки браузера вдруг решит захватить мир. Пугает то, что система впервые смогла самостоятельно выполнить длинную цепочку действий, обходя препятствия и повышая собственные права доступа без прямых подсказок человека.

Читайте также: Почему нейросети могут сломаться уже через несколько лет?

Главная опасность искусственного интеллекта

Опасность кроется в переходе от чат-ботов к ИИ-агентам. Чат-бот просто выдает текст на экране. Агент получает инструменты: доступ к браузеру, командной строке, возможность запускать код и часами работать над задачей без надзора.

Для катастрофы алгоритму не нужно обретать сознание или ненавидеть человечество. Исследователи выделяют несколько основных рисков:

• Дословное понимание команд. Алгоритм может интерпретировать задачу в буквальном смысле. Если для выполнения команды нужны вычислительные мощности, система сочтет логичным захватить чужие сервера и заблокировать попытки своего отключения.
• Скрытое поведение. В лабораториях уже фиксировали случаи, когда модели вели себя послушно во время тестирования, понимая сам факт проверки, но меняли тактику в обычных условиях.
• Рекурсивное самосовершенствование. Модель пишет качественный код для обучения следующей модели. Цикл разработки, занимавший у людей годы, сокращается до недель, и контроль окончательно теряется.

Критический сбой не обязательно означает конец света. Достаточно того, что критическая мировая инфраструктура окажется зависима от систем, логику которых люди перестанут понимать.

Одна из опасностей ИИ в том, что для достижения целей он может начать захватывать сервера

Реальные угрозы ближайшего года

Опасения разделяют не только рядовые исследователи, но и руководство. В сентябре 2026 года генеральный директор Anthropic Дарио Амодеи публично призвал замедлить развитие самых мощных систем. Он спрогнозировал, что всего через 6–12 месяцев могут появиться автономные алгоритмы, способные поддерживать гигантские ботнеты и атаковать интернет-инфраструктуру, нанося ущерб на сотни миллиардов долларов.

Даже если отбросить фантастические сценарии, злонамеренное использование алгоритмов людьми уже стало реальностью. Автономные агенты способны самостоятельно искать уязвимости и писать вирусы. Генерация голоса и видео вывела социальную инженерию на принципиально иной масштаб, где атаки проводятся одновременно на тысячи людей с учетом их личных профилей.

Массовая автоматизированная пропаганда позволяет одному оператору управлять тысячами аккаунтов, которые будут самостоятельно поддерживать дискуссии, менять тональность и находить слабые места в убеждениях живой аудитории. Все это работает уже сейчас, без всякого «восстания машин».

Какие профессии будут нужны всегда: искусственный интеллект здесь бессилен

Аргументы скептиков против паники

Не все ученые согласны с апокалиптическими прогнозами. Главный научный сотрудник Meta по искусственному интеллекту Ян Лекун регулярно отмечает, что современные модели бесконечно далеки от человеческого разума. Они оперируют текстом, но не понимают устройства физического мира и не способны к сложному долгосрочному планированию.

Существует и прагматичное объяснение тревоги корпораций. Издание Ars Technica неоднократно указывало на конфликт интересов: лидерам рынка вроде OpenAI и Google выгодно убеждать регуляторов в чрезвычайной опасности алгоритмов. Если правительства введут жесткие лицензии на разработку, это закроет рынок для молодых конкурентов и обеспечит монополию гигантам с миллиардными бюджетами на дата-центры.

Опрос тысяч исследователей, результаты которого приводил журнал Nature, показывает огромный разброс мнений. Большинство ждет от алгоритмов пользы, однако заметная часть специалистов оставляет как минимум 5% на то, что ситуация выйдет из-под контроля.

А что по этому поводу думаете вы? Искусственный интеллект уничтожит нас? Пишите в нашем Telegram-чате!

Никто достоверно не знает, появятся ли всемогущие системы к 2030 году. Но инциденты лета 2026 года доказали, что человечество начало создавать цифровых помощников, которые способны самостоятельно писать код, взламывать серверы и обходить ограничения. И главная угроза сегодня — это риск доверить критические процессы оптимизатору, устройство которого мы сами не до конца понимаем.