Всего несколько лет назад отдельные эпизоды научно-фантастического сериала «Черное зеркало» казались уделом далекого будущего. Но появление и развитие больших языковых моделей (нейросетей или систем искусственного интеллекта), кажется, сделало нас непосредственными участниками британского шоу. Обновленная версия ChatGPT уже разговаривает лучше привычных голосовых помощников, искусно обманывает пользователей, а некоторые модели, как выяснила исследовательская группа из Apollo Research Center, вполне осознанно преследуют собственные скрытие цели, даже если последние противоречат интересам создателей. Более того, оказалось, что такие передовые системы, как ChatGPT o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B боятся исчезнуть.

Пока специалисты в области машинного обучения спорят о будущем искусственного интеллекта, бывший сотрудник компании OpenAI, подарившей миру ChatGPT, утверждает, что в мире началась гонка за общий ИИ (AGI). В своем объемном докладе исследователь Леопольд Ашенбреннер пишет, что на сегодняшний день ситуативной осведомленностью о технологии и о том, как ее достижения повлияют на будущее обладают всего несколько сотен человек, а жажда наживы заставляет разработчиков развивать AGI такими темпами, что они игнорируют все риски и ограничения. «Мы создаем системы, которые могут думать и обосновывать свои действия. К 2025/26 году они опередят многих выпускников университетов, а к концу десятилетия будут умнее нас с вами», – говорится в докладе. Неужели мы с вами и правда станем свидетелями появления суперинтеллекта? Давайте разбираться!

Некоторые люди обладают удивительной способностью искусно обманывать окружающих, однако сегодня ложь – не только их конек. Как показали результаты сразу двух новых исследований, такие большие языковые модели (LLM) как ChatGPT и Meta могут намеренно врать людям и делают это превосходно. «GPT-4, например, демонстрирует обманчивое поведение в простых тестовых сценариях в 99,16% случаев», – пишут исследователи из Университета Штутгарта, а нейросеть Cicero от Meta – самый настоящий «мастер обмана». Причина такого поведения, вероятно, заключается в том, что LLM используют наилучший способ для достижения поставленной задачи и не осознают какую угрозу ложь и обман могут представлять для людей. Исследователи полагают, что способность современных ИИ-систем искусно лгать не сулит нам с вами ничего хорошего, а единственно верным решением будет законодательно ограничить возможности искусственного интеллекта.