ИИ дает быстрый ответ, но забирает у нас одну важную привычку

Нейросети дают быстрые и гладкие ответы. А иногда они даже могут претворяться известными людьми вроде Илона Маска. Это удобно, но есть и обратная сторона. Недавнее исследование показало, что чем чаще человек обращается к ИИ, тем реже он использует очень важную в жизни привычку. И со временем это может привести к очень серьезным последствиям.

Общение с нейросетями может сделать нас самоуверенными дурачками

Как нейросети мешают нам думать самим

Недавно команда ученых решила проверить, как наличие умного помощника в виде нейросети влияет на честность людей перед самими собой. В ходе эксперимента участникам задавали каверзные вопросы о визуальных деталях из фильмов — например, просили вспомнить цвет спортивной формы команды в картине «Играй, как Бекхэм».

Для чистоты эксперимента ученые намеренно использовали слабую языковую модель, которая чаще всего ошибалась в подобных специфических задачах. Авторы сделали это специально, чтобы исключить явление, когда человек доверяет действительно правильному ответу. Результаты оказались поразительными.

В контрольной группе, где у людей не было доступа к искусственному интеллекту, участники честно признавались «я не знаю» в 44% случаев, а их общая точность составляла 27%. Но как только у людей появлялась возможность спросить нейросеть, готовность признать свое незнание рухнула до 3%, что стало главным сюрпризом для авторов работы. Участники стали переписывать ответы алгоритма, из-за чего их общая точность упала всего до 9%. Самое пугающее, что при этом уверенность людей в собственной правоте выросла с 30% до 76%. Даже небольшое денежное вознаграждение за правильные ответы не смогло вернуть критическое мышление к норме.

Читайте также: Нейросеть думает за нас, и мы разучились думать сами. Вот доказательство

Почему мы верим ошибкам нейросетей

То, что обнаружили европейские ученые, идеально дополняет теорию, которую ранее в этом году выдвинули исследователи из Уортонской школы бизнеса. Они ввели специальный термин когнитивная капитуляция. Этим понятием описывают состояние, когда человек полностью передает процесс принятия решений машине и выключает внутренний фильтр скептицизма.

В исследовании участники соглашались с совершенно неверными ответами чат-ботов в 80% случаев. Синдром когнитивной капитуляции проявляется через несколько четких признаков:

• человек принимает ответ машины без малейших попыток перепроверить факты в других источниках;
• субъективное ощущение собственной правоты парадоксально возрастает;
• навыки медленного, аналитического мышления постепенно ослабевают из-за отсутствия постоянной практики.

Издание The Next Web отмечает, что новое европейское исследование добавляет к этой картине еще более тревожную деталь. Основная проблема заключается не в том, что люди доверяют фактическим ошибкам или галлюцинациям нейросетей. Главная угроза в том, что само наличие ИИ подавляет привычку сомневаться и осознавать пробелы в собственных знаниях. Мы настолько привыкли получать мгновенные ответы в виде уверенного текста на экране, что разучились останавливаться и размышлять.

Читайте также: Как ChatGPT решил задачу, над которой математики бились 60 лет

Чем опасны ответы нейросетей

По словам соавтора исследования Валерио Капраро, способность сказать «я не знаю» критически важна для любого интеллектуального процесса. Именно эта фраза представляет собой признание границ нашего разума и служит отправной точкой для настоящего обучения. Если мы считаем, что ответ уже лежит у нас в кармане, мы навсегда прекращаем искать истину.

Особую озабоченность у ученых вызывают дети и подростки, которые растут в окружении систем, всегда выдающих готовый результат. Недавнее внедрение ИИ-ответов в поиск Google лишь усугубляет ситуацию, потому что вместо привычного списка ссылок для самостоятельного изучения пользователь сразу получает сгенерированную выжимку, которая подается как абсолютный факт.

Организация Common Sense Media уже назвала такой дизайн интерфейсов неприемлемым риском для школьников и студентов. Современные ИИ-продукты создаются так, чтобы всегда давать ответ, и они почти никогда не признают свою некомпетентность. Люди, которые ими пользуются, просто копируют эту модель поведения.

Еще больше познавательных статей вы найдете в нашем канале в MAX. Подпишитесь прямо сейчас!

В итоге, нейросети остаются прекрасным инструментом для сортировки данных и рутинной работы, но они не должны заменять наше собственное мышление. Это исследование стало напоминанием о том, что нам нужно заново учиться сомневаться. В мире, где алгоритм готов с абсолютной уверенностью выдать любую красивую глупость, умение честно сказать «я не знаю» становится главным признаком по-настоящему живого и сильного ума.