«А есть вы тоже за меня будете?!» Что отупляет детей

В разговорах о том, что «нейросети отупляют школьников», многие пеняют на лень подрастающего поколения и при этом упускают главное. Журналист Михаил Карпов рассказывает для RTVI, что навыки уходят не от лени, а от того, что их перестают применять, и это уже проверили на программистах, врачах, ученых, водителях и пилотах — на всех, кто пользовался плодами автоматизации ровно так, как и было задумано.

В середине августа клинический психолог Ирина Грекова заявила, что примерно у трети российских школьников специалисты фиксируют снижение когнитивных функций, и связала это с нейросетями, которые делают домашку вместо детей. Дальше все как обычно — в комментариях на разных сервисах одни стали требовать запретить чат-боты, а другие многозначительно отмечали, мол, дети всегда были ленивые. Тут бы еще кто-то, наверно, мог бы вспомнить диалог Платона, где письменность объявляют концом человеческой памяти и то, как калькулятор винили в отуплении школьников — а что, разве не похожие случаи?

Кстати, откуда Грекова взяла эту цифру, из новости не очень понятно. По ней получается, что треть школьников — оценка на глаз, сделанная человеком, который видит детей на приеме и обобщает собственное впечатление. Никакого исследования, где кого-то тестировали до и после, там не приводится.

Однако отмахиваться от всего этого не стоит. Проблема, о которой идет речь, абсолютно реальна. Причем дело не только в школьниках, но и в целом в специалистах, которые используют в работе ИИ, и существование этой проблемы подкреплено исследованиями.

Что показали эксперименты, где людей действительно проверяли

Мозг — эволюционно скупой орган, он тратит примерно пятую часть всей энергии тела и всегда был устроен так, чтобы по возможности не тратить ее зря. Если готовый ответ доступен бесплатно и мгновенно, мыслительное усилие просто не совершается — не по злому умыслу, а потому что незачем. В психологии это называется когнитивной разгрузкой, и явление это старое, описанное задолго до появления всяческих чат-ботов.

Прошлым летом группа из MIT Media Lab посадила 54 человека писать эссе — одних с ChatGPT, других с обычным поисковиком, третьих без всего, причем все испытуемые находились под 32-электродным энцефалографом. У группы с чат-ботом связность мозговых сетей во время работы оказалась самой слабой из трех, а просьбу процитировать собственный текст, написанный двадцатью минутами раньше, они выполняли заметно хуже остальных. Стоит, впрочем, отметить, что работа эта — препринт, авторы сами просили относиться к выводам осторожно, и коллеги успели выкатить им подробный список претензий к выборке и обработке ЭЭГ. Но она далеко не одна.

Рядом стоит опрос экономиста, специалиста по менеджменту Михаэля Герлиха. Он выяснил, что чем чаще человек обращается к нейросетям, тем хуже он проходит тесты на критическое мышление, и у молодых этот перекос выражен сильнее всего. Тут тоже есть загвоздка — не выяснено, то ли ИИ притупляет способность рассуждать, то ли к нему изначально охотнее тянутся те, кому рассуждать тяжелее.

Так или иначе, каждую из этих работ по отдельности легко оспорить. Но смотрят эти исследователи в одну сторону, и дело тут не в том, что пользователи чат-ботов просто списывают их ответы. Списывали всегда, шпаргалки существуют столько же, сколько экзамены, и ничего страшного в масштабе цивилизации не произошло. Изменилось другое — впервые списывание внешне неотличимо от полноценной человеческой работы. Текст, который модель сгенерировала за восемь секунд, выглядит как текст, над которым студент сидел три вечера, и отличить их не может ни учитель, ни антиплагиат.

А раз отличить нельзя, образовательная система защищается теми средствами, которые у нее остались. В конце мая министр науки и высшего образования Валерий Фальков допустил отказ от письменных дипломных работ в пользу устного экзамена и объяснил это просто — никакая система не подготовит студента к вопросам преподавателя. Там же он привел цифры, согласно которым доля сгенерированного нейросетями текста в выпускных работах за три года выросла с 9% до 42%, а на айтишных и экономических специальностях перевалила за 60%. В июле первый российский вуз — Сочинский институт РУДН — отменил защиту дипломных работ вовсе и переключился на проверку знаний выпускников в сложных юридических ситуациях, опять же, из-за того, что ИИ способен анализировать судебную практику и быстро генерировать нужные тексты.

И схема эта хороша всем, кроме одного — она требует в разы больше преподавателей, помещений и времени, то есть ровно того, чего у образования все время не хватает.

Не только школьники и студенты

Но дети и образование — только половина истории, причем не главная. Речь в основном идет о взрослых специалистах, которые прямо сейчас теряют квалификацию просто потому, что уже привыкли работать с ИИ и без него буквально не знают, что делать.

Возьмем программистов. В конце января исследователи опубликовали результаты эксперимента, в котором 52 разработчика осваивали незнакомую библиотеку — одна половина самостоятельно, другая с ИИ-ассистентом. Значимой разницы по скорости не нашлось вообще. Зато на тесте без ИИ группа, ранее пользовавшаяся ассистентом, потеряла 17% результата. Хуже всего просели вопросы про отладку, про умение понять, почему и что именно сломалось, и объяснение у авторов простое — те, кто работал руками, натыкались на ошибки втрое чаще и разбирались с ними сами.

Авторы просмотрели записи экранов и разделили работавших с ассистентом на шесть типов, которые разделили на две категории. Те, кто просил его объяснить, как устроена библиотека, набирали за тест больше 65%. А те, кто просил ИИ просто написать код и на этом останавливался, — меньше 40%. То есть разница была в том, задавал человек вопросы, уточнял, пытался понять или лишь раздавал задания и ждал результата.

Подобная тенденция наблюдается не только у программистов. Другая группа исследователей разобрала больше 23 тысяч примеров колоноскопии в четырех польских медицинских центрах и выяснила, что после того, как врачи привыкали работать с системой, автоматически подсвечивающей полипы, в обычной процедуре без ИИ их способность выявлять эти образования упала с 28,4% до 22,4%. Таким образом, каждый пятый случай, который раньше бы был обнаружен врачом, проходил незамеченным.

Если доктора пользовались ИИ-системой, показатель держался на прежнем уровне, так что пациенты в моменте ничего не потеряли, и врачи ничего не нарушали — они пользовались инструментом ровно так, как задумано, и инструмент честно работал.

Интересен и другой эксперимент, хотя он и несколько про другое — 27 немецких рентгенологов читали полсотни маммограмм с подсказками ИИ, которого в реальности не существовало — программу и тепловые карты исследователи нарисовали заранее сами. Первые десять снимков система анализировала правильно, чтобы врачи ей поверили. Дальше она начинала ошибаться, и на этих снимках доля правильных заключений упала с восьмидесяти с лишним процентов до 20%. У самых опытных врачей, с десятилетним стажем, — до 45%.

У ученых ситуация складывается тоже тревожная. В январе исследователи опубликовали в Nature разбор 41,3 млн научных статей. Оказалось, что ученые, работающие с помощью ИИ, публикуют втрое больше, цитируются почти впятеро чаще и на полтора года раньше получают собственный проект вместо работы в чужом. Прекрасный результат — ровно до того момента, пока не посмотришь на другие показатели. Разнообразие изучаемых тем у использующих ИИ сократилось на 4,63%, а взаимодействие между учеными — на 22%, потому что все сползают в те области, где данных уже накоплено достаточно, чтобы большая языковая модель работала лучше. Но смысл науки — не в том, чтобы делать то, что легче, а как раз в том, чтобы, как говорилось в «Звездном пути», идти туда, куда не ступала нога человека.

В результате мы видим вполне себе очевидную закономерность.

Общее у всех трех случаев одно: выигрыш достается тому, кто работает с ИИ, а расплачиваются все остальные — пациент, работодатель, следующее поколение.

Мышца, которую перестали нагружать

Не стоит, впрочем, думать, что пришел злобный ИИ и все стало хуже. Современные информационные технологии в принципе постепенно, но верно отучали людей мыслить самостоятельно. Мозг сохраняет то, что вы делаете, и «разбирает» то, чего вы не делаете. Умение поддерживается только его применением, других способов в нейробиологии нет.

Мозг лондонских таксистов еще в 2000-м году изучили и обнаружили у них увеличенный задний гиппокамп, выросший от многолетнего запоминания примерно двадцати пяти тысяч улиц. Через двадцать лет другие специалисты обнаружили обратный процесс — чем больше у человека стаж езды с навигатором, тем хуже он ориентируется без него, и тем быстрее эта способность деградирует у него в дальнейшем. Причем те, кто пользовался навигатором чаще, взялись за него вовсе не потому, что изначально плохо ориентировались на местности. Просто так было легче.

Авиация прошла путь к почти полной автоматизации полета еще в конце 80-х годов и столкнулась с деградацией навыков ручного пилотирования. Еще в 2013 году федеральное авиационное управление США выпустило специальное предупреждение для авиакомпаний, где прямым текстом сказано, что постоянное использование автоматики не поддерживает у пилота навыки ручного управления и может ухудшить его способность быстро вывести самолет из нештатного состояния. Через четыре года пришлось выпустить и второе, с рекомендацией периодически производить на ручном управлении весь взлет и всю посадку, а если получится, то и весь полет целиком.

Все эти люди вроде бы трудились и трудятся для других людей. Но освобождая их от, казалось бы, нудной репетативной работы, мы не делаем лучше ни им (по крайней мере, как профессионалам), ни себе.

Что видят те, кто занимается наймом

Тем временем о подобном эффекте говорят не только исследователи, но и работодатели. В июне консультанты из компании BCG опросили семьдесят топ-менеджеров крупных компаний, и половина ответила, что деградацию навыков у собственных сотрудников они наблюдают прямо сейчас, а больше 60% ждут, что через три-пять лет это станет реальной угрозой бизнесу. Организационно-профилактического ответа при этом нет почти ни у кого — некая стратегия исправления ситуации нашлась у одного из десяти топ-менеджеров, а треть эту тему вообще не обсуждала.

Занятнее всего список навыков, которые те называют самыми уязвимыми — суждение и принятие решений, умение сформулировать проблему, творческое мышление. То есть ровно то, за что людям вообще платят деньги. Почти 90% руководителей увидели один и тот же симптом — команды принимают выданный машиной результат, не пробуя даже разобраться в том, что им выдали. А следом идет то, что в отчете называют размыванием ответственности, и один из опрошенных сформулировал это лучше всех: когда результат выходит плохой, виноватым назначают ИИ.

Непонятно и то, откуда брать старших сотрудников, притом что младших и стажеров нанимают все меньше и меньше. В другом исследовании специалисты посчитали по платежным ведомостям, что занятость 22-25-летних разработчиков ПО с конца 2022 года упала примерно на 20%, тогда как у их старших коллег ничего подобного не произошло. Задачи, на которых джуны традиционно набирали опыт, автоматизируются лучше всего. Те же, кого все-таки взяли, входят в профессию сразу с ИИ-ассистентом под рукой, не успев накопить того опыта, который позволяет заметить, что машина уверенно несет чушь. Расплата тут отложена лет на десять, потому что нынешний джун должен будет принимать архитектурные решения где-то к середине тридцатых.

Что именно мы отдали на этот раз

Да, письменность ругали в диалогах Платона. Да, калькулятор поносили в семидесятых, и таблицу умножения дети действительно знают хуже. Да, навигатор отучил нас помнить дорогу, и мир от этого не рухнул.

Разница вот в чем. Каждый прежний инструмент забирал одну конкретную операцию с ясными границами, и человек всегда понимал, что именно он отдал. Калькулятор считает, я решаю, что считать и что означает результат. Навигатор ведет по маршруту, я выбираю, куда еду. А вот языковая модель забирает не операцию, а промежуток между вопросом и ответом — то самое время, когда ты перебираешь неудачные варианты, лезешь не туда, злишься и в конце концов понимаешь. Учимся мы именно в этом промежутке, и больше нигде.

«Объясни» и «сделай» — две совершенно разные модели поведения, ведущие к двум разным исходам. Человек, который спрашивает у ИИ «почему так, объясни механизм», и человек, который пишет «сделай», получают совершенно разные результаты в плане формирования и сохранения у них определенных навыков.

Кому все это удобно

Рассчитывать, что рынок сам подтолкнет нас к правильному режиму использования ИИ, не приходится. Компании, которые продают эти инструменты, оптимизируют их вовсе не под то, чтобы ты научился чему-то, а под то, чтобы ты вернулся завтра. Ответ, избавляющий от усилия, ощущается как забота, а ощущение заботы прекрасно конвертируется в подписку.

Никто и никогда не встроит в интерфейс для взрослого человека кнопку «дай мне помучиться двадцать минут, а потом подведи к ответу» (хотя OpenAI и представила режим обучения — но для детей). Не потому что у руля этих компаний стоят сплошь злодеи, а потому что такую кнопку не нажмет никто, и метрика удержания у нее будет отвратительная.

Так что защита здесь остается ровно одна, и она частная, скучная и обидная — иногда делать самому то, что машина сделала бы за секунду. Зная заранее, что, возможно, выйдет хуже, дольше и никому, кроме тебя, не будет нужно.

Проверить, насколько это сложно, это можно прямо сейчас, не откладывая. Возьмите ближайшую мелкую задачу, которую вы по привычке собирались отдать ИИ, и сделайте ее сами. Засеките, сколько выдержите. И помните при этом сценку из мультфильма «Вовка в Тридевятом царстве», где Двое из ларца начинают все делать за главного героя:

---

Мнение автора может не совпадать с мнением редакции