Делает ли ИИ нас глупее? Вопрос, на который никто не хочет ответить честно

Существует вопрос, который тихо распространяется по университетам, исследовательским лабораториям и обеденным столам по всему миру. Люди боятся задать его вслух, потому что это звучит как технофобия, как то, что говорит ваш дедушка, когда не может разобраться с пультом.

Но это не глупый вопрос. Возможно, это самый важный вопрос нашего поколения.

Делает ли ИИ нас глупее?

Не глупее в том смысле, в котором люди говорят, что смартфоны испортили внимание. Глупее в более глубоком, структурном смысле. В том смысле, что не ощущается как глупость, потому что у вас все еще есть доступ к каждому ответу. Вы просто больше не знаете, как найти их самостоятельно.

Давайте будем честными по этому поводу. Потому что если ответ «да», и есть реальные доказательства того, что это может быть так, то то, как большинство людей использует ИИ прямо сейчас, тихо делает что-то с их умами, что они заметят только тогда, когда будет слишком поздно.

Делает ли ИИ нас глупее: ключевые выводы

• Когнитивная разгрузка, позволяющая инструментам думать за вас, не нова. Но ИИ делает это быстрее, проще и более полно, чем что-либо ранее.
• Исследования по GPS и пространственной памяти показывают четкую закономерность: когда вы перестаете использовать когнитивные навыки, вы их теряете. ИИ не исключение.
• Проблема не в использовании ИИ. Проблема в использовании ИИ как замены мышлению, а не как инструмента для лучшего мышления.
• Студенты, которые становятся умнее благодаря ИИ, используют его для того, чтобы быть вызванными на размышления. Те, кто становится глупее, используют его, чтобы избежать вызова.
• Инструменты, такие как Socratic AI, построены на противоположном принципе, чем большинство ИИ: вместо того чтобы давать вам ответы, они заставляют вас зарабатывать их.
• Вопрос не в том, хороший ИИ или плохой. Вопрос в том, каким пользователем ИИ вы выбираете быть.

Честный ответ в первую очередь

Да. Для большинства людей, в большинстве случаев использования, ИИ, вероятно, делает их немного глупее со временем.

Не потому, что ИИ - плохая технология. А из-за того, как средний человек его использует.

Они используют его, чтобы пропустить ту часть мышления, которая трудна. А эта трудная часть, борьба, путаница, момент, когда вы не знаете ответа и должны действительно поработать над ним, - это именно та часть, где происходит обучение.

Когда вы убираете борьбу, вы убираете обучение. Вы получаете результат, не развивая способность производить его самостоятельно. И со временем вы становитесь зависимыми от инструмента таким образом, что тихо разрушаете что-то, о чем не знали, что теряете.

Это не спекуляция. Это то, как работает человеческий мозг.

Что на самом деле делает когнитивная разгрузка с вашим мозгом

Мозг - это не жесткий диск. Он не хранит информацию пассивно и не извлекает ее по запросу. Он больше похож на мышцу. Связи между нейронами укрепляются, когда они используются, и ослабевают, когда не используются. Память, рассуждение, распознавание шаблонов - это не фиксированные способности. Это навыки. И навыки атрофируются.

Когнитивная разгрузка - это практика передачи умственной работы внешним инструментам. Написание списка покупок вместо запоминания его. Использование калькулятора вместо выполнения арифметических операций в уме. Установка напоминания вместо отслеживания времени самостоятельно.

Когнитивная разгрузка не нова и не является по своей сути плохой. Письмо само по себе является формой когнитивной разгрузки. Так же, как и каждая другая технология, которую люди изобрели, чтобы расширить свои умственные возможности.

Но вот что показывает исследование: когда вы постоянно разгружаете когнитивную задачу, область мозга, отвечающая за эту задачу, со временем получает меньше активации. Нейронные пути истончаются. Навык ослабевает.

Самый яркий пример приходит из навигации GPS. Исследование 2013 года, проведенное исследователями из Университетского колледжа Лондона, показало, что таксисты Лондона, которые были обязаны запомнить всю карту города, чтобы получить лицензию, имели значительно большие гиппокампы, чем средний человек. Гиппокамп - это область мозга, наиболее связанная с пространственной памятью и навигацией.

Затем GPS стал универсальным. И последующие исследования показали, что люди, которые полагаются на GPS для навигации, показывают уменьшение активации гиппокампа и худшую пространственную память, чем люди, которые ориентируются без него.

Технология работала идеально. Направления всегда были правильными. Пункт назначения всегда достигался. И что-то в мозгу тихо отключилось.

Теперь замените GPS на ИИ, который пишет ваши аргументы, решает ваши проблемы, подводит итоги вашего чтения и генерирует ваши идеи.

Что тогда отключается?

Проблема студентов

Самое четкое проявление этого наблюдается в образовании. И картина некрасивая.

Опрос университетских профессоров в США и Великобритании показал, что большинство из них отметили заметное снижение способности студентов строить аргументы с нуля с момента широкого распространения инструментов ИИ для написания текстов. Не их способность производить хорошо оформленное эссе. Их способность действительно продумывать проблему, занимать позицию и защищать ее под давлением.

Эссе выглядят лучше. Мысли за ними более поверхностны.

Это имеет полный смысл, как только вы понимаете, что на самом деле делает письмо. Письмо - это не просто способ записи мысли. Это способ генерации мысли. Попытка что-то сформулировать заставляет вас открыть то, что вы на самом деле думаете, где ваше рассуждение ломается, что вы действительно понимаете, а что только смутно осознаете.

Когда ИИ пишет за вас, вы полностью пропускаете этот процесс. Вы получаете готовый продукт, который звучит как мышление. Но вы не думали. И поэтому вы не получили преимущества от мышления.

Результат существует. Рост отсутствует.

Но вот где все усложняется

Вышеописанная история реальна. Но это не вся история.

Потому что ИИ также, для некоторых людей в некоторых контекстах, делает их значительно умнее.

Разница не в инструменте. Она в том, как используется инструмент.

Рассмотрим двух студентов. Оба пытаются понять философию свободы воли.

Студент A открывает чат-бота ИИ и вводит: "Объясните спор между свободой воли и детерминизмом." ИИ выдает чистое, всестороннее резюме. Студент A читает это, чувствует удовлетворение, что теперь понимает тему, и переходит к следующему вопросу.

Студент B открывает Socratic AI и вводит тот же вопрос. Вместо резюме они получают вопрос: "Вы думаете, что выбрали задать этот вопрос только что, или вы всегда собирались его задать?" Студент B вынужден действительно думать. Занять позицию. Защитить ее. Подвергнуть свое рассуждение сомнению и испытаниям, пока не найдут места, где оно ломается.

Студент A получил информацию. Студент B получил понимание.

Через месяц Студент A забыл большую часть того, что ИИ сказал ему, потому что он никогда не работал над этим. Студент B имеет структуру для размышления о свободе воли и причинности, которую он построил самостоятельно и которая останется с ним.

Одна и та же технология. Совершенно другой результат. Из-за того, как она была использована.

Реальный вопрос

Дебаты о том, делает ли ИИ нас глупее, неправильно сформулированы. Они предполагают, что ИИ - это одно и то же с одним эффектом.

Это не так. ИИ - это категория инструментов. И, как и каждый инструмент в истории человечества, его можно использовать для расширения человеческих возможностей или для замены их. Молоток расширяет руку. Экзоскелет заменяет ее. Разница в том, строите ли вы основную способность или обходите ее.

Печатный станок не сделал людей хуже в мышлении. Он дал людям доступ к большему количеству идей для размышления, что сделало лучших мыслителей значительно лучше. Но он также, возможно, изменил природу памяти и устной традиции таким образом, что это были реальные потери, даже если в целом результат был положительным.

ИИ сделает то же самое. В целом, вероятно, результат будет положительным в долгосрочной перспективе для человечества в целом. Но для любого отдельного человека, прямо сейчас, вопрос не в том, что ИИ делает с людьми в совокупности. Вопрос в том, что вы делаете с ним конкретно.

Вы используете его, чтобы больше думать? Или чтобы думать меньше?

Вы используете его, чтобы углубиться в трудные проблемы? Или чтобы полностью избежать трудных проблем?

Вы используете его, чтобы подвергать сомнению свои идеи? Или чтобы подтвердить свои идеи?

Технология не решает. Вы решаете.

Что исследования на самом деле говорят об обучении

Наука об обучении однозначна в одном: трудности не являются врагом обучения. Это механизм обучения.

Когнитивные ученые называют это желательной трудностью. Идея заключается в том, что обучение происходит не тогда, когда информация легко усваивается, а когда разум должен бороться, чтобы извлечь, связать и применить ее. Тестирование себя более эффективно, чем повторное чтение, потому что акт извлечения, который труден, укрепляет память. Распределённые во времени занятия эффективнее занятий, сосредоточенных в одном длинном подходе, потому что забывание, происходящее между сессиями, заставляет мозг восстанавливать знания, что углубляет их.

Проблема с большинством случаев использования ИИ заключается в том, что он полностью устраняет желательные трудности. Он делает все легким. Мгновенно. По запросу.

И легкость в обучении - это враг.

Вот почему сократический метод, практика обучения через вопросы, а не инструкцию, существует уже 2500 лет. Сократ не давал ответов. Он задавал вопросы. Он заставлял своих учеников думать, спотыкаться, противоречить себе, находить границы своего понимания. Это было неудобно. Это было медленно. И это работало лучше, чем что-либо другое, что когда-либо пробовали.

ИИ, который заставляет вас думать, построен на этом принципе. ИИ, который думает за вас, построен на противоположном.

Как использовать ИИ, не становясь глупее

Это не аргумент против использования ИИ. Это аргумент за его целенаправленное использование.

Практически это означает несколько вещей:

Используйте ИИ после того, как вы попробовали. Прежде чем попросить ИИ объяснить что-то, потратьте десять минут, пытаясь разобраться в этом самостоятельно. Зайдите в тупик. Почувствуйте растерянность и раздражение от того, что ответ не даётся. Затем используйте ИИ, чтобы помочь вам выбраться из затруднительного положения, а не чтобы заменить процесс попадания в это затруднительное положение с самого начала.

Используйте ИИ, чтобы бросить вам вызов, а не для утешения. Попросите его аргументировать против вашей позиции. Попросите его найти слабости в вашем рассуждении. Попросите его предоставить вам самый сильный контраргумент к тому, во что вы верите. Используйте его как противника, а не как помощника.

Проверяйте то, что говорит ИИ. Привычка проверять результаты ИИ по другим источникам поддерживает ваши критические способности активными. В тот момент, когда вы начинаете принимать результаты ИИ без проверки, вы передаете свое суждение.

Сначала создайте свою работу. Напишите свой собственный черновик, прежде чем попросить ИИ улучшить его. Решите свою версию проблемы, прежде чем попросить ИИ решить ее. Разрыв между вашей версией и версией ИИ - это то место, где происходит обучение.

Используйте инструменты, предназначенные для того, чтобы заставить вас думать. Не весь ИИ построен одинаково. Socratic AI был специально разработан на принципе, что давать людям ответы делает их слабее, а задавать им вопросы делает их сильнее. Он не будет думать за вас. Он заставит вас делать это самостоятельно, лучше, чем вы бы сделали это в одиночку.

Неудобная правда

Люди, которые будут больше всего пострадавшими от ИИ, не те, кто отказывается его использовать. Эти люди просто отстанут в других отношениях.

Люди, которые будут больше всего пострадавшими, - это те, кто использует его постоянно, но пассивно. Кто передает каждую трудную когнитивную задачу машине и медленно, не замечая, теряет способность выполнять эти задачи самостоятельно. Кто становится свободным в запросах к ИИ, но неграмотным в реальном мышлении.

Они все еще смогут производить результаты. Они не смогут думать.

А в мире, где ИИ автоматически производит большинство результатов, единственное, что на самом деле будет иметь значение, - это то, можете ли вы думать.

Студенты, которые выиграют в этой среде, не те, кто использует ИИ больше всего. Это те, кто использует ИИ, чтобы стать лучшими мыслителями. Кто использует инструмент, чтобы углубиться, а не чтобы облегчить. Кто рассматривает каждое взаимодействие с ИИ как тренировочную сессию для своего собственного разума, а не как замену ему.

Это требует намерения. Это требует сопротивления стремлению к легкости. Это требует выбора более трудного пути, когда более легкий путь прямо перед вами.

Марк Аврелий писал об этой самой проблеме почти две тысячи лет до появления ИИ. Искушение выбрать легкий путь. Медленное разрушение, которое происходит, когда вы перестаете требовать от себя. Дисциплина, необходимая для того, чтобы продолжать выбирать трудности, когда комфорт доступен.

Некоторые вещи не меняются.

Вопрос не в том, делает ли ИИ нас глупее.

Вопрос в том, позволите ли вы ему сделать вас глупее.

Эта часть все еще зависит от вас.