L'IA nous rend-elle plus bêtes ? La question que personne ne veut répondre honnêtement

Une question se propage discrètement à travers les universités, les laboratoires de recherche et les tables de dîner à travers le monde. Les gens ont peur de la poser à voix haute, car cela ressemble à de la technophobie, comme ce que dit votre grand-père lorsqu'il ne parvient pas à comprendre la télécommande.

Mais ce n'est pas une question stupide. Cela pourrait être la question la plus importante de notre génération.

L'IA nous rend-elle plus bêtes ?

Pas plus bêtes dans le sens où les gens disent que les smartphones ont ruiné notre capacité d'attention. Plus bêtes d'une manière plus profonde et plus structurelle. Le genre de bêtise qui ne ressemble pas à de la bêtise du tout, car vous avez toujours accès à chaque réponse. Vous ne savez simplement plus comment les trouver vous-même.

Soyons honnêtes à ce sujet. Parce que si la réponse est oui, et qu'il existe de réelles preuves que cela pourrait être le cas, alors la manière dont la plupart des gens utilisent l'IA en ce moment est en train de faire quelque chose à leur esprit qu'ils ne remarqueront que lorsqu'il sera trop tard.

L'IA nous rend-elle plus bêtes : Points clés

- Le déchargement cognitif, laisser les outils penser à votre place, n'est pas nouveau. Mais l'IA le rend plus rapide, plus facile et plus total que tout ce qui l'a précédé.

- La recherche sur le GPS et la mémoire spatiale montre un schéma clair : lorsque vous cessez d'utiliser une compétence cognitive, vous la perdez. L'IA n'est pas différente.

- Le problème n'est pas d'utiliser l'IA. Le problème est d'utiliser l'IA comme un remplacement de la pensée plutôt que comme un outil pour mieux penser.

- Les étudiants qui deviennent plus intelligents grâce à l'IA sont ceux qui l'utilisent pour être mis au défi. Ceux qui deviennent plus bêtes sont ceux qui l'utilisent pour éviter le défi.

- Des outils comme Socratic AI sont construits sur le principe opposé à la plupart des IA : au lieu de vous donner des réponses, ils vous obligent à les mériter.

- La question n'est pas de savoir si l'IA est bonne ou mauvaise. La question est de quel type d'utilisateur d'IA vous choisissez d'être.

La réponse honnête d'abord

Oui. Pour la plupart des gens, dans la plupart des cas d'utilisation, l'IA les rend probablement légèrement plus bêtes au fil du temps.

Pas parce que l'IA est une mauvaise technologie. À cause de la manière dont la personne moyenne l'utilise.

Ils l'utilisent pour sauter la partie de la pensée qui est difficile. Et cette partie difficile, la lutte, la confusion, le moment où vous ne connaissez pas la réponse et devez réellement travailler pour l'obtenir, est exactement la partie où l'apprentissage se produit.

Lorsque vous supprimez la lutte, vous supprimez l'apprentissage. Vous obtenez le résultat sans développer la capacité de le produire vous-même. Et au fil du temps, vous devenez dépendant de l'outil d'une manière qui érode discrètement quelque chose que vous ne saviez pas que vous perdiez.

Ce n'est pas de la spéculation. C'est ainsi que fonctionne le cerveau humain.

Ce que le déchargement cognitif fait réellement à votre cerveau

Le cerveau n'est pas un disque dur. Il ne stocke pas l'information passivement et ne la récupère pas à la demande. Il est plus comme un muscle. Les connexions entre les neurones se renforcent lorsqu'elles sont utilisées et s'affaiblissent lorsqu'elles ne le sont pas. La mémoire, le raisonnement, la reconnaissance de motifs, ce ne sont pas des capacités fixes. Ce sont des compétences. Et les compétences s'atrophient.

Le déchargement cognitif est la pratique de l'externalisation du travail mental vers des outils externes. Écrire une liste de courses au lieu de la mémoriser. Utiliser une calculatrice au lieu de faire des calculs dans votre tête. Définir un rappel au lieu de suivre le temps vous-même.

Le déchargement cognitif n'est pas nouveau et n'est pas intrinsèquement mauvais. L'écriture elle-même est une forme de déchargement cognitif. Il en va de même pour chaque autre technologie que les humains ont inventée pour étendre notre portée mentale.

Mais voici ce que la recherche montre : lorsque vous déchargez une tâche cognitive de manière constante, la région du cerveau responsable de cette tâche reçoit moins d'activation au fil du temps. Les voies neuronales s'amincissent. La compétence s'affaiblit.

L'exemple le plus frappant provient de la navigation GPS. Une étude de 2013 menée par des chercheurs de l'University College London a révélé que les chauffeurs de taxi londoniens, qui étaient tenus de mémoriser l'ensemble de la carte de la ville pour obtenir leur licence, avaient des hippocampes significativement plus grands que la personne moyenne. L'hippocampe est la région du cerveau la plus associée à la mémoire spatiale et à la navigation.

Puis le GPS est devenu universel. Et des recherches ultérieures ont montré que les personnes qui s'appuient sur le GPS pour la navigation présentent une activation hippocampique réduite et une mémoire spatiale moins bonne que celles qui naviguent sans lui.

La technologie fonctionnait parfaitement. Les directions étaient toujours correctes. La destination était toujours atteinte. Et quelque chose dans le cerveau s'est éteint discrètement.

Maintenant, remplacez le GPS par une IA qui écrit vos arguments, résout vos problèmes, résume vos lectures et génère vos idées.

Que s'éteint alors ?

Le problème des étudiants

L'endroit le plus clair pour voir cela se dérouler est l'éducation. Et le tableau n'est pas joli.

Une enquête auprès des professeurs d'université aux États-Unis et au Royaume-Uni a révélé que la majorité rapportait une diminution notable de la capacité des étudiants à construire un argument de zéro depuis l'adoption généralisée des outils d'écriture IA. Pas leur capacité à produire un essai bien formaté. Leur capacité à réellement réfléchir à un problème, à tenir une position et à la défendre sous pression.

Les essais ont l'air mieux. La réflexion qui les sous-tend est plus superficielle.

Cela a tout son sens une fois que vous comprenez ce que l'écriture fait réellement. L'écriture n'est pas seulement un moyen d'enregistrer une pensée. C'est un moyen de générer une pensée. L'acte d'essayer d'articuler quelque chose vous oblige à découvrir ce que vous pensez réellement, où votre raisonnement se casse, ce que vous comprenez réellement par rapport à ce que vous ne reconnaissez que vaguement.

Lorsque l'IA écrit pour vous, vous sautez complètement ce processus. Vous obtenez un produit fini qui ressemble à de la pensée. Mais vous n'avez pas fait la pensée. Et donc vous n'avez pas bénéficié de la pensée.

Le résultat existe. La croissance n'existe pas.

Mais voici où cela devient compliqué

L'histoire ci-dessus est réelle. Mais ce n'est pas toute l'histoire.

Parce que l'IA rend également, pour certaines personnes dans certains contextes, plus intelligents.

La différence n'est pas l'outil. C'est la manière dont l'outil est utilisé.

Considérons deux étudiants. Tous deux essaient de comprendre la philosophie du libre arbitre.

L'étudiant A ouvre un chatbot IA et tape : "Expliquez le libre arbitre contre le déterminisme." L'IA produit un résumé clair et complet. L'étudiant A le lit, se sent satisfait d'avoir maintenant compris le sujet, et passe à autre chose.

L'étudiant B ouvre Socratic AI et tape la même question. Au lieu d'un résumé, il reçoit une question en retour : "Pensez-vous que vous avez choisi de poser cette question tout de suite, ou alliez-vous toujours la poser ?" L'étudiant B est contraint de réellement réfléchir. De prendre position. De la défendre. De voir son raisonnement remis en question et testé jusqu'à ce qu'il trouve les endroits où cela casse.

L'étudiant A a obtenu des informations. L'étudiant B a obtenu une compréhension.

Un mois plus tard, l'étudiant A a oublié la plupart de ce que l'IA lui a dit parce qu'il n'a jamais eu à travailler pour cela. L'étudiant B a un cadre pour penser à l'agence et à la causalité qu'il a construit lui-même et qui restera avec lui.

Même technologie. Résultat complètement différent. À cause de la manière dont elle a été utilisée.

La vraie question

Le débat sur la question de savoir si l'IA nous rend plus bêtes est mal cadré. Il suppose que l'IA est une chose avec un seul effet.

Ce n'est pas le cas. L'IA est une catégorie d'outil. Et comme chaque outil de l'histoire humaine, il peut être utilisé pour étendre la capacité humaine ou pour la remplacer. Le marteau étend le bras. L'exosquelette le remplace. La différence est de savoir si vous construisez la capacité sous-jacente ou si vous la contournez.

La presse à imprimer n'a pas rendu les gens moins bons en pensée. Elle a donné aux gens accès à plus d'idées à réfléchir, ce qui a rendu les meilleurs penseurs dramatiquement meilleurs. Mais elle a également, de manière discutable, changé la nature de la mémoire et de la tradition orale de manière à constituer de réelles pertes même si le bilan net était positif.

L'IA fera la même chose. Le bilan net sera probablement positif, sur de longues périodes, pour l'humanité dans son ensemble. Mais pour tout individu, en ce moment, la question n'est pas ce que l'IA fait aux gens dans l'ensemble. La question est ce que vous en faites spécifiquement.

L'utilisez-vous pour penser plus ? Ou pour penser moins ?

L'utilisez-vous pour approfondir des problèmes difficiles ? Ou pour sauter complètement les problèmes difficiles ?

L'utilisez-vous pour avoir vos idées remises en question ? Ou pour avoir vos idées validées ?

La technologie ne décide pas. Vous le faites.

Ce que la recherche dit réellement sur l'apprentissage

La science de l'apprentissage est sans ambiguïté sur un point : la difficulté n'est pas l'ennemi de l'apprentissage. C'est le mécanisme de l'apprentissage.

Les scientifiques cognitifs l'appellent la difficulté souhaitable. L'idée est que l'apprentissage se produit non pas lorsque l'information est facile à absorber, mais lorsque l'esprit doit lutter pour la récupérer, la connecter et l'appliquer. Se tester est plus efficace que de relire, parce que l'acte de récupération, qui est difficile, renforce la mémoire. Espacer la pratique est plus efficace que de la masser, parce que l'oubli qui se produit entre les sessions force le cerveau à reconstruire les connaissances, ce qui les approfondit.

Le problème avec la plupart des utilisations de l'IA est qu'elle élimine complètement la difficulté souhaitable. Elle rend tout facile. Instantanément. À la demande.

Et facile, dans l'apprentissage, est l'ennemi.

C'est pourquoi la méthode socratique, la pratique de l'apprentissage par le questionnement plutôt que par l'instruction, a survécu pendant 2 500 ans. Socrate ne donnait pas de réponses. Il posait des questions. Il forçait ses étudiants à penser, à trébucher, à se contredire, à trouver les limites de leur propre compréhension. C'était inconfortable. C'était lent. Et cela fonctionnait mieux que tout ce qui avait été essayé auparavant.

L'IA qui vous fait réfléchir est construite sur ce principe. L'IA qui pense pour vous est construite sur le principe opposé.

Comment utiliser l'IA sans devenir plus bête

Ce n'est pas un argument contre l'utilisation de l'IA. C'est un argument en faveur d'une utilisation délibérée.

Pratiquement, cela signifie quelques choses :

Utilisez l'IA après avoir essayé. Avant de demander à l'IA d'expliquer quelque chose, passez dix minutes à essayer de le comprendre vous-même. Restez bloqué. Soyez confus. Construisez la frustration. Ensuite, utilisez l'IA pour vous aider à vous débloquer, pas pour remplacer le processus de blocage en premier lieu.

Utilisez l'IA pour vous mettre au défi, pas pour vous réconforter. Demandez-lui de contester votre position. Demandez-lui de trouver les faiblesses de votre raisonnement. Demandez-lui de vous donner le contre-argument le plus fort possible à ce que vous croyez. Utilisez-le comme un adversaire, pas comme un assistant.

Vérifiez ce que l'IA vous dit. L'habitude de vérifier les résultats de l'IA par rapport à d'autres sources maintient vos facultés critiques actives. Le moment où vous commencez à accepter les résultats de l'IA sans examen est le moment où vous avez remis votre jugement.

Produisez votre propre travail d'abord. Écrivez votre propre brouillon avant de demander à l'IA de l'améliorer. Résolvez votre propre version du problème avant de demander à l'IA de le résoudre. L'écart entre votre version et celle de l'IA est là où se trouve l'apprentissage.

Utilisez des outils conçus pour vous faire réfléchir. Tous les IA ne sont pas construits de la même manière. Socratic AI a été spécifiquement conçu autour du principe que donner des réponses aux gens les rend plus faibles et leur poser des questions les rend plus forts. Il ne fera pas votre réflexion à votre place. Il vous obligera à le faire vous-même, mieux que vous ne l'auriez fait seul.

La vérité inconfortable

Les personnes qui seront le plus endommagées par l'IA ne sont pas celles qui refusent de l'utiliser. Ces personnes vont simplement prendre du retard d'autres manières.

Les personnes qui seront le plus endommagées sont celles qui l'utilisent constamment mais passivement. Qui externalisent chaque tâche cognitive difficile à une machine et perdent lentement, sans le remarquer, la capacité de faire ces tâches elles-mêmes. Qui deviennent fluides dans la formulation de requêtes à l'IA mais analphabètes dans la pensée réelle.

Ils seront toujours capables de produire des résultats. Ils ne seront pas capables de penser.

Et dans un monde où l'IA produit la plupart des résultats automatiquement, la seule chose qui comptera réellement est de savoir si vous pouvez penser.

Les étudiants qui gagneront dans cet environnement ne sont pas ceux qui utilisent le plus l'IA. Ce sont ceux qui utilisent l'IA pour devenir de meilleurs penseurs. Qui utilisent l'outil pour aller plus en profondeur, pas pour aller plus facilement. Qui traitent chaque interaction avec l'IA comme une séance d'entraînement pour leur propre esprit plutôt qu'un remplacement.

Cela nécessite de l'intention. Cela nécessite de résister à l'attrait de la facilité. Cela nécessite de choisir le chemin le plus difficile lorsque le chemin le plus facile est juste là.

Marc Aurèle a écrit sur ce problème exact presque deux mille ans avant l'existence de l'IA. La tentation de prendre le chemin facile. L'érosion lente qui se produit lorsque vous cessez d'exiger des choses de vous-même. La discipline requise pour continuer à choisir la difficulté lorsque le confort est disponible.

Certaines choses ne changent pas.

La question n'est pas de savoir si l'IA nous rend plus bêtes.

La question est de savoir si vous allez la laisser vous rendre plus bête.

Cette partie dépend encore de vous.