Les IA comme ChatGPT vont-elles nous rendre idiots?

L'IA est conçue pour effectuer des tâches qui, traditionnellement, nécessitaient l'intervention humaine, y compris celles qui demandent du jugement et de la prise de décision. Les systèmes d'IA peuvent analyser d'immenses quantités de données rapidement et avec précision, ce qui dépasse souvent nos capacités. Cela offre d'énormes avantages, tels que l'augmentation de l'efficacité et la possibilité de déléguer des tâches répétitives à des machines. Mais en nous assistant à ce point, et en nous soulageant de tâches difficiles, ne risque-t-elle pas de nous diminuer?

Une question pas si neuve

En évaluant l'impact de l'IA générative sur l'apprentissage et les compétences cognitives, il est tentant de tirer un parallèle avec les préoccupations soulevées par le journaliste spécialisé en nouvelles technologies Nicholas Carr, auteur dans The Atlantic en 2008 d’un article qui a fait date: «Is Google Making Us Stupid?». Il développera deux ans plus tard son propos dans son livre The Shallows, publié en français sous le titre Internet rend-il bête? (éd. Laffont, 2011). 

Nicholas Carr a exploré comment internet, et en particulier le moteur de recherche Google, a redéfini nos habitudes de lecture, conduisant à l'érosion de notre faculté d'attention et diminuant notre aptitude à se plonger dans une réflexion profonde et soutenue. Ses observations sur sa difficulté croissante à se concentrer et à lire des textes de longue haleine ont résonné chez beaucoup de gens, qui ont constaté des changements similaires dans leurs propres pratiques de lecture. 

Cette interrogation a eu un retentissement mondial, suscitant un vaste débat et une réflexion sur la manière dont notre dépendance croissante à l'égard de l'internet pourrait modifier fondamentalement nos intellects. En substance, «Is Google Making Us Stupid?» a été le catalyseur d'une réévaluation globale de la relation entre la technologie et le cerveau humain.

Fais tes exercices cognitifs

En juillet 2023, le magazine américain Forbes a publié un article percutant intitulé «Pourquoi ChatGPT nous rend moins intelligents». Il met en avant des préoccupations légitimes: une tendance croissante à s'appuyer sur des réponses instantanées, une diminution de la rétention de la mémoire, une érosion des compétences en matière d'écriture et de communication.

L'auteur et visionnaire John Nosta, fondateur de Nostalab, un think tank sur l’innovation mondialement reconnu, a étendu la discussion au domaine de l'intelligence artificielle et des grands modèles de langage (LLM). Dans un article récent pour Psychology Today. Il évoque la possibilité d'une «atrophie cognitive» liée à la dépendance à l'égard de l'IA pour les tâches intellectuelles, sur le modèle de la dégénérescence musculaire. 

De l’IA dans l’enseignement

Data scientist de formation, Tanja Käser travaille désormais à l’interface entre les nouvelles technologies et les sciences de l’éducation. Au sein du laboratoire ML4ED (Machine Learning for Education) qu’elle dirige, elle s’applique à étudier rigoureusement les effets de l’IA sur le processus d’apprentissage. 

Elle étudie la perception des étudiants envers l'intelligence artificielle, en examinant leurs réactions aux réponses générées par l'IA comparées à celles fournies par des humains. D'autres professeurs à l'EPFL analysent les retours des étudiants en leur demandant d'utiliser ChatGPT pour évaluer leur niveau de connaissance — en programmation par exemple, ou après avoir écouté une conférence.

Tanja Käser souligne l'importance de rester proactifs face à ces technologies. «Il est crucial que la société et le monde académique participent activement pour guider son développement et éviter une trop grande dépendance à l'IA».

Et si la question était mal posée?

La préoccupation d'une codépendance homme-machine n'a pas démarré avec l'IA générative. Le concept de la «cognition distribuée» développé par l’anthropologue américain, Edwin Hutchins, a posé les fondations d'une théorie qui envisage l'esprit non pas comme une entité isolée, mais comme un système étendu, englobant les outils, les individus et l'environnement qui nous entourent.

Considérez la calculatrice. En permettant de résoudre des problèmes mathématiques, elle devient une extension de l'intellect de l'utilisateur. Dans le cadre de la cognition distribuée, la calculatrice n'est donc pas un simple outil, mais un participant actif dans le processus de pensée.

Autre exemple: celui de la mémoire externalisée. Là où mémoriser des numéros de téléphone nécessitait autrefois un effort, ce sont désormais nos smartphones qui s’en chargent. Pour Edwin Hutchins, cette externalisation libère l'esprit pour l'occuper à des tâches plus importantes et créatives. D’autres feront valoir que notre dépendance aux appareils numériques est préoccupante pour notre autonomie et nos facultés mentales.

C'est bien le cœur du débat sur les avantages et les inconvénients de l'externalisation de la mémoire dans un contexte technologique. Il y a plus de 16 ans que Nicholas Carr a soulevé la question qui dérange et le débat continue de diviser les spécialistes. Certains partagent son inquiétude, d'autres affirment que la recherche sur internet, au contraire, a élargi nos connaissances et nos compétences intellectuelles.

Le cas des chauffeurs de taxis londoniens

Un exemple frappant est celui des chauffeurs de taxi londoniens. Le légendaire examen dit du «Knowledge», nécessaire à l’obtention d’une licence, est réputé être l’un des plus difficiles au monde. Les candidats doivent avoir une connaissance exhaustive des itinéraires dans la capitale, qui compte plus de 25'000 rues. Un travail de mémorisation colossal, suffisamment pour donner lieu à une croissance visible de l'hippocampe, la région du cerveau impliquée dans la navigation et la mémoire spatiale.   

Cependant, avec l'avènement du GPS, ces compétences intenses en mémorisation et en navigation sont moins sollicitées. Cette charge cognitive a été transférée pour bonne part aux systèmes de navigation numériques, qui influencent également en retour le fonctionnement cérébral.

Repenser notre relation à l'IA

Josta Nosta estime que nous entrons dans ce qu'il nomme l'«ère cognitive», où l'IA ne remplace pas l'intelligence humaine, mais la complète pour résoudre des problèmes complexes et encourager l'innovation:

«Cette ère, que l'on pourrait qualifier de “cinquième révolution industrielle”, transcende les frontières traditionnelles de la technologie et l'intègre dans le tissu même de notre existence quotidienne, redéfinissant notre façon de travailler, d'apprendre, de créer et d'interagir. Nous sommes à l'aube d'une période de potentiel extraordinaire, où la combinaison optimale de l'intelligence humaine et artificielle redéfinit les frontières du possible et du progrès. Contrairement aux révolutions industrielles précédentes qui ont mécanisé le travail physique ou numérisé le traitement de l'information, l'ère cognitive utilise l'IA comme un partenaire cognitif, qui augmente et améliore l'intelligence humaine».

Alors que la recherche en IA s’accélère, il sera essentiel de questionner et d'évaluer continuellement notre relation avec elle.