Pourquoi l’avertissement de Microsoft ?

Cet avertissement intervient après qu’une étude menée par Microsoft sur les travailleurs utilisant l’IA a révélé que ces outils conduisent à une pensée critique limitée.

Étant donné que ces outils peuvent épuiser les compétences intellectuelles des utilisateurs et augmenter leur niveau de stupidité, ils peuvent entraîner des conséquences indésirables.

Recherche de l’université Carnegie Mellon

Une recherche menée par l’Université Carnegie Mellon en partenariat avec Microsoft a révélé que ceux qui font confiance aux assistants IA ont moins de pensée critique que ceux qui comptent sur leurs capacités naturelles.

Bien que cela ne soit pas surprenant car cela est évident et attendu depuis l’avènement de ces outils, cela révèle les dommages potentiels inhérents à l’adoption croissante de l’IA dans les domaines quotidiens : à mesure que les outils d’apprentissage automatique gagnent en confiance, ils peuvent nous conduire à un contenu qui ne sert aucun intérêt humain, ni créatif ni intellectuel, pour que quiconque le remarque. Ces résultats ont été présentés lors d’une conférence sur les facteurs humains dans les systèmes informatiques ce mois-ci, et des recherches non encore discutées ont été publiées sur le site Web de Microsoft.

Comme l’indique l’étude : “L’utilisation abusive des technologies d’intelligence artificielle peut conduire à la disparition des capacités cognitives qui permettent la maîtrise et la créativité, et donc à l’absence de créativité.” “L’un des principaux paradoxes de l’automatisation est qu’en automatisant les tâches de routine et en laissant le traitement des exceptions à l’utilisateur humain, on perd la sagesse et l’exercice quotidien des muscles cognitifs en s’appuyant constamment sur ces outils et avec le temps cela peut conduire à la léthargie, laissant l’utilisateur complètement non préparé aux situations qui nécessitent l’utilisation de ses capacités mentales qu’il a perdues en raison de sa dépendance aux outils d’IA.”

Expérience sur l’utilisation de ChatGPT

Quelque 319 professionnels du savoir ont été recrutés pour l’étude, via la plateforme de crowdsourcing Prolific.

Les participants ont été invités à partager trois exemples de la manière dont ils utilisent les outils d’IA, tels que l’outil populaire ChatGPat, dans leur travail. Les participants ont été invités à partager trois exemples de la manière dont ils utilisent les outils d’IA, tels que ChatGPat, dans leur travail. On leur a ensuite demandé s’ils utilisaient des capacités de pensée critique pour accomplir chaque tâche et, si oui, comment ils le faisaient afin d’accroître la crédibilité de l’expérience en tant que démonstration de leurs capacités. On leur a également demandé combien d’efforts, il aurait fallu pour accomplir la tâche sans l’IA et dans quelle mesure ils faisaient confiance au travail.

Résultats

Les résultats ont été choquants, avec une forte baisse de l’auto-vérification autodéclarée des résultats de l’IA, les participants déclarant qu’ils ne s’appuyaient pas du tout sur leurs capacités de pensée critique dans 40 % de leurs tâches. Même si la plus grande proportion n’a pas utilisé ces outils (60 %), ces 40 % représentaient près de la moitié du travail.

Ce n’est pas la seule preuve indiquant les effets néfastes de la dépendance numérique sur la cognition humaine. Il a été constaté que les utilisateurs de ChatGPat deviennent tellement dépendants du chatbot que passer du temps loin de celui-ci peut provoquer des symptômes de sevrage.

Bien sûr, comme pour toute dépendance, plus vous passez de temps à l’utiliser, plus vous avez de chances de ne pas arrêter, tandis que de courtes vidéos comme celles sur TikTok réduisent la capacité d’attention et entravent le développement de circuits neuronaux liés au traitement de l’information.

Ces problèmes sont plus fréquents chez les jeunes qui sont plus susceptibles d’adopter l’IA, où l’IA est couramment utilisée comme moyen de rédiger des essais et de contourner le besoin de pensée critique. Les personnes âgées ont tendance à avoir un niveau de conscience plus élevé qu’elles n’ont pas besoin de recourir à ces outils.

L’effet Google, où les utilisateurs confient leurs connaissances au moteur de recherche, s’observe depuis des décennies : discernement dans les tâches mentales que nous déléguons à des machines instables, de peur de perdre complètement la capacité d’effectuer.

Les chercheurs écrivent : “Les données illustrent un changement dans l’effort cognitif et l’emploi mental à mesure que les travailleurs du savoir passent de plus en plus de l’exécution de tâches entièrement selon leurs propres capacités à la supervision de l’utilisation de l’IA.” “Curieusement, bien que l’IA ait été conçue pour améliorer l’efficacité, elle a réduit l’engagement critique, en particulier dans les tâches de routine ou moins critiques dans lesquelles les utilisateurs s’appuient simplement sur l’IA, ce qui soulève des inquiétudes quant à la dépendance à long terme et au déclin de la résolution indépendante des problèmes.”