Ia : sam altman alerte sur un danger cognitif majeur
Le PDG d’OpenAI, Sam Altman, tire la sonnette d’alarme : l’intelligence artificielle, loin d’être une simple aide, pourrait progressivement éroder nos capacités mentales. Une préoccupation qui suscite l’inquiétude de chercheurs de renom.
Un risque sous-estimé : l’atrophie cognitive
Altman insiste sur le manque d’attention porté à la manière dont nous pourrions perdre notre aptitude à penser par nous-mêmes. « Nous ne discutons pas suffisamment de la manière d’éviter l’atrophie cognitive », a-t-il déclaré lors d’une émission de podcast. La question cruciale, selon lui, est de savoir comment continuer à stimuler notre cerveau et à aiguiser notre discernement, face à la multiplication des outils d’IA.
Les déclarations d’Altman interviennent alors que des études préliminaires, menées par Nataliya Kosmyna au MIT, révèlent un phénomène troublant : l’utilisation de générateurs de texte comme ChatGPT pour rédiger des essais conduit à une détérioration des performances au fil du temps. Les étudiants qui s’appuient sur ces technologies obtiennent des résultats moins bons que ceux qui utilisent Google ou n’emploient aucune assistance.
La menace d’une « substitution chronique »
Vivienne Ming, neuroscientifique spécialiste de l’IA, met en garde contre le risque d’une « substitution chronique » du travail cognitif par l’IA. Selon elle, cette dépendance répétée pourrait affaiblir notre réserve cognitive, une barrière essentielle contre la démence. C'est une menace sérieuse, et il faut l'admettre.
Les outils d’IA évoluent rapidement, dépassant la simple réponse à des questions ou la génération de texte. Ils prennent désormais en charge des tâches complexes, comme la révision de documents, la recherche, l’analyse, la gestion de la relation client, voire la programmation. Cette progression exponentielle est vertigineuse.
Arthur Mensch, PDG de Mistral AI, avait déjà alerté sur le risque de « deskilling », c’est-à-dire la perte progressive de compétences professionnelles due à une confiance excessive en la Technologie. Il imagine un futur où l'on délègue à des systèmes d'IA des tâches qui étaient autrefois réservées à l'intelligence humaine. Un scénario alarmant, et qui rappelle les dystopies littéraires.
Mais Sam Altman reste optimiste. Il évoque un futur « magique », où une IA personnelle serait toujours active, surveillant nos documents, écoutant nos réunions, se souvenant des e-mails envoyés des semaines auparavant et utilisant sa puissance de calcul pour générer des idées et nous suggérer les prochaines étapes. Cependant, il reconnaît que même les modèles les plus avancés pourraient avoir du mal à reproduire ce qui rend l'être humain unique. Une question de singularité, peut-être ?
Un appel à la régulation
Dario Amodei, PDG d’Anthropic, enfonce le clou en appelant à une régulation « dure et urgente », estimant que les risques sont bien réels et déjà présents. Il souligne que la multiplication des erreurs et des biais potentiels par l’IA nécessite une intervention rapide.
L'heure est à la vigilance. Il ne s'agit pas de rejeter l'IA, mais de la maîtriser, de la guider, afin qu’elle serve l’humanité et ne devienne pas un frein à son propre développement. Un défi majeur, et il ne faut pas le sous-estimer.