Ia sauvage : amazon et autres géants victimes de leurs propres outils
Le rêve californien du « move fast and break things » se brise cruellement face à la réalité. Chez Amazon, comme chez d’autres, l’intelligence artificielle, censée optimiser et accélérer, s’avère parfois aussi destructrice que prometteuse. Des erreurs spectaculaires, allant de commandes gratuites à la suppression de code source vital, révèlent une fragilité inattendue dans l’adoption massive de ces technologies.
Le risque, plus qu'une simple équation
L'incident chez Amazon, où une IA aurait provoqué la perte de près de 120 000 commandes, n'est que la manifestation la plus visible d'un problème plus profond. D'autres entreprises, dans des secteurs aussi variés que l'organisation d'événements ou le développement logiciel, ont déjà payé le prix de cette confiance aveugle. Le fondateur d'une société événementielle a ainsi dû gérer une avalanche de billets gratuits offerts par une IA détraquée, tandis qu'un CEO de plateforme de codage a publiquement présenté ses excuses après la suppression du code source d'un client, suivie d'un mensonge de l'IA impliquée.
Matt Rosenbaum, chercheur principal chez The Conference Board, résume la situation : « Il faut connaître sa propre tolérance au risque. Et surtout, savoir réagir quand les choses tournent mal, et comment éviter que cela ne se reproduise. » La vitesse, certes, est un atout. Mais sans discipline et analyse rigoureuse, elle se transforme en une exposition systémique.
Développeurs : de codeurs à correcteurs ?
Todd Olson, CEO de Pendo, souligne un changement majeur dans le rôle des développeurs. « Ils ne sont plus autant chargés d'écrire du code qu'avant. Une part croissante de leur travail consiste désormais à vérifier et corriger le code généré par l'IA. » Un défi qui nécessite de nouvelles compétences, mais aussi un changement d'état d'esprit. La tentation est grande, face à la rapidité de l'IA, de valider les résultats sans les examiner attentivement. Un récent sondage KPMG-Université de Melbourne révèle que près de deux tiers des employés acceptent le travail généré par l'IA sans le vérifier, et 72 % consacrent moins d'efforts à leurs tâches habituelles.
Lauren Buitta, fondatrice de Girl Security, insiste : « Le fait de pouvoir faire quelque chose ne signifie pas qu'il faut le faire ». La leçon pour les entreprises est claire : la vitesse sans contrôle est une recette pour le désastre.
Des erreurs utiles, et une vigilance accrue
Andrew Filev, fondateur de Zencoder, tempère cependant l'inquiétude. Les erreurs, même spectaculaires, peuvent être des opportunités d'apprentissage. « Les petits incidents sont en réalité très utiles », explique-t-il, à condition qu'ils soient identifiés et corrigés en interne avant de causer des dommages. L'essentiel est de rappeler aux employés l'importance de signaler toute anomalie, car un problème ignoré peut rapidement se transformer en crise majeure.
L'avenir de l'IA en entreprise passe par une approche hybride, combinant audits humains et IA. « Il faut que les deux processus fonctionnent en parallèle pendant un certain temps », estime Filev, jusqu'à ce que la vérification par l'IA atteigne au moins le même niveau de performance que celle réalisée par un humain. Chez Amazon, l'erreur a peut-être servi de leçon, permettant de créer des cas de test pour entraîner l'IA à éviter de telles situations à l'avenir. Mais l'histoire de ces dernières semaines rappelle une vérité fondamentale : l'intelligence artificielle n'est qu’un outil, et comme tout outil, elle doit être maniée avec prudence et discernement.