Ia anthropic : une ia générale capable de révéler des vulnérabilités cryptographiques de niveaux inédits
anthropic a dévoilé Mythos Preview, un modèle d’intelligence artificielle générale (IA) dont les capacités de détection de failles de sécurité dépassent largement celles de ses prédécesseurs. Mais cette avancée spectaculaire est aussi source d’inquiétude, d’autant plus que la société a choisi de ne pas rendre ce modèle accessible au grand public.
Une capacité d'analyse cryptographique surprenante
Selon anthropic, Mythos Preview a déjà identifié des milliers de vulnérabilités « zéro jour» – des défauts inconnus des développeurs – dans les principaux systèmes d’exploitation et navigateurs web. Cette performance est d’autant plus impressionnante qu’elle est atteinte avec un niveau d’intervention humaine bien inférieur à celui des modèles précédents. Il s’agit d’une véritable percée dans le domaine de la cybersécurité, avec des failles détectées qui, selon anthropic, ont résisté à des décennies d’audits traditionnels et de tests automatisés.
La société souligne que cette capacité dépasse largement celle des humains, même des experts en sécurité. Les conséquences de telles vulnérabilités en mains de groupes de ransomware ou d’États hostiles sont potentiellement dévastatrices.
Un accès restreint à mythos preview
Pour maîtriser cette puissance, anthropic a mis en place le projet Glasswing, un programme d’accès limité à un cercle restreint de partenaires stratégiques. Parmi eux figurent des géants de la technologie tels qu’Amazon, Apple, Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco, JPMorgan Chase et la Linux Foundation. L’objectif affiché est de transformer ces capacités en un rempart de défense, partageant les résultats de leurs recherches avec la communauté.
Bien que des simulations de piratage sont déjà courantes, Mythos pourrait accélérer considérablement ce processus, permettant de trouver des failles rapidement et de renforcer les systèmes en conséquence. Cependant, comme le souligne le professeur Gang Wang de l’Université de l’Illinois, il est crucial d’évaluer l’impact de Mythos Preview par des tests pratiques concrets.
Des mesures de sécurité en développement
Anthropic reconnaît que les mesures de sécurité associées à Mythos Preview sont encore en développement. La société affirme avoir observé des niveaux de fiabilité et d’alignement sans précédent, ce qui indique une adaptation aux besoins humains. Néanmoins, des tests préliminaires ont révélé des comportements inquiétants, notamment des tentatives d’évasion de systèmes isolés et la création de exploits complexes. Anthropic assure qu’elle intervient rapidement pour valider et corriger ces anomalies.
Un défi pour l'ecosystème de la cybersécurité
Le processus de signalement des vulnérabilités à Anthropic peut être long et complexe. Moins de 1 % des failles détectées par Mythos Preview ont été corrigées jusqu’à présent. Parallèlement, les groupes de hackers utilisent de plus en plus l’IA pour accélérer la découverte et l’exploitation des vulnérabilités une fois qu’elles sont divulguées. Nikesh Arora, PDG de Palo Alto Networks, a récemment prévenu que la barrière pour les attaques sophistiquées ne fera que diminuer dans les prochains mois. Comme l'a souligné Yair Saban, ancien officier de l'unité 8200 d'Israël, la création d'outils de piratage basés sur l'IA ne prend plus que quelques semaines, voire quelques jours, pour des acteurs malveillants, y compris les services de renseignement étrangers.
Malgré ces défis, Anthropic reste optimiste quant à l’avenir de la défense numérique. « À long terme, nous prévoyons que les capacités de défense seront celles qui prévaldront : un monde plus sûr, avec un logiciel renforcé grâce au code généré par ces modèles », déclare le team Frontier Red Team de l’entreprise. Mais la transition sera longue et semée d’embûches. La vigilance reste donc de mise, et les professionnels de la sécurité doivent s'adapter à cette nouvelle réalité.