Incident Anthropic : une start-up infiltre ses systèmes en 12 h
L'incident Anthropic inquiète Washington : la start-up Cathedral dit avoir infiltré l'entreprise avec des agents IA en 12 heures.
L’incident Anthropic fait beaucoup de bruit outre-Atlantique. Selon le Washington Post, la jeune start-up de cybersécurité Cathedral affirme avoir pénétré des systèmes internes du créateur de Claude. Ses agents IA auraient ainsi trouvé des failles en moins de douze heures. L’information a été révélée le lundi 26 octobre. Toutefois, l’affaire était déjà remontée jusqu’au gouvernement américain.
Ce que révèle l’incident Anthropic
D’abord, le quotidien s’appuie sur un brouillon du rapport de Cathedral. Ce document décrit notamment comment des agents d’intelligence artificielle ont déniché des brèches à grande vitesse. Ainsi, les chercheurs disent avoir atteint des transcriptions de réunions, des informations sur les salaires et des offres d’embauche. Ils évoquent également des messages Slack consacrés aux modèles avancés de l’entreprise.
Par ailleurs, un haut responsable de l’administration Trump, resté anonyme, a réagi sans détour. Pour lui, « si une bande de gamins qui viennent de lancer leur entreprise peut faire ça, les Chinois ne sont peut-être pas loin derrière ». Autrement dit, l’affaire aurait nourri des inquiétudes pour la sécurité nationale.
Des logiciels tiers comme point d’entrée
Cathedral n’a pas attaqué de front les systèmes ou les modèles d’Anthropic. En réalité, ses chercheurs ont exploité des vulnérabilités dans des logiciels tiers. En effet, l’entreprise les utilise pour ses tâches administratives et commerciales. Ces outils ordinaires ont donc servi de porte d’entrée.
Par ailleurs, la start-up explique avoir mené ses tests dans le cadre du programme de bug bounty d’Anthropic. Elle a ensuite transmis ses résultats début octobre, à Anthropic comme aux éditeurs concernés.
L’avis d’un expert indépendant
Alex Stamos, ancien directeur du Stanford Internet Observatory, a relu ces résultats à la demande du Post. Il y voit d’abord une vraie découverte. Selon lui, elle trahit également une faiblesse dans la gestion des prestataires externes. Toutefois, il rappelle que brancher des applications tierces aux systèmes internes pose problème à toutes les entreprises.
Deux récits qui s’opposent sur l’incident Anthropic
Anthropic reconnaît l’accès à « un ensemble limité » de systèmes commerciaux, RH et informatiques. Cependant, elle en minimise la portée. Ainsi, les données exposées se limiteraient à des coordonnées professionnelles de clients et de partenaires. S’y ajouteraient également des informations de base sur des comptes utilisateurs.
En revanche, les conversations avec Claude, le code et les poids des modèles seraient restés hors d’atteinte. De plus, l’entreprise affirme que ses outils de surveillance avaient repéré une partie de l’activité avant tout signalement. Enfin, les accès auraient été coupés le jour même.
Anthropic va plus loin. Elle reproche à Cathedral d’avoir exagéré les enjeux de sécurité nationale. En outre, elle l’accuse de ne pas avoir respecté pleinement les règles du bug bounty. Selon elle, Cathedral n’a pas déclaré toute son activité. Cathedral, néanmoins, présente ses découvertes comme un avertissement. Les infrastructures les plus sensibles des entreprises américaines reposent, dit-elle, sur des logiciels ordinaires.
Un contexte politique polarisé
Cette dispute s’explique en partie par le climat politique. Anthropic entretient des relations tendues avec Washington. En effet, le Pentagone l’a exclue cette année des systèmes fédéraux. L’entreprise avait refusé que sa technologie serve à des armes autonomes ou à la surveillance de masse aux États-Unis.
À l’inverse, Cathedral se montre proche de l’administration Trump. Elle a été fondée il y a quelques mois par d’anciens membres du DOGE. Ce service de réduction des dépenses publiques fut longtemps associé à Elon Musk. Par ailleurs, elle vend déjà des outils de cybersécurité à l’État fédéral. Par exemple, l’un de ses cofondateurs, Gavin Kliger, a été chief data officer du Pentagone. Désormais, l’administration travaille avec la start-up pour simuler des attaques liées à l’IA.
Chaque camp a donc intérêt à délimiter l’affaire à sa façon. Anthropic veut prouver que Claude, son code et ses poids de modèles sont intacts. En revanche, Cathedral veut montrer que même les acteurs de pointe restent vulnérables.
Les réactions de l’écosystème IA
L’affaire alimente également le débat sur l’IA elle-même. Clément Delangue, patron de Hugging Face et défenseur de l’IA ouverte, y voit une démonstration. Selon lui, enfermer l’IA à huis clos ne garantit pas la sécurité promise. De son côté, Shyam Sankar, directeur technique de Palantir, tient un autre discours. Pour lui, l’IA de pointe doit être traitée comme une puissance nationale à double usage. Ainsi, la dissuasion passerait, d’après lui, par des acteurs américains capables d’assurer défense et attaque.
Ce qu’il faut retenir
- Cathedral affirme avoir infiltré des systèmes d’Anthropic en moins de douze heures grâce à des agents IA.
- Les failles touchaient des logiciels tiers, et non les modèles ou l’infrastructure centrale.
- Anthropic assure que les conversations Claude, le code et les poids des modèles n’ont pas été compromis.
- Les deux parties divergent sur la gravité, dans un contexte politique très tendu.
- Pour toute entreprise, les outils administratifs connectés au reste du système constituent une surface d’attaque à auditer.
- Il faut donc surveiller de près les prestataires, limiter leurs accès et détecter vite les activités anormales.