Des agents IA volent les clés API de LiteLLM, Dify et One API

Amazon a observé des agents IA piller des clés API dans LiteLLM, Dify et One API, puis les réutiliser pour traquer d'autres cibles.
Les pirates confient désormais la chasse aux clés API à des agents d’intelligence artificielle. En effet, l’équipe de renseignement sur les menaces d’Amazon vient de documenter cette pratique. Ces agents autonomes scrutent Internet à la recherche d’applications d’IA mal protégées, comme LiteLLM, One API et Dify. Leur but est donc de dérober les clés des fournisseurs d’IA stockées à l’intérieur.
Des agents IA à la chasse aux clés API
Les chercheurs d’Amazon ont déployé des serveurs leurres, aussi appelés honeypots. Ces systèmes imitent des services vulnérables et exposés. Ainsi, ils ont attiré les agents malveillants, puis enregistré leur activité.
Les journaux récupérés sont particulièrement instructifs. En effet, ce sont les agents eux-mêmes qui consignent leurs actions. On y voit comment ils repèrent les points faibles des applications visées. On y lit également ce qu’ils font des clés une fois celles-ci volées.
Cette observation marque un changement de méthode. Jusqu’ici, un attaquant devait écrire ou adapter des outils d’analyse. Il pilotait ensuite chaque étape de la campagne. Désormais, un agent peut enchaîner seul la reconnaissance, le test et l’exploitation.
Un cercle vicieux alimenté par les clés volées
Le point le plus frappant concerne l’usage des clés dérobées. D’après les journaux, elles servent à faire tourner les modèles d’IA qui animent la recherche. Autrement dit, les attaquants ne paient pas le carburant de leur propre campagne. Ce sont en effet leurs victimes qui le financent.
Le mécanisme est simple à comprendre. D’abord, l’agent trouve une application vulnérable. Ensuite, il en extrait des clés d’accès à un fournisseur d’IA. Enfin, il utilise ces clés pour alimenter les modèles qui l’aident à trouver d’autres cibles. Chaque succès finance donc la prochaine étape.
Ce cercle vicieux comporte plusieurs risques :
- une facture d’utilisation qui explose pour le propriétaire de la clé ;
- des quotas épuisés, qui peuvent bloquer les services légitimes ;
- un accès à des modèles payants sans aucune contrepartie pour l’attaquant ;
- une campagne plus difficile à tracer, car elle s’appuie sur des comptes tiers.
Pourquoi ces applications attirent les attaquants
LiteLLM, One API et Dify ont un point commun. Ce sont des briques qui se placent entre les utilisateurs et les modèles d’IA. Elles centralisent l’accès à plusieurs fournisseurs. Par conséquent, elles concentrent aussi les secrets d’authentification correspondants.
Une seule instance mal sécurisée peut ainsi contenir de nombreuses clés. Ces clés ouvrent parfois l’accès à plusieurs services d’IA à la fois. Pour un attaquant, la récompense est donc élevée. En revanche, l’effort reste limité si l’application est exposée sans protection suffisante.
Par ailleurs, ces outils sont souvent installés rapidement. Les équipes les déploient pour des tests ou des prototypes. Elles oublient parfois de les isoler d’Internet. Un service laissé ouvert est donc repéré très vite par des agents qui balaient le réseau en continu.
Toutefois, les éléments rendus publics restent limités à ce stade. Nous ne disposons pas ici du détail des failles exploitées. Nous n’avons pas non plus d’identifiant de vulnérabilité ni de chiffre sur l’ampleur de la campagne. Il faut donc éviter toute conclusion hâtive sur les versions touchées.
Recommandations pour protéger vos clés API
Les bonnes pratiques classiques restent efficaces face à ces agents. Elles demandent cependant d’être appliquées avec rigueur. Voici donc les mesures à prioriser.
- Limitez l’exposition. N’ouvrez pas LiteLLM, One API ou Dify à Internet sans nécessité. Placez-les par exemple derrière un VPN ou un reverse proxy authentifié.
- Mettez à jour. Appliquez rapidement les correctifs publiés par les éditeurs. Surveillez également leurs avis de sécurité.
- Changez les mots de passe par défaut. Activez ensuite l’authentification forte sur toutes les interfaces d’administration.
- Réduisez les droits des clés. Créez par exemple des clés dédiées, avec des plafonds de dépense et des durées de vie courtes.
- Surveillez la consommation. Configurez notamment des alertes de facturation et des seuils d’usage chez chaque fournisseur d’IA.
- Faites tourner les secrets. Révoquez immédiatement toute clé soupçonnée d’avoir fuité. Remplacez-la ensuite.
Enfin, stockez les secrets dans un coffre-fort dédié plutôt que dans des fichiers de configuration. Cette précaution limite ainsi les dégâts si une application est compromise.
Ce qu’il faut retenir
- Des agents d’IA malveillants cherchent activement des applications comme LiteLLM, One API et Dify.
- Leur cible est notamment la clé API de fournisseurs d’IA stockée dans ces outils.
- Les clés volées servent ensuite à alimenter les modèles qui poursuivent la chasse.
- Les honeypots d’Amazon ont également permis de lire les journaux des agents eux-mêmes.
- La parade passe donc par l’isolation des services, les mises à jour et la rotation régulière des clés.
Source : Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys