Google alerte sur les attaques LLMjacking, qui peuvent coûter jusqu'à 1 million de dollars en frais cloud aux entreprises.

Google a lancé lundi un avertissement au sujet des attaques LLMjacking. Des acteurs malveillants détournent l’accès d’entreprises à des grands modèles de langage (LLM). Ainsi, ils exploitent aux frais de leurs victimes des ressources de calcul coûteuses et des services d’intelligence artificielle. Par conséquent, pour certaines organisations, la facture cloud peut grimper jusqu’à 1 million de dollars.

Que sont les attaques LLMjacking ?

Le LLMjacking est une forme de détournement de ressources. C’est une variante adaptée à l’ère des modèles de langage. Le principe est simple : l’attaquant met la main sur une clé d’API légitime. Ensuite, il l’utilise comme s’il était le client autorisé.

Les modèles d’IA générative demandent beaucoup de puissance de calcul. Leur usage est donc facturé à prix élevé. Par conséquent, une clé volée représente un véritable trésor pour un pirate. En effet, il peut consommer des services payants sans débourser le moindre centime.

C’est l’entreprise victime qui règle la note. Autrement dit, le préjudice est d’abord financier. Toutefois, il peut passer inaperçu pendant plusieurs jours, voire plusieurs semaines. C’est le cas si personne ne surveille la consommation.

Comment les pirates obtiennent une clé d’API

Selon Google, plusieurs voies mènent au vol d’une clé d’API. Cependant, aucune ne demande de techniques particulièrement sophistiquées. Voici les principales :

• L’hameçonnage : un employé est piégé et livre ses accès ou des secrets techniques.
• Les fuites de code source : par exemple, une clé reste codée en dur dans un dépôt ou dans un fichier partagé.
• Les environnements mal configurés : des paramètres trop permissifs exposent ainsi des secrets.
• Le code côté client exposé : la clé est visible dans une application web ou mobile.

Ces failles ont un point commun. Elles relèvent surtout de la gestion des secrets et de l’hygiène de configuration. En effet, une clé d’API se comporte comme un mot de passe. Pourtant, elle est souvent traitée avec moins de précautions.

De plus, les équipes de développement travaillent vite sur les projets d’IA. Les prototypes passent parfois en production sans contrôle approfondi. Ainsi, une clé oubliée dans un extrait de code peut rester exploitable longtemps.

Un risque financier qui change d’échelle

Le chiffre avancé par Google donne la mesure du problème. Jusqu’à 1 million de dollars de frais cloud peuvent s’accumuler pour certaines entreprises. Il ne s’agit donc pas d’un vol de données classique. Il s’agit d’une ponction directe sur le budget.

Cette menace est particulière à plusieurs titres. D’abord, elle ne perturbe pas toujours les systèmes de la victime. Aucun service ne tombe et aucun message de rançon n’apparaît. Ensuite, la détection repose souvent sur la facturation, donc après coup. Enfin, la puissance de calcul des LLM coûte cher. Ainsi, quelques jours d’abus peuvent suffire à faire exploser les dépenses.

Par ailleurs, l’usage détourné ne se limite pas à un simple vol de ressources. Un accès à un modèle d’IA relié à des outils internes peut ouvrir d’autres risques. Toutefois, l’alerte de Google met surtout l’accent sur l’abus des services de calcul et des API payantes.

Se protéger des attaques LLMjacking

Les entreprises disposent de leviers concrets pour limiter les attaques LLMjacking. Ces leviers relèvent notamment de bonnes pratiques de sécurité cloud, appliquées de façon rigoureuse. Voici quelques pistes.

1. Ne jamais exposer une clé dans le code client. Les appels aux modèles doivent donc passer par un serveur intermédiaire protégé.
2. Rechercher les secrets dans les dépôts. En effet, des outils d’analyse détectent les clés oubliées avant qu’elles ne soient publiées.
3. Faire tourner les clés régulièrement. Une clé révoquée vite perd toute valeur pour un attaquant.
4. Appliquer le principe du moindre privilège. Ainsi, chaque clé ne donne accès qu’aux services strictement nécessaires.
5. Fixer des quotas et des alertes budgétaires. Un pic de consommation doit déclencher une notification immédiate.
6. Surveiller l’usage des API. Des appels inhabituels, à des heures ou depuis des lieux inattendus, sont un signal d’alarme.

Il faut également former les équipes à l’hameçonnage. En effet, un simple clic peut suffire à livrer des identifiants. Une authentification multifacteur robuste réduit ce risque. Enfin, il est utile de revoir régulièrement les configurations des environnements cloud. Une mauvaise permission peut annuler tous les autres efforts.

Ce qu’il faut retenir

• Google a mis en garde lundi contre le LLMjacking, un détournement de l’accès des entreprises aux LLM.
• L’attaquant obtient une clé d’API par hameçonnage, fuite de code source, mauvaise configuration ou code client exposé.
• Les frais cloud peuvent atteindre jusqu’à 1 million de dollars pour certaines entreprises.
• La défense repose notamment sur la gestion des secrets, les quotas, la surveillance des coûts et le moindre privilège.

Les projets d’IA se multiplient dans les entreprises. Par conséquent, la protection des clés d’API devient une priorité de sécurité autant que de gestion financière.

Source : Google Warns LLMjacking Attacks Are Costing Some Enterprises Up to $1 Million in Cloud Charges