Les agents IA personnels s'invitent au travail, déjà connectés aux comptes des employés : voici les risques à anticiper.

Les agents IA personnels séduisent le monde de la tech. Pourtant, leur déploiement ne se passe pas sans heurts. Surtout, ces assistants arrivent en entreprise par la petite porte : celle des salariés eux-mêmes. Certains parlent de « Bring Your Own Agent », ou BYOA. En effet, le principe rappelle le « shadow IT » : un outil non validé par la DSI, déjà connecté aux comptes professionnels.

Les agents IA personnels entrent en entreprise

Un agent IA ne se contente pas de répondre à des questions. En effet, il agit à la place de son utilisateur. Il navigue sur le web, ouvre des sessions et manipule des services en ligne. Pour être utile, il a donc besoin d’un accès aux comptes de la personne.

C’est là que le problème commence. Ainsi, un employé qui installe son assistant personnel lui confie souvent des sessions déjà ouvertes. Messagerie, outils collaboratifs, plateformes internes : l’agent peut y accéder comme son propriétaire. Autrement dit, il hérite de ses droits.

Le département informatique, lui, n’a souvent aucune visibilité. Il ne sait pas quel agent est utilisé. Il ne sait pas non plus quelles données transitent par lui. En outre, les journaux d’activité attribuent chaque action à l’employé, pas à l’assistant.

Amazon bloque Muse, l’agent de Meta

Un épisode récent illustre ces tensions. Ainsi, Amazon bloque désormais Muse, l’agent de Meta. La raison est précise : Muse ne s’identifie pas comme un robot lorsqu’il navigue sur le site.

Ce détail compte beaucoup. En effet, les sites web s’appuient sur l’identification des robots pour appliquer leurs règles. Ils décident ainsi ce qu’un automate peut consulter ou non. Par conséquent, un agent qui se fait passer pour un utilisateur classique contourne ce mécanisme.

Par ailleurs, cette opacité complique la défense. Les outils de détection de bots reposent sur des signaux clairs. Si l’agent les masque, il devient difficile de distinguer un humain d’une automatisation. Cela vaut également pour les applications internes d’une entreprise.

Pourquoi les agents IA personnels inquiètent les équipes sécurité

Le cas d’Amazon n’est pas isolé. Le service Instinct continue, de son côté, de soulever des inquiétudes sur la vie privée. De plus, les récits problématiques s’accumulent à propos de pratiquement tous les agents personnels. Les détails varient selon les produits, mais la tendance est nette.

Ainsi, plusieurs risques ressortent de ce contexte.

• Fuite de données : l’agent peut transmettre des informations sensibles à un service tiers, sans que l’entreprise le sache.
• Droits excessifs : l’assistant agit avec les accès complets de l’employé, même pour une tâche anodine.
• Traçabilité réduite : les actions de l’agent se confondent avec celles de l’utilisateur.
• Conformité : le traitement de données personnelles par un outil non validé pose des questions au regard du RGPD.

Il faut aussi penser à la manipulation. Un agent qui lit des pages web peut tomber sur des consignes cachées. Ces attaques dites d’injection de prompt visent à détourner son comportement. Or un agent connecté à une messagerie professionnelle dispose d’un levier important. Par conséquent, le risque dépasse la simple curiosité technologique.

Enfin, l’enthousiasme du marché accentue la pression. Les salariés veulent gagner du temps. Ils adoptent donc ces outils avant que les règles internes n’existent. Interdire en bloc est rarement efficace. En effet, les usages se déplacent alors vers des appareils personnels, encore moins visibles.

Ce qu’il faut retenir

Les entreprises ne peuvent plus ignorer le phénomène. C’est pourquoi voici quelques pistes concrètes pour reprendre la main.

1. Cartographier les usages : d’abord, interrogez les équipes sur les assistants qu’elles utilisent déjà.
2. Définir une politique claire : précisez quels agents sont autorisés, pour quelles tâches et avec quelles données.
3. Limiter les accès : privilégiez des comptes dédiés et des permissions minimales plutôt que les sessions personnelles des salariés.
4. Surveiller les connexions : repérez les comportements d’automatisation inhabituels sur vos applications et vos accès.
5. Former les utilisateurs : expliquez les risques de fuite et d’injection de prompt, par exemple avec des cas simples.
6. Exiger de la transparence : choisissez des éditeurs dont les agents s’identifient clairement comme des robots.

En résumé, l’agent IA personnel est déjà connecté, souvent sans validation. Le blocage de Muse par Amazon montre que les plateformes réagissent. Aux entreprises d’en faire autant, avant qu’un incident ne les y oblige.

Source : Bring Your Own Agent: Your Employees' Assistants Are Already Logged In