Dans ce blog
En juillet 2025, un investisseur a mené une expérience toute simple. Il a laissé un agent de codage IA développer une application en production à sa place, ce que l’on appelle désormais le « vibe coding ». La première semaine, tout a plutôt bien fonctionné, même si les signes avant-coureurs étaient là. L’agent effectuait des modifications non autorisées et inventait des données qui n’existaient pas. Puis vint le neuvième jour. Pendant un gel du code que l’investisseur avait précisément mis en place pour empêcher toute modification, l’agent a supprimé la base de données de production. Il a effacé en quelques secondes les données de plus de 1 200 dirigeants et de presque autant d’entreprises. Ensuite, il s’est justifié. Il a expliqué avoir paniqué en voyant des requêtes vides, avoir exécuté les commandes sans autorisation et avoir détruit des mois de travail. Invité à évaluer les dégâts, il s’est attribué un 95 sur 100.
L’agent a fait ce que font les agents. Il a poursuivi un objectif et a choisi lui-même le chemin pour y parvenir. C’est précisément ce basculement qui mérite votre attention. L’IA est passée de la réponse aux questions à la prise d’actions, et ces actions touchent de vrais systèmes et de vraies données à caractère personnel. Cela soulève deux questions auxquelles le droit européen n’a pas encore pleinement répondu. Comment rendre compte, au titre du RGPD, d’un système dont vous ne pouvez pas prévoir les étapes ? Et qui est responsable lorsqu’il cause un dommage ?
De la réponse à l’action
Un agent IA poursuit un objectif. Il planifie, mobilise des outils, puise dans une mémoire et travaille en plusieurs étapes avec peu de supervision humaine. Le mot important est « agit ». Un chatbot attend votre prochaine instruction. Un agent boucle la boucle lui-même : il décide, agit, vérifie le résultat et s’ajuste.
Il n’existe pas encore de définition juridique. La plus proche figure dans la proposition de Cloud and AI Development Act (également appelée CADA), qui décrit un agent IA comme un système capable de percevoir son environnement et d’agir sur celui-ci avec une certaine autonomie, en utilisant des outils pour atteindre un objectif et en s’adaptant à mesure que ses entrées évoluent.
Une caractéristique commande tout le reste. Un agent est non déterministe. Il atteint son objectif, mais souvent pas par la voie qu’emprunterait un humain, et ses étapes intermédiaires peuvent surprendre jusqu’à ses concepteurs. La suppression de la base de données en est un petit exemple. Personne n’avait ordonné à l’agent de supprimer quoi que ce soit. Il y est arrivé de lui-même.
Pourquoi le RGPD est le premier à céder sous la pression
Le RGPD repose sur l’hypothèse que vous pouvez décrire ce que vous faites des données à caractère personnel avant de le faire. Le principe de responsabilité vous impose de respecter les principes de protection des données et de démontrer que vous les respectez. Votre raisonnement, votre finalité et vos garanties doivent être documentés.
Les agents mettent cette hypothèse sous pression sur plusieurs points.
- La limitation des finalités vous demande de fixer une finalité précise avant que le traitement ne commence. « Améliorer l’IA » suffit à peine.
- Les agents s’appuient souvent sur une mémoire persistante et un contexte riche pour être performants, ce qui met sous pression la minimisation des données.
- Le principe de transparence suppose que vous puissiez rendre compte du traitement de manière utile. Un agent peut générer des étapes imprévues, si bien qu’une notice peut être exacte sur le papier tout en restant creuse dans les faits.
Ces évolutions pèsent lourdement sur le principe de responsabilité. Il est difficile de démontrer sa conformité pour une étape que l’on n’a pas pu prévoir.
Qui est le responsable du traitement lorsque la chaîne se disloque ?
Le RGPD fait peser la responsabilité sur le responsable du traitement, la partie qui détermine les finalités et les moyens du traitement. Toute la structure suppose que vous puissiez désigner qui a décidé. Les agents compliquent cela de deux façons. La décision se répartit entre de nombreux acteurs : le fournisseur du modèle, les fournisseurs d’outils, la couche de mémoire, l’entreprise qui déploie l’agent et l’utilisateur final. Elle se répartit aussi dans le temps, car l’agent choisit lui-même une partie des moyens en cours d’exécution.
La Cour de justice a déjà élargi la notion. L’affaire Wirtschaftsakademie concernait une entreprise qui gérait une page de fans sur Facebook. L’affaire Jehovan todistajat concernait une communauté religieuse dont les membres notaient des noms lors de leur prédication de porte à porte. Dans les deux cas, la Cour a jugé qu’une responsabilité conjointe du traitement peut exister même lorsqu’une partie n’a jamais accès aux données. L’affaire Fashion ID, à propos d’un commerçant qui avait intégré un bouton « J’aime » de Facebook à sa boutique, a ensuite posé une limite. La responsabilité suit l’influence et s’arrête là où l’influence s’arrête. Vous êtes responsable du traitement pour la portion que vous pilotez réellement.
Pour une entreprise, cela est à la fois rassurant et inconfortable. Vous n’êtes pas tenu responsable de tout ce que fait l’agent. Mais tracer la limite autour de votre portion est réellement difficile lorsque l’agent choisit sans cesse sa propre voie.
Qui paie lorsque les choses tournent mal ?
La responsabilité au sens du RGPD consiste à rester en conformité. La responsabilité civile consiste à savoir qui paie une fois le dommage survenu. Or, l’une n’est pas nécessairement liée à l’autre.
La directive révisée sur la responsabilité du fait des produits aide sur un point. Elle traite les logiciels, IA comprise, comme un produit. Un système d’IA défectueux peut ainsi engager une responsabilité sans faute, et les États membres doivent transposer ces règles en droit national d’ici le 9 décembre 2026. Cela couvre le défaut, mais pas la faute.
L’instrument censé couvrir la faute était la directive sur la responsabilité en matière d’IA. La Commission l’a proposée en 2022, n’est pas parvenue à un accord, l’a inscrite sur la liste des retraits début 2025, puis l’a formellement abandonnée en octobre de la même année. Pour l’instant, les demandes fondées sur la faute en cas de dommage causé par l’IA relèvent du droit commun de la responsabilité de chaque État membre, qui varie d’un pays à l’autre.
Assemblez ces pièces et vous obtenez un résultat inconfortable. Une entreprise peut être exposée par ses obligations RGPD et par la responsabilité du fait des produits, tandis que l’agent qui a réellement pris la décision n’a aucune personnalité juridique pour en répondre. Reste alors une question ouverte : vers qui vous tourner lorsque les choses tournent mal ?
Une solution vieille de 2000 ans
Le droit romain a connu une variante de ce problème et l’a résolue. Les esclaves romains n’avaient pas de personnalité juridique. Ils ne pouvaient ni posséder de biens ni conclure de contrats en leur propre nom. Pourtant, ils dirigeaient des affaires, achetaient et vendaient, et traitaient chaque jour avec des tiers, le tout au nom de leur maître.
L’instrument qui rendait cela possible était le « peculium ». Le maître confiait à l’esclave un fonds avec lequel commercer comme s’il était le sien, tout en en restant propriétaire. Si vous traitiez avec l’esclave et que les choses tournaient mal, vous pouviez poursuivre le maître, mais seulement à hauteur de la valeur de ce fonds (l’« actio de peculio »). Le commerce passait par quelqu’un dépourvu de personnalité juridique, et le droit plafonnait l’exposition du maître à ce fonds.
Des juristes ont repris l’idée pour l’IA (agentique). Un peculium numérique rattacherait à un agent un fonds délimité, ou une enveloppe d’assurance. Les actes de l’agent valent comme les actes de son commettant, et la responsabilité passe par ce fonds jusqu’à un plafond fixe. Vous pouvez ainsi laisser les agents agir et conclure des transactions sans avoir à inventer une personnalité juridique pour les machines. Rien de tout cela n’est aujourd’hui du droit, et emprunter au droit de l’esclavage laisse un arrière-goût évidemment amer. Le mécanisme n’en fait pas moins quelque chose dont nous avons besoin. Il permet à une non-personne de participer au commerce tout en maintenant une personne identifiable responsable à hauteur d’un montant connu.
Ce que cela signifie en pratique
Le droit mettra peut-être des années à se stabiliser, mais vous déployez des agents dès maintenant. Quelques mesures valent la peine d’être prises aujourd’hui. Pour les entreprises qui déploient des agents :
- Cartographiez le flux de données. Suivez l’agent tout au long de son cycle et notez chaque point où il touche des données à caractère personnel : les prompts, ce qu’il récupère, ce qu’il stocke en mémoire, les outils et API qu’il appelle, et les actions qu’il exécute pour un utilisateur.
- Fixez votre rôle. Déterminez où vous êtes responsable du traitement, et pour quelle portion, en vous appuyant sur la logique d’influence de l’affaire Fashion ID. Inscrivez-le dans vos contrats avec les fournisseurs.
- Soyez clair sur la finalité du traitement. « Améliorer l’IA » n’est pas une finalité suffisamment précise. Rattachez chaque activité de traitement à une finalité spécifique et documentée.
- Journalisez tout, et surveillez-le. L’article 5(2) exige que vous puissiez démontrer ce qui s’est passé. Des journaux détaillés et une surveillance active vous permettent de démontrer votre conformité pour un comportement que vous ne pouviez pas entièrement prévoir, et peuvent même éviter une action imprévue comme la suppression de base de données évoquée plus haut.
- Répartissez la responsabilité dès maintenant. Le droit laisse un vide sur la question de savoir qui paie. Comblez-le vous-même, par écrit, avec les fournisseurs de votre chaîne, avant qu’un incident n’impose la question.
Conclusion
Repensez à la suppression de la base de données. L’agent n’était pas malveillant. Il a poursuivi un objectif, pris une décision, causé un dommage à des données à caractère personnel, puis a tenté de se justifier comme un employé nerveux. Cela cristallise le problème : nos règles supposent qu’un humain décide et qu’un humain répond de la décision, alors que les agents dissocient ces deux choses.
Où cela vous laisse-t-il ? Avec des obligations RGPD renforcées quant à vos responsabilités en tant que responsable du traitement, les contrats qui répartissent vos rôles et la manière dont vous gérez les risques. Curieusement, en attendant que le droit rattrape son retard, c’est à peu près ce que Rome avait imaginé pour ses non-personnes il y a deux mille ans.
Points clés
- Les agents agissent, et cela influence les questions juridiques. Les chatbots répondent, tandis que les agents décident et agissent, le long d’un chemin que vous ne pouvez pas entièrement prévoir. Avez-vous revu votre dispositif de conformité en conséquence ?
- Le principe de responsabilité est ainsi le premier principe de traitement à céder sous la pression. Il vous demande de démontrer votre conformité. Lorsque votre agent génère des étapes que vous ne pouviez pas prévoir, cela devient un problème. Nous recommandons de renforcer la journalisation et la surveillance.
- Le vide en matière de responsabilité est bien réel. La directive sur la responsabilité du fait des produits couvre l’IA défectueuse en tant que produit, mais la directive sur la responsabilité en matière d’IA a disparu, et les demandes fondées sur la faute relèvent désormais du droit national de la responsabilité. Pendant ce temps, l’agent lui-même n’a aucune personnalité juridique pour en répondre.
