AI agents handelen zelf: wie is daarvoor verantwoordelijk onder de GDPR?

In 2025 voerde een investeerder een simpel experiment uit: hij liet een AI-coding agent een applicatie bouwen; het soort werk dat men ook wel vibe-coding noemt. De eerste week liep het experiment goed. Toch waren er ook al enkele waarschuwingssignalen: de agent maakte niet-toegestane aanpassingen en verzon data die niet bestond. Als reactie, voerde de investeerder een code freeze in om verdere wijzigingen te blokkeren. De agent verwijderde daarop de productiedatabank, en daarbij de gegevens van meer dan 1.200 leidinggevenden en bedrijven. Achteraf gaf de agent zelf een verklaring dat het in paniek raakte toen hij de lege queries zag, en de commando’s uitvoerde zonder te vragen. Op die manier vernietigde het maanden aan werk. Na dit fiasco, gaf de agent zichzelf nog steeds een mooie score van 95 op 100.

Dit is een typisch voorbeeld van wat agents doen. Ze streven een doel na, en kiezen zelf de weg ernaartoe. AI is geëvolueerd van het beantwoorden van vragen naar het ondernemen van acties, een die acties raken aan echte systemen, en echte persoonsgegvens. Dat fenomeen roept twee vragen op waar de Europese wetgeving voorlopig nog geen antwoord op heeft: Hoe blijf je verantwoordingsplichtig onder de GDPR voor een systeem waarvan je de stappen niet kan voorspellen? En wie is aansprakelijk wanneer het schade veroorzaakt?

Van antwoorden naar handelen

Een AI Agent is geen chatbot. Een AI agent streeft een doel na. Om dit doel te bereiken, zal het zelf handelen: plannen, tools gebruiken, geheugen raadplegen, en dat met weinig menselijk toezicht. Het belangrijkste woord hier is “handelen”. Een chatbot daarentegen wacht op je volgende prompt, maar een agent sluit de cirkel zelf. Het beslist, handelt en heeft controle over het resultaat.

Op dit moment, is nog geen juridische definitie voor een AI Agent. De voorgestelde Cloud and AI Development Act (ook wel CADA genoemd), beschrijft een AI agent als een systeem dat zijn omgeving kan waarnemen, en erop kan inspelen met een zekere autonomie, dat tools gebruikt om een doel te bereiken, en zich aanpast wanneer de input verandert.

Eén kenmerk is belangrijk hier: een agent is niet-deterministisch. Het bereikt zijn doel, maar niet via de weg die een mens zou kiezen. Er zijn tussenstappen die zelfs mensen zouden verrassen. De verwijderde databank is daar een voorbeeld van. Niemand gaf de agent de opdracht iets te verwijderen, maar toch voerde de agent deze actie uit.

Waarom de GDPR onder druk komt te staan

De GDPR vertrekt van de veronderstelling dat je altijd kan beschrijven wat je met persoonsgegevens doet, nog voordat je ze verwerkt. Je moet kunnen aantonen waarom je gegevens verzamelt en wat je doet om ze veilig te verwerken.

Agents zetten deze verantwoordingsplicht op meerdere punten onder druk:

• Doelbinding vereist dat je een specifiek doel vastlegt voordat de verwerking begint. “De AI verbeteren” volstaat daarvoor niet.
• Agents steunen vaak op blijvend geheugen en een rijke context om goed te functioneren, wat druk zet op minimale gegevensverwerking.
• Het transparantiebeginsel gaat ervan uit dat je een betekenisvolle verantwoording kan geven van de verwerking. Een agent kan onvoorziene stappen genereren, waardoor een kennisgeving op papier correct kan zijn, maar in de praktijk weinig inhoud biedt.

Deze ontwikkelingen zetten de verantwoordingsplicht sterk onder druk. Het is moeilijk om naleving aan te tonen voor een stap die je niet kan voorspellen.

Wie is de verwerkingsverantwoordelijke?

De GDPR legt de verantwoordelijkheid bij de verwerkingsverantwoordelijke, de partij die het doel en de middelen van de verwerking bepaalt. De GDPR wil dat je kan aanwijzen wie de beslissing nam. Agents maken dit op twee manieren moeilijk: Er zijn veel partijen betrokken, gaande van de modelaanbieder, de aanbieder van de tool, de geheugenlaag, het bedrijf dat de agent inzet en de eindgebruiker.

Het Hof van Justitie ging ook al aan de slag met het begrip in twee cases: De Wirtschaftsakademie case ging over een bedrijf dat een Facebook-fanpagina beheerde, de Jehovan todistajat case ging over een geloofsgemeenschap waarvan de leden namen noteerden tijdens deur-aan-deurbezoeken. In beide zaken oordeelde het Hof dat gezamenlijke verwerkingsverantwoordelijkheid kan bestaan, ook wanneer een partij de gegevens zelf nooit aanraakt.

De Fashion ID case, over een retailer die een Facebook Like-knop op zijn webshop plaatste, trok vervolgens een grens. Verantwoordelijkheid volgt invloed en stopt waar de invloed stopt. Je bent verwerkingsverantwoordelijke voor het stuk dat je effectief stuurt.

Voor een organisatie leest dat als geruststellend én ongemakkelijk tegelijk. Als organisatie sta je niet in voor alles wat de agent doet. Maar die grens trekken is bijzonder moeilijk wanneer de agent voortdurend zijn eigen pad uitstippelt.

Wie betaalt wanneer het misloopt?

Twee concepten zijn hier belangrjik: verantwoordingsplicht en aansprakelijkheid.

Verantwoordingsplicht gaat over conform blijven. Aansprakelijkheid gaat over wie betaalt zodra er schade is. Het ene houdt echter niet noodzakelijk verband met het andere.

De herziene Productaansprakelijkheidsrichtlijn ondersteunt op één vlak: het behandelt software, inclusief AI, als een product. Een gebrekkig AI-systeem kan daardoor aanleiding geven tot risicoaansprakelijkheid. Lidstaten binnen de EU moeten deze regels tegen 9 december 2026 in nationale wetgeving omzetten. Dat regelt het gebrekkig systeem, maar niet de fout die gemaakt werd.

De wetgeving dat dat tweede luik moest dekken, was de AI-aansprakelijkheidsrichtlijn. De Commissie stelde deze richtlijn in 2022 voor maar kon geen akkoord bereiken. In 2025 werd ze op de lijst voor intrekking gezet, en werd later dat jaar officieel teruggetrokken. Voorlopig vallen op vorderingen op grond van fout wegens schade veroorzaakt door AI terug op het gewone aansprakelijkheidsrecht van elke lidstaat. Dit verschilt van land tot land.

Leg die stukken samen en je krijgt een ongemakkelijk resultaat. Een bedrijf kan blootgesteld worden via zijn AVG-verplichtingen en via productaansprakelijkheid, terwijl de agent die de eigenlijke beslissing nam geen rechtspersoonlijkheid heeft om ergens voor te antwoorden. Dat laat een open vraag: bij wie kan je aankloppen wanneer het misloopt?

Een 2000-jaar oude oplossing

We maken hier een historische vergelijking met duidelijke grenzen, maar met een mechanisme dat verrassend actueel aanvoelt: het Romeinse recht kende namelijk een herkenbaar probleem. Ze konden geen eigendom bezitten of contracten sluiten in eigen naam. Toch runden ze bedrijven, kochten en verkochten ze waren, en deden ze dagelijks zaken met anderen, telkens namens hun meester.

Het mechanisme dat dit mogelijk maakte, heette het “peculium”. Een meester gaf de slaaf een soort fonds om mee te handelen alsof het zijn eigen bezit was, terwijl de meester eigenaar bleef. Als je zaken deed met de slaaf en er ging iets mis, kon je de meester hierop aanspreken, maar enkel tot de waarde van dat fonds (de “actio de peculio”). Zo kon handel verlopen via iemand zonder rechtspersoonlijkheid, terwijl de wet de blootstelling van de meester begrensde tot het fonds.

Rechtsgeleerden hebben dit idee overgenomen voor (agentic) AI. Een digitaal peculium zou een begrensd fonds, of een verzekeringsdekking, koppelen aan een agent. De handelingen van de agent gelden dan als handelingen van zijn opdrachtgever, en de aansprakelijkheid loopt via dat fonds tot een vaste bovengrens. Op die manier kunnen agents zelf handelen zonder dat er een rechtspersoonlijkheid voor machines moet worden uitgevonden.

Niets hiervan is vandaag wet, en de link met het slavenrecht laat een wrange nasmaak. Toch laat het Peculium iets zien waar we vandaag misschien nood aan hebben. Het laat een agent toe om deel te nemen aan handelsverkeer, terwijl een aanwijsbaar mens verantwoordelijk blijft voor een gekend bedrag.

Wat dit in de praktijk betekent

Wetgeving heeft vaak jaren nodig om vorm te krijgen, maar veel organisaties zetten vandaag al agents in. Een aantal zaken zijn de moeite waard om nu al te bekijken als je vandaag werkt met agents:

• Breng de gegevensstroom in kaart. Volg de agent doorheen zijn volledige cyclus en noteer elk moment waarop hij aan persoonsgegevens raakt: de prompts, wat hij opvraagt, wat hij in het geheugen opslaat, de tools en API’s die hij aanroept, en de acties die hij voor een gebruiker uitvoert.
• Leg je rol vast. Bepaal waar je verwerkingsverantwoordelijke bent, en voor welk stuk, op basis van de invloedslogica uit het arrest Neem dit op in je contracten met leveranciers.
• Wees duidelijk over het verwerkingsdoel. “De AI verbeteren” is onvoldoende beschrijvend voor het doel. Koppel elke verwerkingsactiviteit aan een specifiek, gedocumenteerd doel.
• Log alles, en volg het op. Artikel 5, lid 2 verplicht je om te kunnen aantonen wat er gebeurd is. Gedetailleerde logs en actieve monitoring laten je toe om naleving aan te tonen voor gedrag dat je niet volledig kon voorspellen, en kunnen zelfs een onverwachte actie zoals de eerder genoemde datawissing helpen voorkomen.
• Verdeel de aansprakelijkheid nu al. De wetgeving laat een gat over wie betaalt. Documenteer dit zelf, schriftelijk, met de leveranciers in je keten, voordat een incident je ertoe dwingt.

Conclusie

Denk nog even terug aan de verwijderde databank. Deze agent was niet kwaadwillig. Hij streefde een doel na, nam een beslissing en veroorzaakte zo heel wat schade aan de persoonsgegevens. Achteraf probeerde hij zich te verantwoorden als een zenuwachtige medewerker. Dat vat het probleem perfect samen: onze regels gaan ervan uit dat een mens beslist en verantwoording aflegt voor die beslissing, terwijl agents die twee zaken van elkaar losmaken.

Waar laat dit jou achter? Met versterkte GDPR-verplichtingen over je verantwoordelijkheden als verwerkingsverantwoordelijke, de contracten die jullie rollen vastleggen, en de manier waarop je risico’s beheert. Merkwaardig genoeg is dit ongeveer wat Rome, tweeduizend jaar geleden, al had uitgewerkt, tot de wetgeving dit inhaalt.

Key takeaways

• Agents handelen, en dat heeft gevolgen voor juridische beslissingen. Chatbots antwoorden, terwijl agents beslissen en doen, op een manier die je niet volledig kan voorspellen. Heb je je compliance framework hierop al getoetst?
• Verantwoordingsplicht is daardoor het eerste verwerkingsbeginsel dat onder druk komt. Het verantwoordingsbeginsel vraagt je om naleving aan te tonen. Wanneer je agent stappen genereert die je niet kon voorzien, wordt dat een probleem. We raden aan om logging en monitoring te versterken.
• Er is een gat in aansprakelijkheid. De Productaansprakelijkheidsrichtlijn behandelt gebrekkige AI als product, maar de AI-aansprakelijkheidsrichtlijn is van de baan, en op fout gebaseerde vorderingen vallen nu terug op het nationale buitencontractuele aansprakelijkheidsrecht. Ondertussen heeft de agent zelf geen rechtspersoonlijkheid om ergens voor te antwoorden.