{"id":2497,"date":"2023-11-22T15:41:00","date_gmt":"2023-11-22T15:41:00","guid":{"rendered":"https:\/\/www.cranium.eu\/chatgpt-gdpr-do-they-go-hand-in-hand-or-not\/"},"modified":"2025-01-31T12:23:04","modified_gmt":"2025-01-31T12:23:04","slug":"chatgpt-gdpr-gaan-ze-hand-in-hand-of-niet","status":"publish","type":"post","link":"https:\/\/www.cranium.eu\/nl\/chatgpt-gdpr-gaan-ze-hand-in-hand-of-niet\/","title":{"rendered":"ChatGPT & GDPR:\u00a0Gaan ze hand in hand of niet?"},"content":{"rendered":"\t\t
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\n

Het gebruik van ChatGPT, en andere gelijkaardige programma\u2019s, neemt steeds toe. Meer en meer bedrijven willen het voor allerlei opdrachten en processen toepassen.\u00a0<\/p>\n\n

In deze blogpost gaan de de AI Verordering (AI Act) toelichten en wat dit als gevolg heeft voor programma\u2019s zoals oa. ChatGPT. Daarnaast kijken we ook hoe we ChatGPT toch op een GDPR-vriendelijke manier kunnen gebruiken.\u00a0\u00a0<\/p>\n\n

De AI Act in een notendop<\/h2>\n\n

Tot voor kort bestond er eigenlijk zeer weinig wettelijk initiatief rond het gebruik van AI (waaronder ChatGPT valt). De technologie evolueert dan ook razendsnel. Stilaan komt er toch verandering in, en ondertussen werd er met het ontwerp van de AI Verordening (de AI Act) wel een wetgevend initiatief genomen, al zal er aan de lidstaten nog twee jaar de tijd gegeven worden om deze te implementeren.\u00a0\u00a0<\/p>\n\n

Het initi\u00eble voorstel voor de AI-act was doelge\u00f6rienteerd; AI-systemen werden geclassificeerd als (i) verboden, (ii) hoog risico, (iii) laag risico of (iv) zonder risico, en dit op basis van het doel waarvoor ze ontworpen waren.\u00a0\u00a0<\/p>\n\n

Afhankelijk van de classificatie van het AI-systeem zouden er andere regels gelden. Concreet betekent dit dat er in de eerste versie van het voorstel enkel werd gekeken naar het doel waarvoor de aanbieders het AI-systeem ontwikkeld hebben, zonder oog te hebben voor de manier waarop de gebruiker het AI-systeem zou toepassen.\u00a0<\/p>\n\n

\"AI<\/figure>\n\n

\u00a0<\/p>\n

In november 2022, wanneer ChatGPT mainstream aandacht kreeg, merkte de EU-wetgever dat deze logica niet gehanteerd kan worden bij AI-systemen die voor een algemeen doel ontworpen zijn. ChatGPT kan namelijk voor verschillende doeleinden gebruikt worden afhankelijk van de input van de gebruiker, dus het was nodig om het voorstel te wijzigen en tegemoet te komen aan deze recente ontwikkelingen.\u00a0<\/p>\n\n

Wat is een AI systeem volgens de AI Act?<\/h2>\n\n

Volgens de definities in artikel 3 uit het ontwerp van de AI Verordening is een AI-systeem het volgende:\u00a0<\/p>\n\n

\n

\u201csoftware die is ontwikkeld aan de hand van een of meer van de technieken en benaderingen die zijn opgenomen in de lijst van bijlage I en die voor een bepaalde reeks door mensen gedefinieerde doelstellingen output kan genereren, zoals inhoud, voorspellingen, aanbevelingen of beslissingen die van invloed zijn op de omgeving waarmee wordt ge\u00efnterageerd\u201d\u00a0<\/em><\/p>\n<\/blockquote>\n\n

ChatGPT zal uiteraard als een AI-systeem worden aangemerkt. Er dient echter bekeken te worden onder welke categorie van AI-systeem valt om te weten welke verplichtingen en\/of beperkingen er gelden voor het gebruik van ChatGPT.\u00a0<\/p>\n\n

Onder welke risicoklasse valt ChatGPT?\u00a0<\/strong><\/h2>\n\n

ChatGPT valt niet onder de verboden praktijken op het gebied van artifici\u00eble intelligentie, zoals voorzien in artikel 5 van de AI Verordening, maar kan mogelijk wel onder AI-systemen met een\u00a0hoog risico<\/strong>\u00a0vallen afhankelijk van de manier waarop deze technologie aangewend wordt door de gebruiker.\u00a0\u00a0<\/p>\n\n

Artikel 6 van de AI Verordening stelt het volgende:\u00a0<\/p>\n\n

\n

\u201c1. Ongeacht of een AI-systeem los van in de punten\u202fa) en\u202fb) bedoelde producten in de handel wordt gebracht of in gebruik wordt gesteld, wordt een AI-systeem als AI-systeem met een hoog risico beschouwd wanneer aan beide van de volgende voorwaarden is voldaan:<\/em>\u00a0<\/p>\n<\/blockquote>\n\n

(a) het AI-systeem is bedoeld om te worden gebruikt\u00a0<\/em>als veiligheidscomponent van een product<\/em><\/strong>\u00a0of is zelf een product dat valt onder de in bijlage\u202fII opgenomen\u00a0<\/em>harmonisatiewetgeving<\/em><\/strong>\u00a0van de Unie;<\/em>\u202f\u00a0<\/p>\n\n

(b) voor het product waarvan het AI-systeem de veiligheidscomponent vormt of voor het AI-systeem als product zelf moet een\u00a0<\/em>conformiteitsbeoordeling van een derde partij\u00a0<\/em><\/strong>worden uitgevoerd met het oog op het in de handel brengen of in gebruik stellen van dat product overeenkomstig de in bijlage\u202fII opgenomen harmonisatiewetgeving van de Unie.<\/em>\u00a0<\/p>\n\n

\n

Naast de in lid\u202f1 bedoelde AI-systemen met een hoog risico worden ook AI-systemen zoals bedoeld in bijlage\u202fIII als AI-systeem met een hoog risico beschouwd.\u201d<\/em><\/p>\n<\/blockquote>\n\n

ChatGPT voldoet niet aan de cumulatieve voorwaarden gesteld in de eerste alinea, aangezien dit geen veiligheidscomponent van een product is, noch onder enige harmonisatiewetgeving uit bijlage II valt.\u00a0<\/p>\n\n

Om vast te stellen in welke situaties ChatGPT wel als hoog risico AI-systeem gezien kan worden,\u00a0moet er gekeken worden naar bijlage III van de Verordening, waar de doelen worden beschreven die tot gevolg hebben dat een AI systeem wordt aangemerkt als hoog risico.\u00a0\u00a0<\/p>\n\n

Maar zoals eerder vermeld, is het de gebruiker zelf die beslist hoe een AI-systeem dat niet voor een specifiek doel ontwikkeld werd gebruikt zal worden. Bijgevolg het is de gebruiker die bepaalt welke risicoclassificatie er van toepassing is, afhankelijk van de doeleinden waarvoor ChatGPT gebruikt wordt.\u00a0Het gebruik van ChatGPT kan bijvoorbeeld als hoog risico geclassificeerd worden wanneer het gebruikt wordt in de context van aanwervingsprocedures en personeelsbeheer:<\/strong><\/p>\n\n

Werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid:\u00a0<\/h3>\n\n

(a) AI-systemen die bedoeld zijn voor de aanwerving of selectie van natuurlijke personen, met name voor het bekendmaken van vacatures, het screenen of filteren van sollicitaties, de evaluatie van kandidaten tijdens interviews of tests;\u202f<\/em>\u00a0<\/p>\n\n

(b) AI-systemen die bedoeld zijn voor het nemen van besluiten over de bevordering en be\u00ebindiging van arbeidsgerelateerde contractuele relaties, voor de toewijzing van taken en voor het toezicht op en de evaluatie van prestaties en gedrag van personen in dergelijke relaties;\u201d<\/em>\u00a0<\/p>\n\n

Wanneer het AI-systeem als hoog risico wordt geclassificeerd, dan worden er door de Verordening extra kwaliteitsvereisten gesteld aan de data. Lid 1 van artikel 10 stelt het volgende:\u00a0<\/p>\n\n

\n

\u201cAI-systemen met een hoog risico die technieken gebruiken die het trainen van modellen met data omvatten, worden ontwikkeld op basis van datareeksen voor training, validatie en tests die voldoen aan de kwaliteitscriteria als bedoeld in de leden\u202f2 tot en met\u202f5.\u201d<\/em>\u00a0<\/p>\n<\/blockquote>\n\n

These requirements include, among others, the quality of the datasets used for training (relevant, representative, free of errors and complete), applying the correct data governance and management, etc.<\/p>\n\n

In addition, ChatGPT also falls under Article 52 of the Regulation as it is aimed at natural persons. This results in an additional transparency obligation. Natural persons must be informed that they are interacting with an AI system unless the circumstances and context of use make this clear. Furthermore, safeguards must be in place to prevent output that conflicts with EU regulations, and a summary of the training data must be provided.<\/p>\n\n

ChatGPT en de GDPR: Gaan ze hand in hand of niet?\u00a0<\/strong><\/h2>\n\n

Het is belangrijk om te weten dat enkele eigenschappen van AI-systemen niet te rijmen vallen met principes uit de GDPR:\u00a0<\/p>\n\n

\n\n\n\n\n\n\n\n\n
Principe<\/strong><\/td>\nAI<\/strong> eigenschap<\/strong><\/td>\n<\/tr>\n
Minimale gegevensverwerking<\/td>\nAI wordt getraind met enorm grote datasets. (Bv. ChatGPT is getraind op een dataset van 300 miljard woorden)\u00a0<\/td>\n<\/tr>\n
Doelbeperking<\/td>\nBij de ontwikkeling van AI systemen kan men vaak nog geen inschatting maken van de verschillende doeleinden waarvoor het gebruikt zal worden (bv. ChatGPT is een AI-systeem met een algemeen doel).\u00a0<\/td>\n<\/tr>\n
Opslagbeperking<\/td>\nIn tegenstelling tot de initi\u00eble trainingsdata die gemakkelijk verwijderd kan worden, is het minder evident om een AI-systeem aan te passen op zodanige manier dat de output niet meer gebaseerd is op persoonsgegevens waarvan de bewaartermijn verlopen is.\u00a0<\/td>\n<\/tr>\n
Transparantie<\/td>\nVeel AI-systemen worden beschouwd als een \u201cblack-box\u201d, wat het quasi onmogelijk maakt om de interne processen in mensentaal begrijpbaar te maken voor alle gebruikers.\u00a0<\/td>\n<\/tr>\n
Juistheid<\/td>\nSommige AI-systemen die getraind worden op publiek beschikbare gegevens (zoals ChatGPT) kunnen een onjuiste output produceren. Dit kan te wijten zijn aan incorrecte trainingsdata of een fenomeen dat beschreven wordt als AI-hallucinatie waarbij het AI-systeem bepaalde informatie zal uitvinden om toch een antwoord te kunnen geven.\u00a0<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/figure>\n\n

Uiteraard doet de AI Verordening geen afbreuk aan de GDPR, want ook de verplichtingen die voortvloeien uit de GDPR blijven van toepassing.\u00a0<\/p>\n\n

Zo zal het gebruik van ChatGPT een legale basis moeten hebben, zullen de nodige maatregelen genomen moeten worden om de risico\u2019s voor betrokkenen te beperken, moeten de DPIAs en TIAs uitgevoerd worden,\u2026\u00a0<\/p>\n\n

Belang van doelstellingen bij het gebruik van ChatGPT<\/h2>\n\n

Conclusie? ChatGPT is in principe niet verboden om te gebruiken, ook niet meer\u00a0in Itali\u00eb<\/a>, maar uiteraard moet er hierbij dan ook met de nodige voorzichtigheid gehandeld worden. Een onderscheid kan gemaakt worden tussen de doelstellingen waarvoor ChatGPT gebruikt wordt.\u00a0<\/p>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"

Het gebruik van ChatGPT, en andere gelijkaardige programma\u2019s, neemt steeds toe. Meer en meer bedrijven willen het voor allerlei opdrachten en processen toepassen.\u00a0 In deze blogpost gaan de de AI Verordering (AI Act) toelichten en wat dit als gevolg heeft voor programma\u2019s zoals oa. ChatGPT. Daarnaast kijken we ook hoe we ChatGPT toch op een […]<\/p>\n","protected":false},"author":3,"featured_media":2394,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"content-type":"","footnotes":""},"categories":[49],"tags":[55],"post_folder":[],"class_list":["post-2497","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blogbericht","tag-ai"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/posts\/2497","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/comments?post=2497"}],"version-history":[{"count":0,"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/posts\/2497\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/media\/2394"}],"wp:attachment":[{"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/media?parent=2497"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/categories?post=2497"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/tags?post=2497"},{"taxonomy":"post_folder","embeddable":true,"href":"https:\/\/www.cranium.eu\/nl\/wp-json\/wp\/v2\/post_folder?post=2497"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}