Nieuwe transparantieverplichtingen voor AI-systemen

Voor wie gelden de transparantieverplichtingen?

De nieuwe transparantieverplichtingen uit artikel 50 van de AI-verordening gelden voor zowel aanbieders als gebruiksverantwoordelijken van bepaalde AI-systemen. Aanbieders zijn organisaties die een AI-systeem of AI-model voor algemene doeleinden ontwikkelen en vervolgens in de handel brengen of in gebruik stellen onder eigen naam (bijvoorbeeld Anthropic (Claude), Open AI (ChatGPT) of Google (Gemini)). Gebruiksverantwoordelijken zijn organisaties die een AI-systeem onder eigen verantwoordelijkheid gebruiken. Beide groepen moeten verschillende maatregelen nemen. Hieronder lichten we ze toe.

Wat houden de transparantieverplichtingen in?

Duidelijk maken dat iemand met AI communiceert

Aanbieders moeten AI-systemen die bedoeld zijn voor directe interactie met mensen zo ontwerpen en ontwikkelen dat eindgebruikers weten dat ze met AI te maken hebben. Denk hierbij aan voice assistants, AI companions of chatbots. Vanaf de eerste interactie moet het duidelijk zijn dat het gaat om een AI-systeem. Deze mededeling kan bestaan uit zowel tekst, geluid of symbolen. De guidelines van de Europese Commissie geven een aantal voorbeelden: een chatbot die een gesprek start met een bericht dat het gebaseerd is op AI-technologie, een AI-gegenereerde e-mail met een AI-label bovenaan of een voiceassistant die bij het opstarten zegt dat AI de sessie aanstuurt.  

AI-content markeren

Aanbieders van AI-systemen die beeld, video of tekst genereren moeten output herkenbaar markeren als AI-gegenereerd of AI-bewerkt. Dit moet in een machineleesbaar formaat, bijvoorbeeld door watermerken, metagegevens of vingerafdrukken. Deze verplichting is niet van toepassing voor zover de AI-systemen slechts een ondersteunende functie voor standaardbewerking, zoals een spellingscontrole, vervullen of de inputdata niet substantieel wijzigen. Aanbieders van generatieve AI-systemen die vóór 2 augustus 2026 al op de markt waren hebben tot 2 december 2026 om aan deze verplichting te voldoen. De andere verplichtingen gelden voor deze aanbieders wel al per direct.  

Informeren als een AI-systeem wordt ingezet voor emotieherkenning of biometrische categorisering

Gebruiksverantwoordelijken van AI-systemen voor emotieherkenning of biometrische categorisering moeten de personen die ze hieraan blootstellen op de hoogte stellen. Dit kan bijvoorbeeld door middel van een duidelijke pop-up op een beeldscherm, of een duidelijk zichtbare aankondiging voordat je een ruimte binnenloopt waar zulke AI-systemen worden ingezet. Let op: AI-systemen voor emotieherkenning en biometrische categorisering zijn ten minste hoog-risico AI-systemen onder de AI-verordening. Dit betekent dat deze transparantieverplichting bestaat naast andere verplichtingen die van toepassing zijn op hoog-risico AI-systemen. In sommige gevallen is de inzet van AI voor emotieherkenning zelfs verboden, bijvoorbeeld als een organisatie emotieherkenning inzet op de werkplek of in het onderwijs.  

Deepfakes herkenbaar maken

Gebruiksverantwoordelijken moeten deepfakes duidelijk markeren als AI-gegenereerd of bewerkt. Een deepfake is meer dan alleen een video van een persoon die een verzonnen tekst uitspreekt. De AI-verordening definieert een deepfake als door AI gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal dat een gelijkenis vertoont met bestaande personen, voorwerpen, plaatsen, entiteiten of gebeurtenissen, en door een persoon ten onrechte voor authentiek of waarheidsgetrouw zou worden aangezien.  

De definitie van een deepfake is dus erg breed. Het kan ook gaan om plaatsen of gebouwen, en zelfs fictieve voorwerpen kunnen hieronder vallen. Bij het beoordelen of er sprake is van een deepfake is de mate van gelijkenis, de boodschap, de context en het beoogde publiek relevant. Een AI-gegenereerd beeld van een draak die over de Eiffeltoren vliegt is bijvoorbeeld geen deepfake. Mensen zullen dit doorgaans niet als waarheidsgetrouw beschouwen.  

In enkele gevallen is deze verplichting beperkt, bijvoorbeeld wanneer het gaat om een artistiek, creatief, satirisch, fictief of analoog werk. De eerdergenoemde guidelines nemen als voorbeeld een deepfake van een overleden acteur die in een nieuwe film speelt. In dat geval moet de markering er alsnog zijn, maar mag deze de weergave of het genot van het werk niet belemmeren.

Informeren over de inzet van AI voor onderwerpen van algemeen belang

Gebruiksverantwoordelijken van AI-systemen die tekst genereren of bewerken die het publiek informeert over onderwerpen van algemeen belang moeten deze tekst markeren als AI-gegenereerd of bewerkt. Denk hierbij aan onderwerpen als politieke verkiezingen, volksgezondheid of rechtspraak. Deze verplichting is niet van toepassing wanneer de tekst een menselijke toets of redactionele controle heeft ondergaan én iemand redactionele verantwoordelijkheid draagt voor de publicatie. Oppervlakkige, louter formele of procedurele controles (bijvoorbeeld spellingcontrole of grammaticale correctie) zijn niet voldoende om te voldoen aan de vrijstelling.

Praktijkcode

Organisaties die zich niet houden aan de transparantieverplichtingen riskeren een boete die kan oplopen tot 15 miljoen euro of drie procent van de wereldwijdejaaromzet. Om organisaties te helpen bij het naleven van de transparantieverplichtingen heeft de Europese Commissie een praktijkcode gepubliceerd die de guidelines aanvult. Deze code is vrijwillig, maar biedt praktische handvatten voor technische en organisatorische stappen die je kunt nemen. Organisaties kunnen de hele praktijkcode ondertekenen, of alleen onderdelen ervan.  

Daarnaast introduceert de Commissie ook een set EU-iconen voor het labelen van AI-gegenereerde content, zodat markering straks herkenbaar en consistent is over verschillende platforms en diensten heen. Het gebruik van deze iconen is optioneel, het labelen van AI-gegenereerde content niet.

Aan de slag

Het is belangrijk om te beoordelen hoe je jouw AI-content markeert en welke processen nodig zijn om aan de nieuwe Europese regels te voldoen. Transparantie is niet alleen een wettelijke verplichting, het is ook een manier om vertrouwen te winnen bij gebruikers in een tijd waarin het onderscheid tussen mens en AI steeds vager wordt. Of je nu AI-gegenereerde beelden publiceert, een chatbot inzet, of teksten met behulp van AI opstelt: het is verstandig om na te denken over hoe je transparantie inbouwt.

Wil je meer weten over de tijdlijn van de AI-verordening? Lees dan onze blog 'Tijdlijn van de AI-verordening en de invloed hierop door de Digitale omnibus inzake AI' voor een uitgebreid overzicht.

Heb je vragen over de AI-verordening en de verplichtingen die eventueel van toepassing zijn op jouw organisatie? De juridische adviseurs van Privacy Company helpen je graag. Neem hiervoor contact op met info@privacycompany.nl.