Wat betekent de Europese AI-Act voor culturele organisaties?
De Europese AI-Verordening (IA-Act)is een baanbrekende wetgeving die tot doel heeft het gebruik van kunstmatige intelligentie (AI) binnen de Europese Unie te reguleren. Deze wet waarborgt de veiligheid en fundamentele rechten van Europese burgers.
In dit artikel gaan we in op wat de Europese AI-act inhoudt en wat deze wet betekent voor culturele organisaties. Daarnaast geven we je een aantal tips en tools om je organisatie voor te bereiden op de AI-Act.
Wat houdt de Europese AI-Act in?
De details en exacte gevolgen van de AI-Act worden duidelijk na implementatie van de wet. De wet is 1 februari 2025 van kracht gegaan. We richten ons op de hoofdlijnen van wat er nu bekend is.
De kern van de Europese AI-Act is dat deze AI-systemen classificeert in verschillende risiconiveaus.
Onaanvaardbaar risico:
AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, rechten en vrijheden van mensen. Deze systemen worden volledig verboden. Voorbeelden zijn AI-systemen die subliminale technieken gebruiken om gedrag te manipuleren of systemen voor sociale scoring.
Hoog risico:
AI-systemen die een significant risico vormen voor de veiligheid of fundamentele rechten. Deze systemen zijn onderworpen aan strenge eisen, zoals uitgebreide documentatie, transparantie en toezicht. Voorbeelden zijn AI-systemen die worden gebruikt in kritieke infrastructuren, zoals gezondheidszorg en rechtshandhaving.
Laag risico:
AI-systemen die een laag risico vormen. Deze systemen zijn onderworpen aan minimale vereisten, zoals transparantieverplichtingen. Voorbeelden zijn chatbots en emotieherkenning systemen
Minimaal of geen risico:
AI-systemen die geen significante risico's vormen voor veiligheid of fundamentele rechten. Je vindt deze toepassingen terug in alledaagse toepassingen, zoals spamfilters, games en aanbevelingen op websites.
De AI-Act treedt stapsgewijs in werking. (Opent een externe link) Vanaf 2 februari 2025 zijn de AI-systemen uit het hoogste risiconiveau verboden. Vanaf 2 augustus 2025 gelden de regels voor AI-modellen bestemd voor algemene doeleinden (zoals ChatGPT). In augustus 2026 start het toezicht op AI-systemen met een hoog risico. In augustus 2027 is de AI-Act volledig van kracht.
De verantwoordelijkheid voor het naleven van de regels ligt hoofdzakelijk bij de ontwikkelaars van de AI-systemen. Maar ook afnemers hebben de verplichting om maatregelen te nemen om de veiligheid en fundamentele rechten te borgen. Deze verschillen per risiconiveau.
Het risiconiveau van AI-systemen in culturele organisaties
Culturele organisaties maken steeds vaker gebruik van AI om hun aanbod te verbeteren, bezoekerservaringen te verrijken en werk efficiënter uit te voeren. Denk aan AI-gestuurde rondleidingen, gepersonaliseerde belevingen en subsidieplannen laten verbeteren door ChatGPT. De meeste van deze toepassingen vallen onder de categorie laag risico of de categorie minimaal of geen risico. Dit betekent dat ze minimale of geen vereisten hebben.
Acties voor laag risico AI-systemen
Voor AI-systemen die als laag risico worden geclassificeerd, kunnen culturele organisaties de volgende acties ondernemen:
- Gebruikers informeren: Zorg ervoor dat bezoekers weten wanneer ze met een AI-systeem te maken hebben. Dit kan door middel van duidelijke meldingen of informatieborden.
- Minimale documentatie: Een overzicht van de gebruikte AI-modellen binnen de organisatie en het doel hiervan.
- Optionele richtlijnen of gedragscode: Ontwikkel interne richtlijnen voor het gebruik van AI, gericht op ethisch gebruik en respect voor de privacy van gebruikers.
- Feedbackmechanismen: Implementeer systemen waarmee gebruikers feedback kunnen geven over de AI-systemen.
Door deze stappen te volgen kunnen culturele organisaties voldoen aan de AI-Act. Tegelijkertijd kunnen ze zich zo positioneren als voorvechters van verantwoord AI-gebruik. Innovatieve toepassingen van (generatieve) AI zijn hiermee nog steeds mogelijk binnen de AI-Act.
Acties voor hoog risico AI-systemen
Sommige toepassingen kunnen wel onder hoog risico vallen, vooral als ze gevoelige gegevens verwerken of een significante impact hebben op de rechten en vrijheden van individuen. Bijvoorbeeld een AI-systeem dat gezichtsherkenning gebruikt om bezoekers te identificeren kan als hoog risico worden beschouwd en moet voldoen aan strengere eisen.
Voorbereidingen voor de Europese AI-Act
Om je voor te bereiden op de Europese AI-Act, kun je als culturele organisaties de volgende stappen ondernemen:
Inventariseer AI-systemen: Maak een overzicht van alle AI-systemen die binnen je instelling worden gebruikt en bepaal het risiconiveau.
Transparantie en documentatie: Zorg ervoor dat je transparant bent naar gebruikers over het gebruik van AI-systemen. Dit betekent dat gebruikers geïnformeerd moeten worden wanneer ze met een AI-systeem te maken hebben en hoe hun gegevens worden gebruikt.
Beveiliging en privacy: Implementeer beveiligingsmaatregelen om de gegevens van gebruikers te beschermen. Dit omvat het regelmatig updaten van systemen en het uitvoeren van risicoanalyses.
1. Vul de Cyberchecklist in
2. Zorg dat je AVG-proof werkt
3. Pas indien nodig je Algemene Voorwaarden aan
Training en bewustwording: Organisaties moeten ervoor zorgen dat gebruikers van AI-systemen de benodigde kennis en vaardigheden hebben om deze te gebruiken. Vergroot daarom de AI-vaardigheden van je medewerkers zodat zij zich bewust zijn van de implicaties bij het gebruik van AI-systemen.
Bewustwording hierover is cruciaal voor een succesvolle implementatie.
1. Volg het leerprogramma ‘De kracht van AI in jouw werk’
2. Of start met de Nationale AI cursus
Maak afspraken over omgang met AI: Voer het gesprek over ethische standpunten binnen de organisatie en bepaal hoe je daarmee omgaat. Ontwikkel richtlijnen of een gedragscode om duidelijke grenzen aan te geven voor medewerkers.
1. DEN ontwikkelt in 2025 een gesprekstool om organisatie hierbij te begeleiden
2. Kenniscentrum Data & Maatschappij biedt hiervoor diverse tools
