Sinds afgelopen 2 februari 2025 zijn de eerste verplichtingen uit de Europese AI-verordening van kracht geworden, waaronder de verplichting tot toereikende AI-geletterdheid. Dit houdt in dat organisaties die AI-systemen ontwikkelen of gebruiken verplicht zijn om ervoor te zorgen dat het niveau van ‘AI-geletterdheid’ van hun personeel toereikend is. Werknemers moeten dus voldoende kennis, vaardigheden en begrip hebben om AI – waaronder ChatGPT – op een verantwoorde manier in te zetten op de werkvloer. Maar hoe implementeer je deze verplichting binnen je organisatie? In dit blog leggen we het uit.
Wat is AI-geletterdheid?
Op grond van artikel 4 van de AI-verordening (2024/1689) moeten aanbieders en gebruiksverantwoordelijken van AI-systemen maatregelen nemen om zoveel als mogelijk te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.
AI-geletterdheid wordt volgens artikel 1 lid van de AI-verordening gedefinieerd als:
“Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.”
AI-geletterdheid ziet dus niet alleen op het hebben van inzicht in de technische werking van AI-systemen, maar juist ook in de sociale, ethische en praktische implicaties ervan om te voorkomen dat bepaalde risico’s bij gebruik van AI zich verwezenlijken, bijvoorbeeld indien een verkeerde output of bias door de gebruiker niet wordt herkend.
Belangrijk is dat er op grond van de AI-verordening dus geen absolute kennisdrempel geldt. Het niveau van AI-geletterdheid van werknemers moet toereikend zijn. Of dit niveau toereikend is, zal afhangen van de persoonlijke omstandigheden (de technische kennis, ervaring, onderwijs, opleiding), de rol binnen de organisatie, de frequentie waarmee men te maken krijgt met een of meerdere AI-systemen tijdens en de (grootte van de) risico’s van die systemen.
In het algemeen geldt, hoe groter de risico’s die een bepaald AI-systeem meebrengen, des te hoger het niveau van AI-geletterdheid mag worden verwacht.
Waarom is AI-geletterdheid belangrijk?
Uit de overwegingen van de AI-verordening blijkt dat de Europese wetgever de verplichting tot AI-geletterdheid heeft ingevoerd om “de grootste voordelen van AI-systemen te behalen en tegelijkertijd de grondrechten, gezondheid en veiligheid te beschermen en democratische controle mogelijk te maken”.
Anders gezegd, voldoende kennis bij alle actoren in de AI-waardeketen dient ervoor te zorgen dat AI-systemen op een verantwoorde en ethische manier worden gebruikt en om onbedoelde gevolgen, zoals discriminatie, privacy-inbreuken of andere vormen van schade te voorkomen. Door adequaat op te leiden, kunnen organisaties deze risico’s minimaliseren en uiteindelijk de innovatie van betrouwbare AI in de Europese Unie ondersteunen en bevorderen.
Hoe kunnen organisaties AI-geletterdheid implementeren?
Hoewel de AI-verordening niet voorschrijft hoe AI-geletterdheid bereikt moet worden, adviseert de Nederlandse AI- en algoritmetoezichthouder, de Autoriteit Persoonsgegevens (AP), om dit strategisch aan te pakken door middel van een meerjarig actieplan. In haar recent gepubliceerde document ‘Aan de slag met AI-geletterdheid’ biedt zij organisaties praktische handvatten en voorbeelden om dit proces vorm te geven.
De AP adviseert concreet om de volgende stappen te nemen:
- Inventariseer het huidige gebruik van AI: Breng in kaart welke AI-systemen binnen de organisatie worden gebruikt en door wie.
- Bepaal de benodigde kennis en vaardigheden: Afhankelijk van de context en risico’s van de AI-toepassingen, identificeer welke medewerkersrollen welke competenties nodig hebben.
- Ontwikkel een opleidingsplan en voer uit: Stel een plan op om de benodigde kennis en vaardigheden te ontwikkelen, bijvoorbeeld via trainingen, workshops of e-learningmodules en wijs zo nodig een vaste medewerker (AI-officer) aan om deze integratie gestroomlijnd uit te voeren.
- Evalueer en verbeter continu: Monitor regelmatig de voortgang en effectiviteit van het opleidingsplan en stuur bij waar nodig.
Vragen?
Ondanks dat de AP onderkent dat niet iedere organisatie over dezelfde middelen beschikt, wijst zij terecht op het creëren van bewustzijn met betrekking tot de mogelijkheden en risico’s van AI. In dat kader zal zij komende tijd binnen haar rol als toezichthouder good practices delen en kennisbijeenkomsten organiseren. Dit houden we natuurlijk in de gaten.
Mocht u in de tussentijd vragen hebben over de verplichting tot AI-geletterdheid of advies wensen bij het opstellen van een actieplan, neem dan gerust contact op met onze sectie IE, IT & Privacy.
Neem contact op