Wat is AI-geletterdheid en hoe word je AI-geletterd?

Wat is AI?

AI staat voor Artificial Intelligence, ofwel kunstmatige intelligentie. Het is een breed begrip voor veel verschillende soorten toepassingen.

Het is altijd software die een bepaalde hoeveelheid zelflerend vermogen heeft. Een algoritme waarbij we als mens de uitkomst niet kunnen voorspellen. AI heeft een bepaalde mate van zelfstandigheid of eigen intelligentie.

Deep learning of machine learning zijn bekende voorbeelden van AI. Software die zelf bijleert door wat er met output gebeurt.

Generatieve AI

Het meest bekend is misschien wel de zogenaamde generatieve AI of GenAI. Denk aan ChatGPT, Microsoft Copilot, Claude, Dall-E, Midjourney en meer. Maar het zit ook al ingebakken in Photoshop, Canva en veel sociale media. Je kunt er teksten, afbeeldingen en video of muziek mee genereren of veranderen en manipuleren.

Juridische definitie van AI

De juridische definitie van AI is als volgt:

“AI-systeem”: een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen; (art. 3 sub 1 AI Act)

Bij AI gaat het dus om de volgende onderdelen:

• op een machine gebaseerd systeem
• autonomie
• aanpassingsvermogen
• uit input afleiden
• output genereren, zoals voorspellingen, inhoud, aanbevelingen, beslissingen

Wat is AI-geletterdheid?

AI-geletterdheid betekent dat medewerkers en andere personen, zoals zzp’ers, die AI-systemen gebruiken, de vaardigheden, kennis en begrip hebben om AI-systemen op een verantwoorde manier in te zetten.

AI-geletterdheid gaat over zowel technische kennis over hoe AI-systemen werken, maar ook over ethische, sociale en praktische aspecten en kansen.

AI geletterdheid betekent dat je voldoende begrijpt van AI om het bewust in te kunnen zetten. Het zorgt ervoor dat je begrijpt hoe je de output van een AI-systeem moet interpreteren. Ook moet je weten hoe een beslissing, genomen met behulp van een AI-systeem, van invloed is op de mensen over wie met het AI-systeem wordt beslist.

AI-geletterdheid is vooral iets positiefs, waarbij de voordelen en innovatie van AI worden benadrukt. Iedere professional die AI gebruikt, hoe eenvoudig ook, moet op zijn eigen niveau AI geletterd zijn. Jij dus ook. Maar wat is het dan precies?

AI geletterdheid volgens de AI Act

In artikel 3 van de AI Act staan alle definities van begrippen die in de AI Act voorkomen. De AI Act beschrijft AI geletterdheid als volgt:

“AI-geletterdheid”: vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken; (art. 3 sub 56 AI Act)

Wat valt hierin op:

• vaardigheden, kennis en begrip
• bij aanbieders, gebruiksverantwoordelijken en betrokken personen
• rekening houdend met rechten en plichten
• geïnformeerd AI systemen inzetten
• bewust van zowel kansen als risico’s van AI en van mogelijke schade

De bedoeling hierachter lezen we verder in overweging 20 bij de AI Act:

Om de grootste voordelen van AI-systemen te behalen en tegelijkertijd de grondrechten, gezondheid en veiligheid te beschermen en democratische controle mogelijk te maken, moeten aanbieders, gebruiksverantwoordelijken en betrokken personen door middel van AI-geletterdheid van de nodige kennis voorzien worden om onderbouwde beslissingen te nemen met betrekking tot AI-systemen. Die kennis kan verschillen naargelang de context en kan inzicht omvatten in de correcte toepassing van technische elementen tijdens de ontwikkelingsfase van het AI-systeem, de maatregelen die moeten worden toegepast tijdens het gebruik ervan, hoe de output van het AI-systeem moet worden geïnterpreteerd, en, in het geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen die met behulp van AI worden genomen, op hen van invloed zullen zijn. In het kader van de toepassing van deze verordening moet AI-geletterdheid alle relevante actoren in de AI-waardeketen de inzichten verschaffen die nodig zijn om de passende naleving en de correcte handhaving ervan te waarborgen. Voorts kunnen de brede uitvoering van maatregelen op het gebied van AI-geletterdheid en de invoering van passende vervolgmaatregelen bijdragen tot het verbeteren van de arbeidsomstandigheden en uiteindelijk de consolidatie en innovatie van betrouwbare AI in de Unie ondersteunen. De Europese raad voor artificiële intelligentie (European Artificial Intelligence Board — de “AI-board”) moet de Commissie ondersteunen bij het bevorderen van instrumenten voor AI-geletterdheid en van de bekendheid van het publiek met en hun begrip van de voordelen, risico’s, waarborgen, rechten en plichten met betrekking tot het gebruik van AI-systemen. In samenwerking met de relevante belanghebbenden moeten de Commissie en de lidstaten de opstelling van vrijwillige gedragscodes faciliteren om de AI-geletterdheid te bevorderen bij personen die zich bezighouden met de ontwikkeling, de exploitatie en het gebruik van AI. (o. 20 AI Act)

Het idee achter AI-geletterdheid is dus juist ook het de innovatie van AI binnen de EU bevordert en helpt om arbeidsomstandigheden te verbeteren.

Mensen moeten weten wat de voordelen, risico’s, waarborgen, rechten en plichten met betrekking tot het gebruik van AI-systemen zijn.

Op deze manier zou AI geletterdheid er ook voor moeten zorgen dat grondrechten, gezondheid en veiligheid worden beschermd en democratische controle mogelijk wordt.

AI-geletterdheid is dus weliswaar een verplichting, maar vooral om daardoor de positieve kanten van AI te benadrukken en te bevorderen, waarbij vooral de grenzen worden bewaakt.

Je hoeft overigens maar weinig juridische kennis te hebben om AI-geletterd te zijn. Voor de AI-geletterdheid heb je alleen juridische kennis nodig over welke toepassingen verboden zijn en wat het betekent als AI hoogrisico is.

Waarom moet je AI-geletterd zijn?

Het belang van AI-geletterdheid is niet alleen dat je het nu eenmaal verplicht bent uit hoofde van de AI Act. Of omdat er ‘doeltreffende, evenredige en afschrikkende sancties’ zullen zijn voor het niet naleven van deze verplichting. Hoe hoog boetes zijn of welke sancties er precies komen, gaat per land verschillen.

AI-geletterdheid is van belang om de risico’s van het gebruik van AI te verminderen of te voorkomen en de kansen juist optimaal te benutten.

AI maakt nu eenmaal onderdeel uit van ons leven, of gaat dat in elk geval doen. Of je dat nu wil of niet. Andere bedrijven zullen het gebruiken, waardoor je ermee te maken krijgt, je gebruikt het zelf wellicht onbewust omdat het je gebruikelijke software ingebakken zit of je zet het misschien wel bewust in om je productiviteit te verhogen bijvoorbeeld.

AI-geletterdheid is van belang zodat je weet welke effecten AI op jouw leven heeft en hoe jouw AI inzet effect heeft op andere personen. Die effecten kunnen zowel positief als negatief zijn. Als je AI-geletterd bent hoef je niet meer bang te zijn voor de effecten van AI, maar kun je er juist goed mee omgaan en kun je je eigen positie ermee versterken. Als je AI-geletterd bent, profiteer je beter van de mogelijkheden die AI biedt. AI-geletterdheid zorgt voor weerbaarheid in de omgang met algoritmes en AI. 

Aanbieders en gebruiksverantwoordelijken van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt. (art. 4 AI Act)

Wie moet AI-geletterd zijn?

Aanbieders en gebruiksverantwoordelijk van AI moet zorgen dat hun personeel en andere betrokken personen die AI-systemen namens hen exploiteren en gebruiken, AI geletterd zijn. Dat zijn alle medewerkers die AI gebruiken, maar dus ook bijvoorbeeld de zzp’ers die ze inschakelen.

Volgens de Autoriteit Persoonsgegevens moeten soms zelfs mensen die zelf geen AI gebruiken, toch AI-geletterd zijn: “De medewerkers die met deze systemen werken moeten
over voldoende kennis en vaardigheden beschikken om te weten wat de risico’s zijn en hoe het AI-systeem werkt. Andere medewerkers, die er niet mee werken, hoeven niet de precieze werking te weten, maar moeten er wel van op de hoogte zijn dat er AI-systemen worden ingezet en waarom.“

De organisatie die een gebruiksverantwoordelijk is moet de mensen die binnen de organisatie verantwoordelijk zijn voor de naleving van gebruiksinstructies van een AI tool of toepassing en die verantwoordlijk zijn voor menselijk toezicht, extra opleiden, zodat ze over voldoende bekwaamheid, opleiding, autoriteit en AI-geletterdheid beschikken om de taak uit te voeren.

Lees ook: Zo word jouw organisatie AI geletterd

Ook moeten gebruiksverantwoordelijken ervoor zorgen dat de personen die zijn aangewezen voor de uitvoering van de bij deze verordening vastgestelde gebruiksinstructies en menselijk toezicht, over de nodige bekwaamheid beschikken, met name over afdoende AI-geletterdheid, opleiding en autoriteit om die taken naar behoren uit te voeren. Die verplichtingen mogen geen afbreuk doen aan andere verplichtingen van gebruiksverantwoordelijken met betrekking tot AI-systemen met een hoog risico uit hoofde van het Unierecht of het nationale recht. (o. 91 AI Act)

Wie dus als taak heeft om toezicht te houden op het gebruik van AI binnen het bedrijf, moeten uitdrukkelijk meer kunnen en weten, beter opgeleid zijn en autoriteit hebben, op het gebied van AI.

AI-geletterdheid ontwikkelen

Net zoals onze taal ontwikkelt, moeten we ook onze AI kennis en skills ontwikkelen. Dat begint dus bij voorkeur al op school. Maar wie nu al aan het werk is, zal het zelf moeten doen of de werkgever moet zorgen voor bijvoorbeeld een AI-training. Het trainen van medewerkers en jezelf, in AI-geletterdheid is ook de aanbeveling van de Autoriteit Persoonsgegevens.

En net zoals iedereen niet even goed is in taal, hoeft ook niet iedereen even goed om te kunnen gaan met AI of er evenveel van hoeven weten. Het AI-geletterdheid niveau moet wel ’toereikend’ zijn. Daarbij mag rekening worden gehouden met de technische kennis, ervaring, onderwijs en opleiding die iemand al heeft of wat iemand aan kan en de context waarin de AI-systemen zullen worden gebruikt.

Niveau van AI-geletterdheid

Er bestaan geen vaste niveaus van AI-geletterdheid, zoals we bijvoorbeeld wel taalniveaus indelen. Het is dus ook niet zo dat er zoiets als een AI-geletterdheid volwassenheidsladder bestaat. Dat komt omdat het niet alleen gaat om de hoeveelheid kennis, die je inderdaad zou kunnen stapelen of waarbij je een ladder op zou kunnen klimmen, maar het gaat ook om kennis in de breedte.

Het niveau van AI-geletterdheid dat nodig is, hangt af van de context waarin de AI-systemen gebruikt worden. Hoe groter de risico’s van AI-systemen, hoe hoger het benodigde niveau van AI-geletterdheid.

De Autoriteit Persoonsgegevens zegt er dit over: “Kennis en vaardigheden verschillen per medewerker binnen een organisatie, en dat de context en het risico van het systeem meespelen. Niet iedereen hoeft evenveel van bepaalde AI-systemen te weten.“

Het gaat om wat iemand al kan en weet, welk opleidingsniveau iemand heeft, maar ook op welke manier, in welke context de AI-systemen worden gebruikt. Worden de AI systemen bijvoorbeeld gebruikt om persoonsgegevens te verwerken of heeft de inzet van AI (veel) gevolgen voor andere personen, dan zal de gebruiker op een hoger niveau AI geletterd moeten zijn, dan als het bijvoorbeeld alleen als ideeëngenerator wordt gebruikt.

De bewaker die met gezichtsherkenning werkt moet dus meer weten dan de contentmarketeer die verschillende titels voor blogs en video’s laat genereren.

AI-geletterdheid is verder geen momentopname. Je moet het blijven ontwikkelen.

Verandert je functie, veranderen de tools die je gebruikt of ga je andere tools gebruiken, ga je AI inzetten voor andere toepassingen, verandert het beleid binnen het bedrijf, dan moet je daar weer voldoende van up-to-date blijven. Je moet de AI-geletterdheid dus blijven trainen.

AI-geletterdheid begint bij basiskennis over AI

AI-geletterdheid is een breed begrip. Hoeveel je moet kunnen en weten verschilt per persoon. Maar er is natuurlijk een basis die voor iedereen geldt.

Om AI geletterd te zijn moet je in elk geval basiskennis over AI hebben. Je moet begrijpen wat AI is en dat het heel breed ingezet kan worden.

Je moet bijvoorbeeld begrijpen dat AI niet alleen gaat om zogenaamde Large Language Models (LLM’s) en GeneratieveAI, maar dat ook advertenties die je te zien krijgt of aangeboden films en muziek bij Netflix en Spotify de output is van AI door hoe jij deze (en andere) applicaties gebruikt. Of dat het gebruikt kan worden voor fraudedetectie, voorspellen van strafbaar gedrag, beveiliging of dat het kan helpen bij het bepalen of je ergens wel of geen recht op hebt of dat het juist gebruikt kan worden in de zorg bij diagnostiek of behandeling.

Je moet weten dat AI heel onschuldig kan zijn, maar dat het juist ook grote gevolgen kan hebben.

Verboden AI

Wat je natuurlijk ook minimaal moet weten om AI-geletterd te worden is welke AI verboden is vanaf 2 februari 2025.

• Subliminale, manipulatieve of misleidende technieken
• Gebruik maken van kwetsbaarheden van personen of specifieke groepen (leeftijd, handicap of een specifieke sociale of economische omstandigheid), om hun gedrag te verstoren waardoor aanzienlijke schade ontstaat
• Social scoring, als dat tot gevolg heeft
  • nadelige of ongunstige behandeling in een andere context
  • nadelige of ongunstige behandeling dat ongerechtvaardigd of onevenredig is met het sociale gedrag
• Risicobeoordeling strafbare feiten
• Databanken voor gezichtsherkenning door scraping of CCTV
• Emotieherkenning op het werk of in het onderwijs, tenzij voor medische- of veiligheidsdoeleinden
• Biometrische categorisering, als op basis daarvan gevoelige persoonsgegevens worden afgeleid

Voor rechtshandhaving zijn zowel aanvullende regels als uitzonderingen hierop mogelijk, maar daar hoeven mensen die niks met rechtshandhaving doen, natuurlijk ook niets van te weten.

Ethische AI

AI moet o ok ethisch zijn. We willen onze gezondheid, veiligheid en grondrechten in hoge mate beschermen. AI, of de inzet van AI, mag daar dus geen inbreuk op maken. Dat doe je onder meer door het ethisch inzetten van AI.

Ehtische AI beschermt uiteraard onze grondrechten, discrimineert niet en is niet vooringenomen. Dat is nu soms nog lastig, omdat AI altijd gebaseerd is op data uit het verleden, waar helaas al vooroordelen in zitten. Daarom moet AI ook transparant zijn, zodat je weet dat er onbedoeld vooroordelen betrokken kunnen worden ej edat zelf nog kunt compenseren.

Wanneer AI dan ethisch is, staat onder meer in de ethische richtsnoeren voor betrouwbare KI. Hierin staan zeven beginselen omschreven voor ethische en betrouwbare AI:

• invloed en toezicht door mensen
• technische robuustheid en veiligheid
• privacy en datagovernance
• transparantie
• diversiteit, non-discriminatie en rechtvaardigheid
• sociaal en ecologisch welzijn
• verantwoordingsplicht

Sterker nog, hoogrisico AI-systemen moeten niet alleen aan de harde eisen van hoogrisico AI voldoen, maar moeten óók getoetst worden aan de (zachtere) eisen van ethische en betrouwbare AI.

AI-geletterdheid training

Volgens de Autoriteit Persoonsgegevens is training belangrijk om AI-geletterd te worden: “Denk aan het creëren van bewustzijn door middel van trainingen die ethische, technische en juridische aspecten van AI-systemen onder de loep nemen.“

AI-geletterd wordt je natuurlijk door het trainen van je AI kennis en kunde. Dat is een doorlopend proces. Je kunt dus niet een certificaat krijgen waarmee je voor onbepaalde tijd AI-geletterd zal zijn. Je moet jezelf altijd blijven trainen. Hoeveel dat is en waarin je dan precies getraind moet worden, hangt af van het niveau dat je moet bereiken en de AI die je gebruikt.

Belangrijk zijn vooral twee zaken:

• Algemeen begrip en kennis over AI, kansen en risico’s
• Specifieke kennis en kunde over de tools en toepassingen die je gebruikt

Je kunt jezelf hierin trainen door er veel over te lezen, video’s te bekijken, te oefenen en/of (online) trainingen en workshops te volgen.

Gebruik je veel ChatGPT, dan volg je dus een algemene training én een over ChatGPT. Werk je vooral in de creatieve industrie, dan moet je getraind zijn in Generatieve AI én je moet algemene training hebben gevolgd om meer te weten over bijvoorbeeld het labelen van AI werk en mogelijke misleiding door AI werk. Wil je AI inzetten om processen te automatiseren en gemakkelijker bepaalde beslissingen te nemen, dan moet je ook wat weten over privacy en juridische implicaties van het gebruik, zoals aansprakelijkheid.

Wat zijn de opleidingsmogelijkheden voor AI-geletterdheid? Er bestaat dus niet één opleiding die voor iedereen geschikt is en waardoor iedereen AI geletterd raakt. Begin in elk geval met veel lezen en video’s kijken en beoordeel wat je nodig hebt.

Vervolgens kun je een algemene AI-geletterdheid training of workshop volgen, aangevuld met trainingen of opleidingen op jouw specifieke vakgebied, of AI tools en toepassingen die je daarbij gebruikt.