Kunstmatige intelligentie (AI) maakt een stormachtige ontwikkeling door, maar staat als technologie deels nog in de kinderschoenen. Er wordt uitgebreid geëxperimenteerd: van intense competitie in generatieve AI door grote techbedrijven tot AI-gedreven systemen voor gedragsanalyse in supermarkten en sportscholen. Echter, de beheersing van de risico’s van AI-systemen loopt niet gelijk op. Dit betekent dat Nederland moet inzetten op zorgvuldigheid en zich goed moet voorbereiden op mogelijke incidenten met AI. Waakzaamheid van burgers, bestuurders en volksvertegenwoordigers is essentieel.
Dat schrijft de Autoriteit Persoonsgegevens (AP) in de nieuwe Rapportage AI- & Algoritmerisico’s Nederland (RAN). Als coördinator van het toezicht op algoritmes en AI analyseert de AP elk halfjaar de risico’s rond AI-systemen, en adviseert de samenleving, bedrijven, overheid en politiek over te nemen stappen.
Laag vertrouwen
In Nederland is het vertrouwen in AI lager dan in andere landen. Mensen zullen de risico’s van AI-systemen steeds vaker gaan tegenkomen in hun dagelijks leven. Van misbruik van generatieve AI voor cyberaanvallen en deepfakes tot nieuwe vormen van privacyschendingen en de kans op discriminatie en willekeur.
Aleid Wolfsen, voorzitter van de AP: ‘Het blijven stormachtige tijden. Dat is ook begrijpelijk bij de opkomst van een nieuwe systeemtechnologie die veel kansen biedt, bijvoorbeeld in medische behandelingen en inclusieve dienstverlening. Maar ook de risico’s zijn bekend. Het goede nieuws is dat er serieus werk wordt gemaakt van AI-regelgeving bovenop eisen die er nu al zijn op het gebied van bijvoorbeeld gegevensbescherming, consumentenbescherming en cybersecurity. Ook dringt het besef steeds meer door dat een verantwoorde inzet van AI arbeidsintensief is en veel vraagt van een organisatie. De waarschuwing die we afgeven is dat zolang organisaties nog twijfelen over de mate waarin ze de risico’s van AI kennen, zij terughoudend moeten zijn met de inzet van AI.’
Een voorbeeld van een maatregel die helpt om meer grip te krijgen op de inzet van AI-systemen is de zogenoemde aselecte steekproef. Veel AI-systemen worden gebruikt om mensen te profileren en te selecteren. Bijvoorbeeld voor onderzoek naar fraude. In dat soort processen helpen aselecte steekproeven om discriminatie te ontdekken en tegen te gaan.
Druk op informatievoorziening
De AP analyseerde voor deze editie van de rapportage onder meer de risico’s van AI voor online informatievoorziening, zoals nieuws. Platforms met AI-systemen, zoals sociale media en zoekmachines, hebben veel invloed op welke informatie mensen te zien krijgen en hoe zij de werkelijkheid ervaren. De opkomst van generatieve AI brengt ook grote risico’s met zich mee, zoals misinformatie en desinformatie. Door AI-toepassingen die levensechte tekst, afbeeldingen, video en audio genereren, kunnen mensen niet langer vertrouwen op de echtheid van wat ze zien of horen.
Daarom is het cruciaal dat mensen begrijpen hoe aanbevelingssystemen werken en de mogelijkheid hebben deze uit te schakelen of aan te passen. Bovendien moeten mensen de nauwkeurigheid van informatie kunnen controleren, bijvoorbeeld door bronnen van antwoorden in AI-zoekmachines te vermelden, AI te gebruiken om te controleren of afbeeldingen en video’s door AI zijn gegenereerd, en AI-gegenereerde informatie te watermerken.
Democratische controle op AI
Op basis van een enquête onder gemeentelijke organisaties heeft de AP geanalyseerd in hoeverre volksvertegenwoordigers controle hebben over AI-systemen die door de overheid worden gebruikt. De resultaten tonen aan dat gemeentelijke organisaties slechts beperkt overzicht hebben over hun AI-systemen, dat raadsleden twijfelen aan hun kennis van AI en dat slechts enkele lokale rekenkamers sporadisch onderzoek doen naar AI-systemen. Het is essentieel om gemeenteraadsleden en andere volksvertegenwoordigers beter te ondersteunen om democratische controle op de inzet van AI te waarborgen.
Nationale AI-strategie
Tot slot dringt de AP er bij het kabinet op aan om prioritair door te gaan met de registratie van algoritmes door overheidsorganisaties en te overwegen om semi-publieke organisaties ook te verplichten hun algoritmes te registreren. Vooral in sectoren zoals onderwijs, gezondheidszorg, sociale woningbouw en openbaar vervoer, waar AI wordt gebruikt in situaties waarin mensen kwetsbaar zijn, is dit van groot belang.
Het is van cruciaal belang om te voorkomen dat richtlijnen te vrijblijvend zijn of onbedoeld ruimte bieden aan onvoldoende precieze of meetbare standaarden, die soms achterlopen op wetenschappelijke inzichten. De AP ziet het aantreden van een nieuw kabinet als een uitgelezen kans om de nationale AI-strategie kritisch te bekijken.
Bron: Autoriteit Persoonsgegevens
Download: Publicatie Rapportage AI- & Algoritmerisico’s Nederland voorjaar 2024
