Consumentenorganisaties in de EU en de VS roepen op om consumentenrechten centraal te stellen bij de ontwikkeling en implementatie van AI (artificiële intelligentie) en generatieve AI. De organisaties vragen toezichthouders en beleidsmakers in hun land om actie te ondernemen. De Consumentenbond richt haar oproep aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatsecretaris Van Huffelen (Digitalisering).
Aanleiding voor de oproep is een publicatie van de Noorse consumentenorganisatie Forbrukkeradet (NCC) op 20 juni 2023. Dit rapport: ‘Ghost in the machine – Addressing the consumer harms of generative AI’, beschrijft de belangrijkste risico’s van generatieve AI voor consumenten, bijvoorbeeld voor hun veiligheid en privacy. Maar het zet ook uiteen hoe generatieve AI misleiding, manipulatie, discriminatie, fraude en desinformatie kan vergroten.
Transparantie
Sandra Molenaar, directeur Consumentenbond: ‘AI biedt consumenten talloze mogelijkheden, dus wij zijn niet tegen AI of generatieve AI. Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI. Helaas heeft de geschiedenis aangetoond dat we er niet op kunnen vertrouwen dat grote techbedrijven deze zaken zelf voorop stellen. Daarom moeten toezichthouders en beleidsmakers zorgen dat de ontwikkeling én het gebruik van generatieve AI veilig, betrouwbaar en transparant zijn.’
Huidige wetgeving inzetten
De consumentenorganisaties die de oproep doen, maken zich vooral zorgen over de rechten en veiligheid van consumenten bij Generatieve AI in zijn huidige vorm. Omdat de Europese AI-Act nog niet van kracht is, moeten de toezichthouders de bestaande EU-wetgeving op het gebied van gegevensbescherming, veiligheid en consumentenbescherming gebruiken om te handhaven.
Molenaar: ‘daarnaast hebben we de ACM en de AP gevraagd onderzoek in te stellen naar de risico’s en schade die generatieve AI diensten opleveren voor consumenten’. De AP kan het rapport van de NCC ook als input gebruiken voor hun al lopende onderzoeken naar toepassingen op AI gebied.
Risico’s van AI
AI kan veel risico’s opleveren voor consumenten. Zo confronteerde Snapchat kinderen recentelijk met My AI. Deze chatbot geeft adviezen die niet zijn afgestemd op de leeftijd van de vragensteller, wat onwenselijke situaties kan opleveren. Dit voorbeeld en andere voorbeelden van de risico’s van AI staan beschreven in het rapport van de NCC en op Wat is kunstmatige intelligentie (AI)?
Wat is generatieve AI?
Generatieve AI zijn toepassingen die getraind worden met grote hoeveelheden data en op basis daarvan nieuwe content kunnen genereren, zoals tekst, beeld, spraak en/of geluid. Bekende generatieve AI-diensten zijn ChatGPT, DALL-E, Midjourney en Stable Diffusion. Bedrijven als Microsoft, Google en Snapchat hebben de technologie al verwerkt in hun diensten, zoals zoekmachines, tekstverwerking en chat.
Bron: Consumentenbond
