De Autoriteit Persoonsgegevens (AP) maakt zich zorgen over de omgang met persoonsgegevens bij organisaties die gebruikmaken van zogeheten generatieve artificiële intelligentie (AI). Speciale aandacht gaat uit naar apps voor jonge kinderen waarin deze vorm van AI wordt toegepast.

De AP onderneemt daarom de komende tijd verschillende acties. Zo heeft de organisatie een techbedrijf om duidelijkheid gevraagd over de werking van de chatbot die werd geïntegreerd in hun app die populair is bij kinderen. De AP wil onder meer weten hoe transparant de chatbot is over de omgang met de gegevens van gebruikers.

Generatieve AI-toepassingen
De ontwikkelingen rond de inzet van AI gaan razendsnel. Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s. Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon.
De AP stelt het betreffende techbedrijf onder meer vragen over hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens. Naar aanleiding daarvan bepaalt de AP of vervolgstappen nodig zijn.

Verschillende acties
Eerder kondigde de AP aan verschillende acties te ondernemen richting organisaties die gebruikmaken van generatieve AI. Zo heeft de AP deze zomer ook softwareontwikkelaar OpenAI om opheldering gevraagd over chatbot ChatGPT en gevraagd hoe het bedrijf omgaat met persoonsgegevens bij het trainen van het onderliggende systeem.
Daarnaast maakt de AP onderdeel uit van de Taskforce ChatGPT van het samenwerkingsverband van de Europese privacytoezichthouders, de European Data Protection Board (EDPB).

Generatieve AI
Met generatieve AI kan op basis van een opdracht onder meer tekst of beeld worden gegenereerd. Het model is hiervoor getraind met een grote hoeveelheid data afkomstig van het internet, vaak verzameld door middel van scraping.
Ook de vragen die mensen stellen in de tool kunnen een bron van data zijn. Soms gaat het om heel persoonlijke informatie. Bijvoorbeeld als iemand via zo’n tool advies vraagt over een echtelijke ruzie of over medische zaken. Generatieve AI-tools verwerken dan ook vaak persoonsgegevens. Bij de ontwikkeling van deze tools moeten ontwikkelaars zich aan de privacywetgeving houden.
De AP komt binnenkort met een handreiking over scraping voor bedrijven.