Beveiligingnieuws Logo

Onze partners

VisionPlatform.ai

Centurion

Multiwacht

Uniview

i-Pro

ASIS

Synguard

CSL

Eizo

HD Security

OSEC

Securitas

MOBOTIX

Crown Security Services

Paraat

SOBA

SmartSD

Paxton

Paralax

MPL

Bydemes

G4S

Add Secure

Top Security

Alphatronics

Service Centrale Nederland

SmartCell

Advancis

Regio Control Veldt

ARAS

Genetec

Lobeco

Optex

ASSA ABLOY

CDVI

Aritech

Sequrix

Hanwha Vision Europe

Hikvision

Milestone

Distri Company

SMC Alarmcentrale

Eagle Eye Networks

VBN

VAIBS

Dero Security Products

Seris

Secusoft

Gold-IP

Nenova

2N

Bosch Security Systems

NIBHV

VEB

ADI

HID

Unii

Brivo

EAL

VGN Group

Teletek

BHVcertificaat.online

Masset

LUGN

Seagate

Intrasec

Kidde Commercial

Ajax Systems

Connect Security

Akuvox

Trigion

VVNL

Alarm Meldnet

Oribi ID Solutions

IDIS

Traka ASSA ABLOY

Network Optix

VideoGuard

Privacywaakhond eist duidelijkheid techbedrijf over AI

15 september 2023
Redactie
06:17

De Autoriteit Persoonsgegevens (AP) maakt zich zorgen over de omgang met persoonsgegevens bij organisaties die gebruikmaken van zogeheten generatieve artificiële intelligentie (AI). Speciale aandacht gaat uit naar apps voor jonge kinderen waarin deze vorm van AI wordt toegepast.

De AP onderneemt daarom de komende tijd verschillende acties. Zo heeft de organisatie een techbedrijf om duidelijkheid gevraagd over de werking van de chatbot die werd geïntegreerd in hun app die populair is bij kinderen. De AP wil onder meer weten hoe transparant de chatbot is over de omgang met de gegevens van gebruikers.

Generatieve AI-toepassingen
De ontwikkelingen rond de inzet van AI gaan razendsnel. Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s. Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon.
De AP stelt het betreffende techbedrijf onder meer vragen over hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens. Naar aanleiding daarvan bepaalt de AP of vervolgstappen nodig zijn.

Verschillende acties
Eerder kondigde de AP aan verschillende acties te ondernemen richting organisaties die gebruikmaken van generatieve AI. Zo heeft de AP deze zomer ook softwareontwikkelaar OpenAI om opheldering gevraagd over chatbot ChatGPT en gevraagd hoe het bedrijf omgaat met persoonsgegevens bij het trainen van het onderliggende systeem.
Daarnaast maakt de AP onderdeel uit van de Taskforce ChatGPT van het samenwerkingsverband van de Europese privacytoezichthouders, de European Data Protection Board (EDPB).

Generatieve AI
Met generatieve AI kan op basis van een opdracht onder meer tekst of beeld worden gegenereerd. Het model is hiervoor getraind met een grote hoeveelheid data afkomstig van het internet, vaak verzameld door middel van scraping.
Ook de vragen die mensen stellen in de tool kunnen een bron van data zijn. Soms gaat het om heel persoonlijke informatie. Bijvoorbeeld als iemand via zo’n tool advies vraagt over een echtelijke ruzie of over medische zaken. Generatieve AI-tools verwerken dan ook vaak persoonsgegevens. Bij de ontwikkeling van deze tools moeten ontwikkelaars zich aan de privacywetgeving houden.
De AP komt binnenkort met een handreiking over scraping voor bedrijven.

Deel dit artikel via:

Vlog

Premium partners

Seagate

Distri Company

Boon Edam

Suricat

Videoguard

Artitech Kidde Commercial

SequriX

Wordt een partner