Beveiligingnieuws Logo

Onze partners

Oribi ID Solutions

Uniview

CSL

Alarm Meldnet

Seris

Hanwha Vision Europe

VAIBS

Nenova

Gold-IP

Lobeco

Avigilon Alta

Alphatronics

Securitas

PG Security Systems

Masset Solutions

Genetec

Dero Security Products

GFT

Paxton

DZ Technologies

ASIS

SOBA

ARAS

Service Centrale Nederland

SmartCell

Paraat

Secusoft

VEB

RoSecure

CDVI

JMB Groep

Sequrix

HD Security

20face

OSEC

ASSA ABLOY

ADI

CardAccess

HID

G4S

Regio Control Veldt

Nimo Dog Security

Milestone

Advancis

De Beveiligingsjurist

Bydemes

SMC Alarmcentrale

Connect Security

VideoGuard

Hikvision

Nimo Drone Security

Kiwa

SmartSD

NIBHV

Centurion

NetworxConnect

Trigion

Multiwacht

Eagle Eye Networks

Bosch Security Systems

VVNL

BHVcertificaat.online

Top Security

2N

Add Secure

Traka ASSA ABLOY

VBN

Unii

EAL

Seagate

Brivo

Ajax Systems

Akuvox

Optex

Eizo

Crown Security Services

IDIS

i-Pro

Explicate

Privacywaakhond eist duidelijkheid techbedrijf over AI

15 september 2023
Redactie
06:17

De Autoriteit Persoonsgegevens (AP) maakt zich zorgen over de omgang met persoonsgegevens bij organisaties die gebruikmaken van zogeheten generatieve artificiële intelligentie (AI). Speciale aandacht gaat uit naar apps voor jonge kinderen waarin deze vorm van AI wordt toegepast.

De AP onderneemt daarom de komende tijd verschillende acties. Zo heeft de organisatie een techbedrijf om duidelijkheid gevraagd over de werking van de chatbot die werd geïntegreerd in hun app die populair is bij kinderen. De AP wil onder meer weten hoe transparant de chatbot is over de omgang met de gegevens van gebruikers.

Generatieve AI-toepassingen
De ontwikkelingen rond de inzet van AI gaan razendsnel. Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s. Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon.
De AP stelt het betreffende techbedrijf onder meer vragen over hoe transparant de app is over het gegevensgebruik, en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens. Naar aanleiding daarvan bepaalt de AP of vervolgstappen nodig zijn.

Verschillende acties
Eerder kondigde de AP aan verschillende acties te ondernemen richting organisaties die gebruikmaken van generatieve AI. Zo heeft de AP deze zomer ook softwareontwikkelaar OpenAI om opheldering gevraagd over chatbot ChatGPT en gevraagd hoe het bedrijf omgaat met persoonsgegevens bij het trainen van het onderliggende systeem.
Daarnaast maakt de AP onderdeel uit van de Taskforce ChatGPT van het samenwerkingsverband van de Europese privacytoezichthouders, de European Data Protection Board (EDPB).

Generatieve AI
Met generatieve AI kan op basis van een opdracht onder meer tekst of beeld worden gegenereerd. Het model is hiervoor getraind met een grote hoeveelheid data afkomstig van het internet, vaak verzameld door middel van scraping.
Ook de vragen die mensen stellen in de tool kunnen een bron van data zijn. Soms gaat het om heel persoonlijke informatie. Bijvoorbeeld als iemand via zo’n tool advies vraagt over een echtelijke ruzie of over medische zaken. Generatieve AI-tools verwerken dan ook vaak persoonsgegevens. Bij de ontwikkeling van deze tools moeten ontwikkelaars zich aan de privacywetgeving houden.
De AP komt binnenkort met een handreiking over scraping voor bedrijven.

Deel dit artikel via:

Vlog 8

Premium partners

SequriX

Videoguard

Suricat

Seagate

Wordt een partner