De Europese Commissie wil met nieuwe regels ‘onethisch’ gebruik van kunstmatige intelligentie verbieden. Net als de strenge privacyregels kan dat beperkingen met zich meebrengen voor beveiligingstoepassingen, zoals met camera’s met gezichtsherkenning.

Europees commissaris voor de interne markt Thierry Breton verklaarde bij de presentatie van de nieuwe regelgeving geen voorstander te zijn van computersystemen die op basis van grote hoeveelheden gegevens de menselijke intelligentie nabootsen en zichzelf al lerend verbeteren. Vicevoorzitter Margrethe Vestager benadrukte dat de Commissie niet zozeer tegen kunstmatige intelligentie is, maar dat ‘verkeerd gebruik’ van de technologie voorkomen dient te worden. De regels gaan gelden voor iedereen die technologie of diensten leveren aan Europese burgers, dus ook voor Amerikaanse bedrijven als Amazon en Google en voor overheden.

Feest voor juristen
De regels zijn volgens Vestager nodig om ervoor te zorgen dat burgers vertrouwen houden in kunstmatige intelligentie. Wie de regels overtreedt, staat torenhoge boetes te wachten, aldus de vice-voorzitter. Onderdeel van de regelgeving is een soort van risicoklasse-indeling. Hoe hoger het risico van misbruik, des te strenger de regels. Camerasystemen die mensen identificeren en aan hun gedrag consequenties verbinden, vallen onder de hoogste risicocategorie. Bij het bedenken van de nieuwe regelgeving liet de Europese Commissie zich adviseren door de High Level Expert Group on AI. Catelijne Muller van deze organisatie zegt het dapper te vinden dat de Commissie de fundamentele rechten van burgers en Europese waarden centraal stelt. Aan de andere kant stelt zij dat de uiteindelijke regelgeving nu vol ingewikkelde formuleringen, definitiekwesties en achterdeurtjes zit. Dat wordt volgens haar een feest voor juristen.

Gaten in de wet
De regelgeving moet nog goedgekeurd worden door het Europese Parlement en de Raad van de Europese Unie. Europarlementariër Paul Tang (PvdA) vindt dat de regels nog teveel uitzonderingen bevatten, waardoor discriminatie en misbruik van biometrische identificatie en deepfakes mogelijk blijven. Zo wordt het gebruik van camera’s met gezichtsherkenning verboden in het publieke domein, maar niet als er sprake is van terroristische dreiging. Tang vreest dat dit soort uitzonderingen in de praktijk de regel gaan worden en dat alsnog iedereen onder het mom van nationale veiligheid gevolgd mag worden. Grote bedrijven zullen volgens hem naar de gaten in de wet gaan zoeken. De wet zal naar verwachting over twee of drie jaar in werking treden.