“Kunstmatige intelligentie bestaat niet; echte stommiteit bestaat wel!” Met die gevleugelde uitspraak gaf Genetec-baas Pierre Racz zijn mening over een eigenschap die steeds meer fabrikanten aan hun beveiligingscamera’s toedichten. “Wij doen niet aan kunstmatige intelligentie, maar wel aan intelligente automatisering. Hoe belangrijk dat is, bewijst de crisis van dit moment wel.”

Pierre Racz sprak tijdens het driedaagse online evenement Connect’DX, dat nog voortduurt tot en met de nacht van woensdag op donderdag. Het is een alternatief voor de vele vakbeurzen en congressen die vanwege de corona-uitbraak niet doorgaan en omvat inleidingen, paneldiscussies en zo’n dertig uur aan interactieve trainingssessies, die gratis zijn bij te wonen. De topman van de Canadese multinational legde uit hoe het evenement tot stand was gebracht op basis van kennis die ook vóór de coronacrisis al bekend was bij Genetec. “In de nabije toekomst werken we allemaal via een cloudomgeving, waar we op een wachtwoordloze wijze overal veilig toegang toe kunnen krijgen. Zo werken wij nu ook tijdens dit evenement. De meeste sprekers zitten thuis en staan via onze cloud in verbinding met de rest van de wereld.” De oprichter en algemeen directeur van Genetec benadrukte dat fysieke contacten tussen mensen ook altijd belangrijk zullen blijven, maar dat je niet zonder een online alternatief kunt.

Van in- naar extern werken
Het was volgens Racz een grote uitdaging om te switchen van intern naar extern werken. “Maar het is gelukt. Zelfs met ons Security Operation Center. Dan merk je wel hoe vitaal ICT is voor je organisatie.” De Genetec-baas benadrukte het belang van intelligente automatisering. “Dat is niet hetzelfde als kunstmatige intelligentie. Als je bij ons iets doms doet, zeggen wij dat je kunstmatige intelligentie hebt. Mensen hebben soms enorme verwachtingen van slimme technologie, maar vaak leiden die alleen tot desillusies.

Het gaat meteen fout als de machine iets moet doen wat we vergeten zijn om hem te leren

Machines zijn heel goed in bepaalde dingen, maar zullen nooit kunnen denken zoals mensen dat doen. Een machine kan de wereldkampioen schaken verslaan, maar kan niet veilig een auto besturen. Je kan een computer heel veel leren, maar hij zal nooit meer te weten komen dan wat hem geleerd is. Daarom ging het mis met de automatisch rijdende auto van Uber. Die was niet geleerd dat hij moest stoppen voor een voetganger die met een fiets in de hand overstak op een plaats waar dat niet mag.”

Bankrekeningen plunderen
“Zolang je precies weet wat je van een machine verwacht, kan de machine de mens ruimschoots overtreffen”, vervolgde Racz. “Maar het gaat meteen fout als de machine iets moet doen wat we vergeten zijn om hem te leren. Zo was er een man in IJsland die ontdekte dat je via de bank ook negatieve bedragen kon overboeken. Complete bankrekeningen kon je op die manier plunderen. Je moet je dus goed afvragen of je de veiligheid en het voortbestaan van je organisatie wilt laten afhangen van alleen techniek. Techniek ontwikkelt zich via ’trial and error’ en er is altijd wel een manier om techniek te misleiden. In het laboratorium werkt het perfect, maar de praktijk is anders. Daarmee moeten we rekening houden bij het ontwerpen van onze vitale systemen. Wat kan er allemaal misgaan? Want kunstmatige intelligentie bestaat dan misschien wel niet, echte stommiteit bestaat wel degelijk!

Ontwikkeling
Wat Genetec precies onder intelligente automatisering verstaat, legden de vice-presidents Christian Morin en Leon Langlais uit. Langlais vertelde hoe het videomanagementsysteem Omnicast ooit ‘slechts’ 8.000 camera’s ondersteunde, toen het ingevoerd werd op de luchthaven van Parijs. Later kwam winkelketen Target binnen als klant, waarvoor 160.000 camera’s beheerd moesten worden.

De uitdaging is om een systeem zodanig te ontwerpen dat fouten geen consequenties hebben

Op het moment werkt Genetec aan een systeem van 450.000 camera’s voor een klant waarvan de naam niet genoemd mag worden. “Met toegangsbeheer zien we dezelfde ontwikkeling. In India werken we aan een project voor 1,2 miljoen gebruikers. We onderzoeken nu al hoe we tegen het einde van dit jaar systemen voor 10 miljoen gebruikers kunnen realiseren. Ook werken we met onze ruim 1500 R&D-ontwikkelaars aan oplossingen die veel verder gaan dan fysieke beveiliging. We richten ons steeds meer op een markt die vraagt om ondersteuning bij beslissingen rond vitale processen.”

Fouten zonder consequenties
In navolging op wat Pierre Racz had verteld, benadrukte Langlais het belang van een betrouwbaar ontwerp van automatisering van vitale processen. “Geen systeem is feilloos. De uitdaging is het systeem dus zodanig te ontwerpen dat fouten geen consequenties hebben. De gebruiker mag er niets van merken, maar er moet wel iets gebeuren met geconstateerde fouten. Ook onderscheid tussen ernstige en minder ernstige fouten is van belang, want als je alles wilt uitsluiten wordt de technologie voor de meeste toepassingen onbetaalbaar. We werken nu aan ‘deep learning‘-algoritmen die fouten kunnen voorspellen voordat ze optreden. De rapportages kunnen we anonimiseren, zodat deze ook voor andere installaties te gebruiken zijn. Zo kunnen gebruikers elkaar onbewust helpen, door volledig anoniem ervaringen uit te wisselen.” Genetec onderzoekt ook mogelijkheden om systemen te segmenteren, zodat bij een storing maar een deel en niet de hele installatie herstart hoeft te worden. Dat brengt de ‘down time’ terug van soms wel 40 minuten, naar minder dan één minuut.

Cloud
Christian Moran liet er geen twijfel over bestaan dat in de toekomst de cloud de norm wordt. Stratocast is Genetec’s antwoord op de snel stijgende behoefte aan ‘Software as a Service’. “Mensen willen over alle functionaliteit kunnen beschikken, maar zonder ingewikkeld technisch gedoe. Het afgelopen jaar koos 60 procent van onze gebruikers om die reden al voor extern beheer van ons integrale beveiligingsplatform Security Center. Toch kiezen nog maar weinig organisaties voor de cloud en dat heeft volgens ons drie redenen. De eerste is dat men bestaande installaties nog niet wil afschrijven en dat deze niet geschikt zijn voor SaaS. De tweede is het ontbreken van een geschikte infrastructuur. We praten vaak over systemen met duizenden camera’s en die vragen een enorme bandbreedte, die nog niet overal tegen betaalbare condities beschikbaar is. Verder willen mensen voor de veiligheid van hun organisatie niet afhankelijk zijn van een externe dataverbinding. Daarom zien we een stijgende voorkeur voor hybride oplossingen. Dat is werken in de cloud, met de mogelijkheid om ook lokaal te werken.

Het is nog altijd mogelijk om in te schrijven voor Connect’DX via deze link. Na afloop van het evenement blijven veel van de presentaties ‘on demand’ terug te zien.