Hoe VDAB omgaat met risico's AI

Sinds 2018 onderzoekt VDAB hoe artificiële intelligentie kan helpen om de dienstverlening te verbeteren. Sindsdien heeft VDAB een twintigtal AI-toepassingen, waarvan er vier publiek beschikbaar zijn. De toepassingen linken beroepen aan interesses of vaardigheden, schatten de kans op werk in, of lezen cv’s om de competenties van een werkzoekende uit te halen.

Het gebruik van artificiële intelligentie biedt veel voordelen, maar is niet zonder risico. Zo is één van de valkuilen van AI bias. Een voorbeeld: Met een persoonlijke account kan je op de site van VDAB suggesties zien van jobs die andere, gelijkaardige, profielen interessant vonden. VDAB stelde vast dat vacatures voor verpleegkundigen meer werden voorgesteld aan vrouwen dan aan mannen, simpelweg omdat de achterliggende data de toepassing leerde dat meer vrouwen interesse tonen in die job.

Wil je dergelijke patronen laten standhouden? VDAB wil de blik van mensen die op zoek zijn naar een nieuwe job net opentrekken, en niet laten beperken door gendergerelateerde of andere ongewenste maatschappelijke patronen. Daarom besliste het agentschap om onder andere gender als variabele niet mee te nemen in deze AI-toepassing.

Karolien Scheerlinck, teamleider AI-team VDAB: “AI is een technologie die heel veel mogelijkheden biedt, maar we moeten ons ook heel erg bewust zijn van de risico’s. Het is onze rol en verantwoordelijkheid om op een ethisch verantwoorde manier om te gaan met AI. Daarom hebben we een aanpak uitgewerkt die ons toelaat om AI ten volle te benutten, en om tegelijkertijd om te gaan met risico’s die dat met zich meebrengt.”

Europese AI Act sinds 1 augustus van kracht
VDAB screent al zijn AI-toepassingen op alle mogelijke risico’s. Dat doet het agentschap aan de hand van de hoogste standaarden van de Europese AI Act. Op 1 augustus trad de AI Act in werking. Die wetgeving stelt eisen aan het gebruik van data en artificiële intelligentie. De wetgeving bepaalt onder andere vereisten voor risicomanagement, technische documentatie en transparantie.

Het ‘AI Centre of Excellence’ van VDAB bereidt zich al twee jaar lang voor op deze wetgeving, en verschillende vereisten van deze wetgeving zijn al geïntegreerd in de manier van werken. Zo zorgt VDAB bij elke AI-ontwikkeling voor vaste momenten in het proces om stil te staan bij de mogelijke risico’s. Het gaat dan bijvoorbeeld over onbedoelde vooroordelen en discriminatie in AI systemen. Ook moeten AI-systemen consistente en betrouwbare resultaten opleveren, zelfs met onverwachte data. Daarnaast moet elk AI-systeem rekening houden met de privacy van gebruikers. Ook beveiligingslekken en kwaadwillig gebruik van AI systemen zijn een risico.

Weten wat de risico’s zijn is één zaak, iets anders is hoe je ermee omgaat. Dat doet VDAB onder meer op volgende manieren: 

• VDAB hanteert voor elke AI-toepassing een regelmatige check op mogelijke bias, ook als de AI-toepassing al live is, omdat de data voortdurend evolueren.
• VDAB vermijdt het gebruik van sensitieve variabelen, zoals bijvoorbeeld gender of nationaliteit.
• Bij VDAB zal AI altijd een hulpmiddel zijn. Finale beslissingen liggen bij een bemiddelaar van VDAB, of bij de eindgebruiker.
• Sinds 2022 heeft VDAB een Ethische Raad die mee toekijkt op de risico’s van AI en advies geeft over de aanpak.

Internationaal voorbeeld
Ook in andere landen bekijken overheidsdiensten wat AI voor hen zou kunnen betekenen. Voor velen is VDAB een voorbeeld om te zien hoe je als overheid op een correcte en betrouwbare manier kan omgaan met AI. Delegaties uit verschillende landen kwamen reeds langs bij VDAB om daar meer te leren. Op een recente bijeenkomst van de Europese publieke bemiddelingsdiensten was het gebruik van AI één van de onderwerpen. 70% van de voorbeelden die aan bod kwamen, waren voorbeelden van VDAB.