Vanuit de AI-strategie van de Vlaamse Overheid (DV), die streeft naar een democratische, betrouwbare, mensgerichte en duurzame inzet van kunstmatige intelligentie, geven we graag bijkomend advies dat niet alleen de technologische vooruitgang omarmt maar ook de ethische, sociale en juridische kaders respecteert die onze organisaties en zijn klanten (burgers/ondernemers) beschermen.
De strategie benadrukt het belang van correct gebruik en beheer van data, toegepast met diepgaande kennis en inzicht in de materie, waarbij de mens altijd centraal staat. Bovendien onderstreept het de noodzaak om aan een reeks ethische voorwaarden te voldoen, die ervoor zorgen dat elke AI-toepassing binnen de Vlaamse Overheid niet alleen efficiënt en effectief is, maar ook rechtvaardig en verantwoordelijk ten opzichte van de burgers die we dienen.
Dit advies richt zich op transparantie, data privacy, risicobeoordeling, compliance, contractuele waarborgen, en continue monitoring, allemaal binnen het kader van de AI-strategie van de Vlaamse Overheid >>> KLIK HIER.
Het document met de basisprincipes schetst een Vlaamse strategie rond de kernprincipes voor AI-gebruik binnen de Vlaamse overheid. Deze principes zijn gericht op het verantwoord en effectief inzetten van AI, met nadruk op democratische waarden, betrouwbaarheid, menselijke factor, bewustzijn over AI, datamanagement, en de ecologische en humanitaire impact.
We kunnen niet genoeg het belang van zorgvuldigheid bij het delen van informatie benadrukken, het verifiëren van gegenereerde content, en het toevoegen van eigen expertise om te weten wat er gebeurt met data. Dit beperkt zich niet enkel tot de opslag van de gegevens in de cloud doch ook rond welke algoritmes hiermee aan de slag gaan.
Belangrijke aanbevelingen omvatten het vermijden van gevoelige informatie in inputs, het controleren van AI-output op nauwkeurigheid en bias, en het transparant zijn over het gebruik van AI in geproduceerde content. Bouw zelf voldoende ervaring op met AI. Dit advies is cruciaal voor organisaties die AI toepassen of overwegen AI-gebaseerde oplossingen van leveranciers te gebruiken.
- Het is belangrijk dat de leverancier van de AI-toepassing, volledige transparantie biedt over hoe de AI werkt, inclusief maar niet beperkt tot de verwerking, opslag, en het eventuele hergebruik van data. Dit omvat duidelijke informatie over of en hoe de data van de sociale dienst wordt gebruikt om het model verder te trainen.
- Gezien de potentiële gevoeligheid van de data die door de sociale dienst wordt beheerd, moet er gegarandeerd worden dat de AI-toepassing voldoet aan de GDPR-vereisten (privacy en persoonsgegevensbescherming). Dit betekent dat er duidelijke mechanismen moeten zijn voor data encryptie, toegangscontrole, en de mogelijkheid voor data subjects om hun rechten uit te oefenen (zoals het recht op inzage, correctie, en verwijdering).
- Voer een grondige risicobeoordeling uit in lijn met de AI Act van Europa en het AI charter van Vlaanderen. Dit houdt in dat er gekeken moet worden naar de risico's op het gebied van privacy, beveiliging, en ethische overwegingen specifiek gerelateerd aan het gebruik van AI in de context van sociale hulpverlening.
- Verzeker dat de AI-toepassing en de cloudinfrastructuur waarop deze draait voldoen aan de relevante Europese en Vlaamse regelgeving en standaarden. Dit omvat niet alleen compliance en certificering GDPR, maar ook eventuele specifieke vereisten die voortkomen uit de AI Act en het AI charter van Vlaanderen.
- Zorg ervoor dat alle overeenkomsten met de leverancier (contractuele borging) duidelijke bepalingen bevatten over data gebruik, privacy, en beveiliging. Dit moet ook specifieke afspraken omvatten over het al dan niet gebruiken van klantdata voor het trainen van het AI-model.
- Implementeer mechanismen voor continue monitoring en evaluatie van de AI-toepassing om te verzekeren dat deze blijft voldoen aan de gestelde eisen en om eventuele problemen vroegtijdig te identificeren en aan te pakken.
Het is aan te raden om deze punten op de agenda te plaatsen voor discussie met collega's van andere besturen en bedrijven, om een gezamenlijk begrip en aanpak te ontwikkelen voor het omgaan met AI-toepassingen in de lokale overheidssector, specifiek in de context van sociale hulpverlening.