28

195

11

5

AI_Impact

artificial intelligence (AI)1 kan worden ingezet om handelingen sneller of veiliger uit te voeren, zoals het inspecteren van asfaltkwaliteit of overtredingen op zee handhaven. AI biedt kansen, maar het brengt ook gevaren met zich mee. De cio-raad van IenW heeft in november 2020 akkoord gegeven om aan de slag te gaan met een concept AI Impact Assessment (AIIA), zodat er meer aandacht komt voor verantwoorde AI. Het IDlab ILT, het RWS Datalab en Concerndirectie Informatiebeleid van IenW (CDIB) hebben dit opgepakt en gezamenlijk deze nieuwe versie van het AIIA ontwikkeld. Het AIIA is vastgesteld door de Bestuursraad van IenW op 4 juli 2022. Het AI Impact Assessment (AIIA) wordt gebruikt voor het discussiëren over AI-systemen. Hierbij wordt gekeken naar obstakels in de data, het systeem, de algoritmiek en wordt rekening gehouden met geldende wet- en regelgeving. Het AIIA dient als instrument voor het gesprek en het vastleggen van het denkproces zodat onder andere de verantwoording, kwaliteit en reproduceerbaarheid worden vergroot. Het verwachte resultaat van het AIIA is een helder ingevuld document waarin duidelijk zichtbaar is welke afwegingen gemaakt zijn bij het inzetten van AI in een project. Primair is de opdrachtgever verantwoordelijk voor het (laten) uitvoeren van het AIIA. Er moet een AIIA worden opgesteld voor elk ai-systeem. Het invullen van het AIIA gebeurt nadrukkelijk proportioneel, passend bij de impact en het risicoprofiel van de toepassing. De verantwoordelijkheid voor wat propor- tioneel is, ligt bij de projectleiders en de opdrachtgever. AI kan ook worden gebruikt in onderzoek. Daarbij geldt dat het van belang is om onder andere te kijken naar zaken als false positives en false negatives en de verantwoording over en uitlegbaarheid van de resultaten. Ook kan AI worden gebruikt om hypotheses te genereren, die dan met AI of andere technieken verder worden uitgewerkt. Kortom ook voor onderzoekers geldt: denk goed na over AI en gebruik daar deze AIIA voor. Uiteraard vallen niet van toepassing zijnde vragen af, bijvoorbeeld als het systeem niet in beheer wordt genomen. De proportioneel ingevulde AIIA moet af zijn voor het in gebruik nemen van een AI-systeem. Het is belangrijk dat het AIIA daarna regelmatig wordt bijgesteld, bijvoorbeeld als het doel van het AI-systeem wordt gewijzigd of er veranderingen aan het AI-systeem plaatsvinden. Daarnaast kunnen zich in de loop van de tijd nieuwe risico’s voordoen. Controleer dit als projectleider/opdrachtgever periodiek. Om een AI-project goed en verantwoord uit te voeren, is er meer nodig dan een AI Impact Assessment. Denk aan het organiseren van een moreel beraad, het zorg dragen voor een zorgvuldige inbeheername en het informeren van de omgeving. Zie hiervoor de meest recente handreiking ‘AI voor opdrachtgevers’ (op te vragen bij de Concerndirectie Informatiebeleid). Past het AIIA niet bij een AI-project of systeem waaraan je denkt? Of heb je andere opmerkingen of vragen over het AIIA? Neem contact op met de CIO-office bij Concerndirectie Informatiebeleid.

Voor het invullen van het AIIA is het volgende van belang: - Het AIIA dient als instrument voor gesprek en controle. - Wijzigt het doel van het ai-systeem, dan moet het AIIA bijgesteld worden. - dikgedrukte woorden zijn aanklikbare begrippen, gedefinieerd in bijlage Begrippenlijst. - Het AIIA moet af zijn voor het in gebruik nemen van een AI-systeem. - Het AIIA is verplicht, maar de mate waarin het wordt ingevuld ligt bij de expertise van de projectleider. - Enkel ‘ja’ of ‘nee’ volstaat niet als antwoord op de vragen. - Vragen zijn gecodeerd en genummerd, de eerste letter verwijst naar

Het volledige AIIA omvat zo’n 100 vragen. Het AIIA is verplicht bij het maken of inkopen van AI-systemen, maar het invullen gebeurt nadrukkelijk proportioneel, door de opdrachtgever en projectleider zelf te bepalen. Dit noemen we: verplicht, maar soepel. Dit betekent vooral dat je met gezond verstand moet nadenken over hoeveel impact jouw ai-systeem heeft. Bij alle vormen van artificial intelligence zijn de blauwe  overkoepelende vragen verplicht, deze helpen bij het faciliteren van de discussie over de wenselijkheid van het AI-systeem. De groene  hulpvragen helpen om hier een concrete invulling aan te geven. Niet alle groene vragen zijn bij

De inleidende vragen gaan over de algemene aspecten van het ai-systeem dat je gaat ontwikkelen. Deze vragen gaan over het doel van het systeem, en de rol die het systeem binnen de organisatie gaat hebben. Denk aan vragen over de gebruikte technieken, of wie er verantwoordelijk gaat zijn.

Deze vragen zijn basis vragen om weer te geven wat je voor welk doel aan het doen bent. Het antwoord op deze vragen heeft relevantie voor de rest van het AIIA. i 1. Geef een korte beschrijving van het beoogde ai-systeem (titel, algemene omschrijving, probleemstelling, en het domein) i 2. Waarom is er voor de huidige techniek gekozen? (hierbij is het van belang dat alle afwegingen van robuustheid tot mensenrechten, impact op gebruiker en eindgebruiker, verantwoordingsplicht etc. zijn meegenomen in het antwoord) i 3. Wat is het doel en beoogde resultaat van het AI-systeem? i 4. Welk doel wordt er

Deze vragen leveren vaak discussie op. Naast vragen over de bouw en details van een AI-systeem, moet er goed nagedacht worden over de impact van het AI-systeem in zijn geheel. Dit zijn fundamentele vragen. Zorg daarom dat je ze goed uitdenkt. Probeer dit goed te nuanceren. Stel dat het AI-systeem een positieve impact heeft op duizenden burgers, maar een negatieve impact op tien burgers, dan is het systeem niet meteen onbruikbaar, maar moeten er wel goede maatwerkoplossingen komen voor de tien burgers waarop negatieve impact is. Bij deze vragen stel je ook de rolverdeling binnen het ontwikkelen en gebruiken van

Zoals veel technologieën kunnen AI-systemen grondrechten zowel bevorderen als benadelen. Gelet op het grote belang van de bescherming van grondrechten, en de bijzondere risico’s die kunnen bestaan voor de aantasting van die grondrechten door inzet van AI-systemen, is het van belang om aan dit onderwerp afzonderlijk aandacht te besteden. Dit hoofdstuk hangt nauw samen met het hoofdstuk data governance, waarin privacy wordt behandeld. Het recht op privacy is een grondrecht, maar door het karakter van het onderwerp privacy is het onderverdeeld in een eigen hoofdstuk.

Mensen die belang hebben bij de werking van het ai-systeem moeten goed behandeld worden. Dat bete- kent dat de (fundamentele) rechten van alle betrokkenen gewaarborgd moeten worden. Voor een goede invulling van dit onderwerp verwijzen wij je naar de Impact Assessment Mensenrechten en Algoritmes.3 De vragen die in deze AIIA gesteld worden zijn dan ook niet voldoende voor het afbakenen van dit onderwerp. Bij het beantwoorden van de vragen zijn de grondrechten van de mens van toepassing, deze staan vastgelegd in de Grondwet en het Europese Verdrag voor de Rechten van de Mens. f 1. Wat is de mogelijke impact

bias betekent het doen van aannames over dingen, mensen of groepen. Dit heeft twee kanten. Enerzijds is het noodzakelijk om conclusies over data op een nieuwe situatie te projecteren. We maken in generalisaties namelijk altijd aannames. Tegelijkertijd is het van belang dat er geen onrechtmatige vertekening ontstaat met vormen van onterechte en onwenselijke bias die in strijd kunnen zijn met de rechten van de mens. Bias kan zitten alle facetten van het systeem: bias in de input, bias in het model en bias in de output. Er zijn verschillende typen bias die relevant zijn tijdens het ontwikkelen en inzetten van

Bij stakeholder participatie worden verschillende doelgroepen betrokken in het kader van diversiteit, non-discriminatie en rechtvaardigheid. Om rechtvaardige AI te realiseren, moet er goed nagedacht worden over inclusie en diversiteit gedurende de gehele levenscyclus van het AI-systeem. In deze AIIA gaat het in deze context ook vaak over betrokkenen. Om te voorkomen dat de ontwikkelaars van een AI-systeem te veel in een eigen denkwereld blijven en zich niet bewust zijn van impliciete aannames of gevolgen, is afstemming over AI-systemen essentieel. Je doet dit door bijvoorbeeld af te stemmen met je eigen team, de klant, eindgebruiker, betrokkenen, ervaringsdeskundigen, domeinexperts als universiteiten, andere

Of een ai-systeem werkt waarvoor het bedoeld is wordt afgevangen met technische robuustheid.

Een ai-systeem moet over het algemeen goed presteren. Om de kans op verkeerde beoordelingen te minimaliseren, is het belangrijk doorlopend de prestaties van een AI-systeem te meten. Dit omvat het meten van het AI-systeem in zowel de ontwikkel- als productiefase. Ook de kwaliteit van de gebruikte data is van belang. Een AI-systeem is dus nooit af; het blijft noodzakelijk AI-systemen regelmatig te testen en hertrainen. Het is wenselijk een kwantificering te hebben van de kans waarop tóch een verkeerde beoordeling wordt gemaakt. accuraatheid van het systeem kan je bepalen door acceptatiecriteria op te stellen voor zowel de data als het

Een betrouwbaar AI-systeem geeft in vergelijkbare gevallen dezelfde resultaten. De vraag die centraal staat bij betrouwbaarheid is of de individuele output(data) nogmaals te verkrijgen is met behulp van hetzelfde model en dezelfde input(data), dezelfde instellingen en dezelfde parameters. Ook is het van belang dat het systeem een betrouwbare indicatie geeft van hoe goed het model gaat presteren in nieuwe situaties. t 2. Is het ai-systeem betrouwbaar? to 7. Wat zijn de belangrijkste factoren die de prestaties van het ai-systeem beïnvloeden? to 8. Wordt een deel van de (sub)dataset uitgesloten voor het leren van het model en alleen gebruikt voor het

De technische implementatie beschrijft hoe het AI systeem technisch binnen het ICT-landschap van de organisatie is geïntegreerd. De specifieke eisen van het AI-systeem aan hardware en software zijn gedocumenteerd zodat hier rekening mee gehouden kan worden bij het uitrollen en beheer van het systeem. Daarnaast wordt uit de systeemarchitectuur duidelijk hoe de verschillende softwarecomponenten zich tot elkaar verhouden. Een goed doordachte architectuur vermindert de bedrijfsrisico's die gepaard gaan met het bouwen van een technische oplossing en slaat een brug tussen bedrijfs- en technische vereisten. t 3. Hoe is het AI systeem technisch geïmplementeerd? to 10. Is er nagedacht hoe het

Bij reproduceerbaarheid kun je denken aan het vastleggen van welke data gebruikt zijn, hoe het model tot stand is gekomen, of wijzigingen in de data zijn bijgehouden, of uit dezelfde input(data) dezelfde resultaten voortvloeien, en of er bepaalde situaties of condities zijn waarin de output(data) beïnvloed kunnen worden. Reproduceerbaarheid gaat over trainen, valideren en testen. Reproduceerbaarheid hangt nauw samen met traceerbaarheid. Bij traceerbaarheid gaat het er voor- namelijk om dat de datasets en processen goed worden gedocumenteerd. Versiebeheer op de data, het en de training speelt daarin een belangrijke rol. t 4. Is het ai-systeem reproduceerbaar? Is er een proces

Technische uitlegbaarheid heeft te maken met het vermogen om zowel technische processen als daaraan gerelateerde menselijke beslissingen te kunnen begrijpen. Verder moet helder zijn welke verschillende ontwerpkeuzes zijn gemaakt en wat de rationale is voor het inzetten van het ai-systeem. Zie ook ‘Verantwoordingsplicht’ voor uitlegbaarheid richting betrokkenen. t 5. Is het ai-systeem voldoende uitlegbaar en te interpreteren voor de ontwikkelaars? to 17. Hoe heb je bij het ontwikkelen van het AI-systeem gekeken naar de uitlegbaarheid van het model? to 18. In hoeverre is het mogelijk om een verklaring te geven aan een externe AI-expert hoe het AI-systeem op een bepaalde

Data governance gaat over een (bestuurlijke) werkwijze rondom data met betrekking tot toegang, eigenaarschap, bruikbaarheid, integriteit en veiligheid. Daarnaast is er aandacht voor de kwaliteit van de data die wordt gebruikt. Onder data governance valt ook privacy. Privacy is een van de fundamentele rechten van de mens, die mogelijk door AI kan worden aangetast. Het is daarom belangrijk dat er adequate data governance en bescherming van persoonsgegevens conform de Algemene Verordening Gegevensbescherming (AVG) is. Voor AI-systemen is het essentieel om informatiebeveiligings- en privacyrisico’s inzichtelijk te maken, deze risico’s terug te brengen naar een acceptabel niveau en periodiek (technisch) te laten testen (bv. door het uitvoeren van een pentest). Om dit te realiseren moet het risicomanagementproces voor informatiebeveiliging en privacy van de organisatie worden doorlopen voor de AI-implementatie. Producten die daarbij onder meer moeten worden opgeleverd zijn: BIV-classificatie (BIA), implementatie van en toets aan de BIO, DPIA (in geval van verwerking persoonsgegevens), security testen en indien noodzakelijk een verbeterplan.

Datakwaliteit is essentieel voor de werking van een ai-systeem. Verzamelde gegevens kunnen bijvoorbeeld sociaal geconstrueerde bias, onjuistheden, fouten en vergissingen bevatten (zie ook ‘Bias’). Dit moet worden geadresseerd voordat er verder met deze data wordt gewerkt. De datasets en de werkwijze moeten worden getest en gedocumenteerd bij iedere stap: training, testen, uitrolfase en operationele fase. Dit geldt ook voor AI-systemen die niet intern gebouwd zijn, maar elders zijn verworven. De archiefwet9 stelt eisen aan de manier van opslaan en bewaartermijn van data. d 1. Hoe wordt de kwaliteit van de data gewaarborgd?8★ do 1. Is de gebruikte data noodzakelijk voor

Privacy en de bescherming van gegevens moeten gewaarborgd zijn gedurende de hele levenscyclus van het ai-systeem. Met digitaal vastgelegde gegevens van menselijk gedrag kunnen AI-systemen wellicht leeftijd, geslacht en politieke, religieuze of seksuele voorkeuren afleiden. Let erop dat wanneer je persoonsgegevens gebruikt, deze niet gebruikt kunnen worden om te discrimineren, zie ook ‘Bias’. Naast persoonsgegevens kunnen er ook andere vertrouwelijke gegevens gebruikt worden die niet zomaar openbaar gemaakt mogen worden. Dit geldt bijvoorbeeld voor het gebruik van vertrouwelijke informatie als gerubriceerde informatie of bedrijfsgeheimen. Ook deze data moet goed beschermd zijn. De AI Verordening biedt aanvullende regels voor het gebruik

Het is van belang dat mogelijke risico’s in de gaten worden gehouden. Wanneer risico’s niet zijn voorzien, kan een ai-systeem tot onbetrouwbare resultaten komen. Dit kan schade veroorzaken. Het beginsel van preventie moet ervoor zorgen dat schade zoveel mogelijk wordt beperkt. Schade kan opgelopen worden door slecht functioneren van het AI-systeem, of bijvoorbeeld door hackaanvallen van buitenaf.

Bij het ontwikkelen en in gebruik nemen van een ai-systeem komen gevaren kijken, die in deze AIIA zoveel mogelijk ingekaderd worden. Toch kunnen zich alsnog onvoorziene problemen voordoen. Het is belangrijk om vast te stellen hoe je met deze potentiële gevaren omgaat. Dat betekent ook dat er mechanismes ingesteld moeten worden om risico’s te beheersen, en dat deze mechanismen goed zijn getoetst. Denk aan het voorkomen van data vergiftiging, de mate van beheersmaatregelen en de beveiliging van de bewaarplaats van uitkomsten. Daarnaast moet er rekening gehouden worden met het feit dat zich nieuwe risico’s kunnen voordoen na invoering van het

Het is wenselijk om een plan te hebben voor wanneer er problemen optreden met het ai-systeem. Dit betekent dat er een alternatieve werkwijze beschikbaar moet zijn in het geval dat er problemen met de werking van het systeem zijn. Denk aan de mogelijkheid om van een machine learning naar een beperkter rule-based model terug te schakelen. Het is goed om er bewust van te zijn dat een mens als expert zich niet op dezelfde manier ontwikkelt als een AI-systeem. Denk hierbij aan het effect van de rekenmachine op onze vaardigheid hoofdrekenen. Een alternatieve werkwijze moet hierop ingespeeld zijn. Wat is

Informatiebeveiligingsrisico zoals hackaanvallen en corruptie moeten zoveel mogelijk worden beheerst. De te voorziene risico’s moeten ingekaderd worden door deze inzichtelijk te maken via het risicomanagementproces van de organisatie. Daaronder vallen onder meer het in kaart brengen van BIV- classificatie, rubriceringsniveau van informatie, implementatie van BIO-maatregelen, security testen en, indien het beveiligingsniveau van de BIO niet voldoet, het ev. uitvoeren van een aanvullende (technische) risico-analyse. Ook is van belang om te kijken of fouten en onregelmatigheden te detecteren en technisch af te vangen. r 3. Op welke manier worden informatiebeveiligingsrisico’s inzichtelijk gemaakt, teruggebracht naar een acceptabel niveau en (technisch) getest? ro

Voor handelen binnen de Rijksoverheid moet verantwoording worden afgelegd binnen de organisatie, naar de Tweede Kamer en naar de samenleving. AI staat op dit moment extra in de belangstelling. De techniek wordt steeds vaker toegepast binnen de Rijksoverheid, maar er zijn ook veel zorgen over de ethische afwegingen bij het inzetten van AI. Daarom moeten er goede mechanismes ingesteld worden om de verantwoordelijkheid voor AI-systemen en de resultaten daarvan te kunnen garanderen.

Deze sectie gaat over twee vormen van communicatie naar eindgebruikers. Ten eerste, eindgebruikers moeten ervan op de hoogte worden gesteld dat ze met de resultaten van een ai-systeem te maken hebben. Ten tweede, eindgebruikers hebben te allen tijde het recht om te weten hoe een algoritme de uitkomsten van een AI-systeem bepaalt. Dat betekent ook dat het doel en beperkingen van het AI-systeem duidelijk en eerlijk moeten worden gecommuniceerd. Zowel technische processen als daaraan gerelateerde menselijke beslissingen moeten begrijpelijk zijn en opgevraagd kunnen worden. Bijvoorbeeld door het aanwijzen van een contactpersoon met inhoudelijke kennis over het AI-systeem. Gezien het zelflerende

Het is van belang dat er inzicht in de bronnen, het systeem en de uitkomst is. Deze verantwoordelijkheid zal doorgaans bij de gebruiker liggen. Om autonoom te kunnen zijn in het gebruik van ai-systemen, moet de eindgebruiker voldoende begrip hebben van het systeem, of de werking ervan kunnen opvragen. Ook is het belangrijk dat begrip over het AI-systeem makkelijk overgedragen kan worden wanneer er een nieuwe eindgebruiker met het systeem gaat werken die niet bij de ontwikkeling betrokken was. Daarom moeten AI-systemen zoveel mogelijk opgesteld worden in samenspraak met de beoogde eindgebruiker. Toezicht kan worden verwezenlijkt door middel van governance

Archivering is het bewaren van informatie zodat je deze informatie in de toekomst kunt hergebruiken of voor andere doelen in kan zetten. Denk bijvoorbeeld aan het herconstrueren van het model (zie ‘Reproduceerbaarheid’), of een nieuwe medewerker kunnen uitleggen hoe het systeem in elkaar zit (zie ‘Uitlegbaarheid’), of om verantwoording af te leggen naar een betrokkene (zie ‘Verantwoordingsplicht’). vo 14. Hoe wordt de input(data) opgeslagen? vo 15. Wat is de bewaartermijn van de input(data)? vo 16. Hoe wordt het model opgeslagen? vo 17. Kunnen de gebruikers de output(data) op de juiste manier interpreteren? vo 18. Wat is de bewaartermijn van de

AI-systemen kunnen bijdragen aan oplossingen voor de meest urgente maatschappelijke zorgen, tegelijkertijd is het van belang dat dit zo milieuvriendelijk mogelijk gebeurt. Het is van belang om de milieuvriendelijkheid van de volledige toeleveringsketen van het ai-systeem te waarborgen. Aan de andere kant kan het natuurlijk ook zo zijn dat het AI-systeem juist wordt ingezet om milieuwinst te behalen. Die impact moet afgewogen tegen de milieukosten van bijvoorbeeld het laten draaien van het systeem. Hierbij is het natuurlijk wel van belang om proportionaliteit aan te houden. Als het veel tijd en energie kost om de milieu-impact van een systeem te meten

In dit document worden begrippen gebruikt die in de literatuur vaak verschillend gedefinieerd worden. Hieronder volgen eenduidige definities die gebruikt worden in dit document. acceptatiecriteria Op het beoogde doel en data afgestemde voorwaarden, waaraan het ai-systeem moet voldoen. Dit kan bijvoorbeeld de hoeveelheid data zijn, een accuratesse maatstaaf voor de output(data) of het inrichten van een onafhankelijke controle van output. Acceptatiecriteria moeten waar mogelijk meetbaar gemaakt worden zodat deze gemonitord kunnen worden met een geschikt meetsysteem. Goede acceptatiecriteria zijn SMART en voldoende verschillend zodat alle relevante aspecten van het AI-systeem goed gemonitord worden accuraatheid Zeer nauwgezet, precies of zorgvuldig; als een systeem in staat is om juiste én accuratesse beoordelingen te maken. In een formule: TP+TN/(TP+TN+FP+FN). TP= werkelijke positief, TN=Werkelijk negatief, FP=Verkeerde positief, FN= Verkeerd negatief. Hoe meer werkelijke resultaten t.o.v. verkeerde resultaten hoe hoger de accuraatheid. ai met beperkt risico De AI Verordening stelt vast wat beperkt risico AI is. AI ingericht op interactie met mensen, emoties herkennen, of gemanipuleerde beelden produceren. Denk aan spamfilters, het samenvatten van teksten, het classificeren van onderwerpen van luchtvaartvoorvallen, of bijvoorbeeld AI-systemen die kantoorverlichting regelen. ai met hoog risico De AI Verordening stelt vast wat hoog risico AI is. Dit zijn vaak producten die nauw te maken hebben met fundamentele rechten en/of productveiligheid. Denk hierbij bijvoorbeeld aan AI in vliegtuigen, vaartuigen, voertuigen, rails, wegverkeer, vliegnavigatie en drinkwatertoevoer. Zo lang de AI Verordening nog niet in werking is gesteld, gaat het erom dat we bewust met AI omgaan. Dat betekent dat we ons moeten realiseren wanneer AI een hoog risico heeft. ai met minimaal risico Alle AI-systemen die niet verboden zijn of onder ai met hoog risico of ai met beperkt risico vallen. ai-systeem Een systeem welke (deels) tot stand is gekomen door middel van het toepassen van zelflerende algoritmes (machine learning, statistiek of logica) op historische data, met het doel om voorspellingen of aanbevelingen te doen, of om zelfstandig beslissingen te nemen. algoritme Een ‘recept’, of eindige reeks van wiskundige instructies die vanuit een gegeven begintoestand naar een vooraf gesteld doel leiden. Doorgaans zijn deze algoritmes geïmplementeerd in een computerprogramma. artificial intelligence AI kent geen eenduidige definitie. Wij hanteren de omschrijving van AI door de Algemene Rekenkamer: “het vermogen [..] om externe gegevens correct te interpreteren, om te leren van deze gegevens en om deze lessen te gebruiken om specifieke doelen en taken te verwezenlijken via flexibele aanpassing”. Ook belichten wij graag al die van de Europese Commissie alhoewel deze nog niet gehanteerd wordt in dit document: AI omvat systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken. beheerorganisatie Een organisatie die applicatiebeheer van het ai-systeem inricht en optimaliseert. belangengroep betrokkenen Samenstelling van stakeholders om diversiteit te meten. Dit kan zowel een groep van eindgebruikers zijn als een groep van mensen die impact ervaren door het systeem. Natuurlijk persoon of organisatie die bij het gebruik of de uitkomsten van het systeem belang heeft, of belang denkt te hebben. Hier wordt bewust niet het woord ‘belanghebbende’ gebruikt, omdat het meer omvat dan het in het bestuursrecht gedefinieerde ‘belanghebbende’. Denk aan burgers, een onder toezicht staande, maar ook de eindgebruiker zelf. betrouwbaar De eigenschap beschikken van consistent gedrag en consistente resultaten. bias Vooringenomenheid. Het doen van aannames over dingen, mensen of groepen die vaak niet gebaseerd zijn op werkelijke metingen. bias in de input Kwaliteit, consistentie en integriteit van data is een belangrijke voorwaarde voor een unbiased analyse. bias in de output De manier waarop de output(data) wordt gebruikt kan invloed hebben op de levens van mensen. Het is belangrijk dat hierbij geen onterechte correlatie gaat leiden tot causaliteit. bias in het model Hoe correct zijn de modellen; in hoeverre corrigeren ze voor bekende gebreken in representativiteit van de data? Dit kan bijvoorbeeld ook gaan over wat het ai-systeem leert en wat ongewenste leereffecten zijn. cio ciso corruptie Chief Information Officer. Chief Information Security Officer. Het misbruiken of uitbuiten van fouten van het systeem, of het uitbuiten van ogenschijnlijke neutrale eigenschappen van het systeem.25 We maken onderscheid met onbedoelde corruptie. data bias Wanneer de steekproef niet representatief is voor de gehele populatie. data pipeline Hoe de data vanuit het veld naar het model komt; het proces dat de data doorloopt. design bias Problemen in het technisch ontwerp, inclusief beperkingen van computerhulpmiddelen zoals hardware en software. diversiteit Hieronder verstaan we het herkennen van verschillende typen 'subjecten' in onze analyses. Wij proberen hierbij te voorkomen dat groepen van relevante subjecten onterecht niet worden meegenomen in ontwikkelen van een ai-systeem, waardoor het systeem niet op hen aansluit. doel 1 De Algemene Rekenkamer noemt 3 doelen die AI kunnen hebben. Doel 1 is gericht op het automatiseren van eenvoudige menselijke handelingen. Kenmerkend aan dit soort algoritmes is dat ze vaak voorschrijvend zijn en automatisch een handeling uitvoeren, zonder tussenkomst van een mens. Het risico op fouten met impact op de burger is hierbij laag, gezien de hoge technische transparantie en eenvoudig toepassingsgebied. doel 2 De Algemene Rekenkamer noemt 3 doelen die AI kunnen hebben. Doel 2 is gericht op het faciliteren van bedrijfsvoering. Hierbij wordt vaak complexere data gebruikt dan bij doel doel 3 De Algemene Rekenkamer noemt 3 doelen die AI kunnen hebben. Doel 3 is gericht op (risico-)voorspellingen. Er is geen sprake van automatische besluitvorming. Het risico op fouten met impact op de burger is hoog. Bijvoorbeeld dat de resultaten in strijd zijn met de wet, of (ongewenste) afwijking vertonen op basis van de verbogen beperkingen van input(data). Verklaarbaarheid komt hierbij in gevaar. Daarnaast bestaat de kans dat het advies van het algoritme de uiteindelijke beslissing van de medewerker beïnvloedt. domeinexpert Iemand die veel kennis heeft over het probleemgebied waarin het ai-systeem gebouwd wordt. eerlijkheid Als niet elk subject een gelijke behandeling krijgt, moet dat verklaard kunnen worden. Hierbij is het van belang dat we zoveel mogelijk onderscheidende subjectkenmerken in beeld hebben. Zowel om aan te kunnen tonen welke kenmerken daadwerkelijk een rol spelen (en partij A een lager risico toebedelen dan partij B) en welke kenmerken dit juist niet zijn (waardoor partij A en B een onderbouwd gelijkwaardig risico hebben). eindgebruiker Eindgebruikers zijn de personen die het ai-systeem in de praktijk toepassen binnen de ‘gebruiker’ als organisatie. Het gaat hierbij om een natuurlijk persoon. Wie zitten er met de handen aan de knoppen? Wie vergaart binnen de organisatie informatie uit het AI-systeem? Denk aan een inspecteur of een wegverkeersleider. eindverantwoordelijke Een rol binnen de organisatie die de verantwoordelijkheid over het ai-systeem draagt. Dat betekent bijvoorbeeld de verantwoordelijkheid over dat de juiste resultaten van het AI-systeem bereikt worden. entiteit Een functie binnen een afdeling van een organisatie. gebruiker Volgens de AI Verordening “een (…) overheidsinstantie, agentschap of ander orgaan die/dat een ai-systeem onder eigen verantwoordelijkheid gebruikt (…)”. De gebruiker zet het systeem in. Dit is nooit een natuurlijk persoon. Bijvoorbeeld de ILT of RWS. geen positieve impact betrokkenen die niet per definitie negatieve impact ervaren van de inzet van het AI-systeem, maar bijvoorbeeld in dezelfde situatie blijven als daarvoor. Daarbij kan een gevaar zijn dat deze betrokkenen niet dezelfde ‘positieve impact’ van het AI-systeem ervaren dat andere betrokkenen wel krijgen. gelijkheid Hieronder verstaan we de gedachte dat elk gelijksoortig subject een gelijke behandeling krijgt. governance De handeling of de wijze van besturen, de gedragscode en het toezicht op organisaties. Het betreft beslissingen die verwachtingen bepalen, macht verlenen of prestaties verifiëren. Het bestaat ofwel uit een afzonderlijk proces ofwel uit een specifiek deel van management- of leiderschapsprocessen. hackaanval Inbreken in het ai-systeem. Met als gevolg bijvoorbeeld vervuiling van data, het ongewenst uitlekken van (de werking van) een AI-systeem, of aantasting van software of hardware. in gebruik nemen Het moment dat een AI-systeem ‘in gebruik wordt genomen’ betekent het moment waarop deze voor het eerst buiten de deur wordt gebruikt. In de praktijk betekent dit dus ook een externe test of pilot. Op het moment van in gebruik name moet de AIIA af zijn. input(data) Die gegevens welke worden verwerkt met een vooropgesteld doel. In de context van een ai-systeem kunnen dit ruwe data zijn, bijvoorbeeld de waarnemingen uit de werkelijkheid. In de context van het model zijn dit normaal gesproken voorbewerkte data. model Een (versimpelde) wiskundige vertegenwoordiging van de werkelijkheid, welke wordt gebruikt om informatie te verwerken. In een ai-systeem wordt de wiskundige vertegenwoordiging vaak deels of in zijn geheel volgens een algoritme ‘geleerd’, waardoor zelfs door de ontwikkelaars niet volledig uit te leggen is hoe het model aan diens uitkomsten komt. moreel beraad Overlegorgaan Fysieke Leefomgeving (mei 2021), Moreel Beraad. negatieve impact betrokkenen die nadelige gevolgen ervaren door de toepassing van het ai-systeem, bijvoorbeeld omdat ze gediscrimineerd worden op basis van een bias in het AI-systeem. onbedoelde corruptie Zonder kwaadwillende bedoelingen de werking van het ai-systeem beïnvloeden door bijvoorbeeld verkeerde input te voeden, of de verkeerde knoppen in te drukken. Onbedoelde corruptie valt onder betrouwbaarheid. We maken onderscheid met (bedoelde) corruptie. ontwikkelaar Een organisatie of een persoon die een ai-systeem ontwerpt, ontwikkelt en/ of traint. opdrachtgever Een persoon of organisatieonderdeel die een opdracht verstrekt aan een opdrachtnemer. Deze is ook (samen met de projectleider) eindverantwoordelijk voor het maken van een AIIA. output(data) De gegevens die een ai-systeem oplevert. Dit zijn de resultaten van het model. parameter Een variabele binnen het model. Wanneer deze variabele gewijzigd wordt, wordt ook de resulterende grootheid van het model of van de berekening gewijzigd. positieve impact betrokkenen die gunstige gevolgen ervaren van de inzet van het ai-systeem. Denk aan een minderheidsgroep die wordt bevoordeeld. Daarbij kan het gevaar zijn dat deze positieve bias te optimistisch is, en dus niet waarheidsgetrouw. Ook kan de keerzijde hiervan een ‘negatieve impact’ voor andere betrokkenen zijn. projectleider De eindverantwoordelijke voor het project waarbinnen het ai-systeem valt. Deze is ook (samen met de opdrachtgever) eindverantwoordelijk voor het maken van een AIIA. proportioneel AI is een ingrijpende techniek, met verklaarbaarheidsproblemen. Staat het gebruik van AI in verhouding tot het probleem wat er met het algoritme opgelost gaat worden? Het verwachte voordeel moet groter zijn dan het risico dat AI met zich meebrengt. reproduceerbaar Het steeds opnieuw kunnen bereiken van een vergelijkbaar resultaat wanneer een beschreven procedure wordt uitgevoerd. robuustheid Met een preventieve benadering ontwikkeld zijn; zich gedragen zoals voorzien en van tevoren beschreven. Onaanvaardbare schade vermijden. seed Een “seed” is het uitgangspunt van een willekeurig getal generator. Deze generator maakt altijd vanuit dit uitgangspunt volgens dezelfde “route” nieuwe (pseudo) willekeurige getallen. Door de “seed” te documenteren kan de “route” van (pseudo) willekeurige getallen worden herhaald. Dit betekent dat deze seed nodig is om reconstructie van een model te controleren wanneer het model ergens gebruik maakt van willekeurige getallen. de seed zelf is ook een getal Er zijn geen specifieke eisen aan dit getal, dus vaak wordt er voor iets “herkenbaars” gekozen (bijvoorbeeld “123456”, of “0, 42, 1234” of de geboortedatum van een ontwikkelaar). stakeholder Persoon of organisatie die een beslissing of activiteit kan beïnvloeden, erdoor kan worden beïnvloed, of zichzelf als beïnvloed beschouwd. Een stakeholder kan bijvoorbeeld ook de eigenaar van gebruikte data zijn. subsidiair AI is een ingrijpende techniek, met verklaarbaarheidsproblemen. Kan het probleem ook met minder vergaande middelen opgelost worden? traceerbaarheid Wanneer processen en resultaten te controleren zijn. transparant Wanneer de werking en doelen van het ai-systeem duidelijk worden gecommuniceerd en resultaten van het AI-systeem uitlegbaar zijn. type algoritmes Verschillende technieken kunnen gebruikt worden om AI te maken, zoals neurale netwerken, random forests of andere vormen van machine learning. Maar ook minder complexe algoritmes zoals business-rules of beslisbomen kunnen gebruikt worden. uitlegbaar Een verklaring van hoe input variabelen bijdragen aan een output van het algoritme die uitgelegd moet worden. verantwoordelijk Handelingen van een entiteit kunnen op unieke wijze worden herleid tot die entiteit, en deze entiteit is voor deze handelingen aansprakelijk. Wie is wie Vul in welke personen een rol hebben gespeeld bij het beantwoorden van deze AIIA.

1. Het zijn vaak voorspellende algoritmes zonder automatische besluitvorming. Het risico op fouten met impact op de burger is aanwezig maar is beperkt. Het algoritme doet namelijk alleen voorbereidend ‘werk’.

Vul in welke personen een rol hebben gespeeld bij het beantwoorden van deze AIIA. Communicatieadviseur: Data scientists: Databeheerder of bronhouder: Functionaris Gegevensbescherming: Jurist: Overige leden projectteam: Strategisch adviseur ethiek:

H1 H2. H3. H4. H5. H6. Communicatieadviseur: X X X Data scientists: X X X X X Databeheerder of bronhouder: X X X X X X Functionaris Gegevensbescherming: X Jurist: X X X X X X X Overige leden projectteam: XX X X X X Strategisch adviseur ethiek: Dit is een publicatie van: Ministerie van Infrastructuur en Waterstaat Postbus 20901 2500 EX Den Haag November 2022 | 73263