Met supermarktconcern Ahold onderzoeken hoe je de logistiek kan verbeteren zodat voedselverspilling wordt verminderd. Met het Nederlands Kanker Instituut werken aan een preciezere bestraling bij kanker. Of met de Gemeente Amsterdam en het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties werken aan het verminderen van vooringenomenheid in AI-modellen, zodat mensen niet gediscrimineerd worden op basis van hun afkomst, adres of huidskleur.

Het zijn enkele voorbeelden van onderzoeksprojecten die momenteel worden uitgevoerd binnen een van de 49 labs van het Centre for Artificial Intelligence (ICAI), een netwerk waarin kennisinstellingen, bedrijfsleven, overheden en non-profitinstellingen samenwerken om kennis over verantwoorde AI verder te ontwikkelen, en ook om AI-talent aan te trekken en in te zetten op relevante maatschappelijke vraagstukken. Het nationale samenwerkingsverband is in 2018 opgericht op initiatief van de Universiteit van Amsterdam (UvA) en de Vrije Universiteit (VU), maar inmiddels zijn in totaal achttien kennisinstellingen en ruim 145 andere partners bij het initiatief aangesloten. 

Toegang tot data

Esther Smit is business manager van ICAI. Zij werkt al ruim acht jaar voor het Informatica Instituut (IvI) van de UvA, op het snijvlak van kennis delen, communities bouwen en samenwerkingen opzetten. De ICAI-labs werken vraaggericht, vertelt ze. “Bij elk van de labs is altijd een niet-kennisinstelling betrokken, zoals een bedrijf of (semi)overheid. Zij komen met vragen of hebben te maken met uitdagingen. Gezamenlijk kijken we welke wetenschappelijke vragen we hiermee tegelijkertijd kunnen gaan beantwoorden.” Promotieonderzoeken staan centraal; bij elk lab zijn minstens vijf promovendi betrokken. Zij kunnen een deel van de tijd bij een externe organisatie doorbrengen om zo het onderzoek samen met de organisatie te doen. “Niet door voor het bedrijf te werken, maar om hun onderzoeksonderwerp beter te begrijpen. Bovendien krijgen ze vaak toegang tot data van die organisatie. Zo hebben de onderzoekers de mogelijkheid om hun algoritmes te testen op ‘echte’ data waar ze normaal gesproken geen toegang toe zouden hebben.”

SDG’s

Een belangrijk aspect van ICAI is dat het gericht is op maatschappelijke impact. Alle labs hebben zich gecommitteerd aan een of meerdere  Sustainable Development Goals (SDGs). “Denk bijvoorbeeld aan uitdagingen rond de energietransitie. Het Nederlandse stroomnetwerk is momenteel overbelast; hoe kunnen we vraag en aanbod van stroom beter op elkaar afstemmen? En in het Caribisch gebied, in het programma Illustre, speelt naast een betrouwbare energievoorziening ook de toegang tot schoon water.”

Ook de zeventien labs van het grootschalige en langlopende NWO-programma ROBUST zijn door ICAI opgezet en daarin ondergebracht. Dit programma richt zich op het vergroten van de betrouwbaarheid van AI. Veel AI-systemen maken nog te veel fouten, of hebben last van vooringenomenheid (bias). Dat kan ervoor zorgen dat mensen verkeerde informatie krijgen, en daardoor verkeerde beslissingen nemen. Of dat systemen verkeerde beslissingen nemen die nare gevolgen kunnen hebben. Denk aan een medisch AI-systeem dat een verkeerde behandeling voorschrijft, of een zelfrijdende auto die een ongeluk veroorzaakt.

Koploperspositie

“Met de AI Act dringt de Europese Unie ook steeds meer aan op mensgerichte, verantwoorde AI. Met ICAI en ROBUST hebben we dat in Nederland snel opgepakt.” Volgens Smit heeft Nederland zelfs een koploperspositie als het gaat om verantwoorde AI. In de Global Index on Responsible AI staat Nederland op de eerste plaats. “We zijn in Nederland altijd al sterk geweest rondom AI. Op de UvA, VU, Universiteit Utrecht en Radboud Universiteit Nijmegen wordt al sinds de jaren tachtig onderzoek gedaan naar AI. Daar zijn sterke machine learning groepen. Ook hebben we al sinds de jaren negentig onderwijsprogramma’s specifiek voor kunstmatige intelligentie. Omdat deze kennis bij brede universiteiten is ondergebracht, was er ook altijd al een link met andere, sociale wetenschappen. Daardoor zijn wij goed in staat om bruggen te bouwen.”  

Community

ICAI is fysiek gehuisvest in het gebouw LAB42, bij het IvI. Ook IvI-onderzoekers die niet meedoen aan ICAI, maar die wel samenwerking met maatschappelijke partners zoeken, kunnen bij Smit terecht. Zo ondersteunt ze ook het opzetten van andere samenwerkingen, maakt ze afspraken over toegang tot data en ondersteunt ze bij contractonderhandelingen met externe partijen. Daarnaast brengt ze met haar team bedrijven die kantoren huren in LAB42 in contact met elkaar en met onderzoekers en studenten. “De verschillende bewoners van het gebouw willen we met elkaar verbinden om zo een community op te bouwen.”

ICAI zit ondertussen in een transitiefase, vertelt Smit. Een aantal labs is alweer afgerond en de volgende stap is nu om de labs onderling meer met elkaar verbinden en om de maatschappelijke impact nog duidelijker naar voren te brengen. Het netwerk heeft inmiddels een sterke naam opgebouwd, vindt Smit. “Het format waarin we met externe partners werken heeft zich bewezen. Door deze aanpak kunnen we op een goede manier met externe partners samenwerken.”