
ChatGPT heeft hij zelf vandaag privé nog even gebruikt om iets uit te testen, vertelt Jasper Kars. Geen probleem, maar in zijn dagelijks werk als ambtenaar ligt dat wat minder voor de hand. Het gebruik ervan wordt afgeraden omdat de overheid geen contract heeft met dat bedrijf. „Ik hou me daar ook aan.” Het Chinese DeepSeek, dat is pas écht taboe. Na een waarschuwing van de Autoriteit Persoonsgegevens werd ambtenaren het gebruik van de „spionagegevoelige” Chinese app verboden.
Het laat zien hoe actueel en urgent het terrein is waarop Kars over enkele jaren hoopt te promoveren, de democratische kansen en bedreigingen van digitalisering en kunstmatige intelligentie (AI). Hij deed twee masters, politicologie aan de Universiteit van Amsterdam en daarna data science in Tilburg, en vond zo de combinatie van politiek, samenleving en techniek die hem zou blijven inspireren.
„Na mijn studie ben ik als rijkstrainee begonnen bij Binnenlandse Zaken en Koninkrijksrelaties. Dat is een programma voor net afgestudeerden om te proeven aan verschillende opdrachten.” Hij ging aan de slag met het algoritmebeleid van de overheid, volop ter discussie door het slepende toeslagenschandaal. Het was een schot in de roos. „Ik kreeg er energie van. Door de maatschappelijke relevantie van het werk, maar ook doordat de ontwikkelingen zo snel gingen. Dit is een onderwerp waar nog zóveel mee te doen is.”
Inmiddels is hij bijna vier jaar in dienst van het ministerie als senior beleidsmedewerker voor databeleid en kunstmatige intelligentie. Wat houdt dat in? „Het afgelopen jaar ben ik met veel verschillende dingen bezig geweest, vooral ook met verkennend werk en inrichten. Op grond van het coalitieakkoord van Rutte IV [aangetreden in januari 2022] moest er een algoritmetoezichthouder worden aangesteld onder de Autoriteit Persoonsgegevens, dat project heb ik getrokken. Verder heb ik gewerkt aan een beleidsvisie op generatieve AI, rond de opkomst van onder andere ChatGPT, en was ik bezig te onderzoeken welke gevolgen de Europese AI Act zal hebben voor de Nederlandse overheid.”
Nieuwsgierigheid
Het besluit om te promoveren volgde toen min of meer vanzelf. „Voor een deel gewoon uit nieuwsgierigheid, er gebeurt zoveel op dit terrein. Mijn werk als ambtenaar is heel dynamisch, maar je bent natuurlijk veel aan het vergaderen en je moet vaak snel schakelen. Dat vind ik allemaal positief, maar toch wil je soms ook wat meer afstand kunnen nemen om te reflecteren. Daar had ik behoefte aan. Waar zijn we mee bezig, welke kant gaat dat op en hoe kun je dat in een analytisch kader plaatsen?” Binnenlandse Zaken financiert nu, sinds eind 2023, zijn onderzoek als buitenpromovendus, een dag per week aan de School of Governance van de Universiteit Utrecht.
Voor zijn proefschrift onderzoekt hij AI in vier categorieën, die van polity (instituties), policy (beleid), politics (politiek) en polis (de gemeenschap). Het gaat hem om de wisselwerking. „Systeem-technologie als AI beïnvloedt de democratie, maar op hun beurt hebben democratische processen net zo goed invloed op het gebruik en de betekenis van technologie.” Een paper van zijn hand, De opkomst van AI in het Huis van Thorbecke – een van vier die hij van plan is te publiceren – verscheen in november op de site iBestuur.nl.
Gevaren en kansen rubriceert hij voor elk van de vier p’s als enerzijds ‘Pandora’, naar de Griekse mythe over een doos vol rampen, en anderzijds ‘Jefferson’ – naar de utopische idealen van de Amerikaanse president Thomas Jefferson. Die indeling moet bestuurders, beleidsadviseurs en juristen een beter kader bieden om de voor- en nadelen van AI af te wegen. Ook kreeg hij van dertig internationale AI-experts antwoorden op een vragenlijst; een tipje van de sluier kan hij nog niet oplichten, hun respons wordt nog verwerkt.
Kars hoopt dat zijn onderzoek de overheid helpt zelfstandiger op te treden. „Heel veel werk op het gebied van digitalisering is overgenomen door externe consultants, dat geldt voor overheden in de Angelsaksische wereld maar ook in Nederland. Dat brengt het risico met zich mee dat je afhankelijk wordt. Dat betreft niet alleen de landelijke overheid, maar net zo goed of nog meer lokale overheden als gemeenten. Ik hoop dat mijn onderzoek bijdraagt aan het verbeteren van de kennispositie van de overheid, op allerlei niveaus.”
Digitale achterstand
Ook parlement en rechterlijke macht moeten digitale achterstand nodig inlopen om die afhankelijkheid te voorkomen. „Waar moet je op letten, wanneer kan het misgaan en hoe kun je dat voorkomen? Op het gebied van AI is een beperkt aantal aanbieders, en de meeste komen niet uit Europa. Ook dat maakt meer reflectie urgent. Private partijen hoeven geen of zeer weinig democratische verantwoording af te leggen. Je ziet nu met Trump hoe kwetsbaar dat is.”
Dat schept ook nieuwe dilemma’s voor overheden en beleidsmakers. Van een uit de kluiten gewassen digitale controlestaat is nog lang geen sprake, zegt hij. Integendeel: zorgen om privacy zetten vaak de toon. „Privacy is natuurlijk een belangrijk grondrecht. Maar er zijn meer publieke waarden in het spel, efficiëntie is er ook één. Die afweging moet je blijven maken. Overheden worstelen nu met de balans.” Dat geldt ook voor de Europese Unie. „Europa is koploper als het gaat om ‘waarde-gedreven digitalisering’, er is allerlei Europese wet- en regelgeving over digitalisering, met de beste intenties. Maar als je wilt meedoen in de geopolitieke race, en ik krijg de indruk dat Europa dat wil, zul je soms toch concessies moeten doen. Dan heb je een analytisch kader hard nodig.”
