Cyberexpert waarschuwt: kunstmatige intelligentie leidt tot een tsunami van hacks

Recensie

Lees-, kijk-, en luistertips Elk systeem is te hacken: computers, politiek, wetgeving, belastingstelsel. Kunstmatige intelligentie maakt dat probleem groter, waarschuwt een expert in een vermakelijk en zorgwekkend boek.

Bruce Schneier is niet alleen een succesvol auteur en befaamd expert op het gebied van computerveiligheid en cyberspionage, hij heeft ook een speelse geest. Dat blijkt op vrijwel iedere pagina van zijn aanstekelijke nieuwe boek A Hacker’s Mind.

Schneier zelf heeft onmiskenbaar A Hacker’s Mind: hij is iemand die altijd naar systemen kijkt met in z’n achterhoofd de vraag wat de kwetsbaarheden ervan zijn. Ofwel: hoe ze gehackt kunnen worden. En met systemen bedoelt hij niet alleen computersystemen, maar ook politieke en juridische, financiële markten, reclamecampagnes, takken van sport, belastingstelsels, de aandelenmarkt en het menselijk denken. Met veel praktische voorbeelden toont Schneier dat dit op grote schaal gebeurt. En waarom dat niet alleen maar slecht is – en door de opkomst van kunstmatige intelligentie wel gevaarlijk.

Schneier doceert cybersecurity aan de Harvard Kennedy School en heeft een vijftiental boeken op zijn naam staan, waaronder Liars and Outliers (2012) en Data and Goliath (2014). Hij schrijft een blog over computerveiligheid en een maandelijkse nieuwsbrief. Hij noemt zichzelf een technoloog van het publieke belang: iemand die zijn technologische expertise combineert met maatschappelijk engagement.

Kinderen zijn volgens hem geboren hackers. De bedoeling van wetten en regels kan ze vaak weinig schelen. Instinctief zoeken ze naar trucs om het systeem zó te gebruiken, dat ze ervan kunnen profiteren. Zoals de scholier in coronatijd die er genoeg van had de hele dag thuis per Zoom les te krijgen. Hij kwam op het idee zijn camera uit te zetten en zijn gebruikersnaam in ‘…connecting…’ te veranderen. Zo kreeg zijn docent de indruk dat hij – helaas, helaas – door verbindingsproblemen de les niet kon volgen.

Een hacker zoekt manieren om binnen een systeem, op welk terrein dan ook, iets te doen dat eigenlijk niet moet kunnen, maar toch mogelijk is. Een maas in de wet. Een nalatigheid in een computercode. Een slimmigheidje waar de opstellers van de spelregels nooit aan hadden gedacht. Niet illegaal, zolang het niet verboden is.

Slimme maniertjes

Het Amerikaanse kiesstelsel wordt al ruim twee eeuwen door beide partijen gehackt met zogeheten gerrymandering. De partij die aan de macht is, wijzigt de grenzen van een kiesdistrict zodanig dat er zoveel mogelijk vermoedelijke kiezers van de tegenpartij binnen vallen. In dat ene district zal die partij dan ruimschoots winnen, in alle naburige districten wordt ze zo verzwakt.

Fiscale experts hacken het belastingstelsel als ze voor hun klanten slimme maniertjes vinden om belasting te ontwijken – niet verboden, maar wel vaak tegen de bedoeling van de wetgever. Lobbyisten hacken wetgeving als ze er via een kleine aanpassing van een wetsontwerp in slagen een eigenlijk onbedoeld voordeel voor hun klant in de wacht te slepen.

Een Amerikaan, bekend geworden als de Pudding Guy, lukte het op spectaculaire wijze Frequent Flyer-programma’s te hacken. Een levensmiddelenbedrijf lanceerde een reclamecampagne waarbij klanten airmiles konden verdienen door insturen van de streepjescodes op verpakkingen. De man kocht meer dan 12.000 puddinkjes à 25 dollarcent, wat hem zo heel voordelig de Gold Status bij American Airlines opleverde. De puddinkjes doneerde hij aan een goed doel, wat hem als extraatje een aftrekpost van 825 dollar bezorgde.

Het amusante van Schneiers boek zit in dit soort voorbeelden. Het belang zit in de waarschuwingen en de politieke boodschap waar zijn betoog in uitmondt.

Hacks die ontdekt worden, brengen onvolkomenheden in een systeem aan het licht. Dat kan innovatie stimuleren of reparatiewerkzaamheden in gang kan zetten. Dat zijn de positieve kanten van hacken.

Gebreken in software kunnen met een update meestal snel verholpen worden. Maar mazen in de wet herstellen is doorgaans een stuk tijdrovender. Bijkomend probleem, zo benadrukt Schneier, is dat rijke en machtige mensen en instellingen veel meer mogelijkheden hebben om – vaak met behulp van dure adviseurs – op zoek te gaan naar kwetsbaarheden in systemen die gehackt kunnen worden.


Lees ook dit interview met Schneier uit 2017: ‘De EU legt tenminste stevige boetes op’

Hacken, in de brede betekenis die Schneier eraan toekent, vergroot zo de ongelijkheid in de maatschappij. Het idee dat hacken een activiteit is waarmee de underdog terugvecht tegen grotere machten, verklaart hij voor al lang achterhaald.

De opkomst van kunstmatige intelligentie (AI) zal aard en omvang van het hacken ingrijpend veranderen, voorspelt dit boek. Zoeken naar zwakke plekken in belastingwetgeving bijvoorbeeld zal dankzij AI veel sneller, op grotere schaal en met verfijndere zoekopdrachten kunnen worden uitgevoerd.

Schneier voorziet „een tsunami van hacks” die samenlevingen kan ontwrichten. Je voedt een AI-systeem met alle belastingwetten van de wereld, stelt hij zich voor, en in een handomdraai krijg je te horen waar je – fiscaal gezien – het voordeligst je hoofdkantoor, je fabriek en je bestuurders kan vestigen.

Wetgevers en andere opstellers van regels kunnen de voordelen van AI natuurlijk ook benutten. Zij kunnen straks, vóór ze een nieuwe wet aannemen of een nieuw softwareprogramma invoeren, met AI snel en nauwkeurig testen waar zwakke plekken zitten en die dan bijtijds herstellen. Dat is winst.

Maar reden tot optimisme is dat hoogstens op de wat langere termijn. Want we zitten nog in een tussenfase. Allerlei oudere systemen, wetten en software met zwakke plekken zijn voorlopig nog in gebruik – terwijl de hackers die op die kwetsbaarheden jagen al snel op grote schaal toegang tot AI zullen hebben.

Maar het bestrijden van het gevaar begint bij de bewustwording ervan. Daaraan levert Schneier een indringende bijdrage.