Niet de mens, maar de computer beslist bij nieuwe AI-gestuurde wapensystemen

Op een beeldscherm in een raamloze, geheel zwarte ruimte zwermen twee blauwe en twee roze vliegtuigjes om elkaar heen als in een computerspel. Af en toe laat een van de vliegtuigen een blauw of roze staafje los – dat zijn de raketten waarmee de vliegtuigen elkaar proberen af te schieten.

„De roze vliegtuigen worden door onze software bestuurd”, zegt een ingenieur van het Duitse defensietechnologiebedrijf Helsing, „en de blauwe door menselijke piloten”. Een tot dan toe onzichtbare deur schuift open. Erachter zijn de grijze kruinen te zien van twee mannen in een vliegsimulator. Volgens de ingenieur „zeer ervaren gevechtspiloten, oud-militairen”.

Op het scherm van de simulator schieten wolkenflarden links en rechts voorbij, de zon schijnt verblindend fel op de overkapping van de cockpit. Een paar minuten en manoeuvres later hebben de blauwe vliegtuigjes op het beeldscherm, de piloten in de simulator dus, de vijandige raketten weliswaar weten te ontwijken, maar hun munitie is op. De roze vliegtuigen hebben nog een paar raketten achter de hand. Het spel is afgelopen: de machine wint.

Helsing, gevestigd in München, ontwikkelde een zelf-lerend besturingssysteem voor gevechtsvliegtuigen. In mei en in juni voerde het bedrijf in samenwerking met Saab twee testvluchten uit in een Gripen, het gevechtsvliegtuig van Saab, waarbij de software het ongeveer een kwartier lang overnam van de piloot in de cockpit. Het besturingssysteem ‘Centaur’ wordt getraind in een vliegsimulator en komt al gauw op zo’n miljoen vlieguren, zegt Stephanie Lingemann, hoofd van de luchtdivisie van Helsing. Een ‘echte’ piloot komt in zijn carrière misschien op zo’n vijfduizend uur, volgens Lingemann. De menselijke piloten komen er bij het opleiden van de Centaur niet aan te pas; de bijdrage van de twee oud-militairen beperkt zich tot de evaluatie van de software – in dit geval dus door vast te stellen dat ze van de Centaur verliezen.

Surveillance onder water

Vier jaar geleden werd Helsing opgericht als softwarebedrijf voor de wapenindustrie. Met behulp van AI moeten wapensystemen vrijwel volledig geautomatiseerd kunnen worden, is het idee. De drie oprichters, die op hun hoofdkantoor een handvol journalisten ontvangen, benadrukken vaak dat het hen erom te doen is de democratie te verdedigen. „We maakten ons zorgen over Europa”, zegt oprichter Gundbert Scherf. „We willen AI inzetten om onze democratieën te beschermen.” Als het in Europa over autonome systemen gaat, aldus Scherf, gaat het altijd over de risico’s daarvan en hoe de autonomie in te perken. Scherf: „Maar te veel terughoudendheid kan ook een risico zijn.”

Het bedrijf richt zich op land, lucht, zee en de ruimte, en toont in München de systemen die ze voor die eerste drie domeinen hebben ontwikkeld. Over de maritieme afdeling zegt Scherf: „We moeten weten wat er onder het wateroppervlak gebeurt. Rusland heeft daarin veel geïnvesteerd, ook omdat het weet dat wij daar in de afgelopen decennia veel hebben laten liggen.”

Voor „onderwater-surveillance” ontwikkelde het bedrijf een model dat is getraind op geluiden onder water, dat naar eigen zeggen veertig keer sneller en negentig keer accurater is dan mensen die sonar interpreteren.

„Onze missie is het digitaliseren van de oceaan”, zegt hoofd van de maritieme tak Amelia Gould. Daarvoor implementeerde het bedrijf software in zogenaamde ‘gliders’, een soort zwevende en ongemotoriseerde onderwaterdrones, die geluidsgolven uitzenden en opvangen, en de informatie dan naar een satelliet sturen. „Met een netwerk van honderd of ook duizend gliders kun je een barrière vormen om belangrijke infrastructuur te beschermen.” Bij het Engelse Plymouth staat de eerste fabriek voor de gliders van Helsing gepland.

De software-gestuurde drones kunnen zelfstandig navigeren en een doelwit identificeren

Kamikazedrone

Verreweg de belangrijkste tak voor Helsing zijn de drones, vallend onder de afdeling ‘land’. Van het eerste model HF-1 zijn bijna tweeduizend stuks aan Oekraïne geleverd. Van het nieuwe model HX-2, een ‘kamikazedrone’, gaan vooralsnog zesduizend exemplaren naar het front. In München wordt een filmpje getoond van een drone in de lucht in Oekraïne, die met veel vaart in een gebouwtje vliegt dat vervolgens explodeert, een man rent weg.

„Geen enkele andere partij produceert op deze schaal drones voor Oekraïne, althans niet van dit kaliber”, zegt oprichter Torsten Reil. Simpelere en goedkope drones, die vanaf een afstand te besturen zijn en waarvan er dagelijks een paar honderd worden gebruikt, zijn steeds moeilijker inzetbaar omdat dergelijke drones door verstoringen van het elektromagnetische veld (in dit geval door Rusland) onbestuurbaar worden. De software-gestuurde drones van Helsing kunnen zelfstandig navigeren en een doelwit identificeren. Over de prijs van de drone wil Helsing niets zeggen, behalve dat de HX-2 goedkoper is dan een soortgelijk model uit Rusland, de Lancet, die zo’n 30.000 dollar per stuk kost.

Reil vindt het belangrijk om te benadrukken dat de drones van Helsing weliswaar autonoom functioneren, maar dat een aanval uit ethische overwegingen altijd door een mens moet worden goedgekeurd. „We hebben intern veel discussies over hoe autonoom onze systemen kunnen zijn”, zegt Reil. „Van het begin af aan proberen we onze ethische spier te trainen. In werkgroepen hebben we het over ethische dilemma’s en vragen. In het begin waren dat fictieve scenario’s, inmiddels zijn het vaak échte scenario’s. Zo willen we ervoor zorgen dat we beter nadenken over zulke vaak complexe dilemma’s. En ook als het management dan een beslissing neemt waar niet iedereen het mee eens is, zijn de argumenten voor het besluit tenminste voor iedereen inzichtelijk.”

Zoom in

Snelle computers

Over de drones wordt bij Helsing meermaals benadrukt dat de mens steeds ‘in the loop’ is, en dat geldt ook voor het besturingssysteem van het gevechtsvliegtuig, de Centaur. Dat neemt niet weg dat juist in de lucht de situatie zo snel kan veranderen – bijvoorbeeld door meerdere inkomende raketten – dat het systeem de beslissingen moet nemen. De piloot zou simpelweg te langzaam zijn, volgens een van de ingenieurs van Helsing.

De oprichters van Helsing zijn ervan overtuigd dat oorlogsvoering in toekomst steeds meer geautomatiseerd zal worden, en omdat de mens het aflegt tegen snelle computers, is het maar beter om hierin als Europees bedrijf voorop te lopen, stellen ze.

Toen het bedrijf begin 2021 werd opgericht, zegt Reil, was er nauwelijks een investeerder te vinden die met hen wilde praten. Spotify-oprichter Daniel Ek was één van de weinigen, inmiddels is Ek ook bestuursvoorzitter. Na een investeringsronde in juni, waarbij Helsing 600 miljoen ophaalde (waarvan het grootste deel weer van Ek), wordt de waarde van het bedrijf op zo’n 12 miljard euro geschat.

In Duitsland werd jarenlang gediscussieerd of de Bundeswehr mocht beschikken over bewapende drones. Een meerderheid van de Bondsdag was daar tegen: de drempel om van afstand over te gaan tot geweld, zonder als militair zelf gevaar te lopen, zou te laag zijn. Die „asymmetrie” wordt door Helsing juist geroemd, die zou de kansen voor het succesvol verdedigen van de democratie vergroten.

Nadat Rusland in februari 2022 Oekraïne was binnengevallen, is het drone-debat in de Bondsdag begraven. De Bundeswehr gaf Helsing in 2023 de opdracht om de software voor de Eurofighter te ontwikkelen. „Er is nauwelijks een debat over autonome wapensystemen”, zegt Reil. „Niet in de maatschappij, niet in de politiek. Er zouden best wat meer vragen mogen worden gesteld.”

Hoewel het onwaarschijnlijk is dat Helsing lang bij zulke vragen stil zou staan. Hun belangrijkste ingenieurs werkten voorheen bij Meta of bij Palantir (het Amerikaanse AI-defensiebedrijf), en daar, zo zeggen zij zelf, stond het voorop om „dingen gedaan te krijgen” zonder vragen te stellen. „We moeten snel zijn. We need to keep moving all the time”, zegt het hoofd van de onderzoeksafdeling Antoine Bordes, voorheen bij Meta. „We moeten bouwen zoals de Amerikanen, maar dan beter.”

Delen





Mail de redactie