Artificial Intelligence in het militaire domein

Is de sky écht de limit?

Het is een onderwerp dat zich lastig laat vatten. Artificial Intelligence, ofwel: ‘kunstmatige intelligentie’. Met de komst van de slimme chatbot ChatGPT is de interesse en fascinatie voor de wetenschap gestegen, maar hoe ver de mogelijkheden van de geavanceerde techniek reiken, blijft voor velen toch wat abstract. Hoe zit het precies, is de sky vandaag de dag écht de limit en wat betekent dit voor het militaire domein?

Om bij het begin te beginnen: wat ís Artificial Intelligence (AI)? Kort gezegd: 'AI' is een technologie waarbij computers en machines wordt geleerd om menselijke taken en intelligentie na te bootsen. Dit wordt bereikt door middel van complexe algoritmen en modellen die in staat zijn om informatie te analyseren, patronen te herkennen en op basis van deze informatie beslissingen te nemen. Zo kunnen machines dus denken én handelen als mensen.

Digibeten

Een keurige samenvatting, toch? En in minder dan vijf seconden geschreven! Hoe? Door ChatGPT. De alinea die u zojuist las, komt uit ‘de pen’ van een computer. Het produceren en vertalen van teksten, het uitvoeren van complexe opdrachten; de slimme chatbot draait zijn hand er niet voor om. En voilà, zo werd AI in een klap ook interessant voor digibeten. Dit overigens tot grote zorg van leraren en schrijvers. Want waarom zou je je nog stukbijten op een profielwerkstuk of achtergrondverhaal, als je een ‘natuurlijk’ lapje tekst ook zo uit de computer kan laten rollen?  

Risico’s

De mogelijkheden van AI zijn eindeloos en worden al langere tijd volop toegepast. Ook u heeft er in het dagelijks leven mee te maken. Google Maps die u een snellere route voorstelt? AI. De robotstofzuiger die netjes om die tafelpoot heen tuft? AI. Gezichtsherkenning op uw telefoon? Lane assist in de auto? Juistem.

Hoewel AI ons leven op tal van vlakken een stuk makkelijker maakt, voorzien experts ook risico’s. Want ons complete denkvermogen uit handen geven aan een computer, dát lijkt (nog) niet zo slim. En die wereld vol zelfrijdende auto’s, gerund door robots? “Dat zie ik ook niet gebeuren”, lacht Jeroen van der Vlugt. De Chief Information Officer houdt zich binnen Defensie bezig met IT, data en cybersecurity. Zijn eerste stappen in de wereld van AI zette hij jaren geleden al. Over ChatGPT kan hij kort zijn: “Het is heel knap gedaan. Er is een gigantische rekenkracht nodig om alle data die het programma verzamelt om te zetten in bruikbare producten. Maak er kennis mee, profiteer ervan, maar weet: AI is echt nog niet waterdicht.”

Foutgevoelig

Als voorbeeld noemt Van der Vlugt de toeslagenaffaire. Hier ging in het ‘slimme’ algoritme iets faliekant mis, waardoor onschuldige mensen onterecht bestempeld werden als fraudeur. En ook de auto’s die door middel van AI zelfstandig zouden kunnen rijden, staan na decennia onderzoek nog steeds niet te shinen in de showroom.

“AI blijft foutgevoelig”, benadrukt Van der Vlugt. “Je kunt software maar tot op zekere hoogte programmeren. Zelfrijdende auto’s doen het bijvoorbeeld prima op een rechte weg, maar met onvoorziene situaties weten ze zich geen raad. Laat je ze midden in de stad ‘los’, dan lopen ze vast."

"Voordat je met een algoritme de digitale snelweg op mag, moet er dus idealiter een toetsing plaatsvinden aan de voorkant. Doet het wat je denkt dat het doet? Maar hoe voer je die controle uit over zó’n complexe toepassing? Dat is waar de wereld op het moment mee worstelt.”

Militaire domein

Dit brengt ons naar de dilemma’s binnen het militaire domein. Ook hier is het een dunne lijn tussen ‘handig’ en ‘risicovol’. Binnen de krijgsmacht wordt er volop geëxperimenteerd met AI. Weliswaar met succes: robothond SPOT blijkt een uitmuntende speur- en verkenningstool. Ook de Robot en Autonome Systemen (RAS)-eenheid van de Koninklijke Landmacht levert mooie resultaten. Zo wordt onder meer getest met onbemande grondvoertuigen die gebruikt kunnen worden voor bijvoorbeeld het transport van zware materialen. Maar slecht ontworpen, misbruikt of gehackt vormt AI snel een veiligheidsrisico.

Met vernuftige trucjes is een algoritme in sommige gevallen relatief simpel te saboteren, met alle gevolgen van dien. Nu is een op hol geslagen robotstofzuiger niet direct ieders nachtmerrie, maar als we het hebben over autonome (wapen)systemen, dan wordt die discussie toch spannender. “Dan komen we weer terug op die controle”, vertelt Chief Data Officer Merle Zwiers. “Aan de voorkant moet alles dichtgetimmerd zijn, met name op het gebied van privacy en veiligheid. Daar is nog geen sluitende oplossing voor gevonden.”

Kansen

Maar, zo stellen beide defensie-experts, genoeg over de risico’s. AI kent, zeker in het militaire werkveld, ook tal van mogelijkheden. Met name op het gebied van dirty, dangerous and dull (vieze, gevaarlijke en saaie, red.) taken. Zwiers: “Robots kun je perfect gebruiken om potentieel gevaarlijke situaties te verkennen of een ruimte met schadelijke stoffen te reinigen. En zo het risico voor de militair verkleinen. Daarnaast zijn ze onvermoeibaar bij het uitvoeren van controles of routinepatrouilles. Daar liggen absoluut kansen.”

 

Kopstukken

Defensieorganisaties wereldwijd buigen zich momenteel over de kansen én risico’s van AI in het militaire domein. Deze week kwamen kopstukken uit de industrie, wetenschap en politiek uit tachtig landen bijeen in Den Haag om kennis en gedachtes met elkaar te delen. Om van elkaar te leren, maar ook om te checken of de neuzen dezelfde kant op staan. En, niet onbelangrijk, om demystificatie rondom het onderwerp te bevorderen.

Zwiers: “Er doen zoveel wilde verhalen de ronde. Killerrobots die het strijdgebied zouden overnemen, onbemande voertuigen die wild vurend het voorterrein in rijden. Dat zien wij niet gebeuren. We hebben daar een duidelijk standpunt in: menselijke controle blijft noodzakelijk.”

Supersonisch

Maar mocht de tegenstander opeens wél met een supersonische robot verschijnen, moet je daar op kunnen acteren. Daarom worden er achter de schermen weldegelijk verschillende what if-scenario’s uitgewerkt. Daarnaast wordt er binnenkort een strategie naar de Tweede Kamer gestuurd die richting en invulling moet geven aan verantwoord gebruik van AI binnen Defensie.  

We kunnen inmiddels met z’n allen concluderen dat de ontwikkelingen harder gaan dan we dachten. Of die sky echt de limit is, zal komende jaren moeten blijken. Maar, zo sluit Van der Vlugt geruststellend af: “Robots die onze banen innemen, zo moet je deze nieuwe technologie niet zien. Het is een aan-, geen invulling.”