AI in oorlog: NAVO kiest omstreden Amerikaans systeem

Tim: Welkom bij Nieuws door de Tijd.

Vandaag hebben we het over iets dat jouw wereld direct raakt, of je het nu merkt of niet.

Stel je voor: een computer beslist in 70 seconden of een gebouw een doelwit is.

Hoe veilig voel jij je dan?

Pieter: Een computer die beslist over leven en dood?

Dat klinkt mij als een gruwel in de oren.

In mijn tijd was het de generaal die met eigen ogen het slagveld bekeek.

Maar vertel, Tim, wat is er precies gebeurd?

Tim: Het Amerikaanse bedrijf Palantir heeft een AI-systeem gemaakt, Maven Smart System heet het.

De NAVO heeft het nu officieel in gebruik genomen.

Het verzamelt razendsnel informatie uit verschillende bronnen en kiest dan doelen uit.

Maar het bedrijf is omstreden.

Pieter: Omstreden?

Dat wil zeggen: er is veel discussie over, nietwaar?

Waarom dan?

Een systeem dat snel informatie verwerkt, lijkt mij juist nuttig voor een leger.

Maar ik vermoed dat er meer achter zit.

Tim: Precies.

Palantir werkt ook samen met Israël in de oorlog in Gaza, en met de Amerikaanse immigratiedienst ICE.

Volgens Amnesty International worden daarbij mensenrechten geschonden.

De oprichter, Peter Thiel, vindt hard geweld nodig voor orde.

Pieter: Hm-hm.

Dat klinkt als een firma die met buskruit speelt zonder te letten op de vonken.

Maar de NAVO zegt dat het systeem de samenwerking tussen landen verbetert.

Hoe zit dat precies?

Tim: Het systeem kan informatie uit radars, satellieten en drones combineren.

Met AI worden dan snel doelen geselecteerd.

De NAVO zegt: zo kunnen we sneller en efficiënter opereren.

Maar critici zeggen: in 70 seconden een doelwit kiezen is te snel om te controleren of het wel klopt.

Pieter: Zeventig seconden?

Mijn goede heer, dat is korter dan een koopman nodig heeft om een rekening te controleren.

Hoe kan een machine in zo'n korte tijd weten of het gebouw een school is of een militair hoofdkwartier?

Tim: Dat is precies het probleem.

In Iran werd een lagere school gebombardeerd, met 120 kinderen dood.

Volgens onderzoek kwam dat doordat een analist zijn informatie niet goed kon doorgeven aan het AI-systeem.

Het systeem wist niet dat het gebouw geen doelwit meer was.

Pieter: Vreselijk.

Dat is de prijs van snelheid zonder wijsheid.

In mijn tijd was een veldslag ook chaotisch, maar een generaal kon tenminste nog twijfelen.

Hier lijkt de machine te beslissen voordat een mens kan nadenken.

Tim: Ja.

En Nederland zit in een lastige positie.

Staatssecretaris Boswijk noemt het een tweesporenbeleid.

Enerzijds willen Europese landen minder afhankelijk zijn van Palantir.

Frankrijk stopt er zelfs mee.

Maar anderzijds zit Nederland in de NAVO, die nu dit systeem gebruikt.

Pieter: Tweesporenbeleid?

Dat is een mooi woord voor een spagaat, geloof ik.

Je wilt twee dingen tegelijk, maar ze passen niet samen.

Leg dat eens uit aan onze luisteraar, Tim.

Tim: Het leerpunt van vandaag is precies dat: tweesporenbeleid.

Het betekent dat je twee verschillende strategieën tegelijk probeert.

Een simpele zin: 'Nederland heeft een tweesporenbeleid.' Een betere zin: 'De overheid voert een tweesporenbeleid: samenwerken met de NAVO, maar ook zoeken naar Europese alternatieven.'

Pieter: Een nuttig woord.

Het is alsof je met twee paarden tegelijk wilt rijden, maar ze gaan een andere kant op.

Dat gaat bijna nooit goed.

Maar Tim, hoe kijken ze in jouw tijd, in 2250, naar dit soort systemen?

Tim: In mijn tijd gebruiken we AI voor veel dingen, maar niet voor het kiezen van doelen op het slagveld.

We hebben geleerd dat snelheid zonder menselijke controle gevaarlijk is.

Stel je voor: een computer die in 70 seconden beslist of jij een doelwit bent.

Dat willen we niet.

Pieter: Nee, dat wil geen verstandig mens.

Maar de NAVO zegt dat het systeem transparant is.

Wat betekent dat woord precies?

Ik hoor het vaak tegenwoordig.

Tim: Transparantie betekent openheid.

Dat je duidelijk laat zien wat je doet.

Palantir zegt: wij hebben geen toegang tot de data, de NAVO controleert alles.

Maar critici zeggen: er is te weinig transparantie over hoe het systeem echt werkt.

Pieter: Ah, transparantie.

In mijn tijd zeiden we: 'Een eerlijk koopman verbergt zijn boeken niet.' Maar hier lijkt het alsof de boeken achter slot en grendel zitten.

Wat zegt Palantir zelf over de bezwaren?

Tim: Ze zeggen: wij zijn alleen de leverancier, zoals Microsoft Word.

Microsoft kan jouw tekst niet lezen, en wij kunnen de data niet zien.

En er is geen kill switch of achterdeur voor de Amerikaanse overheid.

Maar critici geloven dat niet helemaal.

Pieter: Een kill switch?

Dat klinkt alsof iemand de stekker eruit kan trekken.

Maar als er geen achterdeur is, waarom maken zoveel mensen zich dan zorgen?

Er moet toch een reden zijn dat Frankrijk ermee stopt.

Tim: Ja, er zijn meerdere redenen.

Jessica Dorsey, een expert in internationaal recht, zegt dat de snelheid waarmee het systeem doelen kiest het bijna onmogelijk maakt om te controleren of de informatie klopt.

En als het fout gaat, wie is er dan verantwoordelijk?

Pieter: Dat is een vraag die ik ook stel.

In mijn tijd was de generaal verantwoordelijk.

Maar als een machine beslist, wie draagt dan de schuld?

De programmeur?

De officier die op de knop drukt?

Het wordt er niet eenvoudiger op.

Tim: Precies.

En dat is waarom dit verhaal jou raakt, luisteraar.

Dit gaat niet alleen over verre oorlogen.

Het gaat over hoe technologie steeds vaker beslissingen neemt die ons allemaal kunnen beïnvloeden.

En over de vraag: willen we dat?

Pieter: Daar sluit ik mij bij aan.

Het is een kwestie van vertrouwen.

En vertrouwen, mijn vrienden, bouw je niet met snelheid, maar met eerlijkheid.

Laten we na de pauze verder praten over wat Nederland nu echt kan doen.

Tim: Blijf luisteren, want straks hebben we het over het alternatief: een Europees AI-systeem.

Bestaat dat al?

En wat betekent de spagaat van Nederland voor jouw veiligheid?

Tot zo!

Tim: Welkom terug, luisteraar.

We waren gebleven bij de spagaat van Nederland.

Enerzijds willen we minder afhankelijk zijn van Palantir, anderzijds zit Nederland in de NAVO die dat systeem nu volledig omarmt.

Hoe los je dat op?

Pieter: Een spagaat, hm-hm.

Dat woord ken ik uit de gymnastiek.

Maar hier betekent het een lastige keuze tussen twee dingen die niet samengaan.

Nederland wil controle, maar gebruikt toch software van een omstreden bedrijf.

Tim: Precies.

Staatssecretaris Boswijk noemt het een tweesporenbeleid.

Dat is een mooi woord voor: we doen allebei, maar hopen dat het goed gaat.

Maar Jessica Dorsey zegt: dat vereist meer transparantie, meer openheid.

Pieter: Transparantie.

In mijn tijd was dat simpel: een koopman liet zijn boeken zien.

Maar hier?

Het gaat om geheime militaire data.

Hoe kun je open zijn als alles geclassificeerd is?

Dat lijkt mij een tegenstrijdigheid.

Tim: Ja, en dat brengt me bij het leerpunt van vandaag.

Het woord 'transparantie' hoor je vaak in het nieuws.

Het betekent dat iets duidelijk en open is.

Een simpele zin: 'De overheid belooft transparantie.' Een betere zin: 'Zonder transparantie verliezen burgers vertrouwen in de overheid.'

Pieter: Een goed voorbeeld.

Transparantie is als een helder venster.

Maar hier lijkt het venster beslagen.

Laten we verder praten over het alternatief: een Europees AI-systeem.

Bestaat dat al, Tim?

Tim: Nog niet.

Nederland wil samen met andere Europese landen een eigen AI-platform bouwen, zodat we de controle houden.

Maar een alternatief voor Palantir is er nog niet.

Het is alsof je een nieuwe paardenkar wilt maken, maar alle smeden zijn al bezig voor de concurrent.

Pieter: Hm-hm.

Een paardenkar zonder smid.

Dat klinkt als wachten op een wonder.

Maar waarom is het zo moeilijk om iets eigens te maken?

In mijn tijd bouwden we gewoon een nieuw schip als de oude niet deugde.

Tim: Omdat AI ontzettend complex is.

Het kost jaren en miljarden om zo'n systeem te ontwikkelen.

En Palantir heeft een voorsprong.

Frankrijk stopte ermee, maar andere landen blijven.

Het is een race, en Europa loopt achter.

Pieter: Een race.

Maar wie wint er als we te snel gaan?

Dorsey zei dat in 96 uur 5000 doelen werden geraakt.

Dat is 70 seconden per doelwit.

Hoe kun je in 70 seconden controleren of een school geen school meer is?

Tim: Dat is de kern van het probleem.

Het systeem werkt razendsnel, maar snelheid betekent niet altijd wijsheid.

Dorsey noemt het bombardement op een school in Iran, waar 120 kinderen stierven, omdat informatie niet goed was gekoppeld.

Pieter: Vreselijk.

In mijn tijd duurde het dagen om een doelwit te kiezen.

Er werd overlegd, gebeden, getwijfeld.

Nu is er geen tijd voor twijfel.

Maar twijfel is menselijk.

Een machine twijfelt niet, en dat is gevaarlijk.

Tim: Precies.

En daarom zegt Palantir dat ze alleen de software leveren, niet de data.

Ze vergelijken het met Word: Microsoft heeft geen toegang tot jouw tekst.

Maar critici zeggen: het systeem bepaalt wel welke doelen worden voorgesteld.

Pieter: Dus de machine zegt: 'Dit is een doelwit,' en de mens zegt alleen ja of nee.

Maar in 70 seconden kun je geen nee zeggen als je niet alle informatie hebt.

Dat is geen controle, dat is schijncontrole.

Tim: Ja.

En dat brengt ons bij de vraag: wie is verantwoordelijk als het fout gaat?

In de oorlog is dat altijd een mens.

Maar als een AI beslist, wordt het grijs.

In 2250 hebben we een regel: de mens moet altijd de laatste keuze maken.

Pieter: Een wijze regel.

Maar hoe controleer je of die regel wordt gevolgd?

In mijn tijd hadden we gilden die toezicht hielden.

Hier heb je rechters en wetten nodig.

Maar oorlog en recht gaan zelden hand in hand.

Tim: Dorsey zegt dat er meer transparantie moet komen van de overheid.

Nederland moet uitleggen hoe het deze twee sporen rijmt.

Maar tot nu toe is die uitleg vaag.

En dat is zorgwekkend, vind je niet?

Pieter: Zeker.

Een koopman die zijn boeken niet toont, verliest klanten.

Een overheid die niet transparant is, verliest vertrouwen.

En vertrouwen is het fundament van een samenleving, of het nu 1850, 2026 of 2250 is.

Tim: Mooi gezegd.

En nu, luisteraar, wat kun jij hiermee?

Dit nieuws gaat over jouw veiligheid en over de vraag of technologie te snel gaat.

Wil je meer weten?

Praat verder op nieuwsdoordetijd.com.

Daar vind je links en discussie.

Pieter: Ja, ga in gesprek.

Vraag jezelf af: vertrouw jij een systeem dat in 70 seconden beslist over leven en dood?

En wat vind je van de spagaat van Nederland?

Deel je gedachten, want stilstaan is geen optie.

Tim: Bedankt voor het luisteren, jij daar.

Dit was Nieuws door de Tijd.

Ik ben Tim.

Pieter: En ik ben Pieter.

Tot de volgende keer, en blijf nieuwsgierig.