Verdieping: 14 oktober

Stel je voor. Je loopt naar een pin-automaat.

Ja.

Je staat ergens op zo'n verlaten hoek van de straat.

Je steekt je pas in de gleuf.

Het is koud en regenachtig, typisch Nederlands weer.

Precies typisch Nederlandse weer.

Je toetst je vertrouwde code in.

En je verwacht gewoon dat er briefjes van 20 euro uitkomen.

Maar in plaats daarvan begint die machine ineens vrolijk gekleurd

monopoli geld uit te spuwen.

Oh, wow.

Ja, dan sta je wel even raar te kijken.

Je kijkt waarschijnlijk eerst om je heen of er ergens een verborgen camera hangt of zo.

Precies.

Maar dat moment van verwarring, dat slaat heel snel om in een diep gevoel van onveiligheid,

toch?

Het ongeschreven contract dat je met die machine had.

En dus eigenlijk met het hele banksysteem, dat is zo'n contract gewoon verschoven.

Absoluut.

Het vertrouwen is in een klap weg.

En weet je dat is exact het gevoel waar we het vandaag over gaan hebben in deze session.

Dat specifieke moment waarbij het ongeschreven contract tussen de burger en het instituut

breekt.

Wel contract.

Tof dat je meeluistert naar deze diepgaande verkenning?

Ja, we hebben voor vandaag echt een fascinerende stapel bronnen doorgespit.

Zeker weten.

Om precies te zijn, kijken we naar een heel uitgebreide reddit recap van nieuwsverhalen uit Nederland,

specifiek uit oktober 2026.

En daar sprongen er twee verhalen voor ons echt uit.

Twee situaties waarbij de systemen die we blind links vertrouwen voor hulp of voor onze gezondheid

plotseling haperen, of zelfs compleet ontwricht zijn.

En wat deze twee cases er zo ontzettend fascinerend aan maakt, is eigenlijk de tegenstelling

in de oorzaak.

Hoe bedoel je dat precies?

Nou, kijk, in het ene geval kijken we naar een systeem dat valt door heel geavanceerde,

maar tegelijkertijd volledig blinde technologie.

En in het andere geval kijken we naar een systeem dat valt door zeer bewuste menselijke

uitsluiting.

Ja, dat is een bizarre contrast.

Klopt.

Maar het opvallende is de impact op de burger, de persoon aan de ontvangende kant, zeg maar,

die is nagenoeg identiek.

Laten we dan maar direct in die eerste case duiken, we gaan naar Den Haag, een regenachtige

dinsdagmiddag op een politiebureau.

Buiten waait een gure wind, je hoort af en toe zo'n tram voorbijrijden, weet je wel.

Ik zit helemaal in de sfeer.

En binnen zit agent Mark achter zijn scherm, de geur van oude opgewarmde koffie hangt in de meldkamer.

Mark is verantwoordelijk voor het monitoren van de nieuwe politiechatbot, Wout.

Ja, Wout.

De digitale redder in nood.

Ja, Wout is dus een AI-systeem dat helemaal is opgetuigd om de enorme werkdruk

bij de politie te verlichten.

Het idee is dat Wout burgers helpt met hun eerste digitale vragen.

Ja, de ultieme belofte van efficiëntie hier, een burger diept een vraag in de AI-filter

tevoorschijn en beantwoordt het, en menselijke agenten hebben zo hun handen vrij voor het,

nou ja, het echte harde politiewerk op straat.

Dat is inderdaad de theorie.

Zo geef je een overbelast overheidsapparaat weer wat lucht.

Maar dan en hier gaat het mis.

Toen kwam er bij Mark een melding binnen.

Van de gesprek dat woud op dat moment aan het voeren is.

Oké.

Een burger had via de chatbot echt een zeer heldere, concrete vraag gesteld.

De vraag was letterlijk: hoe kan ik aangifte doen van discriminatie tegen Palestijnen?

Duidelijke vraag.

Zeer duidelijk.

Maar het antwoord dat Wout genereert, nou dat laat Mark echt met een koude rilling over zijn rug achter.

De chatbot negeert de term Palestijnen compleet en begint in plaats daarvan een ellenlange, uitgebreide

uitleg te geven over antisemitisme.

Oef.

Ja.

De procedures, de definities, alles in dat antwoord was gericht op antisemitisme.

Deze twee totaal verschillende begrippen werden door de AI dus volledig, maar dan ook volledig

door elkaar gehaald.

Ja, dit is dus precies het moment waarop je als organisatie in een spreekwoordelijke afgrond staat.

Voordat we daar dieper op ingaan, even een belangrijke disclaimer voor jou als luisteraar.

We willen hier expliciet en onpartijdig benadrukken dat we in deze sessie puur rapporteren over

de hapering van het systeem.

Precies.

We kijken naar de verwaring van die termen door de AI, zonder dat we ook maar enige stelling

nemen in het politieke maatschappelijk beladende bad rondom Palestine en anti-semitisme.

Het gaat ons puur om wat de techniek hier deed.

Nee, zeker.

Dat is een heel belangrijk onderscheid.

Want we hebben het hier niet over een of andere experimentele tekstarderp die een foutje

maakt.

We hebben het hier over de nationale politie.

Klopt.

Het institut met het monopolie op geweld, de bewaker van de rechtsstaat.

Als zo'n zwaarweget institut in een publieke interactie, twee maatschappelijk zoeken, beladen

en extreemgevoelige onderwerpen, algeriet niets verwisseld, de repetatiesschade is dan echt

inmens.

Ik wil hier meteen even op de remtrappen, want toen ik dit last dacht ik echt hoe dan?

Ik bedoel, een menselijke agent zal die twee begrippen nooit, maar er ook nooit verwaren op basis

van die specifieke vraag.

Nee, onmogelijk.

Dus hoe gaat zo'n zo genaamd geavanceerde AI-suit door elkaar?

Wat doet die techniek hier eigenlijk?

Ja, kijk, dat is eigenlijk de kern van de iluzydium met ze allormd om AI hebben gebouwd.

We projekteeren menselijk begrip en pati-context op een systeem dat fundamental anders werkt.

Hoe werkt het dan?

Nou, de AI van die chatbot woud is hoogstverschijnlijk een zo genaamd large language model, een LLM.

Zo'n model begrijpt de concepten palestijnen of antisemitismen helemaal niet.

Geen enkel begrip.

Nee, het heeft geen wereldbeeld, het heeft geen historische besef en al helemaal geen politiek

kompas.

Wat het wel heeft, is een gigantische database met teksten waarop het jaren lang is getreend en het

breekend puur, puur en alleen de statistische waarschijnlijkheid dat bepaalde woorden bij elkaar

in de buurt staan.

Wacht even, dus je bedoelde dat het systeem eigenlijk functioneert als een soort extreem geavanceerde

vormen van auto-completepje telefoon.

In de absoluut basis.

Ja.

Denk bijvoorbeeld aan een drie-dimensionale fektorruimte, zeg maar een soort gigantische wiskundige

wook.

Een wook van woorden.

Precies.

En in die wook krijgen woorden die in nieuwsartikelen op vorig jaar in rapporten heel vaak in dezelfde

context voorkomen, koordinaten die ontzettend dichtbij elkaar liggen.

Ah, oké.

Omdat de teemaans Israël, Palestina, antisemitismen en discriminatie in de trainingsdata van de afgelopen

op jaren natuurlijk onophoudelijk in dezelfde alineas en nieuwsberichten optuiken, heeft

het algoritme ze aan elkaar gekoppeld.

Exact.

Het heeft deze concepten wiskundig aan elkaar geklonken.

Voor de EII zijn ze statistisch gezien gewoon buuren van elkaar, in die wook.

Maar dat is toch bizarre.

Dat betekent dus dat de EII niet kijk naar de betekenis van de vragen van die burger, het

kijkt gewoon in die wiskundige wook, welk woord het vaakst in de buurt zweeft van de

terma uit de vraag.

Ja, dat is het precies.

Het misten noodzakelijke logische schrijdingswanden die in mens wel heeft in z'n hoofd.

Zonder extreem, strakken, handmatigen, guard rails, dat zijn harde regels die programmaers inbouwen,

dingen zoals deze termen mag je absoluut nooit verwisselen, wat de statistiek ook zegt.

Zonder die grenzen gaat het modellen hallucineren.

Het kie is het meest waarschijnlijke pad in zijn netwerk en dat leidt in dit geval dus tot een

onbegreipelijke en voor de burger zeer peinelijke mismatch.

Volgens de reddentrie cap was het overgesnitte eerste keer dat woud in de fout ging.

Oh nee?

Nee, een maand eerder was er ook al een storing, maar toen gaf de bot z'n poweg verkeerde informatie

door over de openingsstijden van de wijkbureau.

En kijk, daar vriendens voor mij de schoen.

Hoe bedoel je?

Nou, een EID de openingsstijden verkeerd door geeft dat ze als een werker die vijf minuut te laat afgaat.

Het is irritant, je staat voor de gesloten deur, maar het is fundamental onschuldig.

Je past de tijd aan en je gaat weer door.

Ja, dat is waar.

Maar woudt die deze twee zeergevoelige, complexe onderwerpen door elkaar haalt?

Dat is als of je 112 beeld voor een gewapende inbraak en ze sturen je vrolijk een volder over

een parkeerboet is op.

Kan de politie dit zo'n wegschuiven als een technische onhevrenheid?

Als de impact op de burger zo groot is?

Dat is inderdaad het grote verschil.

Het is het verschil tussen een simpelen administratieve fout en een fundamentele vertrouwensbruik.

Precies.

Wat laten zo'n statistische pappegui, zoals je het net schets, het allereerste contactafhandelen

voor burgers die mogelijk in een uiterst kwetsbare of bedrijgende situatie zitten?

Ja, en wat hij fascinerend is is wat er daarna gebeurt.

Als agent Mark en zijn collega Sophie dit ontdekken, grijpt de organisatie in.

De teamleider besluit vrijwel direct, we trekken de stekker eruit.

Ja, op Marks scherm stond Wout letterlijk grijs in de bron.

Klopt.

De Telegraaf pikt het verhaal direct op, de politie moet met de billen bloot en burgers worden

ineens weer ouderwets doorverwezen naar 0900-8844.

Maar de vraag is, waarom houden ze hem meteen offline?

Omdat ze de fout niet kon herstellen.

Exact.

Zelfs de technische helpdesk, die Mark later aan de lijn had, kon op dat moment niet uitleggen

waarom Wout specifiek in deze interactie deze begrippen verwisselde.

En dat toont aan hoe ontzettend kwetsbaar instituten worden, als ze afhankelijk zijn van onbegrepen

technologieën.

Het blackboxprobleem.

Ja, precies.

Als het systeem een beslissing neemt, die schadelijk is en je kunt als menselijke beheerder de

route van die beslissing niet reconstrueren, verlies je elke vorm van verantwoordingsplicht.

Je kunt als overheid niet tegen de burger zeggen, gewoon, het algoritme had even een slechte dag.

Nee, want je hebt als overheid de plicht om uit te leggen waarom je een bepaalde beslissing neemt.

Als je dat dan niet kan, ben je compleet stuurloos.

En dat brengt ons eigenlijk bij een hele interessante conceptuele sprong.

Oké, vertel.

Nou, in het verhaal van het politiebureau in Den Haag, zagen we dat een geautomatiseerd digitaal

systeem faalde door een onverklaarbare, algoritmische fout.

En de mens, agent Mark, moest ingrijpen.

Ja.

Maar wat gebeurt er als een menselijk systeem een burger faalt, niet per ongeluk, niet door

een gebrek aan context, maar bewust?

Dit brengt ons van dat grijze computerscherm in Den Haag naar een fysieke balie in Nieuwegein.

Ja, daar verlaten we de digitale vectorruimtes en belanden we in de harde realiteit

van de wijk Vreeswijk in Nieuwegein.

Dat is het tweede verhaal uit ons rijtje, en dit roept misschien nog wel meer verontwaardiging op.

Vertel wat was de setting?

We staan in dit scenario voor een apotheek.

Een volstrekt normaal medisch instituut in de wijk.

Je kent het wel, een felgroen verlicht kruis boven de deur, zo'n rijtje roestige fietsen

voor een strakke balie met witte medicijndoosjes.

Het straalt een en al medische professionaliteit uit.

Klinkt als een plek waar je wekelijks langs fietst?

Ja, precies.

Fatima, een vrouw van 34, stapt die dinsdag naar binnen.

Het is herfst, geur van natte bladeren buiten,

heeft een recept van de huisarts bij zich, voor haar tienjarige dochter.

Een handeling die dagelijks tienduizenden keren in Nederland plaatsvindt, zonder enig probleem.

Dat zou je denken.

Ze legt dat doktersrecept op de toonbank bij een jonge medewerker genaamd Rick, maar hij aarzelt.

Hij weigert het recept aan te nemen.

Hij wijst naar een briefje dat heel bewust naast zijn computer is geplakt en zegt tegen Fatima dat hij haar niet mag helpen.

Ongelooflijk, wat stond op dat briefje?

De apotheek verstrekt volgens dat briefje vanuit principiële standpunten,

geen medicijnen aan vrouwen en trans personen.

Echt bijzonder.

Ja, Fatima staat echt aan de grond genageld.

Ze voelt het bloed naar haar kaken stijgen, pakt haar spullen en verlaat verbijsterd het pand.

Met de klap van die glazen deur achter zich.

En ze is toch niet de enige?

Nee.

Een dag later fietst ze er langs en dan ontmoet ze Sam voor de deur.

Sam is een transvrouw.

En Sam was een dag eerder om exact dezelfde principiële redenen gewoon bot weggestuurd.

Ze staan daar samen op het trottoir, in de kou.

Volkomen verbonden door diezelfde abrupte uitsluiting.

Dit is zo'n moment waarop de theorie van ons zorgsysteem keihard botst met de praktijk op straatniveau.

En hier wordt het echt heel interessant voor jou als luisteraar.

Want dit draait tegen alles in wat ik denk te weten over de zorg.

Ik bedoel je stapt een apotheek binnen, een medisch instituut,

Rick weigert het op basis van een principe.

Hoe kan het dat in een systeem dat draait om objectieve zorg de persoonlijke overtuiging van een medewerker of eigenaar,

in iets zwaarwegenders dan een recept van de huisarts?

Ja, mag ik daar even op inhaken.

Graag.

Als we dit verbinden met het grote plaatje, het is een grijs gebied waar soms flink misbruik van wordt gemaakt.

Apothekers hebben in Nederland een fundamentele zorgplicht.

Ze mogen de zorg niet zomaar weigeren.

Echter, er bestaat in Nederland ruimte voor zogenaamde gewetensbezwaren.

Oh, zoals bij de morning-afterpil.

Exact.

We kennen dat in discussies rondom euthanasie of het verstrekken van de morning-afterpil en anticonceptie.

Een individuele apotheker kan zeggen, dit specifieke handelen gaat integen mijn diepste overtuigingen,

dus ik doe dit niet.

Maar, en dit is een keiharde wettelijke voorwaarde, de patiënt mag daar echt nooit de dupe van worden.

Dus ze moeten dan iets regelen?

Ja, de apotheek moet dan direct en naatloos een alternatief bieden,

bijvoorbeeld door even collega erbij te roepen die de medicijnen wel verstrekt.

Maar dat is hier overduidelijk niet het geval.

Hier is geen sprake van een individueel gewetensbezwaard, rondom een specifieke pilletje.

Hier wordt gewoon een hele identiteitsgroep, sterk nog, vrouwen en transpersonen,

de toegang tot de basis zorg ontzegd.

Dat is geen gewetensbezwaar meer, dat is uitsluiting bij de voorde.

Volledig.

Het systeem legaliseert die meerdere hier op lokaal niveau gewoon discriminatie.

En weet je wat de grote maxverschuwing is, waar gelekend met het politieverhaal, verdoel.

Bij de politie grijp de leidinggevende van agent Mark in toen de chatbot vouden.

De organisatie repareren zichzelf van binnenuit.

Waarin deze apotheek is de leidinggevende de gene die het systeem laat valen.

De organisatie repareren zichzelf niet, ze verdedigen de wijgering met dat briefje.

Dus de correctie moet van buitenafkomen?

Precies, de maxchrijp moet van buitenafkomen en dat gebeurt ook.

Dankzij Lotte, een vriendin van Fatima.

Zij introducteert een perspectief dat de boel helemaal kantond.

Fatima vult eerst met trillende handen, las ik, een online formulier in via Zenia.org.

Maar Lotte wijst op de echte zwakke plek.

Ze zegt, benade de zorgverzekerar.

Kijk, dat is de echte hefbomen in dit verhaal.

We denken als burgers heel vaak dat we machteloos staan tegenover zo'n gesloten deur of een wijgerende instantie.

Maar de Nederlandse gezondheidzorg is in de basis gewoon een markt van contracten.

En inderdaad, als we dit even ontleden, die apotheken in Vreeswijk

voldo zich misschien heel machtig achter een balie, gestuund door hun principus,

maar ze zijn in feite gewoon een filial dat volledig draait op de inkomsten van verzekeraars.

Zonder contracten zijn ze nergens.

Het is als of je een ruzie hebt met een gluelamp in je huis die wijgered ligt te geven.

Je kunt tegen het peertje blijven schreeuwen, of je loopt gewoon naar de meterkast en je draait de hoofdschakelaar om.

Ja, dat is een heel rakenanalogie.

De zorgverzekerar is hier absoluut de meterkast.

Ja, toch?

Zeker, individuele klachten bij de apotheek zelf die verdwijnen verschijlijk in een diepe buurola.

Maar lotte snapte het systeem.

Zorgverzekeraars kopen namens al hun verzekerden de zorg in.

En zij hebben hele strengen binnen de contracten met die apotheken,

waarin zaken als non-discriminatie en de toegangelijkheid van zorg gewoon keihard zijn vastgelegd.

En zodra ze lucht krijgen van contractbruik?

Als een verzekerar hoort van strukturele wijgeringen op basis van identiteit,

raakt dat direct aan de kern van hun inkop contract.

En dat sneeuwbal effect zagen we direct terug in de reddit-brom.

Binnen een paar dagen regende het letterlijk honderden klachten.

Niet alleen via dat Zennia platform, maar dus direct bij de verzekerar.

De verzekerar van Vaatiemat trekt dat eigenlijk de grens.

Ze sturen een officielle waarschuwing, dit gedrag accepteren we niet.

En als dit niet stopt, verschuren we het contract.

Waar mensen feitelijk zeggen, we draaien de geld aan dicht.

En voor een apotheek betekent dat verliezen van contracten met de grote verzekerar.

Vrijwel gegarandeerd faillissement.

Ze worden ineens onbetaalbaar voor de gemiddelde patiënt.

Met als de resultaat dat Vaatiemat aan het einde van diezelfde week weer langs het pand loopt.

En wat ziet ze?

Het briefje over principieële standpunten is weg.

En wat hangen we nu?

Er hangt nu een simpel velletje papier met de tekst per direct gesloten.

De financiële druk van de meterkast was simpelweg te groot.

De gloeilamp werd definitief uitgedraaid.

Ja.

En wat mij in de synthese van deze twee verhalen, dus de AI en de apotheek enorm boeit,

is echt de rol van de burger.

De rol van het individue tegenover de grote facade van het instituut.

Wat we die lijnen in de gaten verzameld trekken.

We hebben Mark als de interne klocke luider.

En we hebben Vaatiemat, Sam en Lotte als de externe actiefwoorders.

In onze maatgepij worden systemen steeds massiever.

Een overhijtsportaal met een blauwe logo, een AI die vol zinnen spreekt,

of een medisch gebouw met zo'n groenverlichtkruis.

Ze stralen allemaal een enorme, onwrikbare autoriteit uit.

Ja, en dit roept een hele belangrijke vraag op over onze waksamheid.

Dus wat betekent dit allemaal voor jou, als luisteraar?

Wat doe je als het locat, waar je aanklopt, of dat nu een jet-fenster van de politie is,

of een fysieke balie in een apotheek je weiger te helpen op een manier die niet klopt?

Mensen zijn dan genaigd te denken, oké, het system zegt nee, dan zal het wel zo zijn.

Ik heb het nagekeken.

Ja, we denken vaak dat die systemen een betonnen muur zijn.

Maar deze verhalen laten zien dat die muur eigenlijk gewoon van gips is.

Als je de juiste hamer vindt, zoals een klacht bij de verzekeraar,

of de kritische blik van een wakkeragent, kun je de gewoon doorheen breken.

Exact, systemen, hoe officieel ze er ook uitzien, zijn ontzettend feilbaar.

De actie van het individu, Fatima's formulier, Marks telefoontje naar de helpdesk,

is en blijft de ultieme beveiliging tegen systeemfalen.

Een algoritme corrigeert zichzelf niet op basis van ethiek

en gepolariseerde apotheken corrigeren zichzelf niet,

tenzij iemands portemonnee wordt geraakt.

Wij moeten die correctie afdwingen.

We moeten de muur testen.

Precies dat.

Nou, om het even kort samen te vatten, we leren vandaag over een AI

die compleet in de war raakte over discriminatie,

en we leren over een apotheek die zelf doelbewust discrimineert.

En in beide gevallen won de menselijke correctie het duidelijk van het falen van het systeem.

Gelukkig wel, ja.

Maar, en hiermee wil ik deze aflevering afsluiten,

een prikkelende slotgedachte op basis van deze bronnen om nog even over na te denken.

Kom maar op.

In beide verhalen van vandaag was de uiteindelijke oplossing om het probleem

letterlijk offline te halen.

Wout werd grijs en werd uitgezet en de apotheek hing een briefje met 'gesloten' op de deur.

Ja, stekker eruit en klaar.

Maar de grote vraag is,

lost het simpelweg sluiten en offline halen van zo'n falend systeem

dat werkelijk de kern van het probleem op of verbergt het slechts onderliggende fouten

voor het zicht van het publiek.

Dat is een hele scherpe vraag.

De onderliggende data van de AI staat nog steeds ergens op een server.

En de uitsluiting en de mentaliteit van de mensen achter de balie in Nieuwegein

is echt niet ineens verdwenen omdat de deur op slot zit.

Nee, zeker niet.

Eens even over nadenken.

De volgende keer dat jij een buiten gebruik-bordje ziet hangen.

Was het systeem dat werkelijk stuk?

Of mochten we gewoon even niet zien wat zich erachter afspeelde?

Stof tot nadenken.

Absoluut.

Bedankt voor het meeluisteren met deze deep dive en we spreken je graag de volgende keer.