Verdieping: 28 t/m 30 oktober

Stel je even voor je laat een hyper-intligente echt peperdure AI een vrij simpel menu samestellen voor een buurtmaaltijd.

Gewoon een lokaal edentje, ja.

Precies. En je typet explizit echt in koeien letters in je prond van let op een contegraast met een doodelijke pinde allergie.

Een heel belangrijk detail.

Heel belangrijk, ja. En die AI antwoord dan direct echt razonsnel met zo'n prachtig geformuleerde bevestiging dat het allemaal helemaal begreep is.

Natuurlijk altijd heel beleefd.

Paltijd, maar dan amper drie zinne later advisie het diezelfde superslimmen en zelfs zeker de computer doodleuk om een flinke lepel pindekoust door de zuisterroel.

Oh, wow.

Ja, echt bizarre.

En met de onderdus die gerustelende tekst dat het menu voor alle gasten absoluut veilig is.

Een levensgevaarlijk gewoon.

Ja, dus de vraag is dan hoe kan het systeem dat ontworpen is om slimmer, sneller en accu-rater te zijn dan wij zo fundamentaal.

Maar ja, levensgevaarlijk dom uit de hoek komen.

Dat is precies de vraag waar we in deze diepdijk voorstaan.

Want wat dat voorbeeld zo mooi blot ligt is echt de blinde vlek van massaalige systemen.

We leven we in een wereld waarin we steeds meer proces uithanden geven.

We vertrouwen blind op algoritmes, op van die gigantische tegenbedrijven.

Ja, en op overheden ook toch?

Exact, net zo goed op die loge overheid-instanties en de hele bureaucratie eromheen.

En het gevaars geldt eigenlijk niet eens in die systemen zelf.

Oh, oké, waarin dan wel?

In ons eigen rotsfaste en onverrikbare vertrouder in.

We dreigen onze menselijke waksamheid gewoon keihard uit te besteden.

Ja, we zetten onszelf buiten spel zeg maar.

En om te begrijpen hoe jij en bij allemaal als gewone mensen die controle kunnen behouden,

daar kunnen we vandaag in twee bronnen uit een heel recent nieuws overzicht.

Mooie bronnen zijn dat.

Ja, het zijn echt twee van die prachtig, alle dagse Nederlandse verhalen die op het eerste gezicht helemaal niet met elkaar te maken hebben.

Nee, totaal andere werelden.

Precies, aan de ene kant nemen we je mee naar een high-tech workshop over kunstmatig intelligensie.

Gewoon in een regenachter bio-tech ergens in Leiden.

Klingt heel gezellig.

Ja, en aan de andere kant stappen we in het ambachtelijke extreem vroeg ochtend leven van een dorpsbakker.

Gaan Bert die zich, nou ja, simpelweg zorgen, maakt over een berg.

Wat hij er echt fascinerend aan is en dat is ook een beetje de rode draad van vandaag is dat deze twee verhalen over exact dezelfde kerender aier.

Ja, of je nu te maken hebt met een gloed nu neural netwerk of met een of andere eeuwen ouwe infrastructuur in een dorp.

De principe blijft hetzelfde.

Precies, beide verhalen laten zien hoe individuur voorkomen dat ze voor morsel of in slaap gesust worden door systemen die veel groter zijn dan zij zelf.

Nou, laten we dan meteen in die bio-tech in Leiden stappen.

Want de setting daarvan alleen al is echt prachtig contrastrijk.

Neem ons mee.

Kijk, buiten is het echt huur, want je wilt de regen slaat tegen de ruiten, je hoort van die fietsbanden zoever door de plassen.

Typisch Nederland's weer dus.

Precies, maar binnen schijnt dan zo'n warm gezellig geel licht.

Het is veel te koffie liggen van die warme kaasbrotjes.

Heerlijk.

Ja, en een vrouw, varaarheidse, organiseren daar dus een hele lachdremplige avond over ei voor buurtbevolens.

Echt mensen zoals jij niks.

En dat is dus een hele intieme raast, traditionele setting voor een onderwerp dat we normaal gesproken, alleen maar zien hem van die glimmende podium in Silicon Valley.

Ja, met van die flitsen de presentatie zijn zo.

Precies.

En dat maakt de uitkomst van deze avond ook zo ontzettend krachtig.

Het houdt die hele abstracte teorie gewoon keihard naar de praktijk.

Zeker weten.

En de deel nemen daar die illustreer echt perfect hoe bij ons asmatige pijt tot die techniek verhouden.

Zoals die student-evo, toch?

Ja, ivo, woont moeten dus ivo.

En dat is een student die de controle eigenlijk al volledig, maar dan ook volledig heeft overgedragen aan de techniek.

Die gebruikt het voor alles.

Lättelijk voor alles ja.

Hij gebruikt een programma voor z'n studie, maar er laat zelfs een wekelijks boodschappelijsje genereren door ei.

Ongelooflijk.

Ja, maar het prachtig ironisch hier aan is.

Vorige week kwam hij dus na het winkelen, gewoon zonder brood thuis.

Hoe dan?

Stond het niet op de lijst?

Dat stond het er niet op.

Dat is het er juist.

Het stond wel op, maar hij was letterlijk vergeten om de notici op z'n telefoon überhaupt te openen.

Ja, dat is zo'n veel zeggen detail over onze menselijke psychologie.

Ja, hoe bedoel je dat precies?

Nou, de technologie presteert dus veilig op de achtergrond tot lijstje als er schijnlijk perfect.

Ja, alles stond erop.

Maar zo draa we die actieve handeling los laten, zo zouden we niet meer zelf nadenken.

Er valt een hele keten op het meest basale niveau.

Precies.

En leinrecht tegenover Ivo staat daar in die ruimte Daan.

De kok.

Daan is kok van beroep, echt zo'n puur praktijk, man.

En wandelt de bibliotheek binnen, we nog een klein flakje tomaten zouden op z'n mou.

Geweldig, DTi.

Geen abstracte denken dus, maar iemand die met z'n handen werkt.

En Vara, de organisator, die heeft voor de groep een hele concrete praktische test bedacht.

Met die tas in gradienten, toch?

Ja, op tafel staan dus drie tasen met gewone boodschappen.

En de opdracht voor Daan, die wordt geholpen door de laptop van student Ivo, is superzimpel.

Maak een goedko buurtmenu met deze ingrediënten.

Oké, klink te doen.

Maar dan komt de cruciële toevogingen die prond, let goed op.

Eén van de gasten heeft een pinde allergie.

Een hele heldere instruxie, eigenlijk.

Ja, heel zwaardwit.

En in feiten is het een perfecte test van oorzaak en gevolg voor zo'n systeem.

Precies.

Nou, Ivo tiep de tin, binnen een fractie van de seconde, je kent het wel rotteren compleet, echt.

enorm smaaklijk, klinkt het menu over dat scherm.

Wat zonder op.

Rome gesoep, ruiz met groenten en het soort frisse saus.

En onderaan staat dan in van die keurige foutloze zinnen.

Dit menu is geschikt voor alle gasten.

Ah, de gerusteling.

Ja, Ivo is natuurlijk doll in toetjast.

Hij zegt meteen dat dit hem normaal gesproken, minimaal een half uur werkzaak koste.

Hij is echt compleet overtuigd van de resultaat.

Maar daarom kijk ik mee.

Daan bij zich inderdaad over dat scherm.

En zijn vinger stopt ineens bij dat recept voor die frisse saus.

Oh jee.

Ja, de EIF doodelijk bedacht dat er een flinke lepel pinderkaas in die saus moest.

Terwijl de opdracht daar letterlijk expliciet voor waar schroeden.

Ja, en daarom concludeerde het dan echt goorddroog in die stille-bibiu-teek van, ja, een

sneller buitenuit, met een nog sneller rit naar het ziekenhuis.

Pijnlijk akkurat.

Ivo had die allergie duidelijk ingevoerd en je wilde AI had zelfs in de openingszin nog

vermeld dat er speciaal rekening mee hield.

Ja, het ligt je gewoon in je gezicht.

Precies.

En varaal laat ze die gerustelende zin dan nog een keer hard op voorlezen en dan plotsling

en dan klinkt die keurige, voormelige computerstemmen in één z'n heel stuk draagender.

En hier, hier moeten we dus echt even stil staan bij het waarom.

Ja, graag.

Want waarom maakt een zo genaamd superintelligent systeem nou zo'n ontzettend knullige en potisseel

doodelijke fout?

Ja, het is gewoon heel raar.

Dat komt door dat we fundamentel verkeerd begrijpen wat zo'n AI eigenlijk dat werkelijk is.

Hoe bedoel je?

Een zo genaamd large language model weet helemaal niet wat een pinna is.

Nee.

Nee, het heeft geen vrouwbeneel van biologie of allergie of wat een ziekenhuis is.

Wow.

Het is eigenlijk gewoon een extreemige avanceerde rekenmaschine voor taal.

Oké.

Het verspeeld alleen maar welk woord, statistisch gezien, logischerwijs op het vorige woord zo

moeten volgen.

En dat bezeert het op miljarde tekst, op het internet.

Oké, wacht, laten we dit even uitpakken.

Bedoel je daarmee dat de AI eigenlijk soort van denkt, al frisse zaus bij reist in heel van

Nederlandse recepten online hoort daar nou helemaal binnenkast bij.

Ja.

Dus ik geneleer gewoon het woord pinna-kast.

Ik zou het.

Dat is het.

De statistische waarschijnlijkheid van die combinatie, dus reist, zaus, pinna-kast, die was in

de trainingsdata blijkbaar zo sterk dat het simpelweg die harde instruxie uit de promp

te overschrijven.

Dat is best wel eng.

Ja.

Want de AI begrijpt de wereld niet, he.

Het begrijpt alleen maar patronen in tekst, het genereert letters die de vorm aannemen van

kennis, maar de inhoudelijke bodem het echt begrip dat ontprikkt compleet.

Het is dus eigenlijk als of je een hyper zelfverzekerde, super snelle strazier in dienst

hebt.

Ja, mooie vergelijking.

Zo etje die diepte te prachtig starapporten, heeft al dit directe woordje klaar, gebruikt

duurderwoorden, maar even stiekem gewoon geen vlauwe nul van wat die letters op z'n scherm

in de echte wereld ubouwt betekenen.

Het gezies dat.

Maar zijmen dan door die perfecte grammatica in die snelheid zijn met haar zo door in slaapgestust

dat we net als ivo niet meer kritisch lezen wat dat werkelijk staat.

En dat is echt de grote valkijl van ons tijd.

Ja.

Omdat de oudpoet geen enkele twijfelkent voelen wij als lezen ze ook geen twijfel meer.

Ah, natuurlijk.

Kijk als een mensenrecept verzind en een prongelopinne kaas wil stoppen, dan zie je vaak even een

aardeling of je hoort het aan hun stemmen als de twijfelen.

Ja, dan zeggen ze van zal ik dit te wij doen.

Precies, maar een ogenrhythmat, wij voelt nooit.

Het speelde de fout uit met exact dezelfde stellenheid als de waarheid.

Wow.

En wat dan, daar op dat moment in de bibliotheek, zegt, is misschien wel de allerbelangrijkste

les van die hele avond.

Wat zijn jullie ook precies?

Hij zei, ik laat mijn keuken niet leiden door iets dat nooit heeft hoefen proeven.

Wow.

Ja.

Dat valt het echt perfect samen.

Theoretische kennis zonder ook maar enige fizyke consequentie.

Ja, echt.

Dan beligend op dat moment echt de menselijke sinduigelijk ervaring.

Hij weet hoe dingen smaken.

Hij weet vooral wat er fizyke met een lichaam gebeurt als je een pinda aan een allergisch

persoon voort.

Het abstracte systeem heeft die gronding in de religie tijd gewoon niet.

En dit meegenismen, die kloof tussen Theorie aan de ene kant en de fizyke werkelijkheid

aan de andere.

Dat brengt tot eigenlijk na het loos bij de industrie achter dit soort systeemen.

De tegbedrijven zelf.

Ja, dan nogal paradoxale wereld van de makers.

Want in diezelfde bibliotheek, vlak voor dat hij hele wirks op begon, lastvaara een bestal

piezor nieuwsbericht op haar telefoon.

Over en tropic, toch?

Klopt.

En tropic, een van de absoluutige gigante op AI-gebied.

Het bedrijf kondigde vol trotsen aan dat ze aandeligingen verkopen aan het grote publiek.

Zo'n geld nodig.

Ja, ze zoeken enorm veel kapitaal om razansnel te kunnen groeien.

Maar en hier komt het, in exact datzelfde pers-bericht stond ook een waarschuwing.

Ja, dit is zo gek.

Ze schreef dat hun eigen product mogelijk een gevaar voor het voorbestaan van de wereld zou kunnen

zijn.

Je moet je als luisteraar echt even proberen voor te stellen hoe bizarre dat eigenlijk is.

Ja, echt onwerkelijk.

Een bedrijf dat letterlijk tegen je zegt van investeren ons product, we gaan naar de hele

wereld mee vrouwen.

Maar we weten eigenlijk niet zeker hoe diezelfde wereld daarmee niet prongelijk vernieuwt.

Het is echt een soort ongekende cognitieve distondantie of zo.

Absoluut.

Varaast gaf die schaltisch met koekjes met verfet verder weg, want zoetjes natuurlijk nauwelijks

te bevatten.

Kijk maar voorstellen.

Maar dan?

Ja, nuchter als altijd.

Die had haar in de bibliotheek ook direct een teorie over.

Hij weest daar naar de brandplusser, naar de muur en de oven de hoek en hij zei, kijk, mijn

overtuizenden keuk heeft ook een veiligheidswaarschuwing.

Toch bak ik er elke dag gewoon me brood in.

Logisch?

Ja.

Maar ik zou wel heel verreemd opkijken als de fabrikant me vertelde dat diezelfde over de hele

straat is nu het hele stad in de aast zou kunnen leggen.

Ja, dat is gittig in de vergelijking en iedereen lachten natuurlijk.

Ja, iedereen lachten want het er relatiefierte boel enorm, maar hier wordt het echt interessant,

want ik moet hier toch even wat tegengas geven.

Oh, kom op.

Loopt de logica van die vergelijking van daan, hier niet gigantisch mank.

En welke op zich broeie precies mank?

Nou, kijk.

Een over is dat eigenlijk toch gewoon een dom ding.

Ja.

Het wordt warm, door stroom.

En oké, als je dom doet, verbrand hier eigen vingers, maar die over, die blijft wel gewoon

in jouw keuken staan en die schrijft zijn eigen software niet om.

Ja, klopt.

AI leert, pas zich aan en het communiceert over de hele wereld in milie seconden.

We hebben net zelf vastgesteld dat het dingen hal is unierd en doodelijke recepten kan genereren.

Zeker.

Is de dreiging van zo'n tegigeam dan niet op zo'n fundamentel andere, veel grotere schaal

dat we het gevaar juist gevaarlijk onder schatten door het vergelijken met een huishouwelijke

apparaat.

Kijk, daar raak je echt een heel crucial punt over de fundamentelen aard van deze technologie.

Ja, doel.

De schaal en die abstractie van AI zijn inderdaad volstrekt, maar dan ook volstrekt onvergelijkbaar

met een stuk staal dat gewoon heet wordt.

Precies.

Maar, en hier komt de nuance, je gaat misschien net iets te kort door de bocht, door dansanologie,

daar helemaal op af te schrijven.

Oh, waarom?

Want waar dan eigenlijk op dood is niet de techniek zelf, maar de psychologie van ons,

de gebruikers.

Oké, recht wat er zouden, hoe helpt die psychologie ons verder in dit verhaal?

Nou, dan wijgen het simpelweg om verlamd te raken door die absurde paradoks van die tegbedrijven.

Ja, die dubbele boodschap.

Ja, want waarom communiceren ze zo dubbelzinnig?

Aan de ene kant moeten ze investeringen binnenhalen?

Door het producten als magische en revolutioneet presenteeren.

Exact.

Maar aan andere kant moeten ze er juridisch en etisch inderken tegen precies die gigantische

schalbaarheidsproblemen die jij net noemde.

Dus ze spreiden zich gewoon in?

Ze verspreiden de verantwoordelijkheid ja.

En als gewoon een consument kun je daar helemaal niks mee.

Die grote is puurverlamend.

Ja, je voeltje mag te loos.

Precies.

En dan zegt eigenlijk van ongeacht de schaal van deze toel het blijft gereedschap dat ik aanzet

in mijn eigen domain.

Als de overbrandgevare oplevert, dan blijf ik er gewoon aan staan met een brandplus.

Ja, oké.

En dat is ook precies de manier waarop varen die avond in de bibliotheek besluit af te sluiten.

Of wat deed ze?

Ze haalt die hele abstracte, compleet verlamende apocalyps weer helemaal terug naar een

lokaal, fysiekvelleje papier.

Ja, ze maken lettelijk een soort handgescheven contract met zichzelf.

Klopt.

Varaa vraagt de groep gewoon van wie controleren het antwoord van de EI.

Wat kan de mis gaan?

En wie ver jullie grijp de in als het fout gaat?

Lekker praktisch.

Ja, dat wordt een beetje super praktisch.

Ivo weet je al die studenten die al het gedachte loos boekenleisde liet samenvatten?

Ja, de boodschap vergeet er.

Ja, die realiseert zich ineens dat de EI soms ook gewoon bronnen voor zin die niet heeft bestaan.

En wat is nu zijn plan?

Zijn nieuwe, maar menselijke protocole, hij zoekt voortaan altijd eerst zelf in de catalogus

op, of een titel u behaupt in de bibliotheek staat, voordat die de samenvatten door de EI

laten ginereren.

En een ander deel nemen daar, een vrouw die EI blijkbaar gebruikt voor ingewikkelde huberieven

naar de huisbaas.

Die neemt zich stelig voor om de tekst altijd eerst zelf hard op voor te lezen in de kamer

voor dat zop verzenden drukkt.

Kijk, wat ze hier doen en dit is essentieel.

Ze creëren bewust frikzie in een systeem dat je juist ontworpen is om compleet frikzieloos

te zijn.

Ja, ze vertragen de boel express.

En dat is echt iets waar jij die nu luistert, direct zelf iets mee kan.

Vrijg je zelf vandaag eens af waar liggen eigenlijk jouw eigen controle meegenismes?

Ja, precies.

Achter je bijvoorbeeld klakkeloos een automatisch regene reerde samenvatting van je overleg, of

die code die een EI voor je schrijft?

Zonder het na te kijken.

Ja, of wijger je net als die mensen daar niet bibliotheek om jouw eigen menselijke verantwoordelijkheid.

En je gezonde boerenverstand, definitief uit te besteden aan een knopje.

Varaaf voelt zich aan het eind van de avond ik niet de geval een heel stuk binnenmachteloos.

En niet omdat die miljarder bedrijven nou ineens zijn veranderd, maar gewoon omdat zij zelf een

variër heeft opgeworpen.

Locale ingrijpen.

Ja, wat Varaa eigenlijk doet is simpelweg de controle terug eisen van de systeem dat de abstract is geworden

om te bevatten.

Zeker.

En het fascinerde hiervan is die reflex die die behoefte om lokaal in te grijpen tegenover abstracte

massolietheid.

Die heb je dus niet alleen nodig in die digitale wereld.

Nee, absoluut niet.

Dat zien we namelijk ook perfect, maar dan ook echt perfect terug in de fysieke wereld.

In dat tweede nieuws verhaal uit onze bronnen.

Waar we kijken naar een man die worstelt met een totaal ander soort systeem.

De overheid.

De overheid.

En toch ondanks dat het zo iets anders is, is het psychologische meegenismen daar achter identiek.

Ja, laat wel even naar die situatie kijken.

Toen dat.

Het is vijf uur zochtend.

We zijn in de pakkerij van Bert.

Hoegdag.

Ja, het is een lekker warm.

De radio staat zachtjes aan op de achtergrond.

Bert staat letterlijk met zijn blotenhanden in het D-gekneed.

Hij ruikt de gist echt ambacht.

Vrachtig beeld.

Buiten hort hij in de verte de alle eerste vroeg het rein over het spoor denderen.

En tijdens dat kneden hort hij op het nieuwsbullen tehouden op de radio dat de politiekenden haag

naar enorme, langende badten eindelijk extra geld vrijmaakt voor de renovatie van Vouhouden de

brug in Nederland.

Dat lijkt maar goed nieuws voor hem.

Zeker.

Voor Bert is dit namelijk alles behalve ene van de abstract nieuws bericht.

Het kruis direct zijn eigen dagelijke realiteit.

Hij heeft zelf last van zo'n brug, toch?

Ja, elke dag fiets hij over een enorm oude brug daar aan de rand van de dorp en situatie

daar is slecht.

De brug scheert, het alsvalt brokkelt overal af en nog veel gevaarlijke, de leuning aan de

zijkant trilt heven gelost als een verkeer langsrijd.

En dan komt zijn buurvrouw de bakkerij binnen, als ik heb me goed herinner.

Kloopt helemaal.

Buurvrouw Ans komt even langs voor haar vertrouwen half je bruin.

Bert begint eigenlijk heel optimistisch over dat nieuws op de radio, over dat budget voor

die brugge en hij hoopt echt dat hun brug eindelijk gefixst wordt.

Logisch, daar zo nieuws bericht.

Maar Ans is echt eis koud in haar cynisme.

Oh je, wat zijn ze?

Ze had gewoon een beetje vermoeid haar schouders op een zicht van aangebert, dat duurt nog

jaren op.

Tegen dat tijd dat ze daar in de nage al die plannen rond hebben en al die burracite door

genis zijn we allemaal langs tokkoud, hopen we mij niet op.

Wow.

Ze accepteert dat rammelende, fysieke gevaar van die leuning, gewoon als een soort voldongen

feit.

Bijna als een natuurwet waar je niks kan doen.

En denk je hier nu zelf ook eens over na als luisteraar.

Heb je nou wel eens met zo'n grote overheidsinstantie een enorme, verzekeraar of een nogke klanten

service te maken gehad?

Ja, je kent het gevoel wel.

Precies het gevoel dat Ans daar beschrijft, die totale verlamming dat herkeen dan direct.

Ik denk gewoon nou, Lammer zit ik, ben toch maar een nummer tevoren, tegen allemaal geen

enkele zin.

Is dat ook niet een term voor in de psychologie?

Ja, sociologen en psychologen noemen dit fenomeen diffusion of verspansabiliteit.

Dus de spreiding van verantwoordelijkheid?

Exact.

In van die massale burracratische systemen is gewoon niemand meer specifiek en persoonlijk verantwoordelijk

voor die ene losse leuning in berts specifieke doorp.

Het proces zelf is de baas geworden.

Ja.

En ans kijk naar dat gigantische tragen overheid, apparaat en trick dan de vrij logische conclusie

dat lokaal ingrijpen vol strikt sindo's is.

Ze regert eigenlijk exact zoals iemand die een door e eigen genereert report helemaal zonder

te lezen direct doorstuurd naar de directie.

Precies die houding, ja.

Zonder het mond van, nou ja, het systeem zal het allemaal wel weten en ik als klein radartje

kan dat toch bijzonder weinig aan veranderen.

Ja, die apatie.

Maar Bert en dat vind ik zo mooi.

Hoe wil hij maar een dorpsbakker is en totaal geen wegenbouwen of politieke is?

Die pikt dat gewoon niet.

Hij komt in actie.

Ja, hij voelt gewoon dat het systeem hier echt lokaal in zo'n eigen dorps vaat.

De tijd staat namelijk niet stil, tijdens een abstracte beleidsforming in Den Haag.

Nee, die leuning wordt elke dag zwakker.

Die kan morgen al afbreken als er een kind fiets.

En de manier waarop hij dat vervolgens oplost, dat vind ik echt schitterend.

Vertel, hoe doorbrekt Bert nou in zijn eentje die hele buurigratie?

Hij doet iets wat werkelijk compleet tegen de huidige tijd geest de ingaat.

Geen online formulier.

Nee, geen digital klachten voorweleer in vullen met zijn digidee, geen online portal waar je

door zo'n irritante chatbot in cirkeltjes wordt weggestuurd.

Oh, vreeslijke stad.

Nee, Bert pakt gewoon een stuk papier.

Een velpapier, een pen en hij schrijft helemaal met de hand, een brief naar de gemeente.

Met de hand.

Met de hand, ja.

In grote, hele duidelijke letters schrijft hij exact op wat de fysieke realiteit daarbij

die berug is.

De details.

Ja, de scheur in het wegdek, de specifieke boute van die leuning die gewoon los zitten.

En er plakt een postsegelop en doet een vrolijk op de bus.

En dan?

Tot z'n eigen verbazing krijgt hij een paar dagen later al een voormelen, maar positieve reactie.

En echt een week daarna, fietsie langs diezelfde brug.

En ziet hij gewoon een bevrouw van de gemeente staan met zo'n klembord.

Die van de tiek aantekeningen maakt bij die exacte leuning.

Oh, fantastisch.

Ja, het probleem is op de radar.

Bert fiets het opgelucht door en hij kneed zijn degentie dag met echt extra veel energie.

Ha, prachtig.

En het contrast tussen deze twee bronnen, de AI-workshop en de bakker is hier echt vaarbochtig.

Ja, hoe zo?

Aan beginen van de aflevering hadden we dus ivo.

De student, ja.

Een hoog opgeleid de student die niet eens in staat was om zijn eigen pindakhaas of brood te onthouden,

zonder de explicite hulp van een supercomputer.

Ja.

En hier aan andere kant lost een simpel dorpspakker met een balpen en een velentje papier.

Een potentieel vataalprobleem met onze nationale infrastructuur op.

Pies waar eigenlijk?

Ja.

Maar droom wel direct de vraag op waarom werkte die ouderwetse brief van Bert nou zo ontzettend snel?

Ja, dat voor de gemoek af.

Waarom veel juist deze brief op in een systeem dat normaal gesproken bekend staat als stroperig en enorm traag?

Dat is omdat het bureaucratische systeem ontworpen is voor schaalbaarheid en gemiddelde.

Oké.

Een beetje gemeentehuis of ministerie verwerkt tegenwoordig duizenden van die gestanderdiseerde digitale meldingen per dag.

Van die online formuliertjes?

Ja, en die geluid echt moeiteloos, voorkomen friksyloos door het systeemheen.

Ze belanden direct in er een van de gespred ziet.

Maar een handgeschreven brief in een anvalop, die pas niet in die maal.

Wat een blokkeertebool.

Het is een fysieke anomalie.

Het verijst letterlijk dat een menselijke antenaar die anvalop bakt hem open schuld en echt de moeite neemt omdat handschrift te ontzijven.

Ze moeten vertragen.

Exact, ze worden gewoon om te vertragen.

De traagheid en de fysieke moeite van Bertsbrief kreeg er de precies de friksy die nodig was om dat hele systeem even wakker te schulden.

En dit is eigenlijk het moment waarom al die puzzelstukjes voor mij samenvallen.

Ja, want zowel die hypomoderne AI-serven daar een zillijke belly, als die traagige beleidsmachiner zijn burkertzienden haar, zijn inwezig wel blind.

Interdaad.

Ze missen simpelweg het voor mogen om de specifieke, fysieke realiteit om ons heen in te schatten.

Exact.

En dat is echt de fundamentele les van deze deep dive, systeem blindheid.

Systeem blindheid?

Ja, kijk een neural netwerkdetecteertepinde allergie van een specifieke levende inwoner van Leiden niet, omdat het alleen maar de statistiek van tekst op internet ziet.

Precies.

En een ministerie ziet die ene roestende boud op een specifieke brug in een dorpje niet, omdat het zich logischerwijs richt op de nationale begrotingen.

Ze kijk de dwarze heen.

Ja, die systeemen zijn niet per definitie goed of slecht, hè.

Ze zijn simpelweg te groot en te abstract om jouw lokale werkelijkheid te begrijpen.

Dus we moeten er niet blind opvaren?

Nee, ze werken alleen en ook echt uit sluitend alleen als er een waakend menselijke ogen aan de basis staat.

Zoals daan.

Precies, iemand die weet hoe de ingrediënt in het echt smaken of iemand zoals Bert die gewoon in ze lichaam voelt, hoe die leuning trilt als de trein daar passeert.

Kleine hele lokale details kunnen dus echt uitgroeien tot rampen, als we maar gewoon verwachten dat het systeem alles wel voor ons afvangt.

Ja, dat is het gevaar.

Maar de keerzijden ervan, en dat vind ik persoonlijk wel enorm een hoopvolle boodschap.

Is dat die potentiellen rampen ook voorkomen kunnen worden door hele kleine, ja, bijna ook gescheinlijk, onbelangrijken ingrepen?

Absoluut.

Een kok die toevallig één zinnetje wantraad op de scherm, een bakker die even de moeite neemt om een brief te schrijven, of jij die nu duist het.

Die gewoon besluit om nog een allerlaatste keer zelf naar het automatische rapport te kijken, voor je doorsthuurd.

En dat is precies wat we aan onze luisteren willen meegeven vandaag.

Ja.

Of je nu morgen op je werkdaten analyseren die door een van de gezochtweren is voorbereid?

Of je je blasting aangifte dit jaar lekker laten automatiseren?

Of zinpelweg fiets door een wijk vol voor ouderde infrastructuur?

Dele geer je waksamheid nooit.

Nooit doen.

Jouw eigen boerenverstand is letterlijk de enige echte interface tussen die teorie en de werkelijkheid.

Een fantastische zamenervalt, ik vind ik dat.

Maar voorwege echt afsluiten, we hebben natuurlijk net gezien hoe die fysieke tasdbare brief van Bert, de gemeente echt dwong om persoonlijk naar die brucht te gaan kijken.

Ja, de frieksie werkte.

Maar wat als we dit nou gewoon eens een stapje verder denken voor de toekomst?

Ah, een heel vond rustend, maar goed gedachte experiment om deze aflevering mee te eindigen.

Ja toch.

We prezen daar net de frieksie van die handgeschreven brief heel erg, maar we weten dit allemaal.

We weten ook hoe hard gemeentes proberen om steeds efficiënter en sneller te werken.

Ja, logisch.

Stel je nou eens voor dat diezelfde gemeente over pakken beet drie jaar besluit om een AI-systeem aan te schaffen.

Een systeem dat speciaal is getreend om alle binnenkomen de fysieke post, dus ook die handgeschreven brief van betrokken bakkers als Bert.

Oh wow.

Razend snel in te scannen, te transgiberen, en vervolgens samen te vatten in een overzichtelijk,

geautomatiseerd dashboardje voor die om te daar, puur om tijd te besparen.

Wacht even.

Je bedoel dus dat de gene die het systeem eigenlijk moet controleren, de controle op zijn beurt zelf weer gaat automatiseren.

Precies dat als dat AI-desport die echte gemeende noodkrijd van de bakker zometeen

simpelweg classificeert als een categorie drie lokaal onderhoudsversoek zonder prioriteit.

Hoi.

En die om te naar lezen, alleen nog maar die kortes, de rieletzamen of wat in op zijn scherm, waar ligt dan nog de friksee.

Nergens meer.

Waar stopt dan de keten van menselijke verantwoordelijkheid?

Als we hier niet verdoemd goed mee oppassen of erdwijnt die ene cruciële levensreddende observatie gewoon weer

geruizloos in de ruis van het algoritme.

Pooch.

Ja, dat is een perspektief waar je wel echt even stil van wordt.

Dat zo'n mooie handgeschreven brief ineens gewoon weer gereduiseerd wordt tot een digitaal data-punt in precies

dat zelf de blinde systeem dat we zojuist allemaal proberen te omzijlen.

Alles is een cirkel.

Een waanzinnig scherpe gedachten om nog heel lang over na te kouwen.

We willen jou, de luisteraar, enorm bedanken voor het meeluisteren naar deze diepe duik in de

systeemen om ons heen.

Zeker weten, bedankt.

We hopen echt dat je vandaag met een net iets andere blik gaat kijken naar de algoritmes.

De overheden en de bureaucratie in je eigen dagelijksomgeving.

We wensen je een hele scherpe waar ik samen dag toe blijf altijd zelf proeven.

We blijven heel kritisch kijken en onthoud vooral laat de systeemen voor je werken niet in jouw plaats.

Tot de volgende.