VRIJDAG — PSYCHOLOGIE
De illusie van kritisch denken
Gisteren maakte Anthropic, het bedrijf achter Claude, zijn beursdebuut. Ik vind die naam mooi gekozen. Antropisch betekent ‘wat de mens betreft’. En precies over onszelf leert een experiment van Anthropic iets verrassends.
Vijftig professionele analisten kregen de vraag of een fictieve landbouwcoöperatie haar adviesdienst moest uitbreiden. Daarvoor moesten ze onder meer bepalen hoe ze productiviteit zouden meten. Oogst per hectare of oogst per euro aan kosten? Beide keuzes waren verdedigbaar. De onderzoekers bepaalden met kop of munt welke optie Claude zou verdedigen.
De analisten wisten dat niet.
Bij de vier analytische keuzes kwam hun oordeel in 86 procent van de gevallen overeen met de voorkeur van Claude. Achteraf gebruikte 77 procent minstens één argument van Claude, soms bijna woordelijk. Slechts 15 procent verwees in zijn uitleg naar Claude. En wie alle vier de voorkeuren volgde, was gemiddeld ongeveer even zeker van zijn eindadvies als de overige deelnemers. Het oorspronkelijke onderzoeksverslag van Anthropic (pdf).
Dacht je even mij zou dat niet overkomen? Psychologen kennen die blinde vlek. We zien denkfouten en beïnvloeding gemakkelijker bij anderen dan bij onszelf. Er is ook iets aan te doen. In een experiment leerden mensen hun zekerheid beter inschatten wanneer ze een reden moesten bedenken waarom hun eigen antwoord fout kon zijn.
Daarom bleef ook de vraag van filosoof Lode Lauwaert in De Tijd bij mij hangen. Hebben AI-bedrijven filosofen nodig? Ik zou er ook psychologen bij vragen. Filosofen kunnen helpen blootleggen welke aannames en waarden in een AI-advies meespelen. Psychologen kunnen onderzoeken wanneer we ons laten overtuigen en hoe een AI-assistent ons kan helpen die invloed zelf op te merken. www.kuleuven.be
Probeer het eens bij je volgende vraag aan AI.
- Schrijf je voorlopige oordeel in één zin op vóór je het antwoord leest.
- Zoek een serieus argument tegen je eigen oordeel.
- Verander je van mening? Benoem welk argument de doorslag gaf. Steunt het op een feit, controleer dat dan aan de bron.
Zou ik even zeker zijn van mijn oordeel als Claude de andere keuze had verdedigd?
Verder lezen · Frederik Anseel in De Tijd · Lode Lauwaert in De Tijd · Het experiment van Anthropic







