Gedachte-experiment

De geheime tekenkamer

Kun je goed antwoorden zonder te weten wat je zegt?

Noor kent de taal niet. Haar antwoorden lijken toch helemaal te kloppen.

Een gedachte-experiment begint met “stel je voor…”. Je spreekt af wat er in het verhaal geldt en onderzoekt wat daaruit volgt.

Lees mee en kies ↓Meteen proberen

Bewerkt naar Chinese Room uit ArtiProof.

Een persoon volgt regels om Chinese tekens correct te beantwoorden zonder de betekenis te begrijpen; het beeld contrasteert correcte output met begrip. — Tekening bij het oorspronkelijke verhaal op ArtiProof. Ons verhaal is daarvan afgeleid.

01 · Lees mee

Een luikje en een dik regelboek

Noor zit in een kamer. Door een luikje komen briefjes met tekens uit een taal die ze niet kent.

Een enorm regelboek vertelt welke tekens ze moet terugsturen. Stel dat het boek zo goed is dat haar antwoorden voor de mensen buiten steeds passend lijken. Noor volgt alleen de tekens.

Wat zou jij zeggen of doen? Je hoeft nog geen oplossing te hebben.

Probeer dit ook met Kopke Krab

Goed geantwoord. Ook begrepen?

Probeer het zelf

Welk teken stuur jij terug?

Een briefje komt binnen. Je taak: stuur het teken terug dat het regelboek voorschrijft.

Ingekomen teken△

Dezelfde vraag, dichter bij huis

Het liedje in een onbekende taal

Je zingt een liedje foutloos mee in een taal die je niet spreekt. De uitspraak klinkt goed. Iemand vraagt wat de tekst betekent.

Wat heb je geleerd, en wat heb je daarmee nog niet laten zien?

Van het scherm af

Antwoorden met een sleutel

Nodig: Twee briefjes en een potlood

Spreek af: op △ antwoord je ○; op ○ antwoord je □; op □ antwoord je △.
De ene persoon stuurt tekens. De andere volgt de sleutel en antwoordt.
Bedenk achteraf een betekenis voor de tekens. Had de antwoordgever die betekenis kunnen weten?

Maak verschil tussen de regel kunnen uitvoeren en de betekenis kennen.

Je hebt nu een sleutel met drie tekens gevolgd. Wat zou er nodig zijn om ook de betekenis te kennen?

Denk nog even verder

Wat verandert
jouw antwoord?

Kan een geheel iets kunnen wat geen enkel onderdeel afzonderlijk kan?

De vraag of AI kan begrijpen blijft open. Het tekenproefje laat één verschil zien: een regel volgen en een betekenis kennen.

Waar komt dit verhaal vandaan? →

Een andere vraag proberen?

Mary ziet voor het eerst rood

Mary kent alle natuurkundige feiten over kleur. Maar ze zag nog nooit rood.

Naar het volgende verhaal →Zelf kiezen