Bronnen bij Menswetenschappen, regels: overtredingen enquêtes

Een methodologische zaak die op alle menswetenschappen slaat, hoewel natuurlijk in ieder apart geval in verschillende mate, is die van de overwegingen rond het gebruik van enquêtes. Met als allereerste regel het geval nummer tien uit de regels van goede menswetenschappen: luister niet naar wat mensen of groepen over zichzelf zeggen.

Hieronder de algemene voorbeelden daarvan - het specifieke geval van de toepassing op zaken rond immigratie en allochtonen staat elders  (de Volkskrant, 12-11-2005, van verslaggever Olav Velthuis):
  Iedereen denkt dat hij het grappigst is

Veel economen zijn niet blij met hem. Want Richard Thaler laat zien dat mensen helemaal niet zo rationeel handelen. De Erasmus Universiteit gaf hem een eredoctoraat voor zijn werk.Veel economen zijn niet blij met hem. Want Richard Thaler laat zien dat mensen helemaal niet zo rationeel handelen. De Erasmus Universiteit gaf hem een eredoctoraat voor zijn werk.


Schat eens in hoeveel gevoel voor humor je hebt. Meer of minder dan je medemens? De vraag die de Amerikaanse econoom Richard Thaler zijn publiek voorlegt, is simpel. Maar het antwoord dat de honderden studenten, hoogleraren en andere genodigden van de Erasmus Universiteit Rotterdam geven, is weinig rationeel.
    Ze waren al gewaarschuwd. Op de uitnodiging voor het eredoctoraat dat de Erasmus Universiteit deze week aan Thaler uitreikte, stond al geschreven dat ze in de luren gelegd zouden worden. Of preciezer: 'Tijdens zijn speech zal Richard Thaler interactief het fiasco van de economische theorie en zijn standaard-aannames aantonen.'
    Dat blijkt een koud kunstje te zijn. Bij de ingang van de zaal krijgen alle gasten een digitaal stemkastje uitgereikt. 'Mensen zijn maar in beperkte mate rationeel', zo begint Thaler, een gevierd hoogleraar aan de Universiteit van Chicago, zijn toespraak. 'Bij het maken van keuzes maken ze systematisch fouten. Met behulp van die kleine speeltjes die zijn uitgereikt valt dat aan te tonen.'
    Maar liefst 75 procent van de aanwezigen laat middels zijn stemkastje weten dat zij meer gevoel voor humor hebben dan de anderen. De meesten zijn er zelfs van overtuigd dat zij véél leukere grapjes maken. Thaler merkt na het zien van de resultaten droogjes op: 'Ik hoop dat u mij kunt volgen als ik zeg dat die uitslag niet kan kloppen. In werkelijkheid moet de verdeling natuurlijk 50-50 zijn. Niet iedereen kan grappiger zijn dan de ander.' ...  Het experiment blijkt niet alleen voor humor te werken.  ...
    Zijn eredoctoraat krijgt Thaler juist voor zulke experimenten uitgereikt. Ze laten niet alleen zien dat mensen lijden aan zelfoverschatting, maar ook dat ze bij het maken van keuzes vaak de fout ingaan. ...

En dat is dus al van 2005.

Alle volgende gevallen van het maken van de fout zijn dus absurd - en er zijn er genoeg (de Volkskrant, 02-02-2008, door Frans Verstraten, hoogleraar psychologische funktieleer aan de Universiteit Utrecht )
  Uri et Orbi

...   Nog niet zo lang geleden vroeg ik aan een nieuwe lichting van 550 psychologiestudenten of zij geloofden in het bestaan van paranormale gaven. Een handvol studenten stak een vinger op, dat leek goed nieuws. Psychologen weten echter ook dat niet iedereen zijn echte mening in de nabijheid van anderen durft te geven. Dus stelde ik de vraag een paar dagen later opnieuw, met dit verschil dat iedere student anoniem kon antwoorden met een persoonlijk stemkastje. Het resultaat overtrof mijn stoutste verwachtingen. Nu gaf meer dan 60 procent van mijn studenten aan in paranormale gaven te geloven. ...

Hahahaha!!!

Volgende (Dagblad De Pers, 20-04-2007, door Marcel Hulspas):
  God kan wachten

...    Is geloven nuttig? Gelovigen denken graag van wel. Ze denken dat hun gedrag beïnvloed wordt door hun geloof. Verstokte ongelovigen wijzen er dan graag op dat het aantal echtscheidingen in de VS juist het hoogst is in de meest gelovige staten. Deze week werd ook nog eens duidelijk dat de abstinence only-lessen op de Amerikaanse middelbare scholen, waarbij leerlingen te horen krijgen dat ze geen seks moeten hebben voor het huwelijk, geen enkel effect hebben. De pubers die deze lessen kregen, hebben op dezelfde leeftijd voor de eerste keer geslachtsgemeenschap als pubers die niet met dergelijke lessen werden lastiggevallen. Ook wat betreft condoomgebruik lopen de beide groepen niet uiteen.
    De regering-Bush heeft de afgelopen tien jaar bijna een miljard dollar gestoken in deze religieuze seksuele voorlichting. 'Weggegooid geld!', roepen de Democraten nu. Maar ik durf te wedden dat die leerlingen het daar niet mee eens zijn. Lessen in seksuele onthouding? Zeer nuttig! Daar wordt de samenleving ongetwijfeld beter van! Maar persoonlijk hebben ze er helaas geen tijd voor.

Oftewel: de daden staan volledig los van de woorden. Een zaak die in hoge mate geldt voor het hele geloof.

De volgende is min-of-meer een klassiekertje (de Volkskrant, 22-08-2007, van verslaggever Jaap Stam):
  Ouders: opvoeding moet strenger

Ouders vinden andermans kinderen asociaal en stiekem | 89 procent van ouders vindt dat school leerlingen best harder mag aanpakken


Tussentitel: Over de opvoeding van de eigen kinderen zijn ouders dik tevreden

Kinderen moeten strenger worden opgevoed en minder worden verwend, vinden ouders. Zij ergeren zich vooral aan de kinderen van een ander. Die vinden ze brutaal, asociaal, stiekem en ongehoorzaam. De opvoeding van hun eigen kinderen krijgt een dikke voldoende.
    Dat blijkt uit een onderzoek dat J/M, het maandblad voor ouders met schoolgaande kinderen, heeft laten uitvoeren ter gelegenheid van zijn tienjarig bestaan. Aan het onderzoek hebben 317 moeders en 296 vaders van basisschoolkinderen meegedaan. Volgens het uitvoerende onderzoeksbureau Qrius is dat representatief voor Nederlandse ouders. De resultaten worden vandaag bekendgemaakt.
    Tweederde van de ouders spreekt zich uit voor een straffere hand. Voor zover bekend is het voor het eerst dat ouders zich keren tegen een slappe aanpak in de opvoeding. ...
    De meeste vaders en moeders vinden dat ze het zelf prima doen. Ze geven zich gemiddeld een 7,2. Hun partner krijgt een 7,4. Moeders noemen als hun grootste fout dat ze te vaak toegeven en niet consequent genoeg zijn. Vaders vinden zich eerder te streng. Een kwart van de vaders en 9 procent van de moeders twijfelen (bijna) nooit aan zichzelf. ...

Sociologisch is het idee dat ouders hebben dat ze het zelf beter doen natuurlijk onzin: er is sociologisch gezien maar één groep ouders, en het oordeel over "ouders" slaat dus ook op zichzelf. Het afwijkende oordeel over zichzelf is dus puur iets dat de ouders verzinnen ten gunste van zichzelf, voor de enquête. Waaruit dus volgt dat een enquête volkomen onbetrouwbaar is, als het over zichzelf gaat
 
Nog een "Ik en ander"- voorbeeld, hier met vrij zware gevolgen (de Volkskrant, 31-03-2009, door Robert Giebels
  Banken willen heus wel een ander bonusbeleid

Het heeft wat van een Noord-Koreaanse verkiezingsuitslag: 98 procent van de bankiers wereldwijd meent dat de manier waarop banken hun werknemers plachten te belonen, mede de huidige financiële crisis heeft veroorzaakt.Het heeft wat van een Noord-Koreaanse verkiezingsuitslag: 98 procent van de bankiers wereldwijd meent dat de manier waarop banken hun werknemers plachten te belonen, mede de huidige financiële crisis heeft veroorzaakt.
    Het onderzoek is gedaan door de IIF, een wereldwijde associatie van 380 financiële bedrijven.
    Het is het zoveelste onderzoek waarbij bankiers zichzelf de kredietcrisis aanrekenen. Vaak komen ze tot de conclusie dat de sector als geheel het verkeerd heeft gedaan, maar dat ze zelf hun zaakjes op orde hebben. Zo vonden bankiers in een wereldwijd onderzoek van KPMG begin dit jaar dat gebrekkig risicobeleid een zeer belangrijke oorzaak van de crisis was. Maar hun eigen risicobeleid was naar hun overtuiging volledig in orde.  ...

Tja ...

En ook op het terrein der liefde wordt heel wat sociaal-gewensdacht (CNN.com, 04-09-2007
  Men want hot women, study confirms

Dating study: Men base their decisions mostly on physical attractiveness | Men are much less choosy than women | Women are aware of the importance of their own attractiveness to men

Science is confirming what most women know: When given the choice for a mate, men go for good looks. ...
    "Just because people say they're looking for a particular set of characteristics in a mate, someone like themselves, doesn't mean that is what they'll end up choosing," Peter M. Todd, of the cognitive science program at Indiana University, Bloomington, said in a telephone interview.
    Researchers led by Todd report that in Tuesday's edition of Proceedings of the National Academy of Sciences that their study found humans were similar to most other mammals, "following Darwin's principle of choosy females and competitive males, even if humans say something different." ...
    In the study, participants were asked before the session to fill out a questionnaire about what they were looking for in a mate, listing such categories as wealth and status, family commitment, physical appearance, healthiness and attractiveness.
    After the session, the researchers compared what the participants said they were looking for with the people they actually chose to ask for another date.
    Men's choices did not reflect their stated preferences, the researchers concluded. Instead, men appeared to base their decisions mostly on the women's physical attractiveness. ...
    Women's actual choices, like men's, did not reflect their stated preferences, but they made more discriminating choices, the researchers found. ... 

Spreekt voor zichzelf. Merk op dat op dit terrein, de leugen bijna eerder de regel lijkt te zijn dan de uitzondering.

Ietwat minder emotioneel terrein (de Volkskrant, 25-10-2007, door Bart Dirks):
  Strijd van Europa tegen zwartwerk wordt taai

Europa bindt de strijd aan met zwartwerk. Vooral in de bouwsector en de huishoudelijke hulp is het fenomeen de laatste jaren eerder toe- dan afgenomen, aldus eurocommissaris Vladimir Spidla (Werkgelegenheid, Sociale Zaken en Gelijke kansen).
    ‘Zwartwerk is uitermate schadelijk voor Europa’, zei de oud-premier van Tsjechië woensdag in Brussel. ...
    Een peiling in de 27 EU-landen biedt echter weinig reden tot optimisme. Bijna een kwart van de Europeanen zegt wel eens zwart te hebben gewerkt. Van de ondervraagden zei 5 procent de laatste twaalf maanden zwart te hebben (bij)geklust.
    Maar de verschillen tussen de landen zijn groot. Van alle Europeanen geven de Denen het meeste toe dat ze zwart hebben gewerkt (18 procent), gevolgd door de Letten (15 procent) en de Nederlanders (13 procent). De inwoners van de landen in het zuiden en het oosten van de EU zeggen het minst te zondigen: amper 1 procent in Cyprus en Malta, 4 procent in Griekenland.
    De onderzoekers noemen de lage uitkomsten in Zuid- en Oost-Europa ‘verrassend’. Geen wonder, want volgens studies is de informele economie juist het grootst in landen als Bulgarije, Roemenië, Italië en Griekenland.   ...
 

Om te brullen van de lach ... Natuurlijk is het zwartwerken in die informele zuidelijke economieën veel groter dan in Denemarken. Maar dat zeggen ze in het zuiden natuurlijk niet. Deels omdat ze er makkelijker over liegen, en deels omdat ze het misschien helemaal niet als zwartwerk zien - "Het is toch normaal ..."
    Maar waar het om gaat is de naïviteit van de onderzoekers, die geen kennelijk benul hebben van het begrip "sociaal wenselijk antwoorden".

In het volgende artikel vinden we twee voorbeelden van de schrijnende verschillen tussen verbale antwoorden en de realiteit van denken en handelen (VARA TV Magazine, nr. 43-2007, column door Paul Witteman ):
  Mutsen

Er is geen land in Europa waar per hoofd van de bevolking zo veel antidepressiva worden geslikt als in Nederland. Bijna een miljoen mensen gaat maandelijks met het receptje naar de apotheek om de chemische huishouding in het hoofd zodanig te wijzigen dat het leven weer dragelijk wordt. Het is een mooie uitvinding, die pil, maar het massale gebruik ervan geeft te denken over het geluk van de Nederlander. Het zijn vooral vrouwen die de gelukspilletjes gebruiken. Ik keek daarom op van het resultaat van een groot onderzoek, in opdracht van de damesbladen Opzij en Margriet waaruit bleek dat de Nederlandse vrouw gemiddeld erg tevreden is en haar leven een 7.8 geeft. Je zou natuurlijk kunnen zeggen dat daaruit blijkt dat de pillen goed helpen. Maar zouden de ondervraagden zo kortzichtig zijn dat ze, met de medicijnen binnen handbereik, hun leven als een feest ervaren? Ik uit mijn beleefde twijfels over de wetenschappelijke waarde van deze onderzoeksresultaten.
    Dat wantrouwen wordt nog versterkt door het antwoord op de volgende vraag die aan vrouwen van rond de veertig werd voorgelegd: Is kinderen krijgen het belangrijkste in uw leven? Een niet representatieve steekproef onder mijn vrouwelijke collega's van die leeftijd levert een bevestigende score rond de 80 percent op. En dan werk ik nog bij een behoorlijk progressieve organisatie. Maar wat blijkt uit het Margriet/Opzij-onderzoek: slechts 12% beantwoordt de vraag positief. Als dat zou kloppen, mag de jeugdzorg er de komende jaren van minister Rouvoet nog wel een paar honderd miljoen euro bij krijgen. Arme kinderen. ...  

En (VARA TV Magazine, nr. 2-2008, column door Dick Wensink):
  Kijkkunde

Nederlanders kijken naar documentaires, natuurfilms of programma's van de BBC. Maar het 'metertje' beweert anders.

Als je vraagt naar welke programma's Nederlanders graag kijken, dan zou je de indruk krijgen dat veel kijkers televisie voornamelijk gebruiken om er iets van op te steken of hoog cultureel te genieten.
    Het antwoord begint vaak met: documentaires, natuurfilms en reisprogramma's, een goede film, een concert of een kunstprogramma. Als favoriete zender komt daar vaak nog bij, BBC 2 of Arte.
    Daarom is het goed dat het kijkonderzoek niet aan mensen vraagt waar ze naar kijken, maar dat een 'metertje' dat vaststelt. Want dan blijkt dat die documentaire misschien wel heel leerzaam was, de natuur heel mooi, een verre reis avontuurlijk en Arte heel cultureel, maar dat er toch meer gekeken wordt naar het ijsdansen, sterren die dat nadoen, of kinderen van de sterren die dat weer nadoen, soap, reallife, spelletjes, grappenmakers en verkleedpartijen. Zelfs ontkleedpartijen. Als je er naar vraagt kijkt niemand ernaar, maar het metertje weet beter, ook seksprogramma's mogen rekenen op een trouwe schare liefhebbers. Hoewel de hausse van een paar jaar geleden voorbij lijkt, omdat veel adverteerders niet meer met deze programma's geassocieerd willen worden, zijn ze er nog. Sexcetera op Veronica bijvoorbeeld met gemiddeld 300.000 kijkers. En wie dat zijn?
    Veel mannen natuurlijk, omdat het toch wel erg kunstzinnig en documentair gemaakt is. En ook leerzaam. En zorgeloze spanningzoekers, verre landen niet waar.
    Zelf nooit gezien? In 2007 keek meer dan 60% van alle Nederlandse mannen er wel eens naar en bijna 50% van alle Nederlandse vrouwen! Daaronder ook 20% van de standvastige gelovigen, om even snel te kijken hoe erg het is.

En toch maar weer gaan vragen ...

Een samenvatting van het voorgaande met wat meer bewijs (Dagblad De Pers, 03-11-2008, door Marcel Hulspas):
  Uw leven is niet wat het lijkt

Houden we nu wel of niet van ontwikkelingshulp? Volgens de Nationale Commissie voor Internationale Samenwerking en Duurzame Ontwikkeling (NCDO), een club die jaarlijks33 miljoen subsidie van de overheid krijgt om de noodzaak van ontwikkelingshulp te verkondigen, zijn we er dol op. De Commissie baseert dat op een jaarlijkse enquête uitgevoerd door Bureau Motivaction, waarbij gevraagd wordt: 'Moet de Nederlandse ontwikkelingshulp vergroot worden, gelijk blijven of verminderd worden? 'Tweederde van de ondervraagden zegt daarop 'jazeker'. Reden voor het NCDO om te beweren dat ontwikkelingshulp moet blijven, misschien zelfs uitgebreid moet worden.
    Maar in diezelfde enquête wordt ook de vraag gesteld: 'In vergelijking met de meeste andere landen geeft Nederland relatief veel geld uit aan ontwikkelingssamenwerking. Vindt u dat het zo moet blijven of moeten we evenveel uitgeven als andere landen, of minder? En dan zegt de helft van de ondervraagden: we moeten evenveel uitgeven als andere landen - minder dus dan nu. En 17 procent zegt dan dat Nederland best wel minder mag uitgeven dan andere landen.
    Wie die cijfers optelt, constateert dat tweederde van de Nederlanders wil bezuinigen op ontwikkelingssamenwerking. Dat vermeldt de NCDO er niet bij. Reden voor VVD-kamerlid Arend Jan Boekestijn om de club in het recente nummer van onze Wereld te beschuldigen van manipulatie van de publieke opinie.

Tragisch bewijs
Maar het echte probleem is natuurlijk dat Nederlanders niet weten wat ze (moeten) zeggen. Enquêtes zijn daarvan het tragische bewijs. De antwoorden die we op vragen zoals bovenstaande geven, zeggen niets over onze mening over het onderwerp (zoals ontwikkelingssamenwerking). Ze verraden onze voortdurende neiging om, bij het geven van antwoorden, het sociaal meest wenselijke antwoord te geven. De bijgevoegde informatie is van groot belang. Wanneer de enquête suggereert dat Nederland voortreffelijk bezig is, sluiten de geënquêteerden zich daar graag bij aan en zijn ze bereid er nog een schepje bovenop te doen. Wanneer daarentegen gesuggereerd wordt dat we uit de pas lopen, is de reactie: doe maar gewoon, da's gek genoeg. Het kan wel wat minder.
    Met een gefundeerde mening over het onderwerp heeft dit alles niets te maken. Afgezien van diegenen die beroepshalve geacht worden een gefundeerde mening te hebben (en daar niet van af te wijken), hebben de meeste mensen over een breed scala van maatschappelijke onderwerpen in wezen geen vaststaand standpunt. Onze 'mening' wordt bepaald door de formulering van de vragen, de aangeboden informatie, de druk van de groep ('dit hoor ik te vinden') en onze stemming.

Aangename illusies
Maar 'een mening hebben' is slechts een van de vele illusies die ons leven veraangenamen. Een andere is dat vrijwel iedereen denkt dat hij uitzonderlijk aardig en sympathiek is. Als we uit onze slof schieten, is dat om volstrekt begrijpelijke redenen waarvoor anderen begrip zouden moeten opbrengen. (Het verschijnsel is verwant aan het feit dat het overgrote deel van de weggebruikers vindt dat ze beter rijden dan de gemiddelde weggebruiker. )
   Een fraaie test van deze illusie zijn enquêtes waarbij mensen gevraagd wordt of ze denken naar de hemel te mogen. Dan antwoordt bijna 90 procent eigenlijk wel zeker te weten dat ze de hemelpoon zullen halen. Een antwoord dat mede bedoeld is om een gunstige indruk te maken, uiteraard, maar opvallend is dat men over algemeen bewonderde publieke personen vaak harder oordeelt. Gevraagd of Moeder Theresa in de hemel is aanbeland, zegt slechts zo' n 80 procent 'ja'. En slechts 60 procent verwacht daar prinses Diana te zullen zien. Voor hun fouten gelden blijkbaar geen verzachtende omstandigheden.   ... 

En ook hier leren we niets van.

Een voorbeeld van twee fouten (de Volkskrant, 03-10-2007):
  Kinderen maken niet gek

Ouders klagen vaak dat ze gek worden van hun kinderen, maar het tegenovergestelde zou weleens het geval kunnen zijn, aldus Amerikaanse onderzoekers deze maand in The American Journal of Public Health. Wetenschappers van het onderzoeksinstituut RTI International in Noord-Carolina vergeleken gegevens van 33 duizend Amerikaanse volwassenen die in 2002 meededen aan een landelijk onderzoek naar drugsgebruik en gezondheid. Hun conclusie: 12 procent van de niet-ouders van 18-49 jaar verkeert jaarlijks wel een keer in psychische nood, tegenover 8,9 procent van de ouders. Jongvolwassenen met een laag inkomen die gescheiden zijn, of van wie de relatie is verbroken, lopen het meeste risico met serieuze psychische problemen te worden geconfronteerd, aldus de onderzoekers. 

Het foute verband tussen mondelinge klachten en feitelijke klachten is een voorbeeld van het effect van mondeling onderzoek: je krijgt geen betrouwbare antwoorden.
    De laatste zin bevat een andere fout: het verband kan ook de andere kant op liggen: het hebben van psychische problemen kan ook de oorzaak zijn van het hebben van een laag inkomen en gescheiden of verbroken relaties.

Een voorbeeld van hoe dit werkt (de Volkskrant, 04-09-2009, van een verslaggever):
  Zes jaar cel geëist voor besnijdenis

OM acht vader schuldig aan besnijden eigen dochter | Meisje door genitale verminking voor het leven getekend.

...Tegen de 30-jarige Mustapha El M. uit Haarlem is donderdag voor de rechtbank in Haarlem zes jaar celstraf geëist wegens het besnijden van zijn 5-jarig dochtertje. Volgens officier van justitie M. Lengers is het meisje door de genitale verminking voor het leven getekend.
    De vader van Marokkaanse afkomst werd in oktober 2008 opgepakt nadat zijn dochtertje aan haar pleegmoeder had verteld dat haar 'pappa met een grote schaar in haar plasser had geknipt'. Uit onderzoek is gebleken dat haar clitoris en kleine schaamlippen voor een deel zijn verdwenen. Volgens het Openbaar Ministerie (OM) kan het niet anders dan dat El M. hiervoor verantwoordelijk is.
    De verdachte ontkende die beschuldiging met klem. Hij verweet het OM een tunnelvisie en zelfs discriminatie. Volgens hem is het onderzoek er uitsluitend op gericht geweest om hem te veroordelen. De Haarlemmer stelde dat het misdrijf ook door anderen kan zijn gepleegd. ...

Een prachtig voorbeeld van aangeleerd taalgebruik: "discriminatie" komt van de multiculturalisten, en "tunnelvisie" uit de advocatenwereld. Een voorbeeld van antwoorden naar een beeld, en niet naar een werkelijkheid.
 
Een voorbeeld dat talloze andere overbodig maakt (Volkskrant.nl, peiling, 28-12-2009):
 
Peiling

Jasper Schuringa overmeesterde op vlucht 253 van Delta-Northwest de Nigeriaan die probeerde een aanslag te plegen. Zou u hetzelfde hebben gedaan als Schuringa?
63,2%
 
Ja
36,8%
 
Nee
Aantal deelnemers: 2033

 Uit vele onderzoeken is vast komen te staan dat hoogstens iets als 10 procent van de mensen dit soort acties ondernemen - bij verdrinkingsgevallen kunnen tientallen tot enkele honderden mensen op de kant staan zonder dat er iemand iets onderneemt. Volgens onderzoek uit de luchtvaart is het percentage mensen dat genoeg initiatief heeft om zichzelf te redden bij een ongeluk niet hoger dan rond de 50.
    De afbeelding hiernaast illustratie het eerste van deze getallen. Tussen Schuringa en de dader zaten ongeveer een tiental mensen die een gelijk of beter zicht hadden op de situatie, en desondanks niets ondernamen. Schuringa is over deze mensen heen geklommen, en zelfs dat bracht hen aanvankelijk niet in beweging. Van de 63 procent, liegt op zijn minst 90 procent dat hij barst.

Nog een aardige (DePers.nl, 16-05-2009):
  Jeugd conservatiever over God

Jongeren geloven meer in het Bijbelse scheppingsverhaal dan ouderen. Dat blijkt uit een rondvraag van het Nederlands Dagblad (ND) onder predikanten van de Protestantse Kerk in Nederland (PKN). Het onderzoek is zaterdag in het ND te lezen.
   De krant ondervroeg 1280 dominees van de PKN. Dat God de aarde in zes dagen van 24 uur heeft geschapen, zoals in het boek Genesis 1 beschreven, vindt meer navolging bij jongere gelovigen dan bij de oudere kerkgangers, zien de dominees.
    Het ND nam de enquête af in het kader van het Darwinjaar.   ...

Predikanten ondervragen over wat jongeren over God vinden. Wat een grap ...

Ongetwijfeld niet tot slot, maar wel een einde wat betreft alle redelijke twijfel (DePers.nl, 13-07-2010):
  Woordtest verraadt de toekomst van een relatie

We liegen gemakkelijk zonder het zelf te weten. Richard Rogge heeft een test ontworpen die onze verborgen gevoelens verraadt.

Natuurlijk zegt bijna iedereen volmaakt gelukkig te zijn met zijn of haar partner. Psycholoog Ronald Rogge van de Universiteit van Rochester heeft een eenvoudige test ontwikkeld om de waarheid te achterhalen.
    ... bedachten Rogge, Soonhee Lee and Harry Reis een nieuwe test. Ze namen ruim tweehonderd vrijwilligers die allemaal een (zeiden ze) goede relatie hadden. Ieder gaf de onderzoekers de voornaam van zijn liefde, en een paar trefwoorden (een koosnaampje, een typische eigenschap) die onlosmakelijk met die persoon verbonden zouden zijn.
    Daarna kregen ze op een beeldscherm een reeks woorden te zien. Lieftallige woorden, (‘vrede’, ‘vakantie’), probleemwoorden (‘conflict’, ‘dood’) en de woorden die ze zelf hadden ingeleverd. In een eerste ronde moesten ze op een knop drukken bij het zien van lieftallige woorden gevolgd door een van hun eigen woorden; in de tweede bij boosaardige gevolgd door hun eigen woorden. De onderzoekers maten de ‘bedenktijd’.
    Het idee is dat als de onbewuste associatie bij de eigen partners, en de eigen woorden, ‘goed’ is, de eerste taak vlotter verloopt dan de tweede. En omgekeerd: als er een onbewuste associatie bestaat tussen ‘probleem’ en ‘partner’, dan verloopt de tweede test vlotter. Enkele maanden later werd gekeken of de relaties nog ‘aan’ waren. Zodra bleek dat een deelnemer de tweede test sneller uitvoerde dan de eerste, konden de onderzoekers accuraat voorspellen dat die schijnbaar probleemloze relatie snel op de klippen was gelopen. Rogge: ‘Het gaf ons een uniek inkijkje in wat ze ècht van hun partner vonden.’

Vooral niets vragen, dus.

Er is nu zelfs neurologisch bewezen dat de twee processen van uitspraken en beslissingen gescheiden liggen: (DePers.nl, 28-06-2010, door Marcel Hulspas):
  Scans tonen wat het onbewuste wil

Breinonderzoekers kunnen zien wat u wilt, ook al weet u van niks.

Californische neurologen hebben het stukje brein gelokaliseerd dat stiekem onthult wat u denkt – ook al bent u zich daar niet van bewust en zegt u iets heel anders.
    Matthew Lieberman en Emily Falk van de Universiteit van Los Angeles lieten proefpersonen (twintig studenten, jongens en meisjes) reclames horen over een bepaald merk zonnebrandmiddel, terwijl hun brein werd gescand. Daarna vroegen ze hen wat ze van het product vonden, en of ze de komende week van plan waren om zonnebrand te kopen. De antwoorden liepen uiteen van ‘dat spul koop ik nooit’ tot ‘vast wel’.
    Veel onderzoekers laten het daarbij, en gaan dan op zoek naar een correlatie tussen de resultaten van de scans en de door de proefpersonen getoonde waardering. Daar komt steevast iets aardigs uit, maar Liebermann en Falk gingen een stap verder. Ze belden hun proefpersonen een week later op om te vragen of ze zonnebrand hadden gekocht, en zo ja, van welk merk. Daaruit bleek ten eerste dat mensen slecht in staat zijn om hun koopgedrag te voorspellen: menigeen die had gezegd dat niet te zullen doen, had die week toch een fles zonnebrand aangeschaft. Ook wat betreft de waardering van het merk en de uiteindelijke aankoop liepen uitspraak en gedrag vaak uiteen.
    Met die gegevens in de hand keken de onderzoekers nog eens goed naar de scans, en ontdekten zo het kleine gebiedje van ons brein dat goed correleert met ons werkelijke gedrag, dat met andere woorden verraadt of de proefpersoon het smeersel zal kopen of niet, ongeacht wat hij of zij zegt. Lieberman: ‘Aan de hand van de activiteit in dat hersendeeltje kunnen we in driekwart van de gevallen correct voorspellen of de persoon het product zal kopen. Als je alleen maar afgaat op wat ze zeggen, zit je hooguit in de helft van de gevallen goed.’ ...

Nu is een willekeurige verdeling tussen al dan niet kopen een 50-50 zaak, dus 50 procent goed zegt niets. De uitkomst van het onderzoek is dus dat dat een flink deel van de zichtbare hersenprocessen niets zegt over de daadwerkelijke beslissing, en dat wat mensen over de beslissing zeggen niets zegt over de daadwerkelijke beslissing. Je kan kan die twee laatste gelijkstellen (een stap die met voorzichtigheid gepaard moet gaan), en concluderen dat wat mensen zeggen komt uit het gebied dat dat niets zegt over de daadwerkelijke beslissing.

Weer eentje van de archetypische "Franse overspel"-soort (de Volkskrant, 27-09-2010, van correspondent Gert-Jan van Teeffelen):
  Waar zijn de Britse homo's gebleven?

Waar zijn de Britse homoseksuelen? Zitten ze allemaal nog in de kast, of zijn het er echt zo weinig? Volgens het nationale bureau voor de statistiek voelt slechts 1 op de 100 Britten zich aangetrokken tot partners van hetzelfde geslacht.
    Het Office for National Statistics (ONS) houdt vol dat zijn schatting accuraat is. In het grootste Britse bevolkingsonderzoek ooit stelden statistici vragen aan bijna een kwart miljoen Britten, het twintigvoudige van de laatste steekproef tien jaar geleden. Van de mannen zei 1,3 procent homoseksueel te zijn, bij vrouwen was dat slechts 0,6 procent.
    Als degenen die zich biseksueel voelen – in overgrote meerderheid vrouwen – erbij worden opgeteld, komt het percentage homo- en biseksuelen onder de Britten uit op 1,5 procent. Dat is een stuk lager dan de 5 tot 7 procent waarvan doorgaans wordt uitgegaan.   ...

Hoe zou dat nou komen:
  Volgens Stonewall, een belangengroep voor homoseksuelen, moet de Britse schaamtecultuur een rol hebben gespeeld bij de lage score uit het onderzoek. Maar het ONS zegt hiermee rekening te hebben gehouden.

Nou, dus niet genoeg. Er is vastgesteld dat het aantal mensen met homofiele neiging redelijk contant is over alle culturen, en alleen het ervoor uitkomen verschilt.

Het volgende geval is weer van de "Franse overspel" soort: de totalen kloppen niet (de Volkskrant, 29-03-2010, van verslaggever Peter de Waard):
  H-woord ligt bij kiezers VVD gevoeligg

Paradox: de aftrek van rente over de hypotheek mag worden beperkt, maar niet door de eigen partijParadox: de aftrek van rente over de hypotheek mag worden beperkt, maar niet door de eigen partij.

Hoewel een grote meerderheid van de Nederlanders nu een beperking van de hypotheekrenteaftrek aanvaardbaar vindt, kunnen veel politieke partijen dit electoraal gezien nog beter niet in hun programma’s opnemen – laat staan van de daken schreeuwen.
    De VVD zou in dat geval zelfs van de nu voorspelde 25 zetels naar 14 zetels kunnen dalen. Van de VVD-achterban zou 41 procent overwegen naar een andere partij over te lopen, terwijl 19 procent dan nog zekerder op de partij zou stemmen en 40 procent het niets uitmaakt. Per saldo is dat een verlies van 22 procent.   ...

Een zeer duidelijke illustratie van de waarde van enquêtes: in de ene set antwoorden zegt men ervoor te zijn, en in de andere tegen - neem je het gemiddelde over alle partijen komt je circa 10 procent overlopers, dus een meerderheid tegen, maar met name, is de balans negatief: er gaan wel veel mensen weg bij sommige partijen maar die komen er elders niet bij. Die balans klopt dus niet, tenzij je er vanuit gaat er een groot deel niet-stemmers bijkomt.

Een zeldzaam teken van onderzoekers die het effect wel kennen. En meteen weer een bevestiging van de naïviteit en/of domheid en/of corruptie van de overigen (de Volkskrant, 30-11-2010, van verslaggeefsters Anneke Stoffelen):
  Onderzoekers VU Amsterdam:

Oppassen stimuleert tot meer kleinkinderenn

Hoe vaker opa's en oma's op hun kleinkinderen passen, hoe groter de kans dat de familie zich verder uitbreidt. Dat hebben onderzoekers van de Vrije Universiteit ontdekt in een volgstudie naar 182 grootouders. In de gezinnen waar opa of oma in 1992 weleens kwam babysitten, werden acht jaar later aantoonbaar vaker één of meer extra kinderen geboren. Het effect is het grootst in gezinnen waar allebei de ouders werken.   ...Hoe vaker opa's en oma's op hun kleinkinderen passen, hoe groter de kans dat de familie zich verder uitbreidt. Dat hebben onderzoekers van de Vrije Universiteit ontdekt in een volgstudie naar 182 grootouders. In de gezinnen waar opa of oma in 1992 weleens kwam babysitten, werden acht jaar later aantoonbaar vaker één of meer extra kinderen geboren. Het effect is het grootst in gezinnen waar allebei de ouders werken.   ...
    Overigens zijn de gevolgde families niet zelf gevraagd naar de redenen die meespeelden bij het wel of niet krijgen van nog meer kinderen. 'Dit onderzoek focust zich op invloeden op een evolutionair niveau', zegt Thomése. 'De beweegredenen die mensen zelf opgeven, zijn maar een deel van de werkelijkheid.'    

Maar ja, dit heeft ook geen politiek-correct gevoelig element ...

Notoire oorzaak van enquête-leugens: automobilisme (de Volkskrant, 19-02-2011, door Malou van Hintum):
  Verkeer maakt de ander boos

De meeste automobilisten (60 procent) denken dat automobilisten in het verkeer sneller geïrriteerd raken dan in andere situaties. Dat blijkt uit onderzoek waarover Psychologie Magazine publiceert. Een even groot percentage denkt dat ze zelf in het verkeer niet sneller geïrriteerd raken dan elders. Vijfhonderd ANWB-leden werkten aan het onderzoek mee. ...

En dat geldt voor alles waarbij dit soort emoties betrokken zijn.

Naar aanleiding van het geval van sociaal-pyscholoog Diederik Stapel die enquête-uitslagen zelf vervalste, komt een andere onderzoeker met wat andere bezwaren tegen enquêtes (de Volkskrant, 03-11-2011, door Illya Jongeneel, deed in 1985 als een der eersten onderzoek naar voetbalsupporters):
  Enquête is slechte onderzoeksmethode

Of wetenschappelijk onderzoek betrouwbaar wordt geacht, hangt te vaak af van de status van de onderzoeker.


De commissie die de fraude van hoogleraar Diederik Stapel onderzocht, concludeert dat de omvang van de fraude verbijsterend is. Het is echter niet de omvang van de fraude, maar de verbazing en ophef rondom de fraude die verbijsterend is.
    Al jaren zou bekend moeten zijn dat de onderzoeksmethode die veelal gebruikt wordt in sociaal-psychologische onderzoeken, namelijk de schriftelijke enquête, geen betrouwbare resultaten oplevert.   ...
    Deze fraudegevoelige onderzoeksmethode heeft er al jaren geleden toe geleid dat opdrachtgevers de opdrachten gunden aan die onderzoekers die resultaten leverden waarmee de opdrachtgevers vooruit konden en wilden. Voor de onderzoekers is het in die situatie verleidelijk, ja zelfs noodzakelijk om te overleven, als onderzoeksresultaten tegemoetkomen aan de wensen van de opdrachtgever. De mogelijkheid tot extra media-aandacht is hierbij een voordeel.   ...
    Drie voorbeelden uit mijn eigen praktijk.
    In 1988 werd een toonaangevend onderzoek gedaan onder voetbalsupporters die naar de EK'88 in Duitsland gingen. Het onderzoek werd gedaan in de supportersbussen die de eerste dag aankwamen in Düsseldorf. Onderzoekers deelden in de bussen enquêteformulieren uit en beloofden 5 gulden voor elk ingevuld formulier. Ik heb met eigen ogen gezien dat in de bus waarin ik zat alle formulieren gegeven werden aan een vriendin van één van de hooligans die ze vervolgens allemaal braaf voorzag van de meest vreemde en uiteenlopende antwoorden.
    ...  De conclusies aan de hand van dit onderzoek waren echter wel maatgevend voor toekomstig politiek beleid en de onderzoeksleider werd deskundige op het gebied van de gedragingen van voetbalsupporters.
    Een ander toonaangevend onderzoek werd begin jaren '90 gedaan onder de harde-kernvoetbalsupporters van verschillende clubs via de toen op verschillende plaatsen actieve supportersprojecten. De formulieren werden uitgedeeld in het supportershome en aan het eind van de avond weer opgehaald.
    De tachtig harde-kernsupporters van Go Ahead Eagles uit Deventer overlegden onderling welke gevolgen hun beantwoording kon hebben. Zij besloten dat het voor een gewelddadige uitstraling van de Deventer hooligans goed was om alle antwoorden op vragen over hun crimineel verleden of hun gewelddadigheid zwaar te overdrijven. Ook de resultaten van dit onderzoek werden maatgevend voor zowel het politieke beleid als de manier waarop de politie omging met voetbalsupporters en hooligans.   ...

Dit zijn voorbeelden van ernstige fouten in de uitvoering. De fundamentele fout van het psychologisch of sociaal wenselijk antwoorden, wordt hier over het hoofd gezien. Maar er wordt nog wel geraakt aan de reden dat veel van dit soort fouten hebben kunnen blijven doorwoekeren:
  Deze fraudegevoelige onderzoeksmethode heeft er al jaren geleden toe geleid dat opdrachtgevers de opdrachten gunden aan die onderzoekers die resultaten leverden waarmee de opdrachtgevers vooruit konden en wilden. Voor de onderzoekers is het in die situatie verleidelijk, ja zelfs noodzakelijk om te overleven, als onderzoeksresultaten tegemoetkomen aan de wensen van de opdrachtgever. De mogelijkheid tot extra media-aandacht is hierbij een voordeel.

Men wilde doodgewoon frauderen. Wat natuurlijk in nog versterkte mate geldt zodra er niet alleen geld of een opdracht achter het onderzoek zit, maar ook nog eens ideologie - met name de eigen ideologie van de onderzoekers. En over welke ideologie we het dan hebben als eerste hebben zou bekend moeten zijn: het multiculturalisme. Met als les: geen enkele sociologisch onderzoek met een positieve uitkomst voor het multiculturalisme is te vertrouwen, tenzij bevestigd door onafhankelijke feiten  .

Nog iemand anders is de omissie van de grootste methodefout opgevallen (de Volkskrant, 04-11-2011, ingezonden brief van Willem Heijster, Breda, psycholoog):
  Piet Vroon

Volgens Illya Jongeneel (O&D, 3 november) zou al jaren bekend moeten zijn dat de methode die vaak gebruikt wordt in sociaal-psychologisch onderzoek, namelijk de schriftelijke enquête, geen betrouwbare resultaten oplevert. Dat klopt. Al jaren geleden schreef de toenmalige hoogleraar psychologie Piet Vroon regelmatig in zijn Volkskrant-column dat 'mensen niet doen wat ze zeggen en niet zeggen wat ze doen'.

En nog twee fouten aangemeld door briefschrijvers (de Volkskrant, 19-04-2012, ingezonden brief van Jan Vandenbroucke en Frits Rosendaal, beiden hoogleraar klinische epidemiologie, LUMC):
  Medisch gesjoemel

Bij wetenschappelijk onderzoek wordt argwaan gewekt als de resultaten te mooi zijn om waar te zijn. Zo vergaat het ons ook bij het lezen van het artikel '1 op de 7 artsen ziet weleens gesjoemel' (Binnenland, 12 april) gebaseerd op een enquête van artsentijdschrift Medisch Contact. 15 procent van de artsen zegt 'van nabij' te hebben gezien 'dat wetenschappelijke resultaten werden verzonnen'.
    Aangezien 82 procent van de respondenten (de helft deed trouwens niet mee) niet gepromoveerd is, en driekwart niet wetenschappelijk werkzaam is, behoren zij tot een groep artsen die ten hoogste één keer echt zelf heeft meegedaan aan wetenschappelijk onderzoek - als student of arts-assistent. Dat houdt in dat het dan telkens bij deze eerste keer al raak was. Zo erg kan het niet zijn. Uit internationaal onderzoek blijkt dat ruim 12 procent van de beroepswetenschappers collega's verdachten van het verzinnen van data. Het gaat om enquêtes onder wetenschappers die met veel andere wetenschappers in contact zijn gekomen. De kans dat zij ooit een collega hebben verdacht van het verzinnen van data wordt daardoor uiteraard hoger.
    Maar er is nog een fenomeen. Heel veel mensen kunnen 'van nabij' iets ernstigs meemaken dat toch heel zeldzaam is. Stel dat bij een voetbalwedstrijd van een jeugdclub één jongetje een hartstilstand krijgt.
    Dat is een gebeurtenis die zowat even zeldzaam is als een blikseminslag. Echter, bij de club voetballen 550 kinderen. Daar zijn dus 1.100 ouders, en nog een heel aantal meer vrijwilligers, scheidsrechters, trainers e.d. bij betrokken. Stel dat Medisch Contact geïnteresseerd raakt in de gevaren van sport voor kinderen met nog niet-erkende hartafwijkingen, en ouders enquêteert bij de vereniging (en ook bij de uitspelende vereniging), dan vermoeden wij dat een zeer hoog percentage zal zeggen weleens een ernstige cardiale acute gebeurtenis bij een kind te hebben meegemaakt: vermoedelijk heeft 10 procent het gezien, en zal bijna iedereen er van weten.
    Even toegepast op fraude: als men anno 2012 aan hoogleraren sociale psychologie zou vragen of zij 'van nabij' een collega kennen die ooit gegevens heeft gefabriceerd, dan is het antwoord op dit ogenblik vermoedelijk 100 procent. De bevindingen zijn dan ook te beschouwen als een rare uitbijter in het onderzoek naar fraude; net iets te extreem om waar te zijn.

Nog meer potentiële oorzaken van vervorming. En allemaal gerelateerd aan dezelfde foute basis: het stellen van vragen.

Nog maar eens een internationaal voorbeeldje (de Volkskrant, 06-11-2013, van verslaggever Pieter Smit):
  Nederlander het depressiefst

Van alle Europeanen zijn de Nederlanders de echte sombermansen. Maar 'we hebben niet meer hulp nodig dan Duitsers of Belgen'.


Depressiviteit rukt wereldwijd op. Het aantal levensjaren dat mensen ongemak ondervinden door depressie steeg sinds 1990 met ruim 37 procent. Nederland is de 'depressiefste' man van Europa.
    Onderzoekers van de Universiteit van Queensland presenteerden gisteren in PLOS Medicine het Global Burden of Disease 2010, wat geldt als de meest uitgebreide studie naar ongemak en dood door ziekten. De absolute groei in depressieve levensjaren die zij vonden, is in zijn geheel te wijten aan de wereldwijde bevolkingsgroei en vergrijzing.    ...

Reden nummer één waarom Nederlanders bovenaan staan: ze zijn het meest open over dit soort zaken waa5rdoor ze bij enquêtes het eerder zullen toegeven. Reden nummer twee waarom Nederlanders bovenaan staan: ze zijn het meest o[pen over dit soort zaken, en zullen dus het eerst hulp zoeken. Onderzoek dat deze factoren niet noemt, zoals dit onderzoek, is primitief. Ook al zeggen ze dit soort dingen:
  Onderzoeksleidster Alize Ferrari maakt in een reactie nog een kanttekening. 'Door een onzekerheidsmarge is het niet gezegd dat de hoog en laag scorende landen significant afwijken van het wereldgemiddelde.'

Of misschien juist wel als ze dit soort dingen zeggen, want de onzekerheidsmarge is een veel minder belangrijke factor dan de genoemde systematische verstoringen.

Weer een flagrant Nederlands geval (de Volkskrant, 10-12-2013, van verslaggeefster Sterre Lindhout):
  Agent RR01 is alleen nog een stem

De 17-jarige Rishi wordt in 2012 gedood door een politiekogel. Tijdens de rechtszaak tegen de schutter acht justitie doodslag bewezen.

...
Tussenstuk (door Guido van Eijck):
De dilemma's van de agent

Mag ik naar mijn wapen grijpen?
Iedere agent weet dat hij geweld mag gebruiken om aan de belangrijkste opdracht van de politie te voldoen: de wet handhaven. 'Een agent mag een vuurwapen gebruiken om de rechtsorde te beschermen, indien de aanhouding niet met een lichter middel is te realiseren', zegt Jaap Timmer, universitair hoofddocent Politie Studies aan de Vrije Universiteit.
    Wanneer doet zo'n situatie zich voor? 'De meeste agenten schieten uit zelfverdediging', zegt Frank Giltay, voorzitter van de Ondernemersraad van de Nationale Politie. 'Je doet het alleen als het niet anders kan.'
    Zo'n veertigduizend Nederlandse agenten hebben een pistool op zak. Uit onderzoek blijkt dat zij tijdens hun dienst vaker naar de wapens grijpen dan collega's in andere Europese landen. ...

Uit dat onderzoek blijkt alleen dat Nederlandse agenten eerder toegeven naar het wapen te hebben gegrepen dan in andere landen.

En een vrijwel identiek geval, maar dan betreffende de man-vrouwverhouding (de Volkskrant, 06-03-2014, door Marjon Bolwijn):
  Drie vragen over  | Geweld tegen vrouwen

Is de Nederlandse man zo veel agressiever?

Eén op de drie vrouwen in de Europese Unie heeft te maken gehad met fysiek of seksueel geweld. Nederland hoog scoort hoog op de geweldsladder. Wat is de verklaring?


Wat is precies onderzocht?
Het Europees Agentschap voor Grondrechten in Wenen heeft een representatief onderzoek uitgevoerd onder 42 duizend vrouwen van 18 tot 74 jaar in 28 lidstaten van de Europese Unie. Hun is in uitvoerige persoonlijke interviews gevraagd naar hun ervaringen met geweld in het voorgaande jaar. ...Uit het onderzoek blijkt dat 33 procent van de vrouwen - in totaal 62 miljoen personen - in de EU te maken heeft gehad met fysiek of seksueel geweld. ... Het hoogste scoort Denemarken met 52 procent. In Nederland gaat het volgens het Agentschap om 45 procent van de vrouwen. Polen is hekkensluiter met een kleine 20 procent.    ...

Dit is een opeenstapeling van methodologisch fouten. Ten eerste heeft hoogstvermoedelijk dat Europese Agentschap helemaal niets zelf onderzocht, maar op zijn best zelf onderzoeken laten doen door partijen in ieder van de landen, en vermoedelijker gewoon bestaande onderzoeken gebundeld. In beide gevallen is de vergelijkende waarde al bijna nul, want in vrijwel alle landen speelt nationale trots de absolute boventoon, en slechte rapportcijfers over de eigen cultuur zijn daarvan absoluut niet te verwachten. Om heel precies te zijn: hoe slechter de cultuur, hoe groter de neiging dat te verdoezelen.
    Dan de onderzoeksvragen zelf. de uitslag ervan gaat volkomen in tegen alle andere trends, die laten zien dat de positie van vrouwen slechter is naarmate je van Noordwest-Europa oostelijker of zuidelijker trekt uitleg of detail (net als alle soortgelijke beschavingsindices ).
    De Volkskrant gaat in haar onbenul de vraag naar de oorzaak uitvoerig behandelen:

Tezamen met een grafiek waaruit blijkt dat de Nederlandse man qua agressie jegens vrouwen op de vierde plaats staat, met een toppositie voor Denemarken. En Finland op twee. En Zweden op drie:

Het is dat het onderzoek beperkt is tot Europa, anders hadden vermoedelijk Saoedi-Arabië en Soedan ge-topscoord als landen met de minste agressie jegens vrouwen.
     Iedereen kan op zijn klompen, aan zijn theewater, en zijn gezonde verstand voelen dat er hier iets grondig mis moet zijn gegaan. Als je in Zweden alleen al meer dan een seconde naar een vrouw kijkt, loop je al een uitstekende kans op een proces wegens verkrachting. In de Soedan doen ze nog aan steniging van overspelige vrouwen.
    De verklaring hiervan kan in één enkele zin afgedaan worden: vanuit Noordwest-Europa oostelijker of zuidelijker gaand, is agressiviteit jegens vrouwen steeds gewoner en durven vrouwen er steeds minder over te vertellen - uit angst voor die agressiviteit. De werkelijkheid is precies het omgekeerde van de cijfers, omdat die cijfers niet de agressiviteit weergeven, maar de bereidheid om erover te praten. En volgens het adagium van dr. Phil "You must acknowledge it, before you can address it", betekent dit dat het probleem van de agressiviteit van mannen tegen vrouwen het grootst is daar waar men het minst bereid is om erover te praten.
    De publicatie van dit artikel in deze vorm (ergens in de uitvoerige bespreking wordt dat punt minder bereid zijn tot praten wel genoemd) is van een onvoorstelbare absurditeit, die maar op één manier verklaard kan worden: de ideologische bezetenheid van de betrokkenen. Met name valt hier te denken aan degene die verantwoordelijk is voor de publicaties over wetenschappelijke zaken: de chef-wetenschap Maarten Keulemans uitleg of detail . Slechts deze factor of die van ultieme stupiditeit, kan dit verschijnsel verklaren. Voorlopig is de ideologische bezetenheid de meest voor de hand liggende.

Maar ideologische bezetenheid is iets dat in dit soort kringen van de maatschappij: media, "intellectuelen" en dergelijke, een epidemie is. Dus dit gevolg van de methodologische domheid was eigenlijk voorspelbaar (de Volkskrant, 08-03-2014, door Deb Appel, politicoloog, en houdt zich bezig met de rol van de media in de democratie):
  Vrouwvijandigheid echt niet voorbij

Nederlandse vrouwen ervaren zo vaak seksueel geweld dat het klimaat er hier blijkbaar gunstig voor is.


Deze week publiceerde het Europees Agentschap voor Grondrechten in Wenen (FRA) een grootschalig onderzoek waaruit blijkt hoe vaak vrouwen in de Europese Unie slachtoffer zijn van geweld. In Europa zegt een op de vier vrouwen met fysiek of seksueel geweld te zijn geconfronteerd. Ruim 33 procent van de Europese vrouwen lijdt onder geweld - dat zijn 62 miljoen vrouwen.

Nederlandse vrouwen scoren uitzonderlijk hoog op de specifieke vraag of zij sinds hun 15de ooit slachtoffer zijn geweest van seksueel geweld: 18 procent antwoordde 'ja'. Dat is, na Denemarken, het hoogste aantal in Europa. Het Europees gemiddelde ligt op 11 procent.   ...

Slikt het allemaal voor zoete koek. En is nog extra dom ook:
  De mate waarin vrouwen wel of geen aangifte doen speelt geen rol in de statistieken omdat het onderzoek niet is gebaseerd op het aantal meldingen, maar op de ervaringen van vrouwen. De veronderstelling dat structureel geweld tegen vrouwen een fenomeen is dat vooral in bepaalde culturen - niet zijnde de onze - voorkomt, blijkt van grove arrogantie te getuigen.

En voor een belangrijk deel om dit te kunnen zeggen:
  De veronderstelling dat structureel geweld tegen vrouwen een fenomeen is dat vooral in bepaalde culturen - niet zijnde de onze - voorkomt, blijkt van grove arrogantie te getuigen.

Hier de reacties van de redactie:
  Dat onderzoek is natuurlijk je reinste onbenul (vrouwen buiten Noordwest-Europa durven helemaal niets te zeggen over agressiviteit van mannen omdat ze bang zijn voor die veel grotere agressiviteit - en het deels gewoon vinden), en dat iemand er dan op zo'n onbenullige manier op ingaat, is natuurlijk helemaal belachelijk. Ga eens naar het Tahrir-plein, is de enig zinnige reactie, daar is het allemaal nog veel beter dan Spanje of Polen. Volgens dit soort onderzoek.
 
Het is overigens jammer dat dit onderzoek, zoals gepubliceerd in de VK van vrijdag, alleen Europa betreft en niet de rest van de wereld. Want als je de uit het onderzoek blijkende trends doortrekt (west-oost en noord-zuid), kan het niet anders dan dat agressie jegens vrouwen in de Afrikaanse en Arabische wereld totaal afwezig is.

Waarna je alleen nog maar in huilen kan uitbarsten, over zo veel institutionele domheid.

Een onderzoek naar wat mannen vinden van de vrijheid voor vrouwen om hun eigen kleding te kiezen. Islamitische mannen, natuurlijk, want in de beschaafde wereld is hier geen enkel dispuut over (pewresearch.org, 08-01-2014. By Jacob Poushter uitleg of detail ):
  How people in Muslim countries prefer women to dress in public

An important issue in the Muslim world is how women should dress in public. A recent survey from the University of Michigan’s Institute for Social Research conducted in seven Muslim-majority countries (Tunisia, Egypt, Iraq, Lebanon, Pakistan, Saudi Arabia and Turkey). ...
    ... many also say women should be able to decide for themselves what to wear. This attitude is most prevalent in Tunisia (56%), Turkey (52%) and Lebanon (49%) – all countries where substantial percentages are open to women not covering their heads in public.

Dat valt best nog mee, dus. Zou de conclusie luiden uit dit onderzoek. Maar dit was niet "het' onderzoek, maar slechts een dele ervan. een andere vraag was veel concreter. Daarin vroeg men aan te wijzen hoe een vrouw gekleed diende te gaan. Dat gaf een ietwat ander beeld

Oftewel: alleen Libanon, min-of-meer een ministaatje, komt in de buurt van enigszins beschaafd, de rest is ordinaire barbarij (let op de "mediaan" (MEDIAN): dat is de score waarboven en waaronder evenveel respondenten liggen ) .
    Oftewel: als je het zo vraagt, zeggen moslims dat vrouwen wel vrijheid hebben, maar dat is dus slechts sociaal gewenst antwoorden: in werkelijkheid mogen ze het niet zoals blijkt uit de tweede reeks gegevens, natuurlijk deels door andere methoden dan rechtuit verbieden - dat heet "sociale dwang".
    Het verschil in de uitkomsten bij de twee vragen is veroorzaakt omdat bij de eerste de respondenten veel meer vrijheid hebben om iets in te vullen naar eigen behoefte - het is een abstracte vraag. "Vrijheid" is een abstract begrip, en meestal toch met een (zeer) positieve inslag, dus is men "gul" en geeft die vrijheid zolang het blijft bij "vrijheid" - het abstracte begrip. Maar zodra je het gaat invullen met een concrete zaak, hier door de kleding aan te wijzen, dan blijkt het wat betreft die concrete zaak heel anders te liggen.
    In termen van de algemene semantiek  : "vrijheid" heeft in de meeste omstandigheden een "intensionele" uitleg  - een uitleg met woorden. Maar de tweede vraag was gesteld op de "extensionele" manier: door te laten wijzen naar de werkelijke wereld.

Een bijzonder kras geval - met een vrij lange inleiding om te laten zien hoe ernstig de bijverschijnselen zijn (de Volkskrant, 30-10-2014, door Henk Müller):
  Twistgesprek | Henk Müller met Marie Rosenkrantz Lindegaard

Aanvallen is de slechtste verdediging bij een overval

Premier Rutte meent dat je overvallers best een paar ferme tikken mag geven. Maar werkt dat wel, of moet je van verzet afzien?


U wilt een discussie over hoe je te verdedigen tegen overvallers. Aanleiding is de overval op het juweliersechtpaar in Deurne waarbij twee doden vielen. Wat valt er te discussiëren? Het echtpaar handelde uit noodweer en is vrijgesproken.
'Het echtpaar is nu opnieuw bedreigd, nadat ze al een gewelddadige en traumatische overval hadden meegemaakt. Ik wil een discussie omdat uit mijn onderzoek is gebleken dat aanval de slechtste verdediging is tegen overvallers.'    ...

Juist ja ... Omdat familie of bekende van het Marokkaanse tuig dat bij de overval op de juwelier is doodgeschoten de zich verdedigd hebbende slachtoffers bedreigt, moeten we maar afzien van verzet bij overvallen door dat Marokkaanse tuig. Wie beweert er zulke stompzinnige dingen? Even voorstellen:
  Marie Rosenkrantz Lindegaard (1976) is geboren in het DeenseTønder. Ze studeerde antropologie in Kopenhagen en Amsterdam. Ze is onderzoeker bij het Nederlands Studiecentrum Criminaliteit en Rechtshandhaving.

Tja ... Antropologie ... Daar ga je ... Zelfs de Volkskrant-journalist is verbaasd:
  Politie en detailhandel adviseren het RAAK-principe te hanteren: Rustig blijven, Accepteren van de situatie, Afgeven van geld en goederen, Kijken hoe de dader eruitziet. Het ontbreekt er nog maar aan dat de overvaller een kopje koffie moet krijgen.
'Nee, ik vind dat een goed advies. De aanval is niet de beste verdediging tegen overvallers. Een van de opvallende uitkomsten van het onderzoek is dat de daders eigenlijk nooit met geweld beginnen. Ze gaan alleen tot geweld over als er verzet is.'

Ongelofelijk ... Iedereen met enig gezond verstand of oren aan zijn hoofd heeft inmiddels vernomen dat overvallers beginnen met erop los te slaan.
  Overvallers hebben vast een andere definitie van geweld.
'Klopt. Eén tik vinden ze geen geweld. Dat is, zeggen ze, om de shock te doorbreken zodat het slachtoffer daarna doet wat de overvaller wil.

Juist ja ... Overvallers melden dat ze één tik geven. Volgens de wetten van het onregelmatige werkwoord van Bertrand Russell weet je dan voor zeker dat ze allemaal beginnen met meteen erop los te beuken. Dus deze mevrouw leidt aan de meest ernstige vorm van blindheid voor de werkelijkheid: ze is blind voor een werkelijkheid die in haar eigen hoofd zit.
    Waarvan er nog meer is:
  Maar je geeft het recht op zelfverdediging op. Daarnaast blijken slachtoffers trauma's als gevolg van geweld beter te verwerken als ze zich hebben verzet.
... Er is nog weinig onderzoek naar slachtoffers gedaan die zich hebben verzet, maar ze verwerken hun trauma's inderdaad beter.'

Juist ja ... De onderzoeker heeft een resultaat dat tegen haar conclusie in gaat, en dat heeft ze maar niet verder onderzocht. Dat moet je niet willen, een werkelijkheid die tegen je vooropgestelde conclusies ingaat.
    Maar wat heeft de antropoloog dan wel onderzocht? Hier is het antwoord, en een waardchuwing vooraf: stop nu het eventuele nuttigen van drank en vooral vast voedsel:
  Hoe weet u dat zo zeker?
'Ik heb de laatste anderhalf jaar, samen met collega's, voor dat onderzoek honderd overvallers gesproken over 156 overvallen die zij pleegden.

Bent u uitgelachen ...? De onderzoeker ontleent haar wijsheid dat het niet verstandig is geweld te gebruiken tegen overvallers, aan de mening van de overvallers.

Nog eens een bewijs van hoe achterlijk dit allemaal is (de Volkskrant, 14-09-2017, door Maarten Keulemans):
  Opmerkelijk | Tijdschrift voor belangwekkende bijzaken

Hoe mensen zichzelf om de tuin leiden


...    Mensen zijn kampioen zelfbedrog, dat weten psychologen allang. Vandaar dat we massaal staatsloten kopen terwijl de kans om te winnen verwaarloosbaar is; vandaar dat we dierenleed vreselijk vinden maar toch vlees eten; vandaar dat er aan talentenshows altijd weer mensen meedoen die helemaal niet kunnen zingen. Dat is geen domheid of naïviteit: enige zelfmisleiding is nodig om mentaal overeind te blijven.

Met als klassiek voorbeeld om menselijke tekortkomingen niet te zoeken bij jezelf of je eigen groep ...
  Van alle wonderlijke voorvallen rond het presidentschap van Donald Trump was dit misschien de wonderlijkste: die keer dat hij pochte dat ...

... maar bij die van anderen, liefst je ideologische tegenstanders ...
    Dit constateer je dus nog eens een keertje, volkomen overbodig, om vervolgens met je enquête-formulier in je handen op moslims af te stappen en te vragen naar hun steun voor jihadgangers en kalifaat en sharia en hoe radicaal ze zijn uitleg of detail ...

Een grappige toevoeging aan het palet (De Volkskrant, 02-02-2019, door Jasper van Kuijk):
  Zeven respondenten

Denkfouten in het hedendaags ontwerp gefileerd door innovatie-expert (en cabaretier) Jasper van Kuijk. Deze week: gebruikstest.


'Zo'n test is toch totaal niet betrouwbaar? Hoe kun je dit nou zeggen op basis van maar zeven respondenten?' Toen ik voor het eerst de resultaten van gebruikstesten besprak met marketeers was dit nog weleens de reactie. Het duurde een tijdje voor ik mijn vinger erachter kreeg waarom juist marketingmensen zo fel reageerden.
    De marketing kent - in tegenstelling tot de ontwerpwereld - een traditie van werken met grote aantallen respondenten. ...
    Aangezien een gebruiksonderzoeker een gebruikstest persoonlijk afneemt en dat zomaar een uur kan duren, is het geen optie om dat voor een nieuw product 1.500 keer te doen. Bovendien maken dat soort aantallen respondenten een product niet gebruiksvriendelijker. Doe kwantitatief marktonderzoek onder 3.000 respondenten en dan kun je met behoorlijk grote zekerheid zeggen dat het gebruiksgemak van een televisie een 7 krijgt. Maar dan? Wat doe je dan als bedrijf, als je die 7 wilt verbeteren? Dat getal geeft nul informatie over welke aspecten van de televisie gebruiksvriendelijker kunnen. En dat is nou juist de informatie waar gebruiksonderzoekers naar op zoek zijn: wat moet er beter en waarom? Als je dat wilt weten moet je niet een gestandaardiseerde vragenlijst 1.500 keer laten beantwoorden, maar naast mensen gaan zitten, meekijken en vragen stellen.    ...

Juist ja ... Dit sluit natuurlijk ook heel veel sociologisch en aanverwant onderzoek in: voor vele doelen is het hoge aantal contraproductief. Het hoge aantal neutraliseert een groot aantal factoren waaronder dus mogelijk ook belangrijke.
    En hier is waar je op moet letten:
  ...   Bovendien kan een gebruikstest ook met een beperkt aantal participanten effectief zijn. Onderzoek van de universiteit van Texas heeft laten zien dat een gebruikstest met tien participanten gemiddeld 95 procent van de gebruiksproblemen identificeert en op z'n minst 82 procent (en die ondergrens kwam niet vaak voor). Met vijf participanten vonden de onderzoekers gemiddeld 85 procent van de gebruiksproblemen.
    Hierbij passen wel een paar kanttekeningen. Hoeveel participanten je nodig hebt, kan afhangen van dingen als de 'grootte' van het product (grote website versus kleine app) en hoe gevarieerd de toekomstige gebruikersgroep is (een specialistische site voor advocaten of een overheidswebsite voor een breed publiek?). Eigenlijk is de beste graadmeter of je in je test het 'verzadigingspunt' hebt bereikt. Als je een aantal participanten lang geen nieuwe dingen meer ziet dan kun je beter stoppen met testen en het ontwerp verbeteren dan nog 1.492 keer hetzelfde te zien.
    Ik had uiteindelijk een presentatie of vier nodig voor ik doorhad waarom marketeers zo fel reageerden. Daarna voegde ik in mijn presentatie een slide toe over de hoeveelheid benodigde respondenten in kwalitatieve gebruikstesten en de felle reacties verdwenen. En dat op basis van maar vier meetpunten.

Juist!

Een ander aspect aan de enquête (de Volkskrant, 11-07-2019, door Mieke Zijlmans):
  'Big five'-test blijkt niet wereldwijd toepasbaar

Er wordt gezaagd aan de poten van de Big Five, de toonaangevende persoonlijkheidstest die wereldwijd wordt toegepast om te voorspellen of mensen geschikt zijn voor bijvoorbeeld een baan of een studie. Internationaal samenwerkende onderzoekers uit Colombia, Frankrijk, de Verenigde Staten en Australië zetten nu vraagtekens bij de toepasbaarheid van de test in armere landen. Hun onderzoeksresultaten worden vandaag gepubliceerd in het wetenschappelijke tijdschrift Science Advances.
    Deze grote-vijf-test meet eigenschappen die doorslaggevend worden gevonden voor de manier waarop een mens functioneert: extraversie, vriendelijkheid, zorgvuldigheid, emotionele stabiliteit en openstaan voor nieuwe ervaringen. De test is opgebouwd uit standaardvragen als 'ik denk eerst aan anderen', 'ik laat mijn kamer rommelig achter' of 'ik raak zelden geïrriteerd'.
    De voorspellende waarde van de Big Five-test is volgens nieuw onderzoek echter mede afhankelijk van de cultuur waarin hij wordt afgenomen. ... Die studies turven zowel testen waarbij respondenten mondeling antwoordden als schriftelijke toetsen.
    Er zijn grote verschillen in de voorspellende waarde ... In zogenoemde WEIRD-bevolkingen (western, educated, industrialized, rich and democratic) leiden bijvoorbeeld 'zorgvuldigheid' en 'openstaan voor nieuwe ervaringen' geregeld tot een hoog inkomen. In tweederde van de ontwikkelingslanden is geen verband aantoonbaar tussen deze eigenschappen en het latere loonstrookje. Opvallend is wel dat de uitkomsten van arme en rijke landen méér overeenkomen wanneer de tests zijn afgenomen via internet dan als de vragen mondeling zijn beantwoord.    ...

Wat natuurlijk ook meteen leidt tot de conclusie dat de test in principe niet deugt: de uitkomst hangt af van een factor die niets met de te meten eigenschappen te maken heeft.
    En je mag veilig aannemen dat dit in mindere of meerdere mate geldt voor alle enquêtses. Want ook de test en het onderzoek zijn natuurlijk gewoon vormen van enquêtes: er wordt mensen iets gevraagd, in plaats van gekeken naar wat ze doen als respons op stimuli.

Grappig: een statisticus trapt een paar deuren in die voor iedereen met enig gezond verstand wagenwijd open staan, maar voor de socioloog (en dergelijke) nog gesloten zijn als een kasteeldeur (de Volkskrant, 30-10-2019, door Casper Albers, hoogleraar statistiek aan de Rijksuniversiteit Groningen):
  Meten is weten? Alsof een terrorist netjes zijn douanepapieren invult

'Meten is weten', zegt men vaak. Toch weet je na het meten vaak maar weinig. Je weet heel goed hoeveel je hebt gemeten, maar vaak niet wát je nu eigenlijk hebt gemeten.
    Krantenberichten staan vol migratiecijfers, doorgaans met onheilspellende koppen erbij. Bij rechts-georiënteerde media komt de eigen cultuur in het gedrang, aan de linkerkant is het verwijt dat we migranten in gevaarlijke buitenlanden aan hun lot overlaten.
    Wie er wel en niet als migrant meetellen in de cijfers wordt er niet bijgezegd. De officiële definitie van het Centraal Bureau voor de Statistiek (CBS) van een niet-westerse migrant (de term 'allochtoon' is drie jaar geleden afgeschaft, de definitie van 'niet-westerse migrant' is hetzelfde) is een prachtige opeenstapeling van rariteiten. ...

Gevolgd door de gore leugens die het CBS gebruikt/verkondigt onder het motto "Als je een allochtoon geen allochtoon noemt, neemt zijn sociaal-culturele achterlijkheid af".
    Maar dat is hier niet het onderwerp, maar een eraan verwante onkunde:
  ...    Ander voorbeeld: in september maand maakte Trouw bekend dat 0,9 procent van de Nederlanders flat earther is, oftewel iemand die gelooft dat de aarde plat is. Bijna één op de honderd Nederlanders zou dus flat earther zijn, zo'n 150 duizend mensen. Als u morgen door de Albert Heijn loopt, zijn er dus een paar mensen die continu opletten of ze niet per ongeluk over de rand van de aarde vallen. Dat is niet te geloven en dat doe ik dan ook niet.
    Dat iemand iets invult in een enquête, hoeft natuurlijk nog niet te betekenen dat hij of zij dat ook daadwerkelijk vindt. ...

Tjonge ... Wat een vondst ...
  ... Misschien was de vraag wel slecht opgezet ...

Nog eentje.
    Bijvoorbeeld zo:
  ... 'Is de aarde rond of plat?' Beide opties zijn natuurlijk fout: de aarde is geen perfecte bol. Misschien vond iemand het grappig om opzettelijk het verkeerde antwoord te geven. 'Ik vul hier iets totaal onzinnigs in, kijken of die journalist erin trapt!' ....

En dan volgt er nog een ander aspect:
  ... En dat doet zo'n journalist van harte, want 'Bijna niemand is flat earther' levert geen clicks op.    ...

De wisselwerking tussen met name sociale wetenschap en media, waarin de rabiaat politiek-correcte media de sociale wetenschap meesleept in het politiek-correcte graf.
    Diederik Stapel ... Wat u zegt.

Ach, het toch allemaal zo makkelijk te bedenken ... (de Volkskrant, 20-03-2020, door Roos Vonk, hoogleraar sociale psychologie):
  Hamsteren? Wie voelt dat zo?

'Bent u aan het hamsteren?', werd op de radio gevraagd aan mensen met volle karretjes in de supermarkt. Nee, was steevast het antwoord. 'Ik doe boodschappen voor de hele week en dan heb ik altijd zo veel'; 'de pasta was in de aanbieding, daarom wat extra pakken'; 'we hebben eters dus ik heb extra nodig'. Geen winkelaar vond het woord hamsteren op zichzelf van toepassing. Toch weten we, door de lege schappen, dat er wel wordt gehamsterd.    ...
    Experimenten wijzen erop dat onze kijk op anderen vaak realistischer is dan op onszelf. Het verschil zit hem erin dat we bij anderen vooral hun gedrag zien, bij onszelf kijken we naar binnen: naar wat we denken, willen, bedoelen. We menen een unieke bron van informatie te hebben doordat we toegang hebben tot onze drijfveren en afwegingen. Maar dat is een illusie. Onze blik naar binnen is onbetrouwbaar, deels doordat we door een roze bril naar onszelf kijken (hamsteren, dat zou ik nooit doen), deels doordat onze beweegredenen grotendeels tot stand komen via onbewuste processen en we de werkelijke achtergrond dus vaak niet kennen. Bijvoorbeeld de onzekerheid door corona, het gevoel er geen controle over te hebben en met extra boodschappen nog íéts zelf in de hand te kunnen hebben. Dit gebrekkige zelfinzicht is een grote belemmering in onderzoek dat gebruikmaakt van zelfrapportage.
    Als we zouden afgaan op zelfrapportage, zouden we tot een dramatische onderschatting van het hamstergedrag komen. ...

Voelt u 'm al aankomen ...?
  Radicale moslim? Wie voelt dat zo?

'Bent u een radicale moslim?', werd op de radio gevraagd aan mensen dichtomhuld met donkere lappen. Nee, was steevast het antwoord. 'Die lappen draag ik puur en alleen omdat ik me er prettig in voel'. Geen moslimr vond het woord  "radicaal" op zichzelf van toepassing. Toch weten we, door het terrorisme en de jihadgang, dat er wel is igeradicaliseerd.
    Als we zouden afgaan op zelfrapportage, zouden we tot een dramatische onderschatting van radicalisering komen.

Enzovoort.
    Desalniettemin is zelfrapportage niet alleen een, maar dusdanig dé methode van onderzoek naar moslims (en andere vormen van allochtonen-onderzoek), dat je nauwelijks een onderzoek met een andere methode kan vinden.

Wetenschappelijk vastgelegde verbanden hoef maar zelden te corrigeren, en wel zeldzamer naarmate ze fundamenteler zijn. Iets als "sociaal gewenst antwoorden" valt in de rubriek "uiterst zelden". Hier is er toch nog maar eens eentje, vooral vanwege de uiterste naïviteit die spreekt uit de reportage (de Volkskrant, 20-12-2022, door Kaya Bouma):
  Analyse

De flexitariër-paradox: meer vleesminderaars, nauwelijks minder vleesconsumptie

Eigenlijk is de kop al weer volleodg afdoende.
    En dat koddige woordje 'Analyse' erboven.
    Terwijl de Volkskrant boordevol staat met haat voor vleeseten, en vleeseters in het bijzonder.
    Allemaal blanke extreemrechtse FvD-stemmers ...
    En ze mene het serieus, hè ... :
  Flexitariër, vegetariër, veganist: zo’n beetje de helft van alle Nederlanders zegt minder vlees te eten. Toch daalt de totale vleesconsumptie nauwelijks. Hoe kan dat? ...

Tja, hoe is dat toch mogelijk, hè ...


Naar Methodologie  , of site home  ·.

30 apr.2007