De computer zegt: “Ik ben okay en jij bent niet okay”

van ‘subjectieve selectie aan de poort’ naar ‘selectie door een discriminerend algoritme’.

De voorpagina van het FD van 21 februari jl. heeft de kop ‘Computer doet niet aan gelijke behandeling van mensen. Raad van Europa waarschuwt: regels zijn nodig om discriminatie aan te pakken.’

Zijn we van de regen in de drup beland? Ik denk het wel.

Dames, zoals ik het artikel lees, het glazen plafond zal alleen nog maar dikker gaan worden.

Hoogbegaafde kinderen en ook studenten met ietwat ‘nerderige’ persoonlijkheidskenmerken: helaas, van jullie intelligentie zal de maatschappij in toenemende mate steeds minder gebruik gaan maken.

Terroristen, kraak stiekem het algoritme en jullie zijn spekkoper.

Gemiste kans!

Maar even serieus ….. alhoewel, wat hierboven staat is al werkelijkheid volgens de inhoud van het artikel en helaas ook vanuit mijn ervaring.

Een voorbeeld uit de praktijk:
een client van mij, met een CV waar het Transitieteam van Shell bovenop zou moeten springen, is niet eens door de eerste ronde gekomen. Wat was de eerste ronde? U raadt het al: een computer-assessment. Nu wist zij mij te zeggen dat zij op de middelbare school al slecht was in multiple choice omdat ze altijd dieper denkt dan de vraagstelling, dus ze was niet eens verbaast. Wel teleurgesteld. Of zij nog ooit bij Shell wil gaan werken? Haar motivatie is op dit moment in ieder geval tot vrijwel nul gedaald. Shell: gemiste kans!!!

Gelukkig werkt zij nu naar volle tevredenheid bij een bedrijf waarbij ze na een aantal diepte-interviews met HR, leidinggevende, team en de CEO op een functie is geplaatst die haar perfect past.

Okay, even serieus. Waar ik me met name over verbaas is dat het algoritme van de computer blijkbaar op grond van het mailbestand van de kandidaat kan beoordelen of iemand geschikt is voor een functie. Je overhandigt dus je e-mailaccount (want je wil toch heel graag die baan!) en het algoritme van de computer gaat aan de slag.

Wat heeft de computer dan tot zijn beschikking? Juist, alleen woorden. De woorden in de mails. Het verbale deel van onze communicatie.
Geen intonatie, geen gebaren, geen lichaamshouding, geen gezichtsuitdrukking en dus niet het non-verbale deel van onze communicatie.

Wat zeggen woorden niet?

In de wereld van communicatie is Prof. Mehrabian een bekende. In zijn boek “silent messages” uit 1971 trekt hij de conclusie dat woorden, lees: verbale communicatie, slechts 7% van de communicatie bepalen. Dit betekent dat non-verbale communicatie 93% voor haar rekening neemt.
Of het echt zo is? Probeer maar uit: zeg tegen iemand dat je van hem/haar houdt en schud tegelijkertijd nee met je hoofd.

Latere onderzoeken staven dat het non-verbale deel van onze communicatie meer dan 2/3 beslaat.

Dat betekent dat als ik in mijn mailbericht de woorden gebruik: “ik denk dat dit een goede oplossing is” dat het kan zijn dat

ik daar een logica achter heb,
ik dat gewoon vindt,
ik een goed gevoel heb t.a.v. die oplossing,
die oplossing mij een mooie kans biedt die ik wil pakken,
ik na lang nadenken tot de conclusie ben gekomen dat dit alles overwegende gezien de situatie de beste oplossing zou kunnen zijn,
dit voor mij de leukste variant is als oplossing,

en het kan ook zijn dat meerdere zaken tegelijk spelen of misschien wel allemaal. En ik kan het rijtje ook nog langer maken.

M.a.w.: alleen via woorden hebben we nog geen helderheid over wat de persoon precies communiceert en wat de drijfveren zijn. Daarom creëren mailberichten ook veelvuldig miscommunicatie.

Als die persoon voor mij zou staan, dan zou ik de context waarin ik het gezegde kan plaatsen waarschijnlijk wel snel weten. Waardoor?

Precies, door de non-verbale communicatie.

Als je iets vindt, dan is de toon van de stem veel steviger dan als je een gevoel hebt over iets.

Als je vanuit reflectie iets zegt dan is de gezichtsuitdrukking heel anders dan als je de kans wil pakken. Enz..

Er bestaat een regel dat als drie van de vijf communicatie-onderdelen congruent zijn, een boodschap wordt ontvangen als heldere communicatie.

De mens analyseert dat van nature intuïtief. Het voorbeeld van het uitspreken van houden van en het tegelijk nee-schudden is hiervoor illustratief. Je krijgt meteen de indruk of het gevoel ‘hey, er klopt iets niet; ik geloof niet wat je zegt’.

Wetenschappelijk is bewezen hoe dit elementair is opgebouwd. Via inzichten en kennis en door te luisteren naar hoe iemand zegt wat ie zegt, kunnen gevalideerde conclusies getrokken worden over karaktereigenschappen, behoeften en stress-uitingen. De tool die dit faciliteert is het Process Communication Model. NASA gebruikt de tool al meer dan 40 jaar om snel en effectief succesvolle astronautenteams samen te stellen. Bedrijven en organisaties wereldwijd hebben het voorbeeld gevolgd.

De mens, gevangen in woorden.

Het computer-algoritme van Digital Minds haalt zijn helderheid enkel uit woorden, combinaties van woorden en stelt het algoritme daarop bij, zodat het steeds verder wegdrijft en er hele vreemde dingen gebeuren.
Het gevaar zit ook nog eens niet alleen in het algoritme op zich. Het programma creëert, zoals Prof. Borgesius in het artikel ook aangeeft, nieuwe algoritmes op grond van verkeerde aannames met als gevolg vooroordelen en discriminatie zoals “een onuitroeibare voorkeur voor mannen”.

De mens kan niet gevangen worden in woorden.

De mens kan niet gevangen worden in enkel een klein aspect van communicatie.

En wij willen als mens niet gevangen gehouden worden, ook niet door computeralgoritmes die doordenderen vanuit ‘ik ben okay en ik bepaal of jij als kandidaat okay bent of niet’.

Ik zou graag willen voorstaan dat we de baas blijven over onze computers, anders verliezen we de controle over ons menszijn.

En laten we vooral in verbinding blijven met elkaar vanuit die vijf bijzondere aspecten van onze menselijke communicatie.

Een oogopslag vertelt vaak meer dan 100 woorden.