Leugens.nl

 

Professor Felienne Hermans over AI, programmeren en de schuld van witte mannen

Hermans verricht geweldig wetenschappelijk werk en maakte de toegankelijke programmeertaal Hedy. Maar ze draaft door.

Gelezen: NRC van 19 juni 2023

Hermans: “…het feit dat vrouwen en mensen uit niet-Engelssprekende landen nu geen onderdeel zijn van de ontwikkeling van programmeertalen creëert heel rare situaties in de digitale wereld. Veel programmeertalen zijn ontwikkeld in Amerika door witte westerse mannen. Dat brengt bepaalde aannames met zich mee.

Neem kunstmatige intelligentie. Als je nu aan ChatGPT vraagt om een vrachtwagenchauffeur en een receptionist te beschrijven, dan is de chauffeur een heel stoere westerse man en de receptionist een ontzettend zorgzame vrouw met een korte rok.

Dat zijn stereotypes en aannames die in het fundament van onze digitale wereld zitten: de programmeertaal. Daarnaast zijn er genoeg voorbeelden van racisme in software. Het inclusiever en menselijker maken van computertalen kan die discriminerende aannames veranderen.”

In NRC van 26 juni 2023 reageert I.T. Kuijper uit Bleiswijk:

“Schuld wordt weer heel makkelijk bij witte mannen gelegd

Het initiatief van professor Felienne Hermans voor meer inclusieve programmeertalen kan ik waarderen (20/6). Iemand die de Engelse taal niet machtig is en slechts over een niet-westers toetsenbord beschikt, heeft een extra drempel bij het leren en gebruiken van de meeste programmeertalen.

Haar voorbeelden zijn echter niet zo sterk en de schuld wordt weer heel gemakkelijk bij witte mannen gelegd. Bij de twee „complexe termen” zijn alleen de punt en de haakjes opgelegd door de programmeertaal, de rest is de vrije keuze van de programmeur geweest. Vergelijk dit met aantonen, dat Nederlands een moeilijke taal is, aan de hand van een juridische tekst in plaats van een citaat uit Jip en Janneke te laten zien.

In het voorbeeld van ChatGPT wordt het nog bonter. Dit soort AI-programma’s wordt getraind met data uit de werkelijke wereld. Als je het dan vraagt om een vrachtwagenchauffeur en een receptionist te beschrijven, krijg je inderdaad een man en een vrouw.

Niet vanwege de stereotiepe „aannames die in het fundament van onze digitale wereld zitten: de programmeertaal”, maar door de data uit de (Amerikaanse) werkelijke wereld, waar vrijwel alle vrachtwagenchauffeurs mannen van het stoerdere type zijn en de meeste receptionisten zorgzame, representatief geklede vrouwen.

Dat feministen dit graag anders zouden willen hebben (van mij zou dit ook mogen), is bekend, maar het programma geeft de huidige situatie weer en niet de gewenste. Een weermodel probeert ook het weer te voorspellen, zoals het in werkelijkheid wordt en niet zoals we het graag zouden willen hebben.

Wat wel ontbreekt in het artikel, is de vermelding van twee vrouwen: Ada Lovelace, die algemeen als de allereerste programmeur wordt beschouwd, en Grace Hopper, die het idee voor een ‘compiler’ bedacht (een computerprogramma dat een door mensen leesbare computertaal omzet in machine-instructies) en ook de allereerste computertalen ontwikkelde, waaronder het nog steeds gebruikte Cobol. Het zijn dus niet uitsluitend witte mannen geweest.”

Peter Olsthoorn | 27-06-23 06:49