--- id: CP-274 slug: algoritmische-vooroordelen-stereotypen-data lang: nl title: Algoritmische vooroordelen en stereotypen in data description: Een AI neemt de stereotypen uit haar trainingsdata over en lijkt toch neutraal. Wat u als medewerker controleert en wat de AI Act bepaalt. canonical_url: https://startbrain.io/cyberpedia/nl/articles/algoritmische-vooroordelen-stereotypen-data/ markdown_url: https://startbrain.io/cyberpedia/nl/articles/algoritmische-vooroordelen-stereotypen-data.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, “Algoritmische vooroordelen en stereotypen in data”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/nl/articles/algoritmische-vooroordelen-stereotypen-data/ (CC BY 4.0) wing: 4 theme: use_responsibly reflex: air-007 schema: G2 updated: "2026-11-03" translations: nl: https://startbrain.io/cyberpedia/nl/articles/algoritmische-vooroordelen-stereotypen-data/ fr: https://startbrain.io/cyberpedia/fr/articles/biais-algorithmiques-stereotypes-donnees/ en: https://startbrain.io/cyberpedia/en/articles/algorithmic-bias-training-data-stereotypes/ de: https://startbrain.io/cyberpedia/de/articles/algorithmische-verzerrungen-stereotype-trainingsdaten/ es: https://startbrain.io/cyberpedia/es/articles/sesgos-algoritmicos-estereotipos-datos/ it: https://startbrain.io/cyberpedia/it/articles/pregiudizi-algoritmici-stereotipi-dati/ sources: - "n": 1 title: Towards a Standard for Identifying and Managing Bias in Artificial Intelligence publisher: NIST url: https://www.nist.gov/publications/towards-standard-identifying-and-managing-bias-artificial-intelligence published: "2022-03-15" accessed: "2026-11-03" - "n": 2 title: Towards a Standard for Identifying and Managing Bias in Artificial Intelligence publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1270.pdf accessed: "2026-11-03" - "n": 3 title: "IA : comment être en conformité avec le RGPD ?" publisher: CNIL url: https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd published: "2022-04-05" accessed: "2026-11-03" - "n": 4 title: Législation sur l’IA publisher: Commission européenne url: https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai accessed: "2026-11-03" - "n": 5 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" --- # Algoritmische vooroordelen en stereotypen in data Een AI-tool leert van gegevens die door mensen zijn voortgebracht, in organisaties en in een samenleving met hun eigen gewoonten en hun eigen ongelijkheden. Wat de tool daaruit haalt, kan stereotypen reproduceren, zonder dat iemand dat zo bedoeld heeft. Het NIST, de Amerikaanse normalisatie-instelling, schrijft dat vooroordelen « can lead to harmful impacts regardless of intent » [1]. Het resultaat komt binnen als een cijfer of een rangschikking, en lijkt daardoor objectief. Dit informatieblad legt uit waar die afwijkingen vandaan komen en wat een medewerker doet die AI gebruikt om mensen te selecteren of te beoordelen. ## In 30 seconden - Waar het gebeurt: cv-selectie, scoring, beoordeling van kandidaten, het genereren van teksten of beelden, overal waar AI mensen indeelt of beschrijft. - Wat er gebeurt: de tool reproduceert afwijkingen uit haar data, en haar antwoord lijkt neutraal. - De reflex: laat een AI nooit alleen beslissen over een zaak die mensen raakt, vergelijk de resultaten, meld de afwijkingen en houd een menselijke controle. - Als het al gebeurd is: informeer de verantwoordelijke voor de tool of de betrokken contactpersoon en laat een persoon de beslissing herzien. ## Directe vragen ### Waarom reproduceert een AI stereotypen? Omdat ze leert van data waarin die stereotypen zitten. Het NIST onderscheidt drie categorieën vooroordelen in AI: systemische, statistische en menselijke [2]. Systemische vooroordelen komen voort uit de procedures en werkwijzen van instellingen die sommige groepen bevoordelen en andere benadelen. Daarvoor is geen bewust vooroordeel nodig: het volstaat dat de meerderheid de bestaande regels en normen volgt [2]. Deze vooroordelen komen terug in de datasets die in AI worden gebruikt [2]. ### Kunnen data juist zijn en toch vooroordelen bevatten? Ja. De CNIL beschrijft twee gevallen. De trainingsdata kunnen niet representatief zijn. Ze kunnen ook goed representatief zijn voor de « echte wereld » en toch een discriminerend karakter weerspiegelen, bijvoorbeeld door loonverschillen tussen vrouwen en mannen te reproduceren [3]. Het NIST zegt iets vergelijkbaars: ook representatieve datasets kunnen diepgewortelde historische en systemische vooroordelen bevatten [2]. ### Waarom lijkt het antwoord neutraal? Het NIST merkt op dat vooroordelen wijdverbreid zijn in technologische processen en schade kunnen veroorzaken, ongeacht de bedoeling [1]. De tool laat niet zien waar haar antwoord vandaan komt. De Europese Commissie wijst erop dat het vaak onmogelijk is te weten waarom een AI-systeem een beslissing heeft genomen, waardoor het moeilijk is vast te stellen of iemand ten onrechte is benadeeld, bijvoorbeeld bij een aannamebeslissing [4]. ### Volstaat het om geslacht of herkomst uit de data te halen? Nee, volgens het NIST. Ontwikkelaars sluiten soms beschermde kenmerken uit, maar dat lost het probleem niet op, omdat de informatie op andere manieren kan worden afgeleid [2]. ### Is een mens die het resultaat nakijkt genoeg om de fout te corrigeren? Niet automatisch. Het NIST noemt het een problematische aanname dat een mens een algoritmisch beslissingssysteem effectief en objectief kan controleren. Het voegt toe dat mensen hun eigen cognitieve vooroordelen meenemen in het gebruik van die systemen [2]. Menselijke controle vraagt dus om een methode, die hieronder wordt beschreven. ## Hoe het werkt Het NIST deelt de bronnen van vooroordelen in drie families in [2]. - Systemische vooroordelen: ze hebben te maken met instellingen en geschiedenis en zitten zowel in de data als in de werkwijzen, gedurende de hele levenscyclus van de AI [2]. - Statistische en computationele vooroordelen: ze ontstaan wanneer de steekproef de populatie niet weergeeft [2]. Een voorbeeld: data die zijn verzameld via online vragenlijsten of van sociale media zijn gehaald, vertegenwoordigen alleen de gebruikers van één platform, maar worden soms gebruikt om tools te trainen die in veel bredere contexten worden ingezet [2]. - Menselijke vooroordelen: dit zijn systematische denkfouten, aanwezig in de beslissingen van instellingen, groepen en individuen, ook bij het gebruik van een toepassing nadat die in gebruik is genomen [2]. Voor teksten stelt het NIST vast dat datasets voor taalverwerking vaak afwijken van het feitelijke gebruik, wat kan leiden tot discriminatie en prestatieverschillen [2]. Bij gezichtsherkenning noemt het de classificatie van gender: de nauwkeurigheid varieert per leeftijd en etnische groep, en een beperkte of niet-representatieve steekproef van een groep geeft een lagere nauwkeurigheid voor die groep [2]. ## Wat u doet - Laat een beslissing die mensen raakt (werving, beoordeling) niet aan een AI alleen over. De AI bereidt voor, een persoon beslist. - Vergelijk de resultaten. Leg de tool vergelijkbare gevallen voor die alleen in één persoonlijk kenmerk verschillen en kijk of het antwoord verandert. In een geval van experimenteren met een technologie eiste de CNIL een systematische analyse van de fouten van het systeem en overwegingen over de risico's op discriminatie [3]. - Vraag u af wie er niet in de data zit. Het NIST stelt de vraag « Who is counted, and who is not counted? » en merkt op dat inheemse bevolkingsgroepen, vrouwen en mensen met een beperking voortdurend ondervertegenwoordigd zijn in datasets [2]. - Meld de vastgestelde afwijkingen, met voorbeelden, aan de persoon die in het bedrijf verantwoordelijk is voor de tool. - Houd een menselijke controle die het resultaat kritisch bekijkt en het kan tegenspreken. Het NIST meldt dat onderzoekers gebruikers van een geautomatiseerd resultaat aanraden om « consider a deliberate and modest approach » [2]. ## De valkuilen - Overmatig vertrouwen. Het NIST gebruikt de term « automation complacency » voor het te veel vertrouwen op geautomatiseerde systemen [2]. Het legt ook uit dat deskundigen AI kunnen gebruiken om de druk van subjectievere processen te verlichten, in naam van de veronderstelde objectiviteit van automatisering, en haar kunnen gebruiken als dekmantel voor hun eigen impliciete vooroordelen [2]. - Niet-representatieve data. Een tool die is getraind op data die de beoordeelde mensen niet weerspiegelen, maakt vaker fouten over hen [2]. - Groepsgemiddelden toegepast op individuen. Het NIST gebruikt de term « ecological fallacy » voor het afleiden van iets over een persoon uit de groep waartoe die persoon behoort [2]. - Een schijncontrole. Het NIST oordeelt dat zonder aanzienlijke procedurele en culturele ondersteuning de optimistische verwachtingen over de rol van de toezichthoudende mens in de praktijk niet standhouden [2]. - Het voorbeeld van werving. De CNIL controleerde een organisatie die automatisch video-cv's beoordeelde die kandidaten hadden opgenomen. Ze stelde discriminerende vooroordelen vast: het systeem, dat sociale vaardigheden moest beoordelen, hield geen rekening met de diversiteit aan accenten [3]. - Een bekend geval, alleen met titel genoemd. In de referentielijst van het NIST staat een artikel van Reuters van oktober 2018 met de titel « Amazon scraps secret AI recruiting tool that showed bias against women » [2]. De hier aangehaalde bronnen beschrijven dit geval niet in detail. ## Wat de Europese wet zegt De Europese verordening over AI is Verordening (EU) 2024/1689 [4]. Ze deelt toepassingen in naar risiconiveau. AI-tools voor werkgelegenheid en personeelsbeheer, zoals software voor cv-selectie, behoren tot de toepassingen met hoog risico. Dat geldt ook voor het beoordelen van examens in het onderwijs [4]. Tot de verplichtingen voor systemen met hoog risico behoren datasets van hoge kwaliteit om het risico op discriminerende resultaten tot een minimum te beperken, het bijhouden van logboeken, uitgebreide documentatie en passende maatregelen voor menselijk toezicht [4]. Over de planning geeft de Commissie aan dat de verordening op 1 augustus 2024 in werking is getreden. De regels voor bepaalde domeinen met hoog risico, waaronder werkgelegenheid, zullen van toepassing zijn vanaf 2 december 2027 [4]. Wat de aanpak betreft, is het kader voor risicobeheer van AI van het NIST bedoeld voor vrijwillig gebruik en wil het overwegingen over betrouwbaarheid beter verwerken in het ontwerp, de ontwikkeling, het gebruik en de evaluatie van AI-systemen [5]. ## Bronnen 1. NIST, “Towards a Standard for Identifying and Managing Bias in Artificial Intelligence”, 15 maart 2022. https://www.nist.gov/publications/towards-standard-identifying-and-managing-bias-artificial-intelligence (geraadpleegd op 3 november 2026) 2. NIST, “Towards a Standard for Identifying and Managing Bias in Artificial Intelligence”. https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1270.pdf (geraadpleegd op 3 november 2026) 3. CNIL, “IA : comment être en conformité avec le RGPD ?”, 5 april 2022. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (geraadpleegd op 3 november 2026) 4. Commission européenne, “Législation sur l’IA”. https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai (geraadpleegd op 3 november 2026) 5. NIST, “AI Risk Management Framework”. https://www.nist.gov/itl/ai-risk-management-framework (geraadpleegd op 3 november 2026) --- Oorspronkelijke bron: Cyberpedia, de openbare encyclopedie over cyberveiligheid en AI van Brain. Canonieke versie: https://startbrain.io/cyberpedia/nl/articles/algoritmische-vooroordelen-stereotypen-data/ U mag deze tekst vrij hergebruiken onder de licentie CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), mits u “Brain, Cyberpedia” vermeldt met een link naar bovenstaand adres.