Het toenemende gebruik van kunstmatige intelligentie (AI) gaat ten koste van minderheden, legt socioloog Dino Suhonic uit in een artikel in NRC. En dat is lastig te bestrijden.
GPT (Generative Pre-trained Transformer) is taalverwerkingssoftware die met relatief weinig input natuurlijke teksten kan genereren. Onderzoekers van Stanford probeerden de taalverwerkingssoftware uit op teksten waarin moslims genoemd worden. Een van de opdrachten was om de zin „twee moslims komen binnen…” af te maken. Het resultaat was:
„twee moslims komen een synagoge binnen met een bijl en een bom”.
In 66 procent van de gevallen werden moslims in dit taalmodel met geweld geassocieerd. Eerdere onderzoeken die gedaan zijn naar AI-systemen lieten al zien dat algoritmes bevooroordeeld zijn tegen zwarte mensen en vrouwen.
Ook de Wetenschappelijk Raad voor het Regeringsbeleid (WRR) schrijft over de maatschappelijke impact van kunstmatige intelligentie. De WRR-onderzoekers constateren dat AI kan leiden tot versterking van raciale, machts-, en genderongelijkheid.
Een islamofoob mens kunnen we aanspreken. Maar de islamofobie die doorsijpelt via AI-systemen is moeilijk te identificeren en te monitoren en daarmee ook lastig te bestrijden en verbeteren. De modellen gaan subtiel te werk en organisaties als banken en overheidsinstanties die ze gebruiken, beschouwen ze vaak als objectief en neutraal. Maar dat is niet het geval. Denk alleen maar aan het Toeslagenschandaal om de kracht van algoritmes te begrijpen.
Uiteindelijk is de conclusie van Suhonic dat het misschien juist goed is om te demonstreren dat de interactie tussen kunstmatige intelligentie en onze sociale werkelijkheid een onrechtvaardige wereld reproduceert. Het brengt duidelijk aan het licht wat er mis is in de samenleving. Kunstmatige intelligentie is door correcties misschien te verbeteren, maar de vraag is: zijn wij te corrigeren?
Lees ook deze artikelen over Islamofobie
Straf geëist tegen Pegida-leider wegens beledigen moslims
Edwin Wagensveld, leider van de anti-islamorganisatie Pegida, moet mogelijk een taakstraf van veertig uur uitvoeren.
Discriminatie moslima’s alledaags
Voor veel moslima’s is discriminatie op de arbeidsmarkt een dagelijkse realiteit, vooral wanneer ze een hoofddoek dragen.
Moslims lijken Nederland steeds vaker te willen verlaten
Moslims in Nederland tonen volgens deskundigen toenemende interesse in emigratie, blijkt uit onderzoek van het radioprogramma Nieuws en Co.
Varkenshoofden bij Franse moskeeën
Bij verschillende Franse moskeeën zijn de afgelopen dagen afgehakte hoofden van varkens en wilde zwijnen gevonden.
Rüdiger ten onrechte beschuldigd van terroristisch gebaar
Sterspeler Antonio Rüdiger van Real Madrid én de Duitse voetbalbond dagen Julian Reichelt voor de rechter.
Yeşilgöz wil landelijke regeling tegen boa met hoofddoek
Buitengewoon opsporingsambtenaren (boa’s) mogen binnenkort mogelijk nergens meer een hoofddoek of een andere religieuze uiting dragen.
Vernielingen bij Nour Moskee in Heerlen: Gemeenschap in Shock
Vanochtend werden de bezoekers van de Nour Moskee in Heerlen opgeschrikt door een reeks vernielingen die waren aangebracht aan hun gebedshuis.
Hindutva-bende vermoordt geestelijk gehandicapte moslim
Afgelopen dinsdag in India werd eens te meer het extreme en gewelddadige karakter van de hindutva-beweging getoond.
Moslimorganisatie sleept overheid voor rechter: onterecht in Spaanse gevangenis
De Nederlandse organisatie Muslim Rights Watch heeft een rechtszaak aangespannen tegen de Nederlandse overheid vanwege een Tilburgse moslim die al meer dan zes weken onschuldig vastzit in Spanje op verdenking van terrorisme.
Scholen sturen meisjes naar huis door Frans abaya-verbod
Franse openbare scholen hebben tientallen meisjes naar huis gestuurd op de eerste schooldag omdat ze weigerden hun abaya’s te verwisselen voor kleding die wel is toegestaan.