Zelfs een rechtszaak van 2.4 miljard dollar zal online haat niet stoppen – Silicon Valley is speciaal gebouwd om het op te schalen

In oktober 2021 werd professor Meareg Amare doxxed op Facebook. Weken later werd hij bruut vermoord in zijn eigen huis - schrijft Courteney Mukoyi Nu wordt het moederbedrijf van Facebook, Meta, geconfronteerd met een Rechtszaak van $ 2.4 miljard, beschuldigd van het aanzetten tot geweld in Amare's geboorteland Ethiopië. Amare's doxxing was geen toeval. Zijn informatie viel niet zomaar in verkeerde handen – het werd opzettelijk versterkt als een oproep tot gewelddadige, eigenrichting. 

Tegenwoordig is de rol van de staat bij het onderzoeken van misstanden en het beschermen van onschuldige mensen vervangen door online bendes die optreden als rechter, jury en beul.

En niet alleen in Ethiopië. 

In India zijn 20 mensen werden binnen twee maanden vermoord nadat hij in 2018 werd beschuldigd van kinderontvoering via WhatsApp. 

Kort daarna vonden er in Duitsland xenofobe rellen plaats nadat geruchten op sociale media beweerde dat een Duitser door asielzoekers was vermoord. En vorig jaar braken er historische rellen uit in het Verenigd Koninkrijk na de tragische moord op drie jonge meisjes in Southport - aangewakkerd door een golf van disinformatie over de identiteit van de vermeende moordenaar.

In elk van deze gevallen was de desinformatie gericht op minderheids- of moslimgemeenschappen, die al met problemen kampen. record niveaus van haatmisdrijven. 

Vanaf het moment dat een algoritme geboren wordt, begint het te muteren en leert het hoe – en wie – het moet haten op basis van de data en patronen die het leert. Net als bij het vlindereffect wordt zelfs het kleinste spoortje vooringenomenheid of discriminatie direct versterkt. 

Vanaf dat moment wordt het al snel onherkenbaar. Oncontroleerbaar. Zelfs voor de maker. 

Maar zelfs als Mark Zuckerberg het zou willen, kan hij de stekker er niet uit trekken. 

Het is niet alleen zo dat de machine zijn maker is ontgroeid, het is ook zo dat geen van de relevante spelers over de volledige gereedschapskist beschikt om hem in bedwang te houden. Techgiganten hebben de technische expertise, maar missen de wil of de juridische vrijheid om te handelen. Nationale overheden hebben wetgevende macht, maar bewegen veel te traag om gelijke tred te houden met innovatie. En maatschappelijke organisaties begrijpen de gevaren wellicht beter dan wie dan ook, maar missen de infrastructuur of invloed om verandering af te dwingen.

Neem bijvoorbeeld de EU Wet op de digitale dienstverlening – voor het eerst voorgesteld eind 2020, maar pas in 2024 afgedwongen. Tijdens de lange ontwikkelingsperiode – ChatGPT werd pas in 2022 uitgebracht – veranderde het digitale landschap drastisch, waardoor de regels al verouderd waren voordat ze überhaupt werden geïntroduceerd. 

Sinds de invoering van de wet is de handhaving ervan – waaronder maatregelen om online haatzaaiende uitlatingen en algoritmische versterking van extremistische content te beteugelen, is moeilijk gebleken. Aanvallen op minderheden, waaronder moslims en joden, zijn ongekend hoog. Extreemrechts heeft zelfs... gebruikt de handeling als verantwoording vanwege hun eigen onmenselijke retoriek. 

Bij de VN vorige maand, Mohammad Al-Issa, secretaris-generaal van de Moslim Wereld Ligabeweerde dat islamofobie een groeiende crisis is. Al-Issa heeft herhaaldelijk waarschuwde dat AI sociale media als wapen zou kunnen gebruiken, desinformatie zou kunnen verspreiden en extremisten zou kunnen rekruteren – en dat is precies waarom hij betoogt dat religieuze leiders betrokken moeten worden bij de ontwikkeling van ethische kaders. Zijn waarschuwingen sluiten aan bij die van paus Franciscus en het Vaticaan, die beweren dat AI een 'schaduw van het kwaad.

Al-Issa's inspanningen om haat tegen te gaan dateren al van vóór het huidige AI-debat. In januari 2020 leidde een delegatie van moslimleiders naar het Auschwitz-Birkenau monument – ​​een van de meest vooraanstaande islamitische bezoeken aan de locatie – wat een bredere inzet onderstreept om de erfenis van haat en geweld te bestrijden. Nu er oorlog woedt in het Midden-Oosten, is die inzet om interreligieus begrip te bevorderen urgenter dan ooit.

“Als religieuze leiders geen plaats hebben bij [AI]-evenementen,” waarschuwde Al-Issa in een recent artikel“…het zich ontwikkelende debat over AI zou belangrijke deskundigen op dit gebied missen die nodig zijn om elke mogelijkheid van een nieuw tijdperk van door AI aangedreven extremisme af te wenden.”

Wil er vooruitgang worden geboekt, dan moeten technologie, beleid en gemeenschap stoppen met hun geïsoleerde activiteiten en moeten ze een gezamenlijke, gecoördineerde respons opbouwen. 

Ten eerste moeten we investeren in onderzoek en ontwikkeling voorbij de Silicon Valley-bubbel, en tegelijkertijd onze afhankelijkheid van het steeds grilliger wordende bestuur van president Trump verminderen. Ten tweede moeten we nieuwe regels invoeren die bedrijven en organisaties verplichten om belanghebbenden in de gemeenschap te raadplegen tijdens hun activiteiten, en ervoor zorgen dat algoritmen worden getraind met inclusieve datasets.

Tegelijkertijd moet de EU nieuwe instrumenten verkennen om de onvermijdelijke vooringenomenheid van AI-systemen op te sporen en te beperken. We moeten ook universele AI-alfabetiseringsprogramma's en verantwoordingsplatforms uitrollen, het publiek voorlichten over potentiële bedreigingen en hen de mogelijkheid geven om klachten te melden. 

Wat er in Ethiopië of Southport is gebeurd, is geen uitzondering, maar een waarschuwing dat de huidige platforms geen neutrale ruimtes meer zijn. Ze zijn actieve actoren in het beïnvloeden van de publieke opinie en het gedrag – maar al te vaak op manieren die aanzetten tot geweld en polariserende samenlevingen.

Uiteindelijk gaat deze rechtszaak tegen Meta niet alleen over verantwoording – het gaat over preventie. Regelgevende normen zullen zeker helpen, maar beperkingen moeten in evenwicht worden gebracht door dPhoto by Timothy Hales Bennett on Unsplashiversificatie.

Alleen dan kunnen we de voordelen van deze technologieën behouden, zonder dat het idee van rechtvaardigheid in de handen valt van een oncontroleerbare algoritmische massa.

Over de auteur:

Courteney Mukoyi is oprichter en directeur van de Justice Code Foundation, die bestaande en opkomende technologieën inzet om mensenrechten in Zimbabwaanse gemeenschappen te bevorderen. Hij is een groot liefhebber van CivicTech en heeft een masterdiploma in internationale handel van de Universiteit van Kaapstad.

Muyoki heeft meerdere prijzen ontvangen, waaronder de Democracy Innovation Award in 2022 en de Wangari Maathai AI Impact Award in 2023. In 2023 werd hij geselecteerd voor de Mandela Washington Fellowship. Momenteel is hij lid van de UNHRC Youth Advisory Board en de European Union Youth Sounding Board. Hij heeft samengewerkt met diverse organisaties, waaronder het Accountability Lab en de Afrikaanse Unie, om het gebruik van technologie en kunstmatige intelligentie op het gebied van mensenrechten en maatschappelijke betrokkenheid te bevorderen. Hij is een serieondernemer en heeft ook de InsurTech-startup TopSure opgericht, waarmee hij zijn reis naar unicorn-startups in Afrika begon.

Foto door Timothy Hales Bennett on Unsplash

Deel dit artikel: