Eye-openers tijdens Mozilla Festival

Bij binnenkomst word je meteen ondergedompeld in een verander-atmosfeer. Geen pak te bekennen. Een jonge vrouw met felgekleurd haar en een t-shirt met de tekst 'Code for Good' buigt zich over een laptop. Naast haar zit een man in rolstoel, druk in gesprek met een groepje activisten én Mark Surman, de voorzitter van de Mozilla Foundation is er ook. 

Opening
"We zijn hier om de toekomst van het internet te heroveren", zegt J. Bob Alotta als ze het festival opent. Alotta is uitvoerend directeur en gastvrouw van MozFest. "Van een paar grote techbedrijven naar de mensen en community's", vertelt ze later in een interview.

Mitchell Baker is er ook. De topbestuurder en voormalig CEO van Mozilla speelde een sleutelrol in het ontstaan van Firefox. Baker was in 1994 een van de eerste medewerkers van Netscape, misschien wel de belangrijkste internetstartup van die tijd.

Het Mozilla-project was een strategische zet om te voorkomen dat Microsoft het internet zou monopoliseren. Door de code open source te maken, wilde Netscape de ontwikkeling versnellen én een beweging creëren die groter zou worden dan één enkel bedrijf en die zou bijdragen aan de toekomst van het internet als een open en innovatief platform. In 2019 richtte Mozilla de aandacht op de impact van AI.

"De nalatenschap van Mozilla zijn jullie. MozFest is waar we samenkomen om de wereld te bouwen die we willen." Haar woorden worden begroet met luid gejoel. De energie is voelbaar en bezoekers komen uit alle hoeken van de wereld. Ik ontmoet een jonge developer uit Mexico die enthousiast vertelt over zijn ethische AI-datasets. Een activist uit Londen deelt ervaringen over het bestrijden van online haat.

Cijfers liegen niet
De grote zaal is tot de nok toe gevuld als Mona Chalabi het podium betreedt voor de eerste keynote 'We Are Data'. Chalabi is een Britse datajournalist en illustrator van Iraakse afkomst. Ze is bekend geraakt door haar scherpzinnige en provocerende illustraties van complexe data. Ze maakt deze illustraties voor The Guardian en The New York Times en won vorig jaar een Pulitzer Prize. Juurd Eijsvoogel en Winny de Jong van het NRC spraken met haar over journalistiek.

"Cijfers vertellen niet de hele waarheid”, begint ze. “Het zijn de verhalen achter de data die er echt toe doen. De menselijke ervaringen die verborgen liggen in de cijfers." Chalabi deelt een anekdote over een onderzoek naar Amerikaanse eetgewoonten, waar ze het verhaal ontdekte van een weduwnaar die dagenlang dezelfde kaassandwich at. "Toen ik in deze datasets dook, kon ik niet anders dan de menselijkheid erin vinden... al deze gegevens bestaan uit individuen."

Chalabi's werk is een ode aan die menselijkheid. Ze wijst naar een speelse, bijna kinderlijke tekening van een pinda naast een vrachtwagen vol potten pindakaas. "Dit is hoe ik het vermogen van Jeff Bezos vergelijk met dat van een gemiddeld Amerikaans huishouden. Ik probeer zoveel mogelijk getallen uit mijn grafieken te verwijderen", legt Chalabi uit. "In plaats daarvan gebruik ik visuele aanwijzingen, metaforen en analogieën om de schaal en relaties over te brengen. Als mijn werk geen zin heeft voor iemand zonder achtergrond in data, dan faal ik."

De opkomst van AI baart haar zorgen. "Ik ben zowel gefascineerd als doodsbang voor AI", geeft ze toe. Over ChatGPT: "Ik vroeg of Palestijnen recht hebben op gerechtigheid, en blijkbaar is het een complexe en zeer omstreden kwestie... Dit is voor mij angstaanjagend en totaal niet verrassend. Het weerspiegelt de zeer, zeer lang bestaande, onevenredige berichtgeving die ik in de journalistiek heb gezien over Palestijnse en Israëlische levens. We moeten ons afvragen: wie controleert de algoritmes? Hoe voorkomen we discriminatie?" 

AI in Gaza en Oekraïne
Dan de meest aangrijpende sessie. 'We Are Life: AI Accountability During War'. Het brengt schrijnende verhalen aan het licht over het gebruik van AI in conflictgebieden.

Het is stil als Olga Tokaruk de situatie in Oekraïne schetst. "Sinds de Russische invasie in 2022 is Oekraïne een soort laboratorium geworden voor AI in oorlogsvoering", begint ze. "We zien een explosieve groei in het gebruik van AI-gestuurde drones. Er zijn nu ongeveer 200 Oekraïense bedrijven die drones produceren. Tegen het einde van dit jaar willen ze er samen een miljoen produceren." 

Tokaruk is onafhankelijk journalist in Oekraïne, en was ‘fellow’ bij het Reuters Institute for the Study of Journalism in Oxford, waar ze onderzoek deed naar desinformatie en de impact ervan op democratische samenlevingen. Ze beschrijft hoe AI niet alleen op het slagveld wordt ingezet, maar ook online. "Rusland gebruikt deepfakes om desinformatie te verspreiden. En wij gebruiken weer een andere AI om die te ontmaskeren. Het is een constante wapenwedloop en het maakt oorlog afstandelijker, klinischer. En wat als de AI een fout maakt?”

Het algoritme van vernietiging
Dan neemt Marwa Fatafta het woord. Haar stem trilt als ze spreekt over de situatie in Gaza. Als Palestijnse mensenrechtenactivist en MENA Policy and Advocacy Director bij Access Now brengt ze een perspectief dat velen nog nooit eerder hebben gehoord. "In Gaza wordt AI gebruikt als een wapen van massavernietiging", begint ze. "Het Israëlische leger heeft AI-systemen zoals 'Lavender' en 'Gospel' ontwikkeld om bombardementsdoelen te selecteren.” 

Ze legt uit: “'Lavender' bepaalt op basis van onduidelijke datapatronen wie een potentieel Hamas-lid is. 'Gospel' genereert vervolgens de bombardementsdoelen. Ze houden geen rekening met de chaos van oorlog, met families die samenkruipen in overvolle huizen, die constant van locatie wisselen vanwege de verwoesting. De AI ziet patronen die er niet zijn, en onschuldige burgers betalen de prijs."

Fatafta's stem breekt even als ze vertelt over een ander AI-systeem, cynisch 'Where's Daddy' genoemd. Dit systeem volgt de door Lavender geïdentificeerde individuen en geeft het leger een seintje wanneer ze zich in hun huis bevinden, zodat ze precies op dat moment kunnen worden gebombardeerd, samen met hun familie. Dit alles gebeurt met een hoge tolerantie voor burgerslachtoffers. Volgens The Guardian en +972 Magazine, stond het leger toe dat voor elke gedode Hamas-strijder tot wel 20 burgerslachtoffers vielen.