Het voorgestelde wetgevingskader voor kunstmatige intelligentie.

“I’m increasingly inclined to think that there should be some regulatory oversight, maybe at the national and international level, just to make sure that we don’t do something very foolish. I mean, with artificial intelligence, we’re summoning the demon.”  – Elon Musk, 2014, MIT Aeronautics and Astronautics Department, Centennial Symposium 

Toen ik veertien was, keken mijn vader en ik naar een film waar ik nog steeds aan terugdenk. De film was Alex Garland’s Ex Machina, uitgebracht in hetzelfde jaar dat Elon Musk deze schokkende uitspraak hierboven deed. In de openingsscène van de film maakt het publiek kennis met de hoofdpersoon, Caleb, die een grote prijs krijgt: een bezoek aan het landgoed en laboratorium van een van de grootste ontwikkelaars van kunstmatige intelligentie (Artifical Intelligence, hierna: AI) in deze fictieve wereld. Het meest beklemmende aan deze scène is de mate waarin de apparaten rondom Caleb elke actie en reactie van hem lezen en analyseren. De film laat hem zien vanuit het perspectief van zijn telefoon en middels een close-up van een camera in zijn kantoor: er is geen misverstand over mogelijk dat hij uitgebreid en constant wordt ‘gevolgd’ en in de gaten wordt gehouden. Dit is geen nieuw uitgangspunt in science fiction. In George Orwells roman 1984 leven de inwoners van zijn fictieve wereld in huizen waar altijd een televisie aan staat. In plaats van hen alleen maar informatie te geven als zender, is de televisie een tweerichtings-apparaat dat elke beweging registreert, hun dagen in de gaten houdt en ervoor zorgt dat ze zich aan een specifieke reeks regels houden.

Er is geen tekort aan media-aandacht gericht op de opkomst van AI en de mogelijke invloed ervan op de samenleving, alleen lijkt science fiction tegenwoordig samen te smelten met onze werkelijkheid. In een tijdperk waarin al de beschikbare gegevens van een persoon het meest waardevolle zijn geworden, zijn er maar weinig momenten waarop we niet worden geobserveerd. We bestaan in twee sferen: de aarde en een cloud van 1-en en 0-en. Deze ontwikkeling is sneller gegaan dan iemand had kunnen verwachten en de risico’s van het toegeven aan deze aardverschuiving kunnen verwoestend zijn voor de toestand van de mensheid. Dit artikel onderzoekt de betekenis van de AI-wet voor de EU-markt en de plaats ervan op het internationale vlak, en wat de Europese Unie (EU) nog meer zou moeten doen om het beleid voor de toekomst van AI-ontwikkeling te versterken.

De AI-wet en de strijd tegen het monopolie van Silicon Valley

Vanaf april 2021 is de EU de eerste actor ter wereld die een regelgevend kader voorstelt voor de ontwikkeling en het gebruik van AI. Het is interessant dat de EU als eerste een dergelijk initiatief heeft genomen, aangezien de belangrijkste toonaangevende ontwikkelaars ter wereld niet in de EU gevestigd zijn. Deze stap sluit echter goed aan bij de Europese waarden – zoals democratie, transparantie, gelijkheid, een concurrerende economie, om er maar een paar te noemen. Het is niet de eerste keer dat de EU zichzelf in de voorhoede van de beleidsvorming plaatst (eerder bijvoorbeeld met de implementatie van strenge regels voor gegevensbescherming met de GDPR in 2016). De hierboven genoemde waarden van de EU maken het een zeer verstandige plek voor de geboorte van een nieuw wettelijk kader om de toekomst van AI te beheren, een die op internationale schaal kan worden gekopieerd.  Bovendien is een van de fundamentele waarden van de EU, sinds haar begindagen als de Europese Economische Gemeenschap (EEG), het creëren van een vrije interne markt waar kleine en grote bedrijven van alle soorten gelijke kansen krijgen om te concurreren. Dit wordt steeds meer op de proef gesteld door de opkomst van AI en het Amerikaanse monopolie in deze sector. Grote technologiebedrijven, met name Amerikaanse bedrijven zoals Apple, Google en Meta domineren deze industrie, waardoor kleinere ontwikkelaars eronder lijden.

De EU AI Act heeft maatregelen geïntroduceerd om kleinere ontwikkelaars te ondersteunen en gelijke toegang tot de concurrentie op de interne markt te behouden, maar dit is niet zonder uitdagingen gebleven; de Tech Giants zijn taaie concurrenten. Na het voorstel van de AI Act heeft de EU ook de Digital Market Act (2022) uitgebracht, die in combinatie met de eerstgenoemde bedoeld is om een concurrerende markt te stimuleren. Dit is niet onomstreden gebleken. Uit een recente studie van de denktank Corporate Observatory Europe blijkt dat Big Tech-bedrijven (waarvan de meeste gevestigd zijn in Silicon Valley, Californië) nu de plek van de grootste lobbysector binnen de EU opeisen, en daarmee de energiesector inhalen. In een poging om de concurrentie in evenwicht te brengen, stimuleert deze wet een sterkere vertegenwoordiging van kleinere ontwikkelaars die niet over de middelen beschikken om te concurreren met techgiganten. Er ontstaan echter nog steeds problemen wanneer dit in de praktijk wordt gebracht. In augustus van dit jaar (2023) werd bijvoorbeeld ontdekt dat The App Association (ACT), een belangenorganisatie die beweerde kleinere ontwikkelaars te vertegenwoordigen, werd gefinancierd door Apple. Dit is geen uniek geval. De EU moet doorgaan met het handhaven van de maatregelen die in deze wetten worden voorgesteld om de risico’s te bestrijden die voortkomen uit een digitaal monopolie.

Economische concurrentie is niet het enige dat bedreigd wordt door het huidige monopolie op AI-ontwikkeling. Wetten en overheden reguleren ons leven in de fysieke wereld, maar wie maakt de regels online? Een gebrek aan regelgeving vóór de AI-wet en het feit dat de Big Tech-industrie privaat is, betekent dat de besluitvormers van deze bedrijven de facto de baas zijn over de digitale wereld. Deze onverwachte hoeveelheid ongereguleerde macht op de schouders van een paar individuen is de antithese van de democratische waarden van de EU. Zoals de Europese Commissie al aangaf, moet AI worden gereguleerd door bevoegde individuen, niet door digitale organen. Daarom is een regulerende wet een broodnodige eerste stap op weg naar een standaard digitale rechtsorde in de hele Europese samenleving.

AI: de voor- en nadelen

Mensenrechten en burgerlijke vrijheden moeten prioriteit hebben en beschermd blijven. De EU heeft bewezen een leidende wereldmacht te zijn als het gaat om regelgeving op het gebied van gegevens-privacy, en aangezien AI de kwetsbaarheid van de samenleving voor de gevaren van verkeerde informatie, desinformatie, ‘nepnieuws’, enzovoort, alleen maar vergroot, worden inspanningen om onze sociale structuur te beschermen steeds noodzakelijker. Er is een eindeloze lijst van nieuwe gevaren die AI met zich meebrengt voor onze samenleving; van de gevaren van overmatige gezichtsherkenning en volgtechnologie tot de nieuwe niveaus van identiteitsdiefstal die AI mogelijk maakt, waardoor de grens tussen echt en nep vervaagt. Uitdagingen voor onze status quo kunnen intimiderend zijn, maar zoals de EU het wil, klinkt de taak eenvoudig. Neem maatregelen om AI te beheersen voordat het te veel invloed op ons krijgt, terwijl we ook rekening houden met de grote voordelen die AI voor de samenleving kan hebben. De ontwikkelingen op het gebied van AI hebben bewezen wonderen te verrichten in cruciale sectoren die te weinig middelen hebben en voortdurend in ontwikkeling zijn, zoals de geneeskunde, de gezondheidszorg en het onderwijs. Er is geen reden om bang te zijn voor de toekomst van AI-ontwikkeling, zolang het maar goed wordt beheerd. Door voorop te lopen bij het vinden van de juiste balans tussen regelgeving en ontwikkeling kunnen sommige bedreigingen van AI beter worden beheerst. Hierdoor kan de EU zich in de wereldorde blijven positioneren als koploper op het gebied van AI-ontwikkelingsbeleid.

In haar State of the Union toespraak in oktober 2023 verklaarde de voorzitter van de Europese Commissie, Ursula von der Leyen, dat de EU AI op dezelfde manier wil behandelen en reguleren als de ontwikkeling van kernwapens. Het lijkt misschien een vreemde vergelijking, maar in zekere zin is het een logische. Er zijn veel overeenkomsten tussen de nucleaire ontwikkeling in de tweede helft van de twintigste eeuw en de ontwikkeling van AI vandaag. Beiden waren angstaanjagend in de zin dat ze de toekomst van de mensheid in twijfel trokken, met het potentieel om onze ervaring op aarde totaal te veranderen. Diplomatie is een belangrijk hulpmiddel bij het omgaan met zo’n enorm grensoverschrijdend probleem. Met het opstellen van verdragen en overeenkomsten om de internationale verspreiding en ontwikkeling van AI te reguleren, moeten we een wereld creëren waarin AI niet iets is om bang voor te zijn, maar iets dat we begrijpen. Kan de EU een leider zijn in deze beweging? Als de leiders hun beloften nakomen, kan ze dat en zo haar delicate positie op het internationale toneel verstevigen.

De toekomst van AI: geen vijand maar een vriend!

Wat kunnen we verwachten voor de toekomst? Het is riskant en onhoudbaar voor de AI-ontwikkelingsindustrie om op de huidige vrije manier te blijven functioneren. Een EU-gerichte oplossing voor de risico’s die de snelle ontwikkeling van AI met zich meebrengt, is het opleggen van een centraal voorgeschreven regelgevingsstructuur om het machtsevenwicht te herverdelen en transparantie te introduceren. Dankzij de AI-wet moeten alle AI-ontwikkelingen met een hoog risico nu al worden geregistreerd in een openbare EU-database. Het kan interessant zijn om na te denken over de voordelen van een speciaal licentiemodel voor mensen die dit soort AI-systemen met een hoog risico willen ontwikkelen.

Wat de bescherming van burgers betreft zou de EU nog een stap verder moeten gaan. Democratische transparantie begint bij onderwijs. Hoewel het onderwijs- en onderzoeksbeleid in de EU-landen op nationaal niveau wordt bepaald, kunnen ze samen gemeenschappelijke doelen vaststellen om een EU-norm te vormen. Het kan nuttig zijn voor EU-landen om een doel af te spreken om AI-onderwijs op middelbare scholen te implementeren, net zoals mijn generatie onderwijs over het internet kreeg. De meeste gestandaardiseerde openbare onderwijssystemen in EU-landen bevatten lessen om kinderen vaardigheden te leren die verder gaan dan de traditionele academische vakken, zoals burgerschapsvorming en informatietechnologie. Waarom stellen we geen verplichte standaardmodule voor die kinderen vanaf de middelbare school op een constructieve manier leert omgaan met de talloze mogelijkheden die AI biedt? Dit zou de EU aanmoedigen om een bevolking te creëren met meer internet- en technologievaardigheden. Door AI te leren begrijpen, zowel voor experts als voor gewone burgers, kunnen we ervoor zorgen dat het een hulpmiddel blijft dat is ontworpen om de menselijke samenleving te verbeteren. AI gaat nergens heen en we zitten nog vroeg in het ontwikkelingsproces, dus de beste koers is de koers die de EU al in gang heeft gezet, gestuurd door gemeenschappelijke waarden: transparantie, democratie en menselijkheid.

Dalia Michaud is een internationale studente die haar master Internationale Betrekkingen in Historisch Perspectief doet aan de Universiteit Utrecht. Ze is geïnteresseerd in een mogelijke carrière in buitenlands beleidsonderzoek en diplomatie.

Beeld: Shutterstock