{"id":37487,"date":"2024-01-08T12:24:27","date_gmt":"2024-01-08T11:24:27","guid":{"rendered":"https:\/\/archive.displayeurope.eu\/?post_type=article&p=37487"},"modified":"2024-09-06T16:41:39","modified_gmt":"2024-09-06T14:41:39","slug":"paul-nemitz-democratie-moet-overwinnen-over-technologie-en-bedrijfsmodellen-voor-het-gemeenschappelijk-goed","status":"publish","type":"article","link":"https:\/\/archive.displayeurope.eu\/nl\/article\/paul-nemitz-democratie-moet-overwinnen-over-technologie-en-bedrijfsmodellen-voor-het-gemeenschappelijk-goed\/","title":{"rendered":"Paul Nemitz: “Democratie moet prevaleren boven technologie en bedrijfsmodellen voor het algemeen belang"},"content":{"rendered":"\n

Paul Nemitz is senior adviseur bij de directeur-generaal Justitie van de Europese Commissie en hoogleraar Rechten aan het Coll\u00e8ge d’Europe. Hij wordt beschouwd als een van Europa’s meest gerespecteerde experts op het gebied van digitale vrijheid en leidde het werk aan de algemene verordening gegevensbescherming<\/a>. Hij is ook de auteur, samen met Matthias Pfeffer, van The Human imperative: power, freedom and democracy in the Age of Artificial Intelligence<\/em><\/a>, een essay over de impact van nieuwe technologie\u00ebn op individuele vrijheden en de samenleving. <\/strong><\/p>\n\n\n\n

Voxeurop: Would you say <\/strong>artificial intelligence<\/strong><\/a> is een kans of een bedreiging voor de democratie, en waarom?  <\/strong><\/p>\n\n\n\n

Paul Nemitz<\/strong>: Ik zou zeggen dat een van de grote taken van de democratie in de 21e eeuw het beheersen van de technologische macht is. We moeten beseffen dat macht moet worden gecontroleerd. Er zijn goede redenen waarom we een juridische geschiedenis hebben van het controleren van macht van bedrijven, staten of in de uitvoerende macht. Dit principe geldt zeker ook voor AI.<\/p>\n\n\n\n

Veel, zo niet alle technologie\u00ebn hebben een element van mogelijkheden, maar brengen ook risico’s met zich mee: we weten dit van chemicali\u00ebn of atoomenergie, en dat is precies waarom het zo belangrijk is dat de democratie de leiding neemt over hoe technologie wordt ontwikkeld, in welke richting innovatie moet gaan en waar de grenzen van innovatie, onderzoek en gebruik kunnen liggen. We hebben een lange geschiedenis van het beperken van onderzoek, bijvoorbeeld naar gevaarlijke biologische agentia, genetica of atoomenergie: dit werd allemaal sterk ingekaderd, dus het is niets ongewoons dat de democratie kijkt naar nieuwe technologie\u00ebn zoals kunstmatige intelligentie, nadenkt over hun impact en de leiding neemt. Ik denk dat het een goede zaak is.<\/p>\n\n\n\n

En in welke richting moet AI worden gereguleerd? Is het mogelijk om kunstmatige intelligentie te reguleren ten behoeve van het algemeen belang en zo ja, wat zou dat dan moeten zijn?<\/strong><\/p>\n\n\n\n

Paul Nemitz<\/strong>: Allereerst gaat het om het primaat van de democratie boven technologie en bedrijfsmodellen. Hoe het algemeen belang er in een democratie uitziet, wordt precies bepaald door dit proces in een democratie. Parlementen en wetgevers zijn de plaats om te beslissen over de richting die het algemeen belang moet nemen: de wet is de meest nobele spreekbuis van de democratie. <\/p>\n\n\n\n

Een paar maanden geleden, toen we het hadden over regulering en AI, schreven enkele techmoguls een brief waarin ze regeringen waarschuwden dat AI de mensheid zou kunnen vernietigen als er geen regels zouden zijn, en waarin ze vroegen om regulering. Maar veel kritische experts, zoals  <\/strong>Evgeny Morozov<\/strong><\/a> en <\/strong>Christopher Wylie<\/strong><\/a>, zeggen in twee verhalen die we onlangs hebben gepubliceerd dat deze techgiganten door te dreigen met AI de aandacht van het publiek en de overheid afleiden van de huidige problemen met kunstmatige intelligentie. Ben je het daarmee eens? <\/strong><\/p>\n\n\n\n

We moeten zowel kijken naar de directe uitdagingen van vandaag, van de digitale economie, als naar de uitdagingen voor de democratie en de grondrechten: machtsconcentratie in de digitale economie is een actueel probleem. AI draagt bij aan deze machtsconcentratie: ze brengen alle elementen van AI, zoals onderzoekers en starters, samen in functionerende systemen. We staan vandaag voor een directe uitdaging, die niet alleen voortkomt uit de technologie zelf, maar ook uit de implicaties van deze toevoeging aan de machtsconcentratie.<\/p>\n\n\n\n

En dan hebben we nog uitdagingen op de lange termijn, maar we moeten naar beide kijken. Het voorzorgsbeginsel maakt deel uit van de innovatie in Europa, en het is een goed onderdeel. Het is een beginsel geworden van wetgeving en van primair recht in de Europese Unie, dat ons dwingt om te kijken naar de langetermijneffecten van technologie en de mogelijk verschrikkelijke gevolgen daarvan. Als we niet met zekerheid kunnen uitsluiten dat deze negatieve gevolgen zich zullen voordoen, moeten we vandaag beslissingen nemen om ervoor te zorgen dat dat niet gebeurt. Dat is waar het voorzorgsprincipe over gaat, en onze wetgeving dient ook gedeeltelijk dit doel. <\/p>\n\n\n\n

Elon Musk twitterde dat er behoefte is aan uitgebreide deregulering. Is dit de manier om individuele rechten en democratie te beschermen?\n\n\n\n

Voor mij hebben degenen die al boeken schreven waarin ze zeiden dat AI net zoiets is als atoomkracht voordat ze innovaties als ChatGPT op de markt brachten en daarna om regelgeving riepen, hier niet de consequenties uit getrokken. Als je denkt aan Bill Gates, Elon Musk, als je denkt aan de president van Microsoft Brad Smith, ze waren allemaal heel duidelijk over de risico’s en kansen van AI. Microsoft kocht eerst een groot deel van open AI en zette het gewoon op de markt om een paar miljard te incasseren voordat het naar buiten trad en zei “nu hebben we wetten nodig”. Maar als we het serieus nemen, zou de parallel met atoomenergie betekenen dat we moeten wachten tot er regelgeving is. Toen atoomenergie in onze samenlevingen werd ge\u00efntroduceerd, had niemand het idee om het te gaan gebruiken zonder dat deze regelgeving er was. Als we terugkijken naar de geschiedenis van wettelijke regulering van technologie, is er altijd weerstand geweest vanuit het bedrijfsleven. Het duurde 10 jaar om veiligheidsgordels in Amerikaanse en Europese auto’s in te voeren, mensen stierven omdat de auto-industrie zo succesvol lobbyde, ook al wist iedereen dat het aantal doden met de helft zou afnemen als er veiligheidsgordels zouden worden ingevoerd. <\/p>\n\n\n\n

Dus ik ben niet onder de indruk als sommige zakenmensen zeggen dat het het beste zou zijn om geen wetten te hebben: dat is de natte droom van de kapitalisten en neoliberalen van deze tijd. Maar democratie betekent eigenlijk het tegenovergestelde: in een democratie kunnen de belangrijke zaken van de samenleving, en AI is er daar \u00e9\u00e9n van, niet worden overgelaten aan bedrijven en hun gemeenschapsregels of zelfregulering. Belangrijke zaken in samenlevingen die democratisch zijn, moeten worden geregeld door de democratische wetgever. Dat is waar democratie over gaat. <\/p>\n\n\n\n

Ik geloof ook dat het idee dat alle problemen van deze wereld kunnen worden opgelost door technologie, zoals we hebben gehoord van ex-president Trump toen de VS de klimaatafspraken in Parijs verliet, eigenlijk verkeerd is in het klimaatbeleid en in alle grote problemen van deze wereld. Het coronavirus heeft ons laten zien dat gedragsregels essentieel zijn. We moeten investeren in de mogelijkheid om het eens te worden over dingen: de schaarsste bron voor het oplossen van problemen is vandaag de dag niet de volgende geweldige technologie en al dat ideologische gepraat. Het schaarsste middel vandaag is het vermogen en de bereidheid van mensen om het eens te worden, in democratie en tussen landen. Of het nu in de trans-Atlantische relatie is, of in het internationaal recht, of tussen partijen die oorlog met elkaar voeren om weer tot vrede te komen, dit is de grootste uitdaging van onze tijd. En ik zou zeggen dat degenen die denken dat technologie alle problemen zal oplossen, worden gedreven door een zekere overmoed.<\/p>\n\n\n\n

Bent u optimistisch dat regulering via een democratisch proces sterk genoeg zal zijn om de dereguleringskrachten van lobbyisten in te dammen?<\/strong><\/p>\n\n\n\n

Laten we het zo zeggen: in Amerika heeft de lobby de overhand. Als je luistert naar de grote professor in constitutioneel recht Lawrence Lessig<\/a> over de macht van het geld in Amerika en zijn analyse waarom er geen wet meer uit het Congres komt die big tech aan banden legt, dan speelt geld een zeer grote rol. In Europa zijn we nog steeds in staat om het eens te worden. Natuurlijk is de lobby erg sterk in Brussel en daar moeten we openlijk over praten: het geld dat big tech uitgeeft,  hoe ze niet alleen politici maar ook journalisten en wetenschappers proberen te be\u00efnvloeden.<\/p>\n\n\n\n

Er is een GAFAM<\/a> cultuur van het proberen te be\u00efnvloeden van de publieke opinie, en in mijn boek heb ik hun gereedschapskist vrij gedetailleerd beschreven. Ze zijn erg aanwezig, maar ik zou zeggen dat ons democratisch proces nog steeds functioneert omdat onze politieke partijen en onze parlementsleden niet afhankelijk zijn van het geld van grote bedrijven zoals Amerikaanse parlementsleden. Ik denk dat we trots kunnen zijn op het feit dat onze democratie nog steeds in staat is om te innoveren, omdat het maken van wetten over deze geavanceerde kwesties geen technologische kwestie is, maar echt de kern van maatschappelijke kwesties. Het doel is om deze idee\u00ebn om te zetten in wetten die vervolgens werken zoals normale wetten werken: er is geen wet die perfect gehandhaafd wordt. Dit maakt ook deel uit van innovatie. Innovatie is niet alleen een technologische kwestie.<\/p>\n\n\n\n

Een van de belangrijkste drijfveren van Evgeny Morozovs visie op kunstmatige intelligentie en big tech in het algemeen is het wijzen op solutionisme, het door u genoemde idee dat technologie alles kan oplossen. Momenteel bespreekt de Europese Unie de AI-wet die kunstmatige intelligentie moet reguleren. Waar gaat deze regelgeving naartoe en weten we in hoeverre de techlobby deze heeft be\u00efnvloed? We weten dat het qua budget de grootste lobby is binnen de EU-instellingen. Kunnen we zeggen dat de AI-wet op dit moment de meest uitgebreide wet op dit gebied is? <\/strong><\/p>\n\n\n\n

Om een gelijk speelveld in Europa te hebben, hebben we \u00e9\u00e9n wet nodig. We willen geen 27 wetten in alle verschillende lidstaten, dus het gaat om gelijke behandeling. Ik zou zeggen dat het belangrijkste van deze AI-wet is dat we opnieuw het principe vastleggen dat democratie boven technologie en bedrijfsmodellen gaat. Dat is de sleutel, en voor de rest heb ik er alle vertrouwen in dat de Raad en het Europees Parlement het eens kunnen worden over de definitieve versie van deze wet v\u00f3\u00f3r de volgende Europese verkiezingen, dus uiterlijk in februari.<\/p>\n\n\n\n

Evgeny Morozov zegt <\/a>dat de opkomst van kunstmatige algemene intelligentie (AGI), in feite een AI die niet geprogrammeerd hoeft te worden en dus onvoorspelbaar gedrag kan vertonen, de meeste experts zorgen baart. Voorstanders zoals oprichter Sam Altman van openAI zeggen echter dat het de economie zou kunnen stimuleren en “de mensheid zou kunnen verheffen door overvloed te vergroten”.  Wat is jouw mening daarover? <\/strong><\/p>\n\n\n\n

Laten we eerst eens kijken of alle beloften van gespecialiseerde AI echt worden waargemaakt. Ik ben er niet van overtuigd, het is onduidelijk wanneer de stap naar AGI zal worden gezet. Stuart Russell, auteur van “Human Compatible: Artificial Intelligence and the Problem of Control”, zegt dat AI nooit in staat zal zijn om algemene principes zoals grondwettelijke principes of grondrechten te operationaliseren. Daarom moeten de programma’s, wanneer er een principebeslissing moet worden genomen, zo worden ontworpen dat ze terugkeren naar de mens. Ik denk dat deze gedachte ons en degenen die AGI ontwikkelen voorlopig moet leiden. Hij gelooft ook dat het tientallen jaren zal duren voordat we AGI hebben, maar maakt de parallel met de atoomsplitsing, waarbij hij stelt dat veel zeer competente wetenschappers zeiden dat het niet mogelijk was en dat op een dag, bij verrassing, een wetenschapper een toespraak hield in Londen en de volgende dag liet zien hoe het wel mogelijk was. Dus ik denk dat we ons hierop moeten voorbereiden, en nog veel meer. Er zijn veel fantasie\u00ebn over hoe technologie zich zal ontwikkelen, maar ik denk dat het belangrijk is dat overheden, parlementen en regeringen op koers blijven en dit heel goed in de gaten houden. <\/p>\n\n\n\n

We hebben een waarheidsverplichting nodig van degenen die deze technologie\u00ebn ontwikkelen, vaak achter gesloten deuren. Er is een ironie in de EU-wetgeving: wanneer we mededingingszaken doen, kunnen we een boete opleggen als grote bedrijven tegen ons liegen. Facebook kreeg bijvoorbeeld een boete van meer dan 100 miljoen omdat het ons niet het volledige verhaal vertelde over de overname van WhatsApp. Maar er is geen waarheidsplicht wanneer we als Commissie een wetgevingsvoorstel voorbereiden of wanneer het Europees Parlement raadplegingen houdt om zijn wetgevingsdebatten of -processen voor te bereiden. Het is helaas een lange traditie dat digitale bedrijven, net als andere bedrijven, liegen tijdens dit proces. Dit moet veranderen. Ik denk dat we een wettelijke verplichting tot de waarheid nodig hebben, die ook bestraft moet worden. We hebben een cultuuromslag nodig, omdat we steeds afhankelijker worden van wat zij ons vertellen. En als de politiek afhankelijk is van wat bedrijven ons vertellen, dan moeten we hen aan de waarheid kunnen houden. <\/p>\n\n\n\n

Zijn deze boetes van invloed? Zelfs als Facebook een boete van een miljard dollar krijgt, maakt dat enig verschil? Gaan ze zich anders gedragen, wat betekent het voor hen in termen van geld of impact? Is dat alles wat we hebben?<\/strong><\/p>\n\n\n\n

Ik denk dat boetes niet alles zijn, maar we leven in een wereld met een enorme machtsconcentratie en we hebben tegenmacht nodig. En die tegenmacht moet bij de staat liggen, dus we moeten alle wetten kunnen handhaven, desnoods met harde hand. Helaas reageren deze bedrijven grotendeels alleen op een harde hand. Amerika weet hoe je met kapitalisme om moet gaan: mensen gaan de gevangenis in als ze een kartel vormen, als ze prijsafspraken maken, in Europa doen ze dat niet. Dus ik denk dat we in dit opzicht van Amerika moeten leren, we moeten klaar en bereid zijn om onze wetten met harde hand te handhaven, want democratie betekent dat er wetten worden gemaakt en democratie betekent ook dat wetten worden nageleefd. En er kan geen uitzondering worden gemaakt voor big tech. <\/p>\n\n\n\n

Betekent dit dat we meer op Amerikaanse leest geschoeid moeten zijn? <\/strong><\/p>\n\n\n\n

Het betekent dat we de handhaving van onze wetten serieus moeten nemen en helaas betekent dit vaak dat we boetes moeten opleggen. In het mededingingsrecht kunnen we boetes opleggen tot 10% van de totale omzet van grote bedrijven, ik denk dat dat effect heeft. In de privacywetgeving is het maar 4%, maar ik denk dat deze boetes bestuursleden nog steeds motiveren om ervoor te zorgen dat hun bedrijven zich aan de wet houden.<\/p>\n\n\n\n

Dit gezegd hebbende, is dit niet genoeg: we moeten onthouden dat in een democratische samenleving de tegenmacht van burgers en het maatschappelijk middenveld komt. We kunnen individuen niet alleen laten om voor hun rechten te vechten tegenover big tech. We hebben publieke handhaving nodig en we moeten het maatschappelijk middenveld in staat stellen om voor de rechten van individuen te vechten. Ik denk dat dit deel uitmaakt van het beheersen van de macht van technologie in de 21e eeuw en dat het innovatie zal sturen. Het is geen belemmering voor innovatie, maar het leidt het in de richting van het algemeen belang en legaliteit. En dat is wat we nodig hebben! De grote machtige techbedrijven moeten leren dat het niet goed is om snel te gaan en dingen te breken als “dingen breken” betekent dat je de wet overtreedt. Ik denk dat we allemaal voorstander zijn van innovatie, maar het ondermijnt onze democratie als we machtige spelers toestaan om te ontwrichten en de wet te overtreden en daarmee weg te komen. Dat is niet goed voor de democratie. <\/p>\n\n\n\n

Thierry Breton, de Europese commissaris voor industrie, heeft Elon Musk een brief geschreven waarin hij hem vertelt dat als X doorgaat met het verspreiden van desinformatie, hij mogelijk sancties van de EU tegemoet kan zien. Musk antwoordde dat hij in dat geval Europa zou kunnen verlaten en dat andere techgiganten in de verleiding zouden kunnen komen hetzelfde te doen als de regelgeving die Europa aan het opzetten is hen niet bevalt. Dus wat is het machtsevenwicht tussen de twee?  <\/strong><\/p>\n\n\n\n

Ik zou zeggen dat het heel simpel is, ik ben een heel simpel persoon in dit opzicht: democratie kan nooit worden gechanteerd. Als ze ons proberen te chanteren, moeten we ze gewoon weglachen: als ze weg willen zijn ze vrij om te vertrekken, en ik wens Elon Musk veel succes op de beurs als hij Europa verlaat. Gelukkig zijn we nog steeds een zeer grote en winstgevende markt, dus als hij het zich kan veroorloven om te vertrekken: tot ziens Elon Musk, we wensen je het allerbeste.<\/p>\n\n\n\n

Wat te denken van het gevaar van het onconventionele gebruik van AI?<\/strong><\/p>\n\n\n\n

Ja, met “onconventioneel” wordt het gebruik voor oorlog bedoeld. Natuurlijk is dat een gevaar, daar wordt aan gewerkt in de Verenigde Naties, en wapens die uit de hand lopen zijn een probleem voor iedereen die verstand heeft van veiligheid en hoe het leger werkt: het leger wil controle hebben over zijn wapens. In het verleden hebben we landen multilaterale overeenkomsten laten ondertekenen, niet alleen over de non-proliferatie van atoomwapens, maar ook voor kleine wapens en wapens die uit de hand lopen, zoals landmijnen. Ik denk dat we, in het algemeen belang van de wereld, de mensheid en de bestuurbaarheid, vooruitgang moeten boeken op het gebied van regels voor het gebruik van AI voor militaire doeleinden. Deze gesprekken zijn moeilijk, soms kan het jaren duren, in sommige gevallen zelfs decennia om tot afspraken te komen, maar uiteindelijk denk ik dat we zeker regels nodig hebben voor autonome wapens, en in deze context ook voor AI.<\/p>\n\n\n\n

Om terug te komen op wat Chris Wiley zei in het artikel dat we noemden: de huidige regelgevingsaanpak werkt niet omdat “kunstmatige intelligentie wordt behandeld als een dienst, niet als architectuur”. Deelt u die mening?  <\/strong><\/p>\n\n\n\n

Ik zou zeggen dat de lat voor wat werkt en wat niet werkt, en wat wordt beschouwd als werkend en niet werkend in technische wetgeving niet hoger zou moeten liggen dan in elk ander rechtsgebied. We weten allemaal dat we belastingwetten hebben en we proberen ze zo goed mogelijk te handhaven. Maar we weten dat er veel mensen en bedrijven zijn die wegkomen met het niet betalen van hun belastingen.  We hebben wetten voor intellectueel eigendom en die worden niet altijd nageleefd. Moord wordt zwaar bestraft, maar er worden dagelijks mensen vermoord.<\/p>\n\n\n\n

Dus ik denk dat we in het technologierecht niet in de val moeten trappen die het discours van de techindustrie is: “liever geen wet dan een slechte wet”, waarbij een slechte wet er een is die niet perfect gehandhaafd kan worden. Mijn antwoord daarop is: er is geen wet die perfect werkt en er is geen wet die perfect gehandhaafd kan worden. Maar dat is geen argument tegen het hebben van wetten. Wetten zijn de meest nobele daad van democratie, en dat betekent dat ze een compromis zijn.<\/p>\n\n\n\n

Ze zijn een compromis met de lobbybelangen, die deze bedrijven het parlement binnenbrengen en die door sommige partijen meer worden opgepakt dan door andere. En omdat wetten compromissen zijn, zijn ze niet perfect vanuit wetenschappelijk of functioneel oogpunt. Het zijn schepsels van de democratie en uiteindelijk zou ik zeggen dat het beter is dat we het eens worden over een wet, ook al vinden velen die onvolmaakt. In Brussel zeggen we dat als aan het eind iedereen schreeuwt: bedrijven die zeggen “dit is een te grote belemmering voor innovatie” en het maatschappelijk middenveld die denkt dat het een succes is voor de lobby, dan hebben we het waarschijnlijk min of meer goed in het midden.<\/p>\n\n\n\n

Bekijk de video van de Voxeurop Live met Paul Nemitz hier<\/a>.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

In zijn bijdrage aan een Voxeurop Live-talk over de vraag of AI een kans of een bedreiging is voor de democratie, benadrukt expert Paul Nemitz de noodzaak van democratische controle over technologische ontwikkelingen en het opstellen van wetten die maatschappelijke belangen voorrang geven boven bedrijfsbelangen.<\/p>\n","protected":false},"author":1,"featured_media":18804,"parent":0,"template":"","tags":[],"displeu_category":[],"class_list":["post-37487","article","type-article","status-publish","has-post-thumbnail","hentry"],"_links":{"self":[{"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/article\/37487","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/article"}],"about":[{"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/types\/article"}],"author":[{"embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/users\/1"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/media\/18804"}],"wp:attachment":[{"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/media?parent=37487"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/tags?post=37487"},{"taxonomy":"displeu_category","embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/nl\/wp-json\/wp\/v2\/displeu_category?post=37487"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}