Paul Nemitz: „A demokráciának a közjó érdekében felül kell kerekednie a technológián és az üzleti modelleken
Paul Nemitz az Európai Bizottság igazságügyi főigazgatóságának vezető tanácsadója és a Collège d’Europe jogi professzora. A digitális szabadság egyik legelismertebb európai szakértőjeként tartják számon, ő vezette a általános adatvédelmi rendelet kidolgozását. Matthias Pfefferrel együtt a szerzője a The Human imperative: power, freedom and democracy in the Age of Artificial Intelligence című, az új technológiáknak az egyéni szabadságjogokra és a társadalomra gyakorolt hatásáról szóló esszének.
Voxeurop: Ön szerint a mesterséges intelligencia lehetőség vagy veszély a demokrácia számára, és miért?
Paul Nemitz: Azt mondanám, hogy a demokrácia egyik nagy feladata a 21. században a technológiai hatalom ellenőrzése. Számot kell vetnünk azzal, hogy a hatalmat ellenőrizni kell. Jó okunk van arra, hogy a vállalatok, államok vagy a vezetők hatalmának ellenőrzésére jogi múltunk van. Ez az elv minden bizonnyal a mesterséges intelligenciára is érvényes.
Néhány, ha nem minden technológiában van lehetőség, de vannak kockázatok is: ezt tudjuk a vegyi anyagokról vagy az atomenergiáról, és éppen ezért olyan fontos, hogy a demokrácia kezébe vegye annak a keretezését, hogy hogyan fejlődjön a technológia, milyen irányba menjen az innováció, és hol lehetnek az innováció, a kutatás és a felhasználás határai. Hosszú történelmünk van a kutatás korlátozásában, például a veszélyes biológiai anyagok, a genetika vagy az atomenergia terén: mindezeket erősen keretbe foglalták, ezért nem szokatlan, hogy a demokrácia megnézi az olyan új technológiákat, mint a mesterséges intelligencia, átgondolja azok hatásait, és átveszi az irányítást. Szerintem ez jó dolog.
Az AI-t tehát milyen irányban kellene szabályozni? Lehetséges-e szabályozni a mesterséges intelligenciát a közjó érdekében, és ha igen, mi lenne az?
Paul Nemitz: Először is, ez a demokrácia elsőbbségének kérdése a technológiával és az üzleti modellekkel szemben. Hogy a demokráciában hogyan néz ki a közérdek, az pontosan ezen a folyamaton keresztül dől el a demokráciában. A parlamentek és a törvényhozók azok a helyek, ahol eldönthető, hogy a közérdek milyen irányt vegyen: a törvény a demokrácia legnemesebb beszédes aktusa.
Pár hónappal ezelőtt a szabályozásról és az AI-ról szólva néhány tech-mogul levelet írt, amelyben arra figyelmeztette a kormányokat, hogy az AI elpusztíthatja az emberiséget, ha nincsenek szabályok, és szabályozást kért. De számos kritikus szakértő, mint Evgeny Morozov Christopher Wylie, két, általunk nemrég közzétett történetben azt állítja, hogy az AI okozta kihalás fenyegetésével való hadonászással ezek a techóriások valójában elterelik a közvélemény és a kormányok figyelmét a mesterséges intelligenciával kapcsolatos aktuális kérdésekről. Ön egyetért ezzel?
Mind a mai közvetlen kihívásokat, a digitális gazdaságot, mind a demokráciát és az alapvető jogokat érintő kihívásokat meg kell vizsgálnunk: a hatalomkoncentráció a digitális gazdaságban aktuális kérdés. A mesterséges intelligencia hozzájárul ehhez a hatalomkoncentrációhoz: a mesterséges intelligencia minden elemét, például a kutatókat és a startuppereket működő rendszerekbe tömörítik. Ma közvetlen kihívás előtt állunk, amely nemcsak magából a technológiából, hanem a hatalomkoncentráció eme kiegészítésének következményeiből is fakad.
És vannak hosszú távú kihívásaink is, de mindkettővel foglalkoznunk kell. Az elővigyázatosság elve része az európai innovációnak, és ez egy jó része. Az Európai Unióban a jogalkotás és az elsődleges jog alapelvévé vált, arra kényszerítve minket, hogy megvizsgáljuk a technológia hosszú távú hatásait és azok potenciálisan szörnyű következményeit. Ha nem zárhatjuk ki teljes bizonyossággal, hogy ezek a negatív következmények bekövetkeznek, akkor már ma döntéseket kell hoznunk annak érdekében, hogy ezek ne következzenek be. Erről szól az elővigyázatosság elve, és a mi jogszabályaink is részben ezt a célt szolgálják.
Elon Musk tweetelt arról, hogy átfogó deregulációra van szükség. Ez lenne az egyéni jogok és a demokrácia védelmének módja?
Nekem azok, akik már a ChatGPT-hez hasonló innovációk piacra dobása előtt könyveket írtak, amelyekben azt mondták, hogy az AI olyan, mint az atomenergia, és utána szabályozást követeltek, nem vonták le ebből a következtetéseket. Ha Bill Gatesre, Elon Muskra, ha a Microsoft elnökére, Brad Smithre gondolunk, ők mindannyian nagyon világosan fogalmaztak az AI kockázatairól és lehetőségeiről. A Microsoft először megvásárolta a nyílt mesterséges intelligencia nagy részét, és csak azért dobta piacra, hogy néhány milliárdot kaszáljon, mielőtt azt mondta volna, hogy „most már törvények kellenek”. De ha komolyan vesszük, az atomenergiával való párhuzam azt jelentette volna, hogy várjuk meg, amíg a szabályozás létrejön. Amikor az atomenergiát bevezették a társadalmainkban, senkinek sem jutott eszébe, hogy elkezdje üzemeltetni anélkül, hogy ezek a szabályozások létrejönnének. Ha visszatekintünk a technológia jogi szabályozásának történetére, mindig volt ellenállás az üzleti szektor részéről. Tíz évbe telt, amíg a biztonsági öveket bevezették az amerikai és európai autókban, emberek haltak meg, mert az autóipar olyan sikeresen lobbizott, pedig mindenki tudta, hogy a halálesetek száma a felére csökkenne, ha bevezetnék a biztonsági öveket.
Szóval nem hat meg, ha egyes üzletemberek azt mondják, hogy a világon az lenne a legjobb, ha nem szabályoznánk törvényekkel: ez a kor kapitalistáinak és neoliberalistáinak nedves álma. De a demokrácia valójában az ellenkezőjét jelenti: a demokráciában a társadalom fontos ügyeit, és a mesterséges intelligencia is ezek közé tartozik, nem lehet a vállalatokra és azok közösségi szabályaira vagy önszabályozására bízni. A demokratikus társadalmakban a fontos kérdésekkel a demokratikus jogalkotónak kell foglalkoznia. Erről szól a demokrácia.
Azt is hiszem, hogy az az elképzelés, hogy a világ minden problémáját meg lehet oldani a technológiával, ahogyan azt Trump exelnöktől hallottuk, amikor az USA kilépett a párizsi klímaegyezményből, valójában téves a klímapolitikában és a világ minden nagy kérdésében is. A koronavírus megmutatta nekünk, hogy a viselkedési szabályok kulcsfontosságúak. Be kell fektetnünk abba, hogy meg tudjunk állapodni a dolgokban: a problémamegoldás legszűkebb erőforrása ma nem a következő nagyszerű technológia és az ideológiai duma. A legszűkösebb erőforrás ma az emberek azon képessége és hajlandósága, hogy megegyezzenek egymással, a demokráciában és az országok között. Akár a transzatlanti kapcsolatokban, akár a nemzetközi jogban, akár az egymással háborút vívó felek között, hogy újra békére jussanak, ez korunk legnagyobb kihívása. És azt mondanám, hogy azokat, akik azt hiszik, hogy a technológia majd minden problémát megold, bizonyos önhittség vezérli.
Azzal kapcsolatban optimista, hogy a demokratikus folyamatokon keresztül történő szabályozás elég erős lesz ahhoz, hogy megfékezze a lobbisták deregulációs erőit?
Fogalmazzunk így: Amerikában a lobbi győzedelmeskedik. Ha meghallgatjuk a nagyszerű alkotmányjogász professzort Lawrence Lessig a pénz hatalmáról Amerikában és elemzését arról, hogy miért nem jön ki többé a Kongresszusból a nagy technológiai cégeket korlátozó törvény, a pénznek nagyon komoly szerepe van. Európában még meg tudunk egyezni. Természetesen a lobbi nagyon erős Brüsszelben, és erről nyíltan kell beszélnünk: a pénzről, amit a big tech költ, hogyan próbálják befolyásolni nemcsak a politikusokat, hanem az újságírókat és a tudósokat is.
Létezik egy GAFAM kultúrája annak, hogy megpróbálják befolyásolni a közvéleményt, és a könyvemben elég részletesen leírtam az eszköztárukat. Nagyon is jelen vannak, de azt mondanám, hogy a mi demokratikus folyamatunk még mindig működik, mert a politikai pártjaink és a parlamenti képviselőink nem függnek a nagy tech cégek pénzétől, mint az amerikai parlamenti képviselők. Azt hiszem, büszkék lehetünk arra, hogy a demokráciánk még mindig képes az innovációra, mert az ilyen élvonalbeli kérdésekben a törvényhozás nem technológiai kérdés, hanem a társadalmi kérdések középpontjában áll. A cél az, hogy ezeket az ötleteket törvényekké alakítsuk át, amelyek aztán úgy működnek, ahogy a normális törvények működnek: nincs olyan törvény, amely tökéletesen érvényesül. Ez is az innováció része. Az innováció nem csak technológiai kérdés.
Evgeny Morozovs egyik nagy vezérmotívuma a mesterséges intelligenciáról és általában a big tech-ről alkotott felfogásában a solutionizmusra való rámutatás, amit ön is említett, mint azt az elképzelést, hogy a technológia mindent meg tud oldani. Az Európai Unió jelenleg tárgyalja a mesterséges intelligenciáról szóló törvényt, amely a mesterséges intelligenciát hivatott szabályozni. Merre tart ez a szabályozás, és tudjuk-e, hogy a tech-lobbi milyen mértékben befolyásolta azt? Tudjuk, hogy ez a legnagyobb költségvetésű lobbi az uniós intézményeken belül. Mondhatjuk-e, hogy az AI-ről szóló jogszabály ma a legátfogóbb jogszabály a témában?
Az egyenlő versenyfeltételek megteremtése érdekében Európában egyetlen törvényre van szükségünk, nem akarunk 27 törvényt a különböző tagállamokban, tehát az egyenlő bánásmódról van szó. Azt mondanám, hogy a legfontosabb dolog ezzel a mesterséges intelligenciáról szóló törvénnyel kapcsolatban az, hogy ismét lefektetjük a demokrácia elsőbbségének elvét a technológiával és az üzleti modellekkel szemben. Ez kulcsfontosságú, és a többi tekintetben nagyon bízom abban, hogy a Tanács és az Európai Parlament képes lesz megállapodni a törvény végleges változatáról a következő európai választások előtt, tehát legkésőbb februárban.
Evgeny Morozov szerint a legtöbb szakértőt a mesterséges általános intelligencia (AGI), vagyis lényegében egy olyan mesterséges intelligencia felemelkedése aggasztja, amelyet nem kell programozni, és így kiszámíthatatlanul viselkedhet. Az openAI alapítójához, Sam Altmanhoz hasonló támogatók szerint azonban ez felpörgetheti a gazdaságot, és „a bőség növelésével felemelheti az emberiséget”. Mi erről az Ön véleménye?
Először is nézzük meg, hogy a specializált mesterséges intelligencia által tett ígéretek valóban teljesülnek-e. Nem vagyok meggyőződve róla, nem világos, hogy mikor következik be az AGI-hez vezető lépés. Stuart Russell, az Emberrel kompatibilis: Artificial Intelligence and the Problem of Control” című könyvének szerzője szerint az AI soha nem lesz képes operacionalizálni olyan általános elveket, mint az alkotmányos elvek vagy az alapvető jogok. Ezért valahányszor elvi értékű döntést kell hozni, a programokat úgy kell megtervezni, hogy azok az emberhez visszakerüljenek. Úgy gondolom, hogy ez a gondolat egyelőre minket és az AGI-t fejlesztőket kell, hogy vezéreljen. Ő is úgy véli, hogy évtizedek fognak eltelnie, amíg AGI-t kapunk, de párhuzamot von az atomhasadással, azzal érvelve, hogy sok nagyon kompetens tudós azt mondta, hogy ez nem lehetséges, majd egy nap meglepetésszerűen egy tudós tartott egy előadást Londonban, és másnap megmutatta, hogy ez valóban lehetséges. Úgy gondolom tehát, hogy fel kell készülnünk erre, és még többre is. Sok fantázia kering arról, hogy a technológia hogyan fog fejlődni, de szerintem az a fontos, hogy a közigazgatás, a parlamentek és a kormányok a pályán maradjanak, és nagyon figyelmesen figyeljék ezt.
Az igazságra való kötelességünk van azoktól, akik ezeket a technológiákat fejlesztik, gyakran zárt ajtók mögött. Van egy irónia az uniós jogban: amikor versenyjogi ügyeket intézünk, bírságot szabhatunk ki, ha a nagyvállalatok hazudnak nekünk. A Facebook például több mint 100 milliós bírságot kapott, mert nem mondta el a teljes történetet a WhatsApp átvételéről. De nincs igazságszolgáltatási kötelezettség, amikor Bizottságként konzultálunk egy jogalkotási javaslat előkészítése során, vagy amikor az Európai Parlament konzultál a jogalkotási viták vagy tárgyalások előkészítése érdekében. Sajnos hosszú hagyománya van annak, hogy a digitális vállalkozások, valamint más vállalkozások is hazudnak e folyamat során. Ezen változtatni kell. Úgy gondolom, hogy szükségünk van az igazság jogi kötelezettségére, amelyet szankcionálni is kell. Kultúraváltásra van szükségünk, mert egyre inkább attól függünk, hogy mit mondanak nekünk. És ha a politika attól függ, hogy mit mondanak a vállalkozások, akkor képesnek kell lennünk arra, hogy az igazsághoz tartsuk őket.
Van-e hatása ezeknek a bírságoknak? Még ha a Facebookot egymilliárd dollárra bírságolják is, számít-e valamit? Elkezdenek másképp viselkedni, mit jelent ez számukra pénzben, vagy hatásban? Ez minden, amink van?
Azt gondolom, hogy a bírságolás nem minden, de egy olyan világban élünk, ahol hatalmas hatalomkoncentráció van, és szükségünk van az ellenhatalomra. Az ellenhatalomnak pedig az államnál kell lennie, tehát minden törvénynek érvényt kell tudnunk szerezni, ha kell kemény kézzel. Sajnos ezek a cégek nagyrészt csak a kemény kézre reagálnak. Amerika tudja, hogyan kell bánni a kapitalizmussal: az emberek börtönbe kerülnek, ha kartellt alkotnak, ha megegyeznek az árakban, Európában nem. Úgy gondolom tehát, hogy ebben a tekintetben tanulnunk kell Amerikától, készen kell állnunk és hajlandónak kell lennünk arra, hogy kemény kézzel érvényt szerezzünk a törvényeinknek, mert a demokrácia azt jelenti, hogy törvényeket hoznak, és a demokrácia azt is jelenti, hogy a törvényeket be is tartják. És ez alól nem lehet kivétel a big tech sem.
Ez azt jelenti, hogy egy amerikaibb út felé kellene elmozdulnunk?
Ez azt jelenti, hogy komolyan kell vennünk a törvényeink betartatását, és ez sajnos gyakran szükségessé teszi a bírságolást. A versenyjogban a nagyvállalatok teljes forgalmának akár 10%-át is megbírságolhatjuk, szerintem ennek van hatása. Az adatvédelmi jogban ez csak 4%, de szerintem ezek a bírságok még mindig motiválják az igazgatósági tagokat, hogy gondoskodjanak arról, hogy vállalataik megfeleljenek a jogszabályoknak.
Ezzel együtt ez nem elég: nem szabad elfelejtenünk, hogy egy demokratikus társadalomban az ellenhatalom a polgároktól és a civil társadalomtól származik. Nem hagyhatjuk magára az egyéneket, hogy a nagy technológiával szemben harcoljanak a jogaikért. Szükségünk van állami jogérvényesítésre, és fel kell hatalmaznunk a civil társadalmat, hogy harcoljon az egyének jogaiért. Úgy gondolom, hogy ez része a technológia 21. századi hatalmának ellenőrzésének, és ez fogja irányítani az innovációt. Ez nem akadályozza az innovációt, hanem a közérdek és a középutas jogszerűség irányába tereli azt. És erre van szükségünk ! Szükségünk van arra, hogy a nagyhatalmú technológiai cégek megtanulják, hogy nem jó dolog gyorsan haladni és törni a dolgokat, ha a „törni a dolgokat” törvénysértést jelent. Azt hiszem, mindannyian az innováció mellett vagyunk, de aláássa a demokráciánkat, ha megengedjük a nagyhatalmú szereplőknek, hogy megzavarják és megszegjék a törvényt, és megússzák. Ez nem tesz jót a demokráciának.
Thierry Breton, az Európai Bizottság ipari biztosa levelet írt Elon Musknak, amelyben közölte vele, hogy ha az X továbbra is kedvez a dezinformációnak, szankciókkal szembesülhet az EU részéről. Musk azt válaszolta, hogy ebben az esetben elhagyhatják Európát, és más technológiai óriások is kísértésbe eshetnek, hogy ugyanezt tegyék, ha nem tetszik nekik az a szabályozás, amit Európa felállít. Milyenek tehát az erőviszonyok a kettő között?
Azt mondanám, hogy nagyon egyszerű, én ebben a tekintetben nagyon egyszerű ember vagyok: a demokrácia soha nem zsarolható. Ha megpróbálnak megzsarolni minket, akkor csak nevessük ki őket: ha el akarnak menni, akkor szabadon távozhatnak, és Elon Musknak sok szerencsét kívánok a tőzsdén, ha elhagyja Európát. Szerencsére még mindig nagyon nagy és nyereséges piac vagyunk, úgyhogy ha megengedheti magának, hogy távozzon: viszlát Elon Musk, minden jót kívánunk.
Mi a veszélye a mesterséges intelligencia nem hagyományos felhasználásának?
Igen, a „nem hagyományos” alatt a háborús felhasználás értendő. Természetesen ez veszélyt jelent, az ENSZ-ben már dolgoznak ezen, és az ellenőrzés alól kicsúszó fegyverek minden olyan ember számára problémát jelentenek, aki ért a biztonsághoz és a hadsereg működéséhez: a hadsereg ellenőrizni akarja a fegyvereit. A múltban az országok többoldalú megállapodásokat írtak alá, nemcsak az atomfegyverek elterjedésének megakadályozásáról, hanem a kézifegyverekről és az ellenőrzés alól kicsúszó fegyverekről, például a taposóaknákról is. Úgy gondolom, hogy a világ, az emberiség és a kormányozhatóság közös érdekében előrelépésre van szükségünk a mesterséges intelligencia katonai célú felhasználásának szabályai terén. Ezek a tárgyalások nehezek, néha évekig, sőt, egyes esetekben évtizedekig is eltarthat, amíg megállapodásra jutunk, de végül úgy gondolom, hogy mindenképpen szükségünk van az autonóm fegyverekre vonatkozó szabályokra, és ebben az összefüggésben a mesterséges intelligenciára is.
Még visszatérve arra, amit Chris Wiley mondott az említett cikkben: a jelenlegi szabályozási megközelítés nem működik, mert „a mesterséges intelligenciát szolgáltatásként kezeli, nem pedig építészetként”. Ön osztja ezt a véleményt?
Azt mondanám, hogy a technológiai jogban nem szabadna magasabbra tenni a mércét, hogy mi működik és mi nem működik, és mi tekinthető működőnek és nem működőnek, mint a jog bármely más területén. Mindannyian tudjuk, hogy vannak adótörvényeink, és igyekszünk azokat a lehető legjobban betartatni. De tudjuk, hogy sokan vannak olyan emberek és vállalatok, akik megússzák az adófizetés elmulasztását. Vannak szellemi tulajdonra vonatkozó törvényeink, és ezeket nem mindig tartják be. A gyilkosságot szigorúan büntetik, de naponta gyilkolnak embereket.
Szóval úgy gondolom, hogy a technológiai jogban nem szabad beleesnünk abba a csapdába, ami a technológiai ipar diskurzusát jelenti, miszerint „inkább ne legyen törvény, mint rossz törvény”, a rossz törvény pedig az, amit nem lehet tökéletesen betartatni. Erre a következő a válaszom: nincs olyan törvény, amely tökéletesen működik, és nincs olyan törvény, amelyet tökéletesen be lehet hajtani. De ez nem érv a törvények ellen. A törvények a demokrácia legnemesebb beszédes cselekedetei, és ez azt jelenti, hogy kompromisszumot jelentenek.
Kompromisszumot jelentenek a lobbyérdekekkel, amelyeket ezek a cégek bevisznek a Parlamentbe, és amelyeket egyes pártok jobban felvállalnak, mint mások. És mivel a törvények kompromisszumok, sem tudományos, sem funkcionális szempontból nem tökéletesek. Ezek a demokrácia teremtményei, és végül is azt mondanám, hogy jobb, ha megállapodunk egy törvényben, még akkor is, ha sokan tökéletlennek tartják azt. Brüsszelben azt mondjuk, hogy ha a végén mindenki sikít: a vállalkozások azt mondják, hogy „ez túlságosan akadályozza az innovációt”, a civil társadalom pedig úgy gondolja, hogy ez egy lobbisiker, akkor valószínűleg többé-kevésbé középre sikerült.”
Nézze meg a Voxeurop Live című videót Paul Nemitzzel itt.
.
