Paul Nemitz: „Demokracia musí v záujme spoločného dobra zvíťaziť nad technológiami a obchodnými modelmi

Mnohé, ak nie všetky technológie majú prvok príležitostí, ale nesú aj riziká: poznáme to z chemických látok alebo atómovej energie, a práve preto je také dôležité, aby demokracia prevzala zodpovednosť za rámcovanie toho, ako sa technológie vyvíjajú, akým smerom by sa mali inovácie uberať a kde môžu byť hranice inovácií, výskumu a používania. Máme za sebou dlhú históriu obmedzovania výskumu, napríklad v oblasti nebezpečných biologických látok, genetiky alebo atómovej energie: to všetko bolo veľmi dobre zarámované, takže nie je ničím výnimočným, že sa demokracia pozerá na nové technológie, ako je umelá inteligencia, premýšľa o ich vplyve a preberá zodpovednosť. Myslím si, že je to dobrá vec.

Teda akým smerom by sa mala umelá inteligencia regulovať? Je možné regulovať umelú inteligenciu v záujme všeobecného dobra, a ak áno, čo by to malo byť?

Paul Nemitz: Je to predovšetkým otázka nadradenosti demokracie nad technológiami a obchodnými modelmi. O tom, ako vyzerá spoločný záujem, sa v demokracii rozhoduje práve prostredníctvom tohto procesu v demokracii. Parlamenty a zákonodarcovia sú miestom, kde sa rozhoduje o tom, akým smerom sa má spoločný záujem uberať: zákon je najvznešenejším rečníckym aktom demokracie. 

Pred niekoľkými mesiacmi, keď sa hovorilo o regulácii a umelej inteligencii, niektorí technologickí magnáti napísali list, v ktorom varovali vlády, že umelá inteligencia môže zničiť ľudstvo, ak nebudú existovať žiadne pravidlá, a žiadali o reguláciu. Mnohí kritickí odborníci, ako napríklad Evgenij Morozov a Christopher Wylie, však v dvoch článkoch, ktoré sme nedávno uverejnili, tvrdia, že títo technologickí giganti hrozbou zániku spôsobeného umelou inteligenciou v skutočnosti odvádzajú pozornosť verejnosti a vlády od aktuálnych problémov s umelou inteligenciou. Súhlasíte s tým?

Musíme sa pozrieť na bezprostredné výzvy súčasnosti, na digitálne hospodárstvo, ako aj na výzvy pre demokraciu a základné práva: koncentrácia moci v digitálnom hospodárstve je aktuálnym problémom. Umelá inteligencia prispieva k tejto koncentrácii moci: spája všetky prvky umelej inteligencie, ako sú výskumníci a začínajúci podnikatelia, do fungujúcich systémov. Dnes máme bezprostrednú výzvu, ktorá nepochádza len zo samotnej technológie, ale aj z dôsledkov tohto prídavku ku koncentrácii moci.

A potom tu máme dlhodobé výzvy, ale musíme sa zaoberať oboma. Zásada predbežnej opatrnosti je súčasťou inovácií v Európe a je to dobrá súčasť. Stal sa zásadou legislatívy a primárneho práva v Európskej únii, ktorá nás núti pozerať sa na dlhodobé vplyvy technológií a ich potenciálne hrozivé dôsledky. Ak nemôžeme s istotou vylúčiť, že tieto negatívne dôsledky vzniknú, musíme dnes prijať rozhodnutia, aby sme zabezpečili, že nevzniknú. Práve o tom je zásada predbežnej opatrnosti a na tento účel čiastočne slúžia aj naše právne predpisy. 

Elon Musk na Twitteri napísal, že je potrebné komplexné zrušenie regulácie. Je toto spôsob, ako chrániť práva jednotlivca a demokraciu ? 

Podľa mňa tí, ktorí už pred uvedením inovácií ako ChatGPT na trh písali knihy, v ktorých hovorili, že umelá inteligencia je ako atómová energia, a potom volali po regulácii, z toho nevyvodili dôsledky. Ak si spomeniete na Billa Gatesa, Elona Muska, ak si spomeniete na prezidenta spoločnosti Microsoft Brada Smitha, tí všetci veľmi jasne hovorili o rizikách a možnostiach AI. Microsoft najprv kúpil veľkú časť otvorenej AI a len ju uviedol na trh, aby zinkasoval niekoľko miliárd, a potom vyšiel von a povedal „teraz potrebujeme zákony“. Ak by sa však brala vážne paralela s atómovou energiou, znamenalo by to počkať, kým sa zavedie regulácia. Keď sa v našich spoločnostiach zaviedla atómová energia, nikoho nenapadlo začať ju prevádzkovať bez toho, aby boli tieto regulácie zavedené. Ak sa pozrieme do histórie právnej regulácie technológií, vždy sa vyskytol odpor podnikateľského sektora. Trvalo 10 rokov, kým sa v amerických a európskych autách zaviedli bezpečnostné pásy, ľudia umierali, pretože automobilový priemysel tak úspešne loboval, hoci všetci vedeli, že počet úmrtí by sa znížil na polovicu, keby sa bezpečnostné pásy zaviedli. 

Takže na mňa nerobí dojem, ak niektorí podnikatelia tvrdia, že najlepšou vecou na svete by bolo neregulovať zákonom: je to mokrý sen kapitalistov a neoliberalistov tejto doby. Ale demokracia v skutočnosti znamená opak: v demokracii nemožno dôležité záležitosti spoločnosti, a umelá inteligencia je jednou z nich, ponechať na podniky a ich komunitné pravidlá alebo samoreguláciu. Dôležité záležitosti v demokratických spoločnostiach musí riešiť demokratický zákonodarca. O tom je demokracia. 

Takisto som presvedčený, že myšlienka, že všetky problémy tohto sveta možno vyriešiť technológiou, ako sme to počuli od exprezidenta Trumpa, keď USA opustili klimatické dohody v Paríži, je v skutočnosti v klimatickej politike, ako aj vo všetkých veľkých otázkach tohto sveta, nesprávna. Koronavírus nám ukázal, že kľúčové sú pravidlá správania. Musíme investovať do toho, aby sme sa dokázali na veciach dohodnúť: najvzácnejším zdrojom na riešenie problémov dnes nie je ďalšia skvelá technológia a všetky tie ideologické reči. Najvzácnejším zdrojom je dnes schopnosť a ochota ľudí dohodnúť sa v demokracii a medzi krajinami. Či už ide o transatlantické vzťahy, či už ide o medzinárodné právo, či už ide o to, aby sa strany, ktoré medzi sebou vedú vojnu, opäť dohodli na mieri, to je najväčšia výzva našej doby. A povedal by som, že tí, ktorí si myslia, že technológie vyriešia všetky problémy, sú vedení určitou pýchou.

Jste optimista, že regulácia prostredníctvom demokratického procesu bude dostatočne silná na to, aby obmedzila deregulačné sily lobistov ?

Povedzme to takto: v Amerike má lobby prevahu. Ak si vypočujete skvelého profesora ústavného práva Lawrencea Lessiga o moci peňazí v Amerike a jeho analýzu, prečo už z Kongresu nevychádza žiadny zákon obmedzujúci veľké technológie, peniaze hrajú veľmi vážnu úlohu. V Európe sa stále dokážeme dohodnúť. Samozrejme, že v Bruseli je lobby veľmi silná a musíme o tom otvorene hovoriť: o peniazoch, ktoré veľké technologické firmy míňajú, ako sa snažia ovplyvňovať nielen politikov, ale aj novinárov a vedcov.&nbsp

Existuje GAFAM kultúra snahy ovplyvňovať verejnú mienku a vo svojej knihe som pomerne podrobne opísal ich súbor nástrojov. Sú veľmi prítomné, ale povedal by som, že náš demokratický proces stále funguje, pretože naše politické strany a naši poslanci nie sú závislí od peňazí veľkých technologických spoločností ako americkí poslanci. Myslím si, že môžeme byť hrdí na to, že naša demokracia je stále schopná inovovať, pretože tvorba zákonov v týchto špičkových otázkach nie je technologickou záležitosťou, je to naozaj jadro spoločenských otázok. Cieľom je premeniť tieto myšlienky na zákony, ktoré potom fungujú tak, ako fungujú bežné zákony: neexistuje zákon, ktorý by bol dokonale vynútiteľný. Aj to je súčasťou inovácie. Inovácie nie sú len technologickou záležitosťou.

Jedným z veľkých Leitmotívov pohľadu Jevgenija Morozova na umelú inteligenciu a veľké technológie vo všeobecnosti je poukazovanie na solutionizmus, čo ste spomínali ako myšlienku, že technológie môžu vyriešiť všetko. V súčasnosti Európska únia diskutuje o zákone o umelej inteligencii, ktorý by mal regulovať umelú inteligenciu. Kam táto regulácia smeruje a vieme, do akej miery ju ovplyvnila technologická lobby? Vieme, že je to najväčšia loby z hľadiska rozpočtu v rámci inštitúcií EÚ. Môžeme povedať, že zákon o umelej inteligencii je v súčasnosti najkomplexnejším zákonom v tejto oblasti?“

Aby sme mali v Európe rovnaké podmienky, potrebujeme jeden zákon, nechceme mať 27 zákonov vo všetkých rôznych členských štátoch, takže ide o rovnaké zaobchádzanie. Povedal by som, že najdôležitejšie na tomto zákone o umelej inteligencii je, že opäť zavádzame zásadu nadradenosti demokracie nad technológiami a obchodnými modelmi. To je kľúčové, a pokiaľ ide o zvyšok, som veľmi presvedčený, že Rada a Európsky parlament sa dokážu dohodnúť na konečnom znení tohto zákona pred ďalšími európskymi voľbami, teda najneskôr do februára.

Evgenij Morozov hovorí , že väčšinu odborníkov znepokojuje vzostup umelej všeobecnej inteligencie (AGI), teda v podstate umelej inteligencie, ktorú netreba programovať, a ktorá by teda mohla mať nepredvídateľné správanie. Priaznivci, ako napríklad zakladateľ openAI Sam Altman, však tvrdia, že by mohla naštartovať ekonomiku a „pozdvihnúť ľudstvo zvýšením hojnosti“. Aký je váš názor na to?

Najprv sa pozrime, či sa všetky sľuby špecializovanej umelej inteligencie naozaj naplnia. Nie som o tom presvedčený, nie je jasné, kedy vznikne krok k AGI. Stuart Russell, autor knihy „Human Compatible: Umelá inteligencia a problém kontroly“, hovorí, že AI nikdy nebude schopná operacionalizovať všeobecné princípy, ako sú ústavné princípy alebo základné práva. Preto vždy, keď je potrebné prijať rozhodnutie o hodnotovom princípe, musia byť programy navrhnuté tak, aby krúžili späť k ľuďom. Myslím si, že táto myšlienka by nás a tých, ktorí vyvíjajú AGI, mala zatiaľ viesť. Verí tiež, že prejdú desaťročia, kým budeme mať AGI, ale robí paralelu so štiepením atómu, pričom tvrdí, že mnohí veľmi kompetentní vedci tvrdili, že to nie je možné, a potom jedného dňa prekvapivo vystúpil v Londýne vedec a na druhý deň ukázal, ako je to skutočne možné. Preto si myslím, že sa na to musíme pripraviť, a nielen to. Existuje veľa fantázií o tom, ako sa bude technológia vyvíjať, ale myslím si, že dôležité je, aby verejná správa, parlamenty a vlády držali kurz a veľmi pozorne to sledovali. 

Potrebujeme povinnosť pravdy od tých, ktorí tieto technológie vyvíjajú, často za zatvorenými dverami. V práve EÚ existuje irónia: keď riešime prípady týkajúce sa hospodárskej súťaže, môžeme uložiť pokutu, ak nám veľké korporácie klamú. Napríklad spoločnosť Facebook dostala pokutu viac ako 100 miliónov eur za to, že nám nepovedala celý príbeh o prevzatí spoločnosti WhatsApp. Neexistuje však žiadna povinnosť dodržiavať pravdu, keď ako Komisia konzultujeme pri príprave legislatívneho návrhu alebo keď Európsky parlament konzultuje pri príprave svojich legislatívnych diskusií alebo procesov. Existuje, žiaľ, dlhá tradícia digitálnych podnikov, ako aj iných podnikov, ktoré v priebehu tohto procesu klamú. To sa musí zmeniť. Myslím si, že potrebujeme právnu povinnosť pravdy, ktorá musí byť aj sankcionovaná. Potrebujeme zmenu kultúry, pretože sme čoraz viac závislí od toho, čo nám hovoria. A ak je politika závislá od toho, čo hovoria podniky, potom musíme byť schopní držať ich pri pravde. 

Majú tieto pokuty nejaký vplyv? Aj keď Facebook dostane pokutu vo výške jednej miliardy dolárov, zmení to niečo? Začnú sa správať inak, čo to pre nich znamená z hľadiska peňazí alebo vplyvu? Je to všetko, čo máme?

Myslím si, že pokutovanie nie je všetko, ale žijeme vo svete obrovskej koncentrácie moci a potrebujeme protisilu. A protipólom moci musí byť štát, takže musíme byť schopní presadiť všetky zákony, v prípade potreby aj tvrdou rukou. Žiaľ, tieto spoločnosti zväčša reagujú len na tvrdú ruku. Amerika vie, ako sa s kapitalizmom vysporiadať: ľudia idú do väzenia, keď vytvoria kartel, keď sa dohodnú na cenách, v Európe nie. Preto si myslím, že sa v tomto smere musíme učiť od Ameriky, musíme byť pripravení a ochotní presadzovať naše zákony tvrdou rukou, pretože demokracia znamená, že sa vytvárajú zákony a demokracia znamená aj to, že sa zákony dodržiavajú. A v prípade veľkých technologických podnikov nemôže byť žiadna výnimka. 

Znamená to, že by sme mali smerovať k americkejšiemu spôsobu života?

To znamená, že musíme brať presadzovanie našich zákonov vážne, a to si, žiaľ, často vyžaduje pokuty. V oblasti práva hospodárskej súťaže môžeme uložiť pokutu až do výšky 10 % celkového obratu veľkých spoločností, myslím si, že to má svoj účinok. V zákone o ochrane osobných údajov sú to len 4 %, ale myslím si, že tieto pokuty majú stále účinok, pretože motivujú členov správnych rád, aby sa uistili, že ich spoločnosti dodržiavajú predpisy.

Toto však nestačí: nesmieme zabúdať, že v demokratickej spoločnosti prichádza protiváha od občanov a občianskej spoločnosti. Nemôžeme nechať jednotlivcov samých bojovať za svoje práva tvárou v tvár veľkým technológiám. Potrebujeme verejné presadzovanie a musíme posilniť občiansku spoločnosť, aby bojovala za práva jednotlivcov. Myslím si, že toto je súčasťou kontroly moci technológií v 21. storočí a bude usmerňovať inovácie. Nie je to prekážka inovácií, ale usmerňuje ich smerom k verejnému záujmu a zákonnosti v strede cesty. A to je to, čo potrebujeme ! Potrebujeme, aby sa veľké mocné technologické spoločnosti naučili, že nie je dobré postupovať rýchlo a porušovať veci, ak „porušovanie vecí“ znamená porušovanie zákona. Myslím, že všetci sme za inovácie, ale podkopáva to našu demokraciu, ak dovolíme silným hráčom narúšať a porušovať zákony a ujsť im. To nie je dobré pre demokraciu. 

Thierry Breton, európsky komisár pre priemysel, napísal Elonovi Muskovi list, v ktorom mu odkazuje, že ak bude X naďalej uprednostňovať dezinformácie, môže sa stretnúť s určitými sankciami zo strany EÚ. Musk odpovedal, že v takom prípade môže z Európy odísť a že aj ostatní technologickí giganti môžu byť v pokušení urobiť to isté, ak sa im nepáči regulácia, ktorú Európa nastavuje. Aká je teda rovnováha síl medzi nimi? 

Povedal by som, že je to veľmi jednoduché, v tomto smere som veľmi jednoduchý človek: demokracia sa nikdy nedá vydierať. Ak sa nás pokúsia vydierať, mali by sme sa im len vysmiať: ak chcú odísť, môžu slobodne odísť a Elonovi Muskovi želám veľa šťastia na burze, ak opustí Európu. Našťastie sme stále veľmi veľký a ziskový trh, takže ak si môže dovoliť odísť: Zbohom Elon Musk, prajeme ti všetko dobré.

A čo nebezpečenstvo netradičného využitia umelej inteligencie?

Ano, „nekonvenčné“ znamená použitie na vojnové účely. Samozrejme, že to predstavuje nebezpečenstvo, v OSN sa na tom pracuje a zbrane, ktoré sa vymykajú kontrole, sú problémom pre každého človeka, ktorý rozumie bezpečnosti a fungovaniu armády: armáda chce mať kontrolu nad svojimi zbraňami. V minulosti sme nechali krajiny podpísať multilaterálne dohody nielen o nešírení atómových zbraní, ale aj o malých zbraniach a zbraniach, ktoré sa vymknú kontrole, ako sú nášľapné míny. Myslím si, že v spoločnom záujme sveta, ľudstva a ovládateľnosti potrebujeme pokrok v oblasti pravidiel používania umelej inteligencie na vojenské účely. Tieto rokovania sú náročné, niekedy môže trvať roky, v niektorých prípadoch dokonca desaťročia, kým sa dosiahnu dohody, ale nakoniec si myslím, že určite potrebujeme pravidlá pre autonómne zbrane a v tejto súvislosti aj pre umelú inteligenciu.

Vrátim sa k tomu, čo povedal Chris Wiley v spomínanom článku: súčasný regulačný prístup nefunguje, pretože „sa k umelej inteligencii správa ako k službe, nie ako k architektúre“. Stotožňujete sa s týmto názorom? 

Povedal by som, že latka toho, čo funguje a čo nefunguje a čo sa považuje za fungujúce a nefungujúce v oblasti technického práva, by nemala byť vyššia ako v akejkoľvek inej oblasti práva. Všetci vieme, že máme daňové zákony a snažíme sa ich čo najlepšie presadzovať. Vieme však, že existuje veľa ľudí a spoločností, ktorým uniká platenie daní.  Máme zákony o duševnom vlastníctve a tie sa nie vždy dodržiavajú. Vražda je niečo, čo sa prísne trestá, ale ľudia sú vraždení každý deň.

Takže si myslím, že v oblasti technického práva by sme nemali padnúť do pasce, ktorá je diskurzom technického priemyslu, podľa ktorého „radšej žiadny zákon ako zlý zákon“, pričom zlý zákon je taký, ktorý sa nedá dokonale vynútiť. Moja odpoveď na to znie: neexistuje zákon, ktorý by fungoval dokonale, a neexistuje zákon, ktorý by sa dal dokonale presadzovať. Ale to nie je argument proti existencii zákonov. Zákony sú najvznešenejším rečníckym aktom demokracie, a to znamená, že sú kompromisom.

Sú kompromisom s lobistickými záujmami, ktoré tieto spoločnosti prenášajú do parlamentu a ktoré niektoré strany preberajú viac ako iné. A keďže zákony sú kompromisom, nie sú dokonalé ani z vedeckého, ani z funkčného hľadiska. Sú výtvorom demokracie a nakoniec by som povedal, že je lepšie, ak sa na zákone dohodneme, aj keď ho mnohí považujú za nedokonalý. V Bruseli hovoríme, že ak na konci všetci kričia: podniky hovoria, že „toto je príliš veľká prekážka pre inovácie“, a občianska spoločnosť si myslí, že je to úspech lobby, potom sme to asi viac-menej dotiahli do stredu.

Pozrite si video z Voxeurop Live s Paulom Nemitzom zde.