{"id":37482,"date":"2024-01-08T12:24:27","date_gmt":"2024-01-08T11:24:27","guid":{"rendered":"https:\/\/archive.displayeurope.eu\/?post_type=article&p=37482"},"modified":"2024-09-06T16:41:39","modified_gmt":"2024-09-06T14:41:39","slug":"paul-nemitz-demokracie-musi-prevladnout-nad-technologii-a-podnikatelskymi-modely-pro-spolecne-dobro","status":"publish","type":"article","link":"https:\/\/archive.displayeurope.eu\/cs\/article\/paul-nemitz-demokracie-musi-prevladnout-nad-technologii-a-podnikatelskymi-modely-pro-spolecne-dobro\/","title":{"rendered":"Paul Nemitz: „Demokracie mus\u00ed m\u00edt p\u0159ednost p\u0159ed technologiemi a obchodn\u00edmi modely pro spole\u010dn\u00e9 dobro"},"content":{"rendered":"\n

Paul Nemitz je vedouc\u00edm poradcem gener\u00e1ln\u00edho \u0159editelstv\u00ed Evropsk\u00e9 komise pro spravedlnost a profesorem pr\u00e1va na Coll\u00e8ge d’Europe. Je pova\u017eov\u00e1n za jednoho z nejuzn\u00e1van\u011bj\u0161\u00edch evropsk\u00fdch odborn\u00edk\u016f na digit\u00e1ln\u00ed svobodu a vedl pr\u00e1ce na obecn\u00e9m na\u0159\u00edzen\u00ed o ochran\u011b osobn\u00edch \u00fadaj\u016f<\/a>. Spolu s Matthiasem Pfefferem je tak\u00e9 autorem \u010clov\u011b\u010d\u00ed imperativ: moc, svoboda a demokracie ve v\u011bku um\u011bl\u00e9 inteligence<\/em><\/a>, eseje o dopadu nov\u00fdch technologi\u00ed na svobody jednotlivce a spole\u010dnosti. <\/strong><\/p>\n\n\n\n

Voxeurop: \u0158ekl byste, \u017ee <\/strong>um\u011bl\u00e1 inteligence<\/strong><\/a> je pro demokracii p\u0159\u00edle\u017eitost\u00ed nebo hrozbou a pro\u010d?  <\/strong><\/p>\n\n\n\n

Paul Nemitz<\/strong>: \u0158ekl bych, \u017ee jedn\u00edm z velk\u00fdch \u00fakol\u016f demokracie v 21. stolet\u00ed je kontrola technologick\u00e9 moci. Mus\u00edme si uv\u011bdomit, \u017ee moc je t\u0159eba kontrolovat. Existuj\u00ed dobr\u00e9 d\u016fvody, pro\u010d m\u00e1me pr\u00e1vn\u00ed historii kontroly moci spole\u010dnost\u00ed, st\u00e1t\u016f nebo v exekutiv\u011b. Tento princip se jist\u011b vztahuje i na um\u011blou inteligenci.<\/p>\n\n\n\n

Mnoh\u00e9, ne-li v\u0161echny technologie v sob\u011b nesou prvek p\u0159\u00edle\u017eitost\u00ed, ale tak\u00e9 rizika: zn\u00e1me to z chemick\u00fdch l\u00e1tek nebo atomov\u00e9 energie, a pr\u00e1v\u011b proto je tak d\u016fle\u017eit\u00e9, aby demokracie p\u0159evzala odpov\u011bdnost za to, jak\u00fdm zp\u016fsobem se technologie vyv\u00edjej\u00ed, jak\u00fdm sm\u011brem by se m\u011bly inovace ub\u00edrat a kde mohou b\u00fdt hranice inovac\u00ed, v\u00fdzkumu a vyu\u017eit\u00ed. M\u00e1me za sebou dlouhou historii omezov\u00e1n\u00ed v\u00fdzkumu, nap\u0159\u00edklad v oblasti nebezpe\u010dn\u00fdch biologick\u00fdch l\u00e1tek, genetiky nebo atomov\u00e9 energie: to v\u0161e bylo velmi siln\u011b zar\u00e1mov\u00e1no, tak\u017ee nen\u00ed nic neobvykl\u00e9ho, \u017ee se demokracie pod\u00edv\u00e1 na nov\u00e9 technologie, jako je um\u011bl\u00e1 inteligence, zamysl\u00ed se nad jejich dopadem a p\u0159evezme odpov\u011bdnost. Mysl\u00edm, \u017ee je to dob\u0159e.<\/p>\n\n\n\n

Jak\u00fdm sm\u011brem by tedy m\u011bla b\u00fdt um\u011bl\u00e1 inteligence regulov\u00e1na? Je mo\u017en\u00e9 regulovat um\u011blou inteligenci pro obecn\u00e9 blaho, a pokud ano, jak\u00e9 by to m\u011blo b\u00fdt? <\/strong><\/p>\n\n\n\n

Paul Nemitz<\/strong>: V prvn\u00ed \u0159ad\u011b je to ot\u00e1zka nad\u0159azenosti demokracie nad technologiemi a obchodn\u00edmi modely. O tom, jak vypad\u00e1 spole\u010dn\u00fd z\u00e1jem, se v demokracii rozhoduje pr\u00e1v\u011b prost\u0159ednictv\u00edm tohoto procesu v demokracii. Parlamenty a z\u00e1konod\u00e1rci jsou m\u00edstem, kde se rozhoduje o tom, jak\u00fdm sm\u011brem se m\u00e1 spole\u010dn\u00fd z\u00e1jem ub\u00edrat: z\u00e1kon je nejvzne\u0161en\u011bj\u0161\u00edm mluv\u00edc\u00edm aktem demokracie. <\/p>\n\n\n\n

P\u0159ed n\u011bkolika m\u011bs\u00edci, kdy\u017e byla \u0159e\u010d o regulaci a um\u011bl\u00e9 inteligenci, napsali n\u011bkte\u0159\u00ed technologi\u010dt\u00ed magn\u00e1ti dopis, v n\u011bm\u017e varovali vl\u00e1dy, \u017ee um\u011bl\u00e1 inteligence m\u016f\u017ee zni\u010dit lidstvo, pokud nebudou existovat \u017e\u00e1dn\u00e1 pravidla, a \u017e\u00e1dali o regulaci. Mnoz\u00ed kriti\u010dt\u00ed odborn\u00edci jako <\/strong>Evgenij Morozov<\/strong><\/a> a <\/strong>Christopher Wylie<\/strong><\/a> v\u0161ak ve dvou \u010dl\u00e1nc\u00edch, kter\u00e9 jsme ned\u00e1vno zve\u0159ejnili, tvrd\u00ed, \u017ee tito technologi\u010dt\u00ed giganti hrozbou z\u00e1niku zp\u016fsoben\u00e9ho um\u011blou inteligenc\u00ed ve skute\u010dnosti odv\u00e1d\u011bj\u00ed pozornost ve\u0159ejnosti a vl\u00e1dy od aktu\u00e1ln\u00edch probl\u00e9m\u016f s um\u011blou inteligenc\u00ed. Souhlas\u00edte s t\u00edm? <\/strong><\/p>\n\n\n\n

Mus\u00edme se zab\u00fdvat jak bezprost\u0159edn\u00edmi v\u00fdzvami dne\u0161ka, digit\u00e1ln\u00ed ekonomikou, tak i v\u00fdzvami pro demokracii a z\u00e1kladn\u00ed pr\u00e1va: koncentrace moci v digit\u00e1ln\u00ed ekonomice je aktu\u00e1ln\u00edm probl\u00e9mem. Um\u011bl\u00e1 inteligence k t\u00e9to koncentraci moci p\u0159isp\u00edv\u00e1: spojuje v\u0161echny prvky um\u011bl\u00e9 inteligence, jako jsou v\u00fdzkumn\u00ed pracovn\u00edci a za\u010d\u00ednaj\u00edc\u00ed podnikatel\u00e9, do funguj\u00edc\u00edch syst\u00e9m\u016f. Dnes m\u00e1me p\u0159ed sebou bezprost\u0159edn\u00ed v\u00fdzvu, kter\u00e1 vych\u00e1z\u00ed nejen ze samotn\u00e9 technologie, ale tak\u00e9 z d\u016fsledk\u016f tohoto dopln\u011bn\u00ed koncentrace moci.<\/p>\n\n\n\n

A pak tu m\u00e1me dlouhodob\u00e9 v\u00fdzvy, ale mus\u00edme se zab\u00fdvat oboj\u00edm. Princip p\u0159edb\u011b\u017en\u00e9 opatrnosti je sou\u010d\u00e1st\u00ed inovac\u00ed v Evrop\u011b a je to dobr\u00e1 sou\u010d\u00e1st. Stal se principem legislativy a prim\u00e1rn\u00edho pr\u00e1va v Evropsk\u00e9 unii a nut\u00ed n\u00e1s zab\u00fdvat se dlouhodob\u00fdmi dopady technologi\u00ed a jejich potenci\u00e1ln\u011b hroziv\u00fdmi d\u016fsledky. Pokud nem\u016f\u017eeme s jistotou vylou\u010dit, \u017ee tyto negativn\u00ed d\u016fsledky nastanou, mus\u00edme dnes p\u0159ijmout rozhodnut\u00ed, kter\u00e1 zajist\u00ed, aby nenastaly. Pr\u00e1v\u011b o tom je z\u00e1sada p\u0159edb\u011b\u017en\u00e9 opatrnosti a k tomuto \u00fa\u010delu \u010d\u00e1ste\u010dn\u011b slou\u017e\u00ed i na\u0161e pr\u00e1vn\u00ed p\u0159edpisy. <\/p>\n\n\n\n

Elon Musk na Twitteru uvedl, \u017ee je pot\u0159eba komplexn\u00ed deregulace. Je to cesta k ochran\u011b pr\u00e1v jednotlivce a demokracie ? <\/strong><\/p>\n\n\n\n

Podle m\u00e9ho n\u00e1zoru ti, kte\u0159\u00ed u\u017e p\u0159ed uveden\u00edm inovac\u00ed jako ChatGPT na trh psali knihy, v nich\u017e tvrdili, \u017ee um\u011bl\u00e1 inteligence je jako atomov\u00e1 energie, a pot\u00e9 volali po regulaci, z toho nevyvodili d\u016fsledky. Kdy\u017e si vzpomenete na Billa Gatese, Elona Muska, kdy\u017e si vzpomenete na prezidenta Microsoftu Brada Smithe, ti v\u0161ichni m\u011bli o rizic\u00edch a mo\u017enostech AI jasno. Microsoft nejprve koupil velkou \u010d\u00e1st otev\u0159en\u00e9 AI a prost\u011b ji uvedl na trh, aby vyinkasoval p\u00e1r miliard, a teprve pak vy\u0161el a \u0159ekl „te\u010f pot\u0159ebujeme z\u00e1kony“. Kdyby se v\u0161ak brala v\u00e1\u017en\u011b paralela s atomovou energi\u00ed, znamenalo by to po\u010dkat, a\u017e bude zavedena regulace. Kdy\u017e byla atomov\u00e1 energie v na\u0161\u00ed spole\u010dnosti zavedena, nikoho nenapadlo ji za\u010d\u00edt provozovat, ani\u017e by tyto regulace byly zavedeny. Pod\u00edv\u00e1me-li se do historie pr\u00e1vn\u00ed regulace technologi\u00ed, v\u017edy se setk\u00e1v\u00e1me s odporem podnikatelsk\u00e9ho sektoru. Trvalo deset let, ne\u017e byly v americk\u00fdch a evropsk\u00fdch automobilech zavedeny bezpe\u010dnostn\u00ed p\u00e1sy, lid\u00e9 um\u00edrali, proto\u017ee automobilov\u00fd pr\u016fmysl tak \u00fasp\u011b\u0161n\u011b lobboval, p\u0159esto\u017ee v\u0161ichni v\u011bd\u011bli, \u017ee po\u010det \u00famrt\u00ed by se zaveden\u00edm bezpe\u010dnostn\u00edch p\u00e1s\u016f sn\u00ed\u017eil na polovinu. <\/p>\n\n\n\n

Tak\u017ee na m\u011b ned\u011bl\u00e1 dojem, kdy\u017e n\u011bkte\u0159\u00ed podnikatel\u00e9 tvrd\u00ed, \u017ee nejlep\u0161\u00ed na sv\u011bt\u011b by bylo neregulovat z\u00e1konem: to je vlhk\u00fd sen kapitalist\u016f a neoliberalist\u016f t\u00e9to doby. Ale demokracie ve skute\u010dnosti znamen\u00e1 prav\u00fd opak: v demokracii nelze d\u016fle\u017eit\u00e9 spole\u010densk\u00e9 z\u00e1le\u017eitosti, a UI je jednou z nich, ponechat na firm\u00e1ch a jejich komunitn\u00edch pravidlech \u010di samoregulaci. D\u016fle\u017eit\u00e9 z\u00e1le\u017eitosti ve spole\u010dnostech, kter\u00e9 jsou demokratick\u00e9, mus\u00ed \u0159e\u0161it demokratick\u00fd z\u00e1konod\u00e1rce. O tom je demokracie. <\/p>\n\n\n\n

Jsem tak\u00e9 p\u0159esv\u011bd\u010den, \u017ee p\u0159edstava, \u017ee v\u0161echny&nbspprobl\u00e9my tohoto sv\u011bta lze vy\u0159e\u0161it pomoc\u00ed technologi\u00ed, jak jsme sly\u0161eli od exprezidenta Trumpa, kdy\u017e USA opustily klimatick\u00e9 dohody v Pa\u0159\u00ed\u017ei, je v klimatick\u00e9 politice i ve v\u0161ech velk\u00fdch ot\u00e1zk\u00e1ch tohoto sv\u011bta ve skute\u010dnosti chybn\u00e1. Koronavirus n\u00e1m uk\u00e1zal, \u017ee kl\u00ed\u010dov\u00e1 jsou pravidla chov\u00e1n\u00ed. Mus\u00edme investovat do toho, abychom se dok\u00e1zali na v\u011bcech dohodnout: nejvz\u00e1cn\u011bj\u0161\u00edm zdrojem pro \u0159e\u0161en\u00ed probl\u00e9m\u016f dnes nen\u00ed dal\u0161\u00ed skv\u011bl\u00e1 technologie a v\u0161echny ty ideologick\u00e9 \u0159e\u010di. Nejvz\u00e1cn\u011bj\u0161\u00edm zdrojem je dnes schopnost a ochota lid\u00ed dohodnout se, a to v demokracii i mezi zem\u011bmi. A\u0165 u\u017e je to v transatlantick\u00fdch vztaz\u00edch, a\u0165 u\u017e je to v mezin\u00e1rodn\u00edm pr\u00e1vu, a\u0165 u\u017e je to mezi stranami, kter\u00e9 mezi sebou vedou v\u00e1lku, aby se znovu dohodly na m\u00edru, to je nejv\u011bt\u0161\u00ed v\u00fdzva na\u0161\u00ed doby. A \u0159ekl bych, \u017ee ti, kte\u0159\u00ed si mysl\u00ed, \u017ee technologie vy\u0159e\u0161\u00ed v\u0161echny probl\u00e9my, jsou vedeni ur\u010ditou nadutost\u00ed.<\/p>\n\n\n\n

Jste optimistou, \u017ee regulace prost\u0159ednictv\u00edm demokratick\u00e9ho procesu bude dostate\u010dn\u011b siln\u00e1, aby omezila deregula\u010dn\u00ed s\u00edly lobbist\u016f? <\/strong><\/p>\n\n\n\n

\u0158ekn\u011bme to takto: v Americe m\u00e1 lobby navrch. Pokud si poslechnete vynikaj\u00edc\u00edho profesora \u00fastavn\u00edho pr\u00e1va Lawrence Lessiga<\/a> o moci pen\u011bz v Americe a jeho anal\u00fdzu, pro\u010d u\u017e z Kongresu nevych\u00e1z\u00ed \u017e\u00e1dn\u00fd z\u00e1kon omezuj\u00edc\u00ed velk\u00e9 technologie, pen\u00edze hraj\u00ed velmi v\u00e1\u017enou roli. V Evrop\u011b se st\u00e1le je\u0161t\u011b dok\u00e1\u017eeme dohodnout. Lobby v Bruselu je samoz\u0159ejm\u011b velmi siln\u00e1 a mus\u00edme o tom otev\u0159en\u011b mluvit: o pen\u011bz\u00edch, kter\u00e9 velk\u00e9 technologick\u00e9 firmy utr\u00e1cej\u00ed, jak se sna\u017e\u00ed ovliv\u0148ovat nejen politiky, ale i novin\u00e1\u0159e a v\u011bdce.<\/p>\n\n\n\n

Existuje GAFAM<\/a> kultura snahy ovliv\u0148ovat ve\u0159ejn\u00e9 m\u00edn\u011bn\u00ed a ve sv\u00e9 knize jsem jejich sadu n\u00e1stroj\u016f popsal pom\u011brn\u011b podrobn\u011b. Jsou velmi p\u0159\u00edtomn\u00e9, ale \u0159ekl bych, \u017ee n\u00e1\u0161 demokratick\u00fd proces st\u00e1le funguje, proto\u017ee na\u0161e politick\u00e9 strany a na\u0161i poslanci nejsou z\u00e1visl\u00ed na pen\u011bz\u00edch velk\u00fdch technologick\u00fdch firem jako ameri\u010dt\u00ed poslanci. Mysl\u00edm, \u017ee m\u016f\u017eeme b\u00fdt hrd\u00ed na to, \u017ee na\u0161e demokracie je st\u00e1le schopna inovovat, proto\u017ee tvorba z\u00e1kon\u016f v t\u011bchto \u0161pi\u010dkov\u00fdch ot\u00e1zk\u00e1ch nen\u00ed technologickou z\u00e1le\u017eitost\u00ed, ale skute\u010dn\u011b j\u00e1drem spole\u010densk\u00fdch ot\u00e1zek. C\u00edlem je p\u0159etvo\u0159it tyto my\u0161lenky v z\u00e1kony, kter\u00e9 pak funguj\u00ed tak, jak funguj\u00ed b\u011b\u017en\u00e9 z\u00e1kony: neexistuje z\u00e1kon, kter\u00fd by byl dokonale vymahateln\u00fd. I to je sou\u010d\u00e1st\u00ed inovace. Inovace nejsou jen technologickou z\u00e1le\u017eitost\u00ed.<\/p>\n\n\n\n

Jedn\u00edm z velk\u00fdch leitmotiv\u016f pohledu Jevgenije Morozova na um\u011blou inteligenci a velk\u00e9 technologie obecn\u011b je poukazov\u00e1n\u00ed na solutionismus, tedy to, co jste zm\u00ednil jako my\u0161lenku, \u017ee technologie m\u016f\u017ee vy\u0159e\u0161it v\u0161echno. V sou\u010dasn\u00e9 dob\u011b Evropsk\u00e1 unie projedn\u00e1v\u00e1 z\u00e1kon o um\u011bl\u00e9 inteligenci, kter\u00fd by m\u011bl um\u011blou inteligenci regulovat. Kam tato regulace sm\u011b\u0159uje a v\u00edme, do jak\u00e9 m\u00edry ji ovlivnila technologick\u00e1 lobby? V\u00edme, \u017ee jde o nejv\u011bt\u0161\u00ed lobby z hlediska rozpo\u010dtu v r\u00e1mci instituc\u00ed EU. M\u016f\u017eeme \u0159\u00edci, \u017ee z\u00e1kon o um\u011bl\u00e9 inteligenci je dnes nejkomplexn\u011bj\u0161\u00edm z\u00e1konem na toto t\u00e9ma?“<\/strong><\/p>\n\n\n\n

Abychom m\u011bli v Evrop\u011b rovn\u00e9 podm\u00ednky, pot\u0159ebujeme jeden z\u00e1kon, nechceme m\u00edt 27 z\u00e1kon\u016f ve v\u0161ech r\u016fzn\u00fdch \u010dlensk\u00fdch st\u00e1tech, tak\u017ee jde o rovn\u00e9 zach\u00e1zen\u00ed. \u0158ekl bych, \u017ee nejd\u016fle\u017eit\u011bj\u0161\u00ed na tomto z\u00e1kon\u011b o um\u011bl\u00e9 inteligenci je to, \u017ee op\u011bt zakl\u00e1d\u00e1me z\u00e1sadu nad\u0159azenosti demokracie nad technologiemi a obchodn\u00edmi modely. To je kl\u00ed\u010dov\u00e9, a co se t\u00fd\u010de ostatn\u00edho, jsem p\u0159esv\u011bd\u010den, \u017ee Rada a Evropsk\u00fd parlament budou schopny dohodnout se na kone\u010dn\u00e9 verzi tohoto z\u00e1kona je\u0161t\u011b p\u0159ed p\u0159\u00ed\u0161t\u00edmi evropsk\u00fdmi volbami, tedy nejpozd\u011bji v \u00fanoru.<\/p>\n\n\n\n

Evgenij Morozov \u0159\u00edk\u00e1 <\/a>\u017ee pr\u00e1v\u011b vzestup um\u011bl\u00e9 obecn\u00e9 inteligence (AGI), tedy v podstat\u011b um\u011bl\u00e9 inteligence, kterou nen\u00ed t\u0159eba programovat, a kter\u00e1 se tak m\u016f\u017ee chovat nep\u0159edv\u00eddateln\u011b, d\u011bl\u00e1 v\u011bt\u0161in\u011b odborn\u00edk\u016f starosti. P\u0159\u00edznivci, jako je zakladatel openAI Sam Altman, v\u0161ak tvrd\u00ed, \u017ee by mohla nastartovat ekonomiku a „povzn\u00e9st lidstvo zv\u00fd\u0161en\u00edm hojnosti“.  Jak\u00fd je na to v\u00e1\u0161 n\u00e1zor?“<\/strong><\/p>\n\n\n\n

Nejprve se pod\u00edvejme, zda se v\u0161echny sliby specializovan\u00e9 um\u011bl\u00e9 inteligence skute\u010dn\u011b napln\u00ed. Nejsem o tom p\u0159esv\u011bd\u010den, nen\u00ed jasn\u00e9, kdy krok k AGI vznikne. Stuart Russell, autor knihy „Human Compatible: Um\u011bl\u00e1 inteligence a probl\u00e9m kontroly“, \u0159\u00edk\u00e1, \u017ee AI nikdy nebude schopna operacionalizovat obecn\u00e9 principy, jako jsou \u00fastavn\u00ed principy nebo z\u00e1kladn\u00ed pr\u00e1va. Proto v\u017edy, kdy\u017e je t\u0159eba u\u010dinit rozhodnut\u00ed o n\u011bjak\u00e9m hodnotov\u00e9m principu, mus\u00ed b\u00fdt programy navr\u017eeny tak, aby se vr\u00e1tily zp\u011bt k \u010dlov\u011bku. Mysl\u00edm, \u017ee tato my\u0161lenka by n\u00e1s a ty, kdo vyv\u00edjej\u00ed AGI, m\u011bla prozat\u00edm v\u00e9st. Tak\u00e9 se domn\u00edv\u00e1, \u017ee ne\u017e budeme m\u00edt AGI, uplynou des\u00edtky let, ale uv\u00e1d\u00ed paralelu se \u0161t\u011bpen\u00edm atomu a tvrd\u00ed, \u017ee mnoho velmi kompetentn\u00edch v\u011bdc\u016f tvrdilo, \u017ee to nen\u00ed mo\u017en\u00e9, a pak jednoho dne p\u0159ekvapiv\u011b vystoupil v Lond\u00fdn\u011b v\u011bdec a druh\u00fd den uk\u00e1zal, jak to skute\u010dn\u011b mo\u017en\u00e9 je. Proto si mysl\u00edm, \u017ee se na to mus\u00edme p\u0159ipravit, a nejen to. Existuje mnoho fantazi\u00ed o tom, jak se bude technologie vyv\u00edjet, ale mysl\u00edm si, \u017ee d\u016fle\u017eit\u00e9 je, aby ve\u0159ejn\u00e1 spr\u00e1va, parlamenty a vl\u00e1dy z\u016fstaly v kurzu a velmi pe\u010dliv\u011b to sledovaly. <\/p>\n\n\n\n

Pot\u0159ebujeme povinnost pravdy od t\u011bch, kte\u0159\u00ed tyto technologie vyv\u00edjej\u00ed, \u010dasto za zav\u0159en\u00fdmi dve\u0159mi. V pr\u00e1vu EU existuje ironie: kdy\u017e \u0159e\u0161\u00edme p\u0159\u00edpady hospod\u00e1\u0159sk\u00e9 sout\u011b\u017ee, m\u016f\u017eeme ulo\u017eit pokutu, pokud n\u00e1m velk\u00e9 korporace l\u017eou. Nap\u0159\u00edklad Facebook dostal pokutu v\u00edce ne\u017e 100 milion\u016f za to, \u017ee n\u00e1m ne\u0159ekl celou pravdu o p\u0159evzet\u00ed WhatsApp. Neexistuje v\u0161ak \u017e\u00e1dn\u00e1 povinnost dodr\u017eovat pravdu, kdy\u017e jako Komise konzultujeme p\u0159\u00edpravu legislativn\u00edho n\u00e1vrhu nebo kdy\u017e Evropsk\u00fd parlament konzultuje p\u0159\u00edpravu sv\u00fdch legislativn\u00edch debat \u010di proces\u016f. Bohu\u017eel existuje dlouh\u00e1 tradice, kdy digit\u00e1ln\u00ed podniky, stejn\u011b jako jin\u00e9 podniky, v pr\u016fb\u011bhu tohoto procesu l\u017eou. To se mus\u00ed zm\u011bnit. Mysl\u00edm, \u017ee pot\u0159ebujeme pr\u00e1vn\u00ed povinnost pravdy, kter\u00e1 mus\u00ed b\u00fdt tak\u00e9 sankcionov\u00e1na. Pot\u0159ebujeme zm\u011bnu kultury, proto\u017ee jsme st\u00e1le v\u00edce z\u00e1visl\u00ed na tom, co n\u00e1m \u0159\u00edkaj\u00ed. A pokud je politika z\u00e1visl\u00e1 na tom, co \u0159\u00edkaj\u00ed podniky, mus\u00edme b\u00fdt schopni je p\u0159im\u011bt k pravd\u011b. <\/p>\n\n\n\n

Maj\u00ed tyto pokuty n\u011bjak\u00fd dopad? I kdy\u017e Facebook dostane pokutu ve v\u00fd\u0161i jedn\u00e9 miliardy dolar\u016f, zm\u011bn\u00ed to n\u011bco? Za\u010dnou se chovat jinak, co to pro n\u011b znamen\u00e1 z hlediska pen\u011bz, nebo dopadu? Je to v\u0161echno, co m\u00e1me? <\/strong><\/p>\n\n\n\n

Mysl\u00edm si, \u017ee pokuty nejsou v\u0161echno, ale \u017eijeme ve sv\u011bt\u011b obrovsk\u00e9 koncentrace moci a pot\u0159ebujeme protis\u00edlu. A tu protis\u00edlu mus\u00ed m\u00edt st\u00e1t, tak\u017ee mus\u00edme b\u00fdt schopni vym\u00e1hat v\u0161echny z\u00e1kony, v p\u0159\u00edpad\u011b pot\u0159eby i tvrdou rukou. Bohu\u017eel tyto spole\u010dnosti z velk\u00e9 \u010d\u00e1sti reaguj\u00ed pouze na tvrdou ruku. Amerika v\u00ed, jak se vypo\u0159\u00e1dat s kapitalismem: lid\u00e9 jdou do v\u011bzen\u00ed, kdy\u017e vytvo\u0159\u00ed kartel, kdy\u017e se dohodnou na cen\u00e1ch, v Evrop\u011b ne. Tak\u017ee si mysl\u00edm, \u017ee se v tomto ohledu mus\u00edme od Ameriky u\u010dit, mus\u00edme b\u00fdt p\u0159ipraveni a ochotni prosazovat na\u0161e z\u00e1kony tvrdou rukou, proto\u017ee demokracie znamen\u00e1, \u017ee se z\u00e1kony tvo\u0159\u00ed, a demokracie tak\u00e9 znamen\u00e1, \u017ee se z\u00e1kony dodr\u017euj\u00ed. A v p\u0159\u00edpad\u011b velk\u00fdch technologick\u00fdch firem nem\u016f\u017ee b\u00fdt \u017e\u00e1dn\u00e1 v\u00fdjimka. <\/p>\n\n\n\n

Znamen\u00e1 to, \u017ee bychom m\u011bli sm\u011b\u0159ovat k ameri\u010dt\u011bj\u0161\u00edmu zp\u016fsobu \u017eivota? <\/strong><\/p>\n\n\n\n

To znamen\u00e1, \u017ee mus\u00edme br\u00e1t prosazov\u00e1n\u00ed na\u0161ich z\u00e1kon\u016f v\u00e1\u017en\u011b a bohu\u017eel je kv\u016fli tomu \u010dasto nutn\u00e9 pokutovat. V oblasti pr\u00e1va hospod\u00e1\u0159sk\u00e9 sout\u011b\u017ee m\u016f\u017eeme pokutovat a\u017e 10 % celkov\u00e9ho obratu velk\u00fdch spole\u010dnost\u00ed, mysl\u00edm, \u017ee to m\u00e1 sv\u016fj efekt. V z\u00e1kon\u011b o ochran\u011b osobn\u00edch \u00fadaj\u016f jsou to jen 4 %, ale mysl\u00edm, \u017ee tyto pokuty maj\u00ed st\u00e1le \u00fa\u010dinek, proto\u017ee motivuj\u00ed \u010dleny p\u0159edstavenstev, aby zajistili, \u017ee jejich spole\u010dnosti budou dodr\u017eovat p\u0159edpisy.<\/p>\n\n\n\n

To v\u0161ak nesta\u010d\u00ed: mus\u00edme m\u00edt na pam\u011bti, \u017ee v demokratick\u00e9 spole\u010dnosti p\u0159ich\u00e1z\u00ed protis\u00edla od ob\u010dan\u016f a ob\u010dansk\u00e9 spole\u010dnosti. Nem\u016f\u017eeme nechat jednotlivce samotn\u00e9 bojovat za sv\u00e1 pr\u00e1va tv\u00e1\u0159\u00ed v tv\u00e1\u0159 velk\u00fdm technologi\u00edm. Pot\u0159ebujeme ve\u0159ejn\u00e9 prosazov\u00e1n\u00ed a mus\u00edme pos\u00edlit ob\u010danskou spole\u010dnost, aby bojovala za pr\u00e1va jednotlivc\u016f. Mysl\u00edm si, \u017ee toto je sou\u010d\u00e1st\u00ed kontroly nad silou technologi\u00ed v 21. stolet\u00ed a bude \u0159\u00eddit inovace. Nen\u00ed to p\u0159ek\u00e1\u017eka pro inovace, ale vede je sm\u011brem k ve\u0159ejn\u00e9mu z\u00e1jmu a z\u00e1konnosti uprost\u0159ed cesty. A to je to, co pot\u0159ebujeme ! Pot\u0159ebujeme, aby se velk\u00e9 mocn\u00e9 technologick\u00e9 spole\u010dnosti nau\u010dily, \u017ee nen\u00ed dobr\u00e9 postupovat rychle a rozb\u00edjet v\u011bci, pokud „rozb\u00edjen\u00ed v\u011bc\u00ed“ znamen\u00e1 poru\u0161ov\u00e1n\u00ed z\u00e1kona. Mysl\u00edm, \u017ee v\u0161ichni jsme pro inovace, ale podkop\u00e1v\u00e1 to na\u0161i demokracii, pokud dovol\u00edme siln\u00fdm hr\u00e1\u010d\u016fm naru\u0161ovat a poru\u0161ovat z\u00e1kony a proch\u00e1zet jim to. To nen\u00ed pro demokracii dobr\u00e9. <\/p>\n\n\n\n

Thierry Breton, evropsk\u00fd komisa\u0159 pro pr\u016fmysl, napsal Elonu Muskovi dopis, ve kter\u00e9m mu sd\u011blil, \u017ee pokud bude X nad\u00e1le up\u0159ednost\u0148ovat dezinformace, m\u016f\u017ee se setkat s ur\u010dit\u00fdmi sankcemi ze strany EU. Musk odpov\u011bd\u011bl, \u017ee v takov\u00e9m p\u0159\u00edpad\u011b by mohli Evropu opustit a \u017ee i dal\u0161\u00ed technologi\u010dt\u00ed giganti by mohli b\u00fdt v poku\u0161en\u00ed ud\u011blat tot\u00e9\u017e, pokud se jim nel\u00edb\u00ed regulace, kterou Evropa nastavuje. Jak\u00fd je tedy pom\u011br sil mezi nimi? <\/strong><\/p>\n\n\n\n

\u0158ekl bych, \u017ee je to velmi jednoduch\u00e9, j\u00e1 jsem v tomto ohledu velmi jednoduch\u00fd \u010dlov\u011bk: demokracii nelze nikdy vyd\u00edrat. Pokud se n\u00e1s pokus\u00ed vyd\u00edrat, m\u011bli bychom se jim prost\u011b vysm\u00e1t: pokud cht\u011bj\u00ed odej\u00edt, mohou odej\u00edt, a j\u00e1 p\u0159eji Elonu Muskovi hodn\u011b \u0161t\u011bst\u00ed na burze, pokud opust\u00ed Evropu. Na\u0161t\u011bst\u00ed jsme st\u00e1le velmi velk\u00fd a ziskov\u00fd trh, tak\u017ee pokud si m\u016f\u017ee dovolit odej\u00edt: sbohem Elone Musku, p\u0159ejeme ti v\u0161e nejlep\u0161\u00ed.<\/p>\n\n\n\n

A co nebezpe\u010d\u00ed nekonven\u010dn\u00edho vyu\u017eit\u00ed um\u011bl\u00e9 inteligence? <\/strong><\/p>\n\n\n\n

Ano, „nekonven\u010dn\u00ed“ znamen\u00e1 pou\u017eit\u00ed pro v\u00e1lku. To samoz\u0159ejm\u011b p\u0159edstavuje nebezpe\u010d\u00ed, v OSN se na tom pracuje a zbran\u011b, kter\u00e9 se vymykaj\u00ed kontrole, jsou probl\u00e9mem pro ka\u017ed\u00e9ho \u010dlov\u011bka, kter\u00fd rozum\u00ed bezpe\u010dnosti a fungov\u00e1n\u00ed arm\u00e1dy: arm\u00e1da chce m\u00edt sv\u00e9 zbran\u011b pod kontrolou. V minulosti jsme nechali zem\u011b podepsat mnohostrann\u00e9 dohody nejen o ne\u0161\u00ed\u0159en\u00ed atomov\u00fdch zbran\u00ed, ale tak\u00e9 o mal\u00fdch zbran\u00edch a zbran\u00edch, kter\u00e9 se vymknou kontrole, jako jsou n\u00e1\u0161lapn\u00e9 miny. Mysl\u00edm, \u017ee ve spole\u010dn\u00e9m z\u00e1jmu sv\u011bta, lidstva a spravovatelnosti pot\u0159ebujeme pokrok v oblasti pravidel pro pou\u017e\u00edv\u00e1n\u00ed UI pro vojensk\u00e9 \u00fa\u010dely. Tato jedn\u00e1n\u00ed jsou obt\u00ed\u017en\u00e1, n\u011bkdy m\u016f\u017ee trvat roky, v n\u011bkter\u00fdch p\u0159\u00edpadech dokonce desetilet\u00ed, ne\u017e dojde k dohod\u011b, ale nakonec si mysl\u00edm, \u017ee pravidla pro autonomn\u00ed zbran\u011b rozhodn\u011b pot\u0159ebujeme, a v t\u00e9to souvislosti tak\u00e9 pro UI.<\/p>\n\n\n\n

Vr\u00e1t\u00edm se k tomu, co \u0159ekl Chris Wiley ve zm\u00edn\u011bn\u00e9m \u010dl\u00e1nku: sou\u010dasn\u00fd regula\u010dn\u00ed p\u0159\u00edstup nefunguje, proto\u017ee „s um\u011blou inteligenc\u00ed zach\u00e1z\u00ed jako se slu\u017ebou, nikoli jako s architekturou“. Sd\u00edl\u00edte tento n\u00e1zor? <\/strong><\/p>\n\n\n\n

\u0158ekl bych, \u017ee la\u0165ka toho, co funguje a co nefunguje a co se pova\u017euje za funguj\u00edc\u00ed a nefunguj\u00edc\u00ed v oblasti technick\u00e9ho pr\u00e1va, by nem\u011bla b\u00fdt vy\u0161\u0161\u00ed ne\u017e v jak\u00e9mkoli jin\u00e9m oboru pr\u00e1va. V\u0161ichni v\u00edme, \u017ee m\u00e1me da\u0148ov\u00e9 z\u00e1kony, a sna\u017e\u00edme se je prosazovat, jak nejl\u00e9pe um\u00edme. Ale v\u00edme, \u017ee existuje mnoho lid\u00ed a spole\u010dnost\u00ed, kter\u00fdm proch\u00e1z\u00ed, \u017ee neplat\u00ed dan\u011b.  M\u00e1me z\u00e1kony o du\u0161evn\u00edm vlastnictv\u00ed a ty se ne v\u017edy dodr\u017euj\u00ed. Vra\u017eda je n\u011bco, co se p\u0159\u00edsn\u011b trest\u00e1, ale lid\u00e9 jsou denn\u011b vra\u017ed\u011bni.<\/p>\n\n\n\n

Tak\u017ee si mysl\u00edm, \u017ee v oblasti technick\u00e9ho pr\u00e1va bychom nem\u011bli spadnout do pasti, kterou je diskurz technick\u00e9ho pr\u016fmyslu, podle kter\u00e9ho „rad\u011bji \u017e\u00e1dn\u00fd z\u00e1kon ne\u017e \u0161patn\u00fd z\u00e1kon“, p\u0159i\u010dem\u017e \u0161patn\u00fd z\u00e1kon je takov\u00fd, kter\u00fd nelze dokonale vym\u00e1hat. Moje odpov\u011b\u010f na to zn\u00ed: neexistuje z\u00e1kon, kter\u00fd by fungoval dokonale, a neexistuje z\u00e1kon, kter\u00fd by bylo mo\u017en\u00e9 dokonale vym\u00e1hat. Ale to nen\u00ed argument proti existenci z\u00e1kon\u016f. Z\u00e1kony jsou nejvzne\u0161en\u011bj\u0161\u00edm mluv\u00edc\u00edm aktem demokracie, a to znamen\u00e1, \u017ee jsou kompromisem.<\/p>\n\n\n\n

Jsou kompromisem s lobbistick\u00fdmi z\u00e1jmy, kter\u00e9 tyto spole\u010dnosti vn\u00e1\u0161ej\u00ed do parlamentu a kter\u00e9 n\u011bkter\u00e9 strany p\u0159eb\u00edraj\u00ed v\u00edce ne\u017e jin\u00e9. A proto\u017ee z\u00e1kony jsou kompromisem, nejsou dokonal\u00e9 ani z v\u011bdeck\u00e9ho, ani z funk\u010dn\u00edho hlediska. Jsou v\u00fdtvorem demokracie a nakonec bych \u0159ekl, \u017ee je lep\u0161\u00ed, kdy\u017e se na z\u00e1kon\u011b shodneme, i kdy\u017e ho mnoz\u00ed pova\u017euj\u00ed za nedokonal\u00fd. V Bruselu \u0159\u00edk\u00e1me, \u017ee pokud na konci v\u0161ichni k\u0159i\u010d\u00ed: podniky \u0159\u00edkaj\u00ed „tohle je p\u0159\u00edli\u0161 velk\u00e1 p\u0159ek\u00e1\u017eka pro inovace“ a ob\u010dansk\u00e1 spole\u010dnost si mysl\u00ed, \u017ee je to \u00fasp\u011bch lobby, tak jsme to asi dostali v\u00edcem\u00e9n\u011b p\u0159esn\u011b doprost\u0159ed.<\/p>\n\n\n\n

Pod\u00edvejte se na video z Voxeurop Live s Paulem Nemitzem zde<\/a>.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

Odborn\u00edk Paul Nemitz ve sv\u00e9m p\u0159\u00edsp\u011bvku na konferenci Voxeurop Live o tom, zda je um\u011bl\u00e1 inteligence pro demokracii p\u0159\u00edle\u017eitost\u00ed, nebo hrozbou, zd\u016fraz\u0148uje pot\u0159ebu demokratick\u00e9 kontroly technologick\u00e9ho pokroku a zaveden\u00ed z\u00e1kon\u016f, kter\u00e9 up\u0159ednostn\u00ed z\u00e1jmy spole\u010dnosti p\u0159ed z\u00e1jmy podnik\u016f.<\/p>\n","protected":false},"author":1,"featured_media":18802,"parent":0,"template":"","tags":[],"displeu_category":[],"class_list":["post-37482","article","type-article","status-publish","has-post-thumbnail","hentry"],"_links":{"self":[{"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/article\/37482","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/article"}],"about":[{"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/types\/article"}],"author":[{"embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/users\/1"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/media\/18802"}],"wp:attachment":[{"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/media?parent=37482"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/tags?post=37482"},{"taxonomy":"displeu_category","embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/cs\/wp-json\/wp\/v2\/displeu_category?post=37482"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}