Пол Немітц: “Демократія повинна переважати над технологіями та бізнес-моделями для загального блага
Пауль Немітц – старший радник генерального директорату Європейської комісії з питань правосуддя та професор права в Коледжі Європи. Вважається одним з найавторитетніших європейських експертів з питань цифрової свободи, очолював роботу над Загальним регламентом про захист даних. Він також є автором, разом з Матіасом Пфеффером, “Людський імператив: влада, свобода і демократія в епоху штучного інтелекту”, есе про вплив нових технологій на індивідуальні свободи і суспільство.
Voxeurop: Як ви вважаєте, штучний інтелект – це можливість чи загроза для демократії і чому? штучний інтелект
Пол Немітц: Я б сказав, що одним з головних завдань демократії у 21 столітті є контроль над технологічною владою. Ми повинні усвідомити той факт, що владу потрібно контролювати. Існують вагомі причини, чому ми маємо юридичну історію контролю над владою компаній, держав або виконавчої влади. Цей принцип, безумовно, застосовується і до ШІ.
Багато, якщо не всі технології мають елемент можливостей, але також несуть ризики: ми знаємо це на прикладі хімічних речовин або атомної енергетики, і саме тому так важливо, щоб демократія взяла на себе відповідальність за визначення того, як розвиваються технології, в якому напрямку мають рухатися інновації і де можуть бути межі інновацій, досліджень і використання. Ми маємо довгу історію обмеження досліджень, наприклад, небезпечних біологічних агентів, генетики чи атомної енергетики: все це було дуже обмежено, тому немає нічого дивного в тому, що демократія дивиться на нові технології, такі як штучний інтелект, думає про їхній вплив і бере на себе відповідальність. Я думаю, що це добре.
Так в якому напрямку слід регулювати ШІ? Чи можна регулювати штучний інтелект для загального блага, і якщо так, то яким чином?
.
Чи можна регулювати штучний інтелект для загального блага?
Пол Немітц: Перш за все, це питання примату демократії над технологіями та бізнес-моделями. Як виглядає спільний інтерес в умовах демократії, вирішується саме через цей процес в умовах демократії. Парламенти і законодавці – це місце, де вирішується, в якому напрямку має рухатися спільний інтерес: закон є найблагороднішим виразником демократії. Кілька місяців тому, говорячи про регулювання та ШІ, деякі технологічні магнати написали листа, в якому попередили уряди, що ШІ може знищити людство, якщо не буде правил, і закликали до регулювання. Але багато критично налаштованих експертів, таких як Євген Морозовта Крістофер Вайлі, у двох статтях, які ми нещодавно опублікували, стверджують, що, використовуючи загрозу вимирання людства через ШІ, ці технологічні гіганти фактично відволікають увагу громадськості та урядів від актуальних проблем, пов’язаних з штучним інтелектом. Чи згодні ви з цим?
Ми повинні дивитися як на нагальні виклики сьогодення, цифрової економіки, так і на виклики демократії та фундаментальним правам: концентрація влади в цифровій економіці є актуальною проблемою. Штучний інтелект посилює цю концентрацію влади: він об’єднує всі елементи штучного інтелекту, такі як дослідники та стартапи, у функціонуючі системи. Сьогодні перед нами стоїть нагальний виклик, пов’язаний не лише з самою технологією, але й з наслідками цього доповнення до концентрації влади”.
Також перед нами стоять довгострокові виклики, але ми повинні розглядати обидва ці аспекти. Принцип обережності є частиною інновацій в Європі, і це хороша частина. Він став принципом законодавства і основного права в Європейському Союзі, змушуючи нас дивитися на довгострокові впливи технологій і їхні потенційно жахливі наслідки. Якщо ми не можемо з упевненістю виключити, що ці негативні наслідки виникнуть, ми повинні приймати рішення сьогодні, щоб переконатися, що вони не виникнуть. Саме в цьому полягає принцип обережності, і наше законодавство також частково слугує цій меті. Ілон Маск написав у твіттері, що потрібна комплексна дерегуляція. Чи це шлях до захисту прав особистості та демократії?
Я вважаю, що ті, хто перед тим, як випускати на ринок інновації на кшталт ChatGPT, писали книжки, в яких говорили, що штучний інтелект – це як атомна енергія, а потім закликали до регулювання, не прораховували наслідків цього. Якщо ви згадаєте Білла Гейтса, Ілона Маска, президента Microsoft Бреда Сміта, то всі вони дуже чітко усвідомлювали ризики та можливості штучного інтелекту. Microsoft спочатку купила велику частину відкритого ШІ і просто випустила його на ринок, щоб заробити кілька мільярдів, перш ніж вийти і сказати: “Тепер нам потрібні закони”. Але, якщо сприймати це серйозно, паралель з атомною енергетикою означала б очікування, поки не буде створено відповідне регулювання. Коли в наших суспільствах з’явилася атомна енергетика, нікому й на думку не спадало розпочати її експлуатацію без створення відповідних правил. Якщо ми озирнемося на історію правового регулювання технологій, то завжди існував опір з боку бізнес-сектору. На запровадження ременів безпеки в американських та європейських автомобілях пішло 10 років, люди гинули через те, що автомобільна індустрія так успішно лобіювала це питання, хоча всі знали, що смертність скоротиться вдвічі, якщо ремені безпеки будуть запроваджені. Тому мене не вражає, коли деякі бізнесмени кажуть, що найкращим у світі було б не регулювати законодавчо: це вологі мрії капіталістів і неолібералів цього часу. Але демократія насправді означає протилежне: за демократії важливі питання суспільства, і ШІ є одним з них, не можуть бути віддані на відкуп компаніям та їхнім громадським правилам або саморегулюванню. Важливі питання в демократичних суспільствах повинні вирішуватися демократичним законодавцем. У цьому і полягає демократія. Я також вважаю, що ідея про те, що всі проблеми цього світу можна вирішити за допомогою технологій, як ми чули від екс-президента Трампа, коли США вийшли з кліматичних угод у Парижі, насправді є хибною в кліматичній політиці, як і в усіх великих проблемах цього світу. Коронавірус показав нам, що правила поведінки є ключовими. Ми повинні інвестувати в те, щоб вміти домовлятися: найдефіцитніший ресурс сьогодні для вирішення проблем – це не чергова велика технологія і не всі ці ідеологічні балачки. Найдефіцитнішим ресурсом сьогодні є здатність і готовність людей домовлятися, в умовах демократії і між країнами. Чи то в трансатлантичних відносинах, чи то в міжнародному праві, чи то між сторонами, які ведуть війну одна з одною, щоб знову прийти до миру – це найбільший виклик нашого часу. І я б сказав, що ті, хто думає, що технології вирішать всі проблеми, керуються певною пихою.
Чи є у вас оптимізм щодо того, що регулювання через демократичний процес буде достатньо сильним, щоб обмежити дерегуляційні сили лобістів? Чи є у вас оптимізм щодо того, що регулювання через демократичний процес буде достатньо сильним, щоб обмежити дерегуляційні сили лобістів?
Давайте скажемо так: в Америці лобі переважає. Якщо ви послухаєте видатного професора конституційного права Лоренса Лессига про владу грошей в Америці та його аналіз того, чому з Конгресу більше не виходить жодного закону, який би обмежував розвиток великих технологій, то гроші відіграють дуже серйозну роль. В Європі ми ще можемо домовитися. Звичайно, лобі в Брюсселі дуже сильне, і ми повинні говорити про це відкрито: про гроші, які витрачають великі технології, про те, як вони намагаються впливати не лише на політиків, але й на журналістів та науковців”.
Існує GAFAM культура намагання впливати на громадську думку, і в своїй книзі я досить детально описав їхній інструментарій. Вони дуже присутні, але я б сказав, що наш демократичний процес все ще функціонує, тому що наші політичні партії і наші члени парламенту не залежать від грошей великого капіталу, як американські парламентарі. Я думаю, що ми можемо пишатися тим, що наша демократія все ще здатна до інновацій, тому що прийняття законів з цих передових питань не є технологічним питанням, воно дійсно лежить в основі суспільних проблем. Мета полягає в тому, щоб перетворити ці ідеї на закони, які потім працюють так, як працюють звичайні закони: не існує законів, які ідеально виконуються. Це також частина інновацій. Інновації – це не лише технологічне питання.
Одним з головних лейтмотивів поглядів Євгена Морозова на штучний інтелект і великі технології загалом є підкреслення солюціонізму – того, що ви згадали як ідею про те, що технології можуть вирішити все. Наразі Європейський Союз обговорює закон про штучний інтелект, який має регулювати діяльність штучного інтелекту. В якому напрямку рухається це регулювання і чи відомо нам, наскільки технологічне лобі вплинуло на нього? Ми знаємо, що це найбільше за бюджетом лобі в інституціях ЄС. Чи можемо ми сказати, що закон про штучний інтелект є найбільш всеосяжним законом з цього питання на сьогоднішній день? Щоб мати рівні правила гри в Європі, нам потрібен один закон, ми не хочемо мати 27 законів у різних країнах-членах, тому це питання рівного ставлення. Я б сказав, що найважливіше в цьому законі про штучний інтелект – це те, що ми вкотре встановлюємо принцип верховенства демократії над технологіями та бізнес-моделями. Це ключове, а щодо решти, то я дуже впевнений, що Рада та Європейський парламент зможуть узгодити остаточну версію цього закону до наступних європейських виборів, тобто найпізніше до лютого.
Яка ваша думка з цього приводу? Перш за все, давайте подивимося, чи всі обіцянки, дані спеціалізованим ШІ, дійсно виконуються. Я не переконаний, незрозуміло, коли з’явиться крок до AGI. Стюарт Рассел, автор книги “Сумісний з людиною: Штучний інтелект і проблема контролю”, каже, що ШІ ніколи не зможе втілити в життя загальні принципи, такі як конституційні принципи або фундаментальні права. Ось чому щоразу, коли потрібно прийняти принципове рішення, яке має цінність, програми повинні бути розроблені таким чином, щоб вони поверталися до людини. Я думаю, що ця думка повинна керувати нами і тими, хто розробляє AGI в даний час. Він також вважає, що пройдуть десятиліття, перш ніж ми матимемо ШІ, але проводить паралель з розщепленням атома, стверджуючи, що багато дуже компетентних вчених говорили, що це неможливо, а потім одного дня, несподівано, вчений виступив з промовою в Лондоні і наступного дня показав, як це дійсно можливо. Тому я думаю, що ми повинні готуватися до цього, і не тільки до цього. Існує багато фантазій про те, як розвиватимуться технології, але я думаю, що важливо, щоб державні адміністрації, парламенти та уряди залишалися на правильному шляху і дуже уважно за цим спостерігали. Ми потребуємо зобов’язання говорити правду від тих, хто розробляє ці технології, часто за зачиненими дверима. У законодавстві ЄС є іронія: коли ми розглядаємо справи про конкуренцію, ми можемо накласти штраф, якщо великі корпорації нам брешуть. Наприклад, Facebook отримав штраф у розмірі понад 100 мільйонів євро за те, що не розповів нам повної історії про поглинання WhatsApp. Але не існує обов’язку говорити правду, коли ми консультуємося як Комісія при підготовці законодавчої пропозиції або коли Європейський парламент проводить консультації для підготовки своїх законодавчих дебатів або судових процесів. На жаль, існує давня традиція, коли цифровий бізнес, як і інші бізнеси, брешуть під час цього процесу. Це має змінитися. Я думаю, що нам потрібне юридичне зобов’язання говорити правду, яке також повинно бути санкціоноване. Нам потрібна зміна культури, тому що ми все більше залежимо від того, що нам говорять. І якщо політика залежить від того, що говорить бізнес, то ми повинні мати можливість змусити його говорити правду”.
Чи мають ці штрафи якийсь вплив? Навіть якщо Facebook оштрафують на мільярд доларів, це щось змінить? Чи почнуть вони діяти по-іншому, що це означає для них з точки зору грошей чи впливу? Це все, що ми маємо?
Я думаю, що штрафи – це ще не все, але ми живемо у світі величезної концентрації влади, і нам потрібна протидія. І ця протидія повинна бути з боку держави, тому ми повинні бути в змозі забезпечити дотримання всіх законів, якщо це необхідно, жорсткою рукою. На жаль, ці компанії здебільшого реагують лише на жорстку руку. Америка знає, як боротися з капіталізмом: люди потрапляють до в’язниці, коли створюють картель, коли домовляються про ціни, а в Європі – ні. Тому я думаю, що ми повинні вчитися в Америки в цьому відношенні, ми повинні бути готові і хотіти забезпечувати виконання наших законів жорсткою рукою, тому що демократія означає, що закони приймаються, і демократія також означає, що закони дотримуються. І для великих технологій не може бути жодних винятків. Чи означає це, що ми повинні рухатися в бік більш американського шляху? Чи означає це, що ми повинні рухатися в бік більш американського шляху? Це означає, що ми повинні серйозно ставитися до дотримання наших законів, і, на жаль, це часто призводить до необхідності штрафувати. У конкурентному праві ми можемо оштрафувати до 10% від загального обороту великих компаній, і я думаю, що це має ефект. У законі про конфіденційність це лише 4%, але я думаю, що ці штрафи все одно мають ефект, мотивуючи членів ради директорів стежити за тим, щоб їхні компанії дотримувалися законодавства. Однак цього недостатньо: ми повинні пам’ятати, що в демократичному суспільстві протидія походить від громадян і громадянського суспільства. Ми не можемо залишити людей наодинці боротися за свої права перед обличчям великих технологій. Нам потрібен державний примус і ми повинні розширити можливості громадянського суспільства боротися за права людей. Я думаю, що це є частиною контролю над владою технологій у 21-му столітті, і буде спрямовувати інновації. Це не перешкода для інновацій, але це спрямовує їх до суспільних інтересів і законності посередині шляху. І це те, що нам потрібно! Нам потрібно, щоб великі потужні технологічні компанії зрозуміли, що не варто рухатися швидко і порушувати правила, якщо “порушувати правила” означає порушувати закон. Я думаю, що ми всі за інновації, але це підриває нашу демократію, якщо ми дозволяємо потужним гравцям порушувати закон і виходити сухими з води. Це не дуже добре для демократії. Тьєррі Бретон, єврокомісар з питань промисловості, написав листа Ілону Маску, в якому повідомив, що якщо Ілон Маск продовжить сприяти дезінформації, він може зіткнутися з певними санкціями з боку ЄС. Маск відповів, що в такому випадку вони можуть покинути Європу, і що інші технологічні гіганти можуть піддатися спокусі зробити те ж саме, якщо їм не сподобається регулювання, яке встановлює Європа. Тож який баланс сил між ними?
Я б сказав, що це дуже просто, я дуже проста людина в цьому відношенні: демократію ніколи не можна шантажувати. Якщо нас намагаються шантажувати, ми повинні просто висміяти їх: якщо вони хочуть піти, вони вільні піти, і я бажаю Ілону Маску удачі на фондовій біржі, якщо він покине Європу. На щастя, ми все ще дуже великий і прибутковий ринок, тому якщо він може дозволити собі піти: до побачення, Ілоне Маск, ми бажаємо тобі всього найкращого. А як щодо небезпеки нетрадиційного використання ШІ? Так, “нетрадиційне” означає використання для війни. Звичайно, це небезпека, над цим працюють в ООН, і зброя, яка виходить з-під контролю, є проблемою для кожної людини, яка розуміє безпеку і те, як працює армія: військові хочуть мати контроль над своєю зброєю. У минулому країни підписували багатосторонні угоди не лише про нерозповсюдження атомної зброї, але й про стрілецьку зброю та зброю, яка виходить з-під контролю, наприклад, наземні міни. Я думаю, що в загальних інтересах світу, людства і керованості нам потрібен прогрес щодо правил використання ШІ у військових цілях. Ці переговори складні, іноді на досягнення домовленостей можуть піти роки, а в деяких випадках навіть десятиліття, але врешті-решт, я думаю, що нам, безумовно, потрібні правила для автономних озброєнь, і в цьому контексті також і для ШІ. Повертаючись до того, що сказав Кріс Вайлі у згаданій статті: нинішній регуляторний підхід не працює, тому що “він розглядає штучний інтелект як послугу, а не як архітектуру”. Чи поділяєте ви цю думку?
Я б сказав, що планка для того, що працює, а що не працює, і що вважається робочим, а що ні, в технологічному праві не повинна бути вищою, ніж в будь-якій іншій галузі права. Ми всі знаємо, що у нас є податкове законодавство, і ми намагаємося дотримуватися його якнайкраще. Але ми знаємо, що є багато людей і компаній, яким вдається уникнути сплати податків. У нас є закони про інтелектуальну власність, і їх не завжди дотримуються. Вбивство – це те, що суворо карається, але людей вбивають щодня.
Тому я вважаю, що в технологічному праві ми не повинні потрапляти в пастку, якою є дискурс технологічної індустрії, згідно з яким “ми воліємо не мати закону, ніж мати поганий закон”, причому поганий закон – це той, який не може бути досконало застосований. Моя відповідь на це така: не існує законів, які б працювали ідеально, і не існує законів, які можна було б ідеально виконувати. Але це не аргумент проти того, щоб мати закони. Закони є найблагороднішим проявом демократії, а це означає, що вони є компромісом.
Вони є компромісом з лобістськими інтересами, які ці компанії приносять до парламенту і які одні партії підтримують більше, ніж інші. А оскільки закони є компромісом, вони не є досконалими ні з наукової точки зору, ні з функціональної. Вони є породженням демократії, і зрештою, я б сказав, що краще, якщо ми приймемо закон, навіть якщо багато хто вважає його недосконалим. У Брюсселі ми говоримо, що якщо в кінці всі кричать: бізнес каже, що “це занадто велика перешкода для інновацій”, а громадянське суспільство вважає, що це успіх лобі, то, ймовірно, у нас все більш-менш правильно посередині.
Подивіться відео Voxeurop Live з Полом Немітцем тут.
