Пол Немитц: «Демократия должна преобладать над технологиями и бизнес-моделями ради общего блага
Пол Немитц — старший советник генерального директора Европейской комиссии по вопросам юстиции и профессор права в Колледже Европы. Считается одним из наиболее авторитетных европейских экспертов по вопросам цифровой свободы, возглавлял работу над Генеральным регламентом по защите данных. Вместе с Маттиасом Пфеффером он также является автором The Human imperative: power, freedom and democracy in the Age of Artificial Intelligence, эссе о влиянии новых технологий на индивидуальные свободы и общество.
.Voxeurop: Как вы считаете, искусственный интеллект является возможностью или угрозой для демократии, и почему?
Voxeurop:
Пол Немитц: Я бы сказал, что одной из главных задач демократии в 21 веке является контроль над технологической мощью. Мы должны осознать тот факт, что власть необходимо контролировать. Есть веские причины, по которым мы имеем юридическую историю контроля над властью компаний, государств или руководителей. Этот принцип, безусловно, применим и к ИИ.
Многие, если не все, технологии несут в себе элемент возможностей, но также и риски: мы знаем это по химическим веществам или атомной энергии. Именно поэтому так важно, чтобы демократия определяла, как развиваются технологии, в каком направлении должны двигаться инновации и где могут быть границы инноваций, исследований и использования. У нас есть долгая история ограничения исследований, например, опасных биологических агентов, генетики или атомной энергии: все это было строго регламентировано, поэтому нет ничего необычного в том, что демократия смотрит на новые технологии, такие как искусственный интеллект, думает об их влиянии и берет на себя ответственность. Я думаю, это хорошо.
Так в каком же направлении следует регулировать ИИ? Можно ли регулировать искусственный интеллект для общего блага, и если да, то что это будет?
Пол Немитц: Прежде всего, это вопрос о примате демократии над технологиями и бизнес-моделями. Как выглядят общие интересы в демократическом обществе, решается именно через этот процесс в демократическом обществе. Парламенты и законодатели — это место, где решают, в каком направлении должен двигаться общий интерес: закон — это самый благородный акт демократии.
Несколько месяцев назад, говоря о регулировании и ИИ, некоторые технологические магнаты написали письмо, в котором предупредили правительства, что ИИ может уничтожить человечество, если не будет правил, и попросили о регулировании. Но многие критически настроенные эксперты, такие как Евгений Морозов и Кристофер Уайли, в двух статьях, которые мы недавно опубликовали, говорят, что, раздувая угрозу вымирания, вызванного ИИ, эти технологические гиганты фактически отвлекают внимание общества и правительства от текущих проблем с искусственным интеллектом. Вы согласны с этим?
Мы должны смотреть как на непосредственные вызовы сегодняшнего дня, на цифровую экономику, так и на вызовы демократии и фундаментальным правам: концентрация власти в цифровой экономике — это актуальная проблема. ИИ усугубляет эту концентрацию власти: они объединяют все элементы ИИ, такие как исследователи и стартаперы, в функционирующие системы. Сегодня перед нами стоит неотложная задача, связанная не только с самой технологией, но и с последствиями этого дополнения к концентрации власти.
Кроме того, у нас есть долгосрочные проблемы, но мы должны рассматривать и то, и другое. Принцип предосторожности является частью инноваций в Европе, и это хорошая часть. Он стал принципом законодательства и основного права в Европейском союзе, заставляя нас рассматривать долгосрочные последствия технологий и их потенциально ужасные последствия. Если мы не можем с уверенностью исключить, что эти негативные последствия возникнут, мы должны принимать решения сегодня, чтобы их не было. Именно в этом заключается принцип предосторожности, и наше законодательство также частично служит этой цели.
Элон Маск написал в твиттере, что необходимо всеобъемлющее дерегулирование. Является ли это способом защиты прав личности и демократии?
По-моему, те, кто уже писал книги, в которых говорил, что ИИ подобен атомной энергии, прежде чем вывести на рынок инновации вроде ChatGPT, а затем призывал к регулированию, не выводили из этого последствий. Если вспомнить Билла Гейтса, Элона Маска, если вспомнить президента Microsoft Брэда Смита, то все они очень четко представляли себе риски и возможности ИИ. Microsoft сначала купила большую часть открытого ИИ и просто выпустила его на рынок, чтобы заработать несколько миллиардов, а потом вышла и сказала: «Теперь нам нужны законы». Но если воспринимать это всерьез, то параллель с атомной энергией означала бы, что нужно подождать, пока не будет введено регулирование. Когда атомная энергия появилась в наших обществах, никому не пришло в голову начать ее эксплуатацию без установленных правил. Если мы посмотрим на историю правового регулирования технологий, то всегда наблюдалось сопротивление со стороны бизнеса. На введение ремней безопасности в американских и европейских автомобилях ушло 10 лет, люди гибли, потому что автоиндустрия так успешно лоббировала свои интересы, хотя все знали, что смертность сократится вдвое, если ввести ремни безопасности.
Я также считаю, что идея о том, что все проблемы этого мира могут быть решены с помощью технологий, как мы слышали от экс-президента Трампа, когда США вышли из климатических соглашений в Париже, на самом деле неверна как в климатической политике, так и во всех больших проблемах этого мира. Коронавирус показал нам, что правила поведения имеют ключевое значение. Мы должны инвестировать в то, чтобы уметь договариваться: самый дефицитный ресурс для решения проблем сегодня — это не следующая великая технология и не все эти идеологические разговоры. Самый дефицитный ресурс сегодня — это способность и готовность людей договариваться, как в демократии, так и между странами. Будь то в трансатлантических отношениях, будь то в международном праве, будь то между сторонами, которые ведут войну друг с другом, чтобы снова прийти к миру, — это величайший вызов нашего времени. И я бы сказал, что теми, кто считает, что технологии решат все проблемы, движет определенное высокомерие.
Вы оптимистичны в том, что регулирование через демократический процесс будет достаточно сильным, чтобы обуздать силы лоббистов по дерегулированию?
Сформулируем это следующим образом: в Америке лобби преобладает. Если вы послушаете великого профессора конституционного права Лоуренса Лессига о власти денег в Америке и его анализ того, почему из Конгресса больше не выходит законов, ограничивающих большие технологии, то деньги играют очень серьезную роль. В Европе нам все еще удается договориться. Конечно, в Брюсселе очень сильное лобби, и мы должны говорить об этом открыто: о деньгах, которые тратят большие технологии, о том, как они пытаются влиять не только на политиков, но и на журналистов и ученых.
Существует GAFAM культура попыток повлиять на общественное мнение, и в своей книге я довольно подробно описал их инструментарий. Они присутствуют, но я бы сказал, что наш демократический процесс все еще функционирует, потому что наши политические партии и наши члены парламента не зависят от денег больших технологий, как американские парламентарии. Я думаю, мы можем гордиться тем, что наша демократия все еще способна к инновациям, потому что принятие законов по этим передовым вопросам — это не технологический вопрос, это действительно суть общественных проблем. Задача состоит в том, чтобы превратить эти идеи в законы, которые затем будут работать так, как работают обычные законы: не существует закона, который исполнялся бы идеально. Это тоже часть инноваций. Инновации — это не только технологический вопрос.
Одним из главных лейтмотивов взглядов Евгения Морозова на искусственный интеллект и большие технологии в целом является указание на solutionism, то, что вы упомянули как идею, что технология может решить все. В настоящее время Европейский союз обсуждает закон об искусственном интеллекте, который должен регулировать искусственный интеллект. К чему приведет это регулирование и известно ли нам, в какой степени на него повлияло технологическое лобби? Мы знаем, что это самое крупное лобби с точки зрения бюджета в институтах ЕС. Можно ли сказать, что закон об искусственном интеллекте — это самый полный закон по данной теме на сегодняшний день?
Для обеспечения равных условий в Европе нам нужен один закон, мы не хотим иметь 27 законов в разных странах-членах, так что это вопрос равного обращения. Я бы сказал, что самое важное в этом законе об искусственном интеллекте то, что мы снова утверждаем принцип примата демократии над технологиями и бизнес-моделями. Это ключевой момент, а в остальном я очень уверен, что Совет и Европейский парламент смогут согласовать окончательную версию этого закона до следующих европейских выборов, то есть не позднее февраля.
Сначала давайте посмотрим, действительно ли все обещания, которые дает специализированный ИИ, выполняются. Я не убежден в этом, неясно, когда возникнет шаг к AGI». Стюарт Рассел, автор книги «Совместимость с человеком: Искусственный интеллект и проблема контроля», утверждает, что ИИ никогда не сможет операционализировать общие принципы, такие как конституционные принципы или фундаментальные права. Поэтому всякий раз, когда необходимо принять принципиально важное решение, программы должны быть разработаны таким образом, чтобы они возвращались к человеку. Я думаю, что эта мысль пока должна руководить нами и теми, кто разрабатывает AGI». Он также считает, что до появления AGI пройдут десятилетия, но проводит параллель с расщеплением атома, утверждая, что многие очень компетентные ученые говорили, что это невозможно, а потом однажды, неожиданно для всех, один ученый выступил с речью в Лондоне и на следующий день показал, что это действительно возможно. Так что я думаю, что мы должны готовиться к этому, и даже больше. Существует множество фантазий о том, как будут развиваться технологии, но я думаю, что главное, чтобы государственные администрации, парламенты и правительства не сбивались с курса и внимательно следили за этим.
Нам необходимо обязательство по правде от тех, кто разрабатывает эти технологии, часто за закрытыми дверями. В законодательстве ЕС есть ирония: когда мы рассматриваем дела о конкуренции, мы можем наложить штраф, если крупные корпорации нам лгут. Например, Facebook получила штраф в размере более 100 миллионов за то, что не рассказала нам полную историю о поглощении WhatsApp. Но нет обязанности соблюдать правду, когда мы консультируемся с Комиссией при подготовке законодательного предложения или когда Европейский парламент проводит консультации для подготовки законодательных дебатов или судебных процессов. К сожалению, существует давняя традиция, когда цифровые компании, равно как и другие предприятия, лгут в ходе этого процесса. Это должно измениться. Я думаю, что нам нужно юридическое обязательство правдивости, которое также должно быть наказано. Нам нужно изменить культуру, потому что мы все больше зависим от того, что нам говорят. И если политика зависит от того, что говорят нам предприятия, то мы должны иметь возможность требовать от них правды.
Влияют ли эти штрафы на ситуацию? Даже если Facebook оштрафуют на миллиард долларов, разве это что-то изменит? Станут ли они вести себя по-другому, что это значит для них с точки зрения денег или влияния? Это все, что у нас есть?
Я думаю, что штрафы — это не все, но мы живем в мире огромной концентрации власти, и нам нужна контрвласть. И противодействующая сила должна быть у государства, поэтому мы должны быть в состоянии обеспечить соблюдение всех законов, если необходимо, жесткой рукой. К сожалению, эти компании в основном реагируют только на жесткую руку. Америка знает, как бороться с капитализмом: людей сажают в тюрьму, когда они создают картель, когда они договариваются о ценах, а в Европе этого не делают. Поэтому я думаю, что мы должны учиться у Америки в этом отношении, мы должны быть готовы и хотеть жестко исполнять наши законы, потому что демократия означает, что законы принимаются, а демократия также означает, что законы соблюдаются. И для больших технологий не может быть исключений.
Значит ли это, что мы должны двигаться в сторону более американского пути?
Это означает, что мы должны серьезно относиться к соблюдению наших законов, и, к сожалению, это часто приводит к необходимости штрафовать. В антимонопольном законодательстве мы можем наложить штраф в размере до 10 % от общего оборота крупных компаний, и я думаю, что это имеет значение. В законе о конфиденциальности это всего 4 %, но я думаю, что эти штрафы все равно имеют эффект мотивации членов совета директоров следить за тем, чтобы их компании соблюдали законы.
<Однако этого недостаточно: мы должны помнить, что в демократическом обществе сила противодействия исходит от граждан и гражданского общества. Мы не можем оставить отдельных людей в одиночестве бороться за свои права перед лицом больших технологий. Нам необходимо общественное принуждение и расширение возможностей гражданского общества в борьбе за права людей. Я думаю, что это часть контроля над мощью технологий в XXI веке, которая будет направлять инновации. Это не препятствие для инноваций, но это направляет их в сторону общественных интересов и средней законности. И это то, что нам нужно! Нам нужно, чтобы крупные и влиятельные технологические компании поняли, что не стоит быстро двигаться и ломать, если "ломать" подразумевает нарушение закона. Я думаю, что мы все выступаем за инновации, но это подрывает нашу демократию, если мы позволяем мощным игрокам нарушать закон и уходить от ответственности. Это нехорошо для демократии.Тьерри Бретон, европейский комиссар по промышленности, написал письмо Элону Маску, сообщив ему, что если Икс продолжит поддерживать дезинформацию, то может столкнуться с санкциями со стороны ЕС. Маск ответил, что в этом случае он может покинуть Европу, и что у других технологических гигантов может возникнуть соблазн сделать то же самое, если им не понравится регулирование, которое устанавливает Европа. Так каков же баланс сил между ними?
<Я бы сказал очень просто, я вообще очень простой человек в этом отношении: демократию никогда нельзя шантажировать. Если они пытаются нас шантажировать, мы должны просто посмеяться над ними: если они хотят уйти, они вольны уйти, и я желаю Элону Маску удачи на бирже, если он покинет Европу. К счастью, мы все еще очень большой и прибыльный рынок, так что если он может позволить себе уйти: до свидания, Элон Маск, мы желаем вам всего наилучшего.А как насчет опасности нетрадиционного использования ИИ?
Да, «нетрадиционное» означает использование для войны. Конечно, это опасность, над этим работают в ООН, а оружие, выходящее из-под контроля, — проблема для каждого, кто понимает, что такое безопасность и как работают военные: военные хотят иметь контроль над своим оружием. В прошлом мы заставляли страны подписывать многосторонние соглашения не только о нераспространении атомного оружия, но и о стрелковом оружии и оружии, выходящем из-под контроля, например о минах. Я думаю, что в общих интересах мира, человечества и управляемости нам необходим прогресс по правилам использования ИИ в военных целях. Эти переговоры трудны, иногда на достижение соглашений могут уйти годы, а в некоторых случаях даже десятилетия, но в конечном итоге, я думаю, нам действительно нужны правила для автономного оружия, и в этом контексте также для ИИ.
Возвращаясь к словам Криса Уайли, сказанным в упомянутой нами статье: нынешний подход к регулированию не работает, потому что «он рассматривает искусственный интеллект как услугу, а не как архитектуру». Разделяете ли вы это мнение?
Я бы сказал, что планка того, что работает, а что не работает, и того, что считается работающим и неработающим в технологическом праве, должна быть не выше, чем в любой другой области права. Мы все знаем, что у нас есть налоговое законодательство, и мы стараемся соблюдать его как можно лучше. Но мы знаем, что есть много людей и компаний, которым сходит с рук неуплата налогов. У нас есть законы об интеллектуальной собственности, и они не всегда соблюдаются. Убийство — это то, что строго наказывается, но людей убивают ежедневно.
Поэтому я думаю, что в технологическом праве мы не должны попадать в ловушку, которая является дискурсом технологической индустрии, согласно которому «мы скорее предпочтем отсутствие закона, чем плохой закон», а плохой закон — это тот, который не может быть идеально исполнен. На это я отвечу так: не существует закона, который бы работал идеально, и не существует закона, который бы идеально соблюдался. Но это не аргумент против законов. Законы — это самый благородный акт демократии, и это означает, что они являются компромиссом.
Они являются компромиссом с лоббистскими интересами, которые эти компании несут в парламент и которые одни партии принимают чаще, чем другие. А поскольку законы — это компромисс, они не совершенны ни с научной, ни с функциональной точки зрения. Они — порождение демократии, и в конечном итоге я бы сказал, что лучше, если мы соглашаемся с законом, даже если многие считают его несовершенным. В Брюсселе мы говорим, что если в конце все кричат: бизнес говорит, что «это слишком большое препятствие для инноваций», а гражданское общество считает, что это успех лобби, то, вероятно, у нас получилось более или менее правильно посередине.
Смотрите видеозапись Voxeurop Live с Полом Немитцем здесь.
