{"id":37493,"date":"2024-01-08T12:24:27","date_gmt":"2024-01-08T11:24:27","guid":{"rendered":"https:\/\/archive.displayeurope.eu\/?post_type=article&p=37493"},"modified":"2024-09-06T16:41:36","modified_gmt":"2024-09-06T14:41:36","slug":"paul-nemitz-democracy-must-prevail-over-technology-and-business-models-for-the-common-good","status":"publish","type":"article","link":"https:\/\/archive.displayeurope.eu\/fr\/article\/paul-nemitz-democracy-must-prevail-over-technology-and-business-models-for-the-common-good\/","title":{"rendered":"Paul Nemitz : \u00ab\u00a0La d\u00e9mocratie doit l’emporter sur la technologie et les mod\u00e8les \u00e9conomiques pour le bien commun\u00a0\u00bb."},"content":{"rendered":"\n

Paul Nemitz est conseiller principal aupr\u00e8s du directeur g\u00e9n\u00e9ral de la justice de la Commission europ\u00e9enne et professeur de droit au Coll\u00e8ge d’Europe. Consid\u00e9r\u00e9 comme l’un des experts europ\u00e9ens les plus respect\u00e9s en mati\u00e8re de libert\u00e9 num\u00e9rique, il a dirig\u00e9 les travaux sur le R\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es<\/a>. Il est \u00e9galement l’auteur, avec Matthias Pfeffer, de L’imp\u00e9ratif humain : pouvoir, libert\u00e9 et d\u00e9mocratie \u00e0 l’\u00e8re de l’intelligence artificielle<\/em><\/a>, un essai sur l’impact des nouvelles technologies sur les libert\u00e9s individuelles et la soci\u00e9t\u00e9. <\/strong><\/p>\n\n\n\n

Voxeurop : Diriez-vous que <\/strong>l’intelligence artificielle<\/strong><\/a> est une opportunit\u00e9 ou une menace pour la d\u00e9mocratie, et pourquoi? <\/strong><\/p>

.\n\n\n\n<\/p>Paul Nemitz<\/strong> : Je dirais que l’une des grandes t\u00e2ches de la d\u00e9mocratie au XXIe si\u00e8cle est de contr\u00f4ler le pouvoir technologique. Nous devons prendre conscience du fait que le pouvoir doit \u00eatre contr\u00f4l\u00e9. Il y a de bonnes raisons pour lesquelles nous avons une histoire juridique de contr\u00f4le du pouvoir des entreprises, des \u00c9tats ou des dirigeants. Ce principe s’applique certainement aussi \u00e0 l’IA.\n\n\n\nDonc, dans quelle direction faut-il r\u00e9glementer l’IA ? Est-il possible de r\u00e9glementer l’intelligence artificielle pour le bien commun et si oui, qu’est-ce que ce serait ? <\/strong><\/p>

.\n\n\n\n<\/p>Paul Nemitz<\/strong> : Tout d’abord, il s’agit de la primaut\u00e9 de la d\u00e9mocratie sur la technologie et les mod\u00e8les \u00e9conomiques. Ce \u00e0 quoi ressemble l’int\u00e9r\u00eat commun est dans une d\u00e9mocratie, d\u00e9cid\u00e9 exactement par ce processus dans une d\u00e9mocratie. Les parlements et les l\u00e9gislateurs sont le lieu o\u00f9 l’on d\u00e9cide de la direction que doit prendre l’int\u00e9r\u00eat commun : la loi est l’acte de parole le plus noble de la d\u00e9mocratie.\n\n\n\n

Il y a quelques mois, \u00e0 propos de la r\u00e9glementation et de l’IA, certains magnats de la technologie ont \u00e9crit une lettre avertissant les gouvernements que l’IA pourrait d\u00e9truire l’humanit\u00e9 s’il n’y avait pas de r\u00e8gles, demandant une r\u00e9glementation. Mais de nombreux experts critiques comme <\/strong>Evgeny Morozov<\/strong><\/a> et <\/strong>Christopher Wylie<\/strong><\/a>, dans deux articles que nous avons r\u00e9cemment publi\u00e9s, affirment qu’en brandissant la menace d’une extinction induite par l’IA, ces g\u00e9ants de la technologie d\u00e9tournent en fait l’attention du public et des gouvernements des probl\u00e8mes actuels li\u00e9s \u00e0 l’intelligence artificielle. \u00cates-vous d’accord avec cela ? <\/strong><\/p>

<\/strong>.\n\n\n\n<\/p>

Il faut regarder \u00e0 la fois les d\u00e9fis imm\u00e9diats d’aujourd’hui, de l’\u00e9conomie num\u00e9rique, et les d\u00e9fis pour la d\u00e9mocratie et les droits fondamentaux : la concentration du pouvoir dans l’\u00e9conomie num\u00e9rique est une question d’actualit\u00e9. L’IA contribue \u00e0 cette concentration du pouvoir : elle rassemble tous les \u00e9l\u00e9ments de l’IA, tels que les chercheurs et les start-uppers, dans des syst\u00e8mes fonctionnels. Nous avons aujourd’hui un d\u00e9fi imm\u00e9diat \u00e0 relever, qui ne vient pas seulement de la technologie elle-m\u00eame, mais aussi des implications de cet ajout \u00e0 la concentration du pouvoir.<\/p>

Les droits fondamentaux : l’IA est un probl\u00e8me actuel.\n\n\n\n<\/p>

Et puis nous avons des d\u00e9fis \u00e0 long terme, mais nous devons consid\u00e9rer les deux. Le principe de pr\u00e9caution fait partie de l’innovation en Europe, et c’est une bonne chose. Il est devenu un principe de l\u00e9gislation et de droit primaire dans l’Union europ\u00e9enne, nous obligeant \u00e0 examiner les impacts \u00e0 long terme de la technologie et leurs cons\u00e9quences potentiellement terribles. Si nous ne pouvons pas exclure avec certitude que ces cons\u00e9quences n\u00e9gatives se produiront, nous devons prendre des d\u00e9cisions aujourd’hui pour nous assurer qu’elles ne se produiront pas. C’est ce que pr\u00e9voit le principe de pr\u00e9caution, et notre l\u00e9gislation sert aussi en partie cet objectif.\n\n\n\n

Elon Musk a tweet\u00e9 qu’il \u00e9tait n\u00e9cessaire de proc\u00e9der \u00e0 des d\u00e9r\u00e9glementations globales. Est-ce le moyen de prot\u00e9ger les droits individuels et la d\u00e9mocratie ? <\/strong><\/p>

\n\n\n\n<\/p>

Pour moi, ceux qui \u00e9crivaient d\u00e9j\u00e0 des livres dans lesquels ils disaient que l’IA est comme la puissance atomique avant de mettre sur le march\u00e9 des innovations comme le ChatGPT et d’appeler ensuite \u00e0 des r\u00e9glementations n’en ont pas tir\u00e9 les cons\u00e9quences. Si vous pensez \u00e0 Bill Gates, Elon Musk, ou au pr\u00e9sident de Microsoft Brad Smith, ils \u00e9taient tous tr\u00e8s clairs sur les risques et les opportunit\u00e9s de l’IA. Microsoft a d’abord achet\u00e9 une grande partie de l’IA ouverte et l’a simplement mise sur le march\u00e9 pour encaisser quelques milliards avant de dire \u00ab\u00a0maintenant, nous avons besoin de lois\u00a0\u00bb. Mais s’il avait \u00e9t\u00e9 pris au s\u00e9rieux, le parall\u00e8le avec l’\u00e9nergie atomique aurait signifi\u00e9 qu’il fallait attendre la mise en place d’une r\u00e9glementation. Lorsque l’\u00e9nergie atomique a \u00e9t\u00e9 introduite dans nos soci\u00e9t\u00e9s, personne n’a eu l’id\u00e9e de commencer \u00e0 l’exploiter sans que ces r\u00e9glementations soient \u00e9tablies. Si l’on examine l’histoire de la r\u00e9glementation juridique des technologies, on constate que le secteur des entreprises s’y est toujours oppos\u00e9. Il a fallu 10 ans pour introduire les ceintures de s\u00e9curit\u00e9 dans les voitures am\u00e9ricaines et europ\u00e9ennes, les gens mouraient parce que l’industrie automobile exer\u00e7ait un lobbying tr\u00e8s efficace, m\u00eame si tout le monde savait que les d\u00e9c\u00e8s seraient r\u00e9duits de moiti\u00e9 si les ceintures de s\u00e9curit\u00e9 \u00e9taient introduites. <\/p>

Pour l’instant, il n’y a pas eu de changement dans la l\u00e9gislation.\n\n\n\n

Je crois aussi que l’id\u00e9e que tous les probl\u00e8mes de ce monde peuvent \u00eatre r\u00e9solus par la technologie, comme nous l’avons entendu de la bouche de l’ex-pr\u00e9sident Trump lorsque les \u00c9tats-Unis ont quitt\u00e9 les accords sur le climat \u00e0 Paris, est en fait erron\u00e9e en mati\u00e8re de politique climatique comme pour toutes les grandes questions de ce monde. Le coronavirus nous a montr\u00e9 que les r\u00e8gles de comportement sont essentielles. Nous devons investir dans la capacit\u00e9 \u00e0 nous mettre d’accord : la ressource la plus rare aujourd’hui pour r\u00e9soudre les probl\u00e8mes n’est pas la prochaine grande technologie et toutes ces discussions id\u00e9ologiques. La ressource la plus rare aujourd’hui est la capacit\u00e9 et la volont\u00e9 des gens \u00e0 se mettre d’accord, dans la d\u00e9mocratie et entre les pays. Qu’il s’agisse des relations transatlantiques, du droit international ou de la possibilit\u00e9 pour des parties qui se font la guerre de renouer avec la paix, c’est l\u00e0 le plus grand d\u00e9fi de notre \u00e9poque. Et je dirais que ceux qui pensent que la technologie r\u00e9soudra tous les probl\u00e8mes sont anim\u00e9s d’un certain orgueil.\n\n\n\n<\/p>Etes-vous optimiste quant au fait que la r\u00e9glementation par le biais d’un processus d\u00e9mocratique sera suffisamment forte pour freiner les forces de d\u00e9r\u00e9glementation des lobbyistes ?\n\n\n\n<\/p>

Enfin, en Am\u00e9rique, c’est le lobby qui l’emporte. Si vous \u00e9coutez le grand professeur de droit constitutionnel Lawrence Lessig<\/a> sur le pouvoir de l’argent en Am\u00e9rique et son analyse de la raison pour laquelle aucune loi limitant les grandes technologies ne sort plus du Congr\u00e8s, l’argent joue un r\u00f4le tr\u00e8s important. En Europe, nous parvenons encore \u00e0 nous mettre d’accord. Bien s\u00fbr, le lobby est tr\u00e8s fort \u00e0 Bruxelles et nous devons en parler ouvertement : l’argent que les grandes entreprises technologiques d\u00e9pensent, comment elles essaient d’influencer non seulement les politiciens, mais aussi les journalistes et les scientifiques.\n\n\n\n<\/p>

Il existe une GAFAM<\/a> culture qui consiste \u00e0 essayer d’influencer l’opinion publique, et dans mon livre, j’ai d\u00e9crit leur bo\u00eete \u00e0 outils de mani\u00e8re assez d\u00e9taill\u00e9e. Ils sont tr\u00e8s pr\u00e9sents, mais je dirais que notre processus d\u00e9mocratique fonctionne encore parce que nos partis politiques et nos d\u00e9put\u00e9s ne sont pas d\u00e9pendants de l’argent des grandes entreprises technologiques comme le sont les parlementaires am\u00e9ricains. Je pense que nous pouvons \u00eatre fiers du fait que notre d\u00e9mocratie est encore capable d’innover, car l\u00e9gif\u00e9rer sur ces questions de pointe n’est pas une question technologique, c’est vraiment au c\u0153ur des questions soci\u00e9tales. L’objectif est de transformer ces id\u00e9es en lois qui fonctionnent ensuite comme les lois normales : il n’y a pas de loi qui soit parfaitement appliqu\u00e9e. Cela fait \u00e9galement partie de l’innovation. L’innovation n’est pas seulement une question technologique.\n\n\n\n<\/p>

L’un des grands leitmotivs du point de vue d’Evgeny Morozovs sur l’intelligence artificielle et les grandes technologies en g\u00e9n\u00e9ral est de mettre en \u00e9vidence le solutionnisme, ce que vous avez mentionn\u00e9 comme l’id\u00e9e que la technologie peut tout r\u00e9soudre. L’Union europ\u00e9enne discute actuellement de la loi sur l’IA qui devrait r\u00e9glementer l’intelligence artificielle. Quelle est l’orientation de cette r\u00e9glementation et savons-nous dans quelle mesure le lobby de la technologie l’a influenc\u00e9e ? Nous savons que c’est le lobby le plus important en termes de budget au sein des institutions europ\u00e9ennes. Peut-on dire que la loi sur l’IA est la loi la plus compl\u00e8te sur le sujet aujourd’hui ? <\/strong><\/p><\/p>

Strong>.\n\n\n\nEvgeny Morozov dit <\/a>que c’est la mont\u00e9e de l’intelligence g\u00e9n\u00e9rale artificielle (AGI), c’est-\u00e0-dire une IA qui n’a pas besoin d’\u00eatre programm\u00e9e et qui peut donc avoir un comportement impr\u00e9visible, qui inqui\u00e8te la plupart des experts. Cependant, des partisans comme le fondateur d’openAI, Sam Altman, affirment qu’elle pourrait stimuler l’\u00e9conomie et \u00ab\u00a0\u00e9lever l’humanit\u00e9 en augmentant l’abondance\u00a0\u00bb.&nbsp ; Quelle est votre opinion \u00e0 ce sujet ? <\/strong><\/p><\/p>

Strong>.\n\n\n\n<\/p>

D’abord, voyons si toutes les promesses faites par l’IA sp\u00e9cialis\u00e9e sont vraiment tenues. Je n’en suis pas convaincu, on ne sait pas quand le pas vers l’AGI sera franchi. Stuart Russell, auteur de \u00ab\u00a0Human Compatible : Artificial Intelligence and the Problem of Control\u00a0\u00bb, Stuart Russell affirme que l’IA ne sera jamais en mesure de rendre op\u00e9rationnels des principes g\u00e9n\u00e9raux tels que les principes constitutionnels ou les droits fondamentaux. C’est pourquoi, chaque fois qu’il s’agit de prendre une d\u00e9cision sur un principe de valeur, les programmes doivent \u00eatre con\u00e7us de mani\u00e8re \u00e0 revenir \u00e0 l’homme. Je pense que cette pens\u00e9e devrait nous guider, nous et ceux qui d\u00e9veloppent l’AGI, pour le moment. Il pense \u00e9galement que des d\u00e9cennies s’\u00e9couleront avant que nous ne disposions de l’AGI, mais il fait le parall\u00e8le avec la fission de l’atome, arguant que de nombreux scientifiques tr\u00e8s comp\u00e9tents disaient que ce n’\u00e9tait pas possible et qu’un jour, par surprise, un scientifique a prononc\u00e9 un discours \u00e0 Londres et a montr\u00e9 le lendemain que c’\u00e9tait en effet possible. Je pense donc que nous devons nous pr\u00e9parer \u00e0 cela, et \u00e0 bien d’autres choses encore. Il y a beaucoup de fantasmes sur la fa\u00e7on dont la technologie va \u00e9voluer, mais je pense que l’important est que les administrations publiques, les parlements et les gouvernements gardent le cap et surveillent tout cela de tr\u00e8s pr\u00e8s.\n\n\n\nCes amendes ont-elles un impact ? M\u00eame si Facebook est condamn\u00e9 \u00e0 une amende d’un milliard de dollars, cela fait-il une diff\u00e9rence ? Est-ce qu’ils commencent \u00e0 agir diff\u00e9remment, qu’est-ce que cela signifie pour eux en termes d’argent, ou d’impact ? C’est tout ce que nous avons?<\/strong><\/p>

.\n\n\n\n<\/p>

Je pense que les amendes ne sont pas tout, mais nous vivons dans un monde d’\u00e9norme concentration de pouvoir et nous avons besoin d’un contre-pouvoir. Et le contre-pouvoir doit \u00eatre avec l’\u00c9tat, donc nous devons \u00eatre en mesure d’appliquer toutes les lois, si n\u00e9cessaire avec une main dure. Malheureusement, ces entreprises ne r\u00e9agissent en grande partie qu’\u00e0 une main dure. L’Am\u00e9rique sait comment g\u00e9rer le capitalisme : les gens vont en prison lorsqu’ils cr\u00e9ent un cartel, lorsqu’ils se mettent d’accord sur les prix, ce qui n’est pas le cas en Europe. Je pense donc que nous devons apprendre de l’Am\u00e9rique \u00e0 cet \u00e9gard, nous devons \u00eatre pr\u00eats et dispos\u00e9s \u00e0 appliquer nos lois avec fermet\u00e9, parce que la d\u00e9mocratie signifie que des lois sont \u00e9labor\u00e9es et que la d\u00e9mocratie signifie \u00e9galement que les lois sont respect\u00e9es. Et il ne peut y avoir d’exception pour les grandes entreprises technologiques.\n\n\n\n<\/p>Cela veut-il dire que nous devrions nous orienter vers une approche plus am\u00e9ricaine ?\n\n\n\n

Cela dit, ce n’est pas suffisant : nous devons nous rappeler que dans une soci\u00e9t\u00e9 d\u00e9mocratique, le contre-pouvoir vient des citoyens et de la soci\u00e9t\u00e9 civile. Nous ne pouvons pas laisser les individus se battre seuls pour leurs droits face aux grandes entreprises technologiques. Nous avons besoin d’une application publique et nous devons donner \u00e0 la soci\u00e9t\u00e9 civile les moyens de lutter pour les droits des individus. Je pense que cela fait partie du contr\u00f4le du pouvoir de la technologie au 21e si\u00e8cle et que cela guidera l’innovation. Ce n’est pas un obstacle \u00e0 l’innovation, mais cela l’oriente vers l’int\u00e9r\u00eat public et une l\u00e9galit\u00e9 moyenne. Et c’est ce dont nous avons besoin ! Il faut que les grandes et puissantes entreprises technologiques apprennent que ce n’est pas une bonne chose d’aller vite et de tout casser si \u00ab\u00a0tout casser\u00a0\u00bb implique d’enfreindre la loi. Je pense que nous sommes tous en faveur de l’innovation, mais cela sape notre d\u00e9mocratie si nous permettons \u00e0 des acteurs puissants de perturber et d’enfreindre la loi et de s’en tirer \u00e0 bon compte. Ce n’est pas bon pour la d\u00e9mocratie.\n\n\n\n<\/p>

Thierry Breton, le commissaire europ\u00e9en \u00e0 l’industrie, a \u00e9crit une lettre \u00e0 Elon Musk, lui disant que si X continuait \u00e0 favoriser la d\u00e9sinformation, il pourrait se heurter \u00e0 des sanctions de la part de l’UE. Elon Musk a r\u00e9pondu que dans ce cas, il pourrait quitter l’Europe, et que d’autres g\u00e9ants de la technologie pourraient \u00eatre tent\u00e9s de faire de m\u00eame s’ils n’aiment pas la r\u00e9glementation que l’Europe est en train de mettre en place. Quel est donc le rapport de force entre les deux ?\n\n\n\n<\/p>

Je dirais que c’est tr\u00e8s simple, je suis quelqu’un de tr\u00e8s simple \u00e0 cet \u00e9gard : on ne peut jamais faire chanter la d\u00e9mocratie. S’ils essaient de nous faire chanter, nous devons simplement nous moquer d’eux : s’ils veulent partir, ils sont libres de partir, et je souhaite bonne chance \u00e0 Elon Musk \u00e0 la bourse s’il quitte l’Europe. Heureusement, nous sommes encore un march\u00e9 tr\u00e8s important et rentable, alors s’il peut se permettre de partir : au revoir Elon Musk, nous vous souhaitons le meilleur.<\/p>\n\n\n\n<\/p>Qu’en est-il du danger de l’utilisation non conventionnelle de l’IA ? <\/strong><\/p>.\n\n\n\n

Pour revenir \u00e0 ce que Chris Wiley a dit dans l’article que nous avons mentionn\u00e9 : l’approche r\u00e9glementaire actuelle ne fonctionne pas parce qu’elle \u00ab\u00a0traite l’intelligence artificielle comme un service, et non comme une architecture\u00a0\u00bb. Partagez-vous ce point de vue? <\/strong><\/p>.\n\n\n\n<\/p>

Je dirais que la barre de ce qui fonctionne et de ce qui ne fonctionne pas, et de ce qui est consid\u00e9r\u00e9 comme fonctionnant et ne fonctionnant pas dans le droit des technologies ne devrait pas \u00eatre plus \u00e9lev\u00e9e que dans n’importe quel autre domaine du droit. Nous savons tous que nous avons des lois fiscales et que nous essayons de les appliquer le mieux possible. Mais nous savons que de nombreuses personnes et entreprises s’en tirent en ne payant pas leurs imp\u00f4ts.&nbsp ; Nous avons des lois sur la propri\u00e9t\u00e9 intellectuelle et elles ne sont pas toujours respect\u00e9es. Le meurtre est quelque chose de tr\u00e8s puni, mais des gens sont assassin\u00e9s tous les jours.\n\n\n\n<\/p>

Je pense donc qu’en mati\u00e8re de droit des technologies, nous ne devrions pas tomber dans le pi\u00e8ge du discours de l’industrie des technologies selon lequel \u00ab\u00a0nous pr\u00e9f\u00e9rons l’absence de loi \u00e0 une mauvaise loi\u00a0\u00bb, une mauvaise loi \u00e9tant une loi qui ne peut pas \u00eatre parfaitement appliqu\u00e9e. Ma r\u00e9ponse est la suivante : il n’y a pas de loi qui fonctionne parfaitement, et il n’y a pas de loi qui puisse \u00eatre parfaitement appliqu\u00e9e. Mais ce n’est pas un argument contre l’existence de lois. Les lois sont l’acte le plus noble de la d\u00e9mocratie, et cela signifie qu’elles sont un compromis.\n\n\n\nRegardez la vid\u00e9o du Voxeurop Live avec Paul Nemitz ici<\/a>.<\/strong><\/p>.\n","protected":false},"excerpt":{"rendered":"

Dans sa contribution \u00e0 un d\u00e9bat Voxeurop Live sur la question de savoir si l’IA est une opportunit\u00e9 ou une menace pour la d\u00e9mocratie, l’expert Paul Nemitz souligne la n\u00e9cessit\u00e9 d’un contr\u00f4le d\u00e9mocratique des avanc\u00e9es technologiques et de l’\u00e9tablissement de lois qui donnent la priorit\u00e9 aux int\u00e9r\u00eats de la soci\u00e9t\u00e9 plut\u00f4t qu’\u00e0 ceux des entreprises.<\/p>\n","protected":false},"author":1,"featured_media":18805,"parent":0,"template":"","tags":[],"displeu_category":[],"class_list":["post-37493","article","type-article","status-publish","has-post-thumbnail","hentry"],"_links":{"self":[{"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/article\/37493","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/article"}],"about":[{"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/types\/article"}],"author":[{"embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/users\/1"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/media\/18805"}],"wp:attachment":[{"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/media?parent=37493"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/tags?post=37493"},{"taxonomy":"displeu_category","embeddable":true,"href":"https:\/\/archive.displayeurope.eu\/fr\/wp-json\/wp\/v2\/displeu_category?post=37493"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}