Die als bevorstehende gro\u00dfe technologische Revolution angek\u00fcndigte K\u00fcnstliche Intelligenz (KI) und ihre Anwendung in immer gr\u00f6\u00dferen Bereichen weckt sowohl Besorgnis als auch Begeisterung. Den Verfechtern von KI, die davon \u00fcberzeugt sind, dass die KI dabei helfen wird, die meisten Probleme der Menschheit zu l\u00f6sen (und nebenbei ein paar neue Milliard\u00e4re zu schaffen), halten viele Beobachter die noch unbekannten Risiken entgegen, die von Maschinen ausgehen, die unendlich viel schneller denken und handeln k\u00f6nnen als der Mensch.<\/p>\n\n\n\n
Doch wie Nello Cristianini<\/strong>, Professor f\u00fcr k\u00fcnstliche Intelligenz an der Universit\u00e4t Bath (Gro\u00dfbritannien) in The Conversation <\/em><\/strong>unterstreicht<\/a>, \u201ekeines der oben genannten Szenarien\u201c \u2013 ob sie nun von Experten<\/a> oder Industrieunternehmern<\/a> stammen \u2013 \u201escheint einen spezifischen Weg zum Aussterben der Menschheit zu zeichnen. Das bedeutet, dass wir uns mit einem allgemeinen Alarmgef\u00fchl konfrontiert sehen, ohne m\u00f6gliche Ma\u00dfnahmen, die wir ergreifen k\u00f6nnen\u201c. Eine Position, die Christopher Wylie<\/strong>, der Whistleblower hinter dem Cambridge-Analytica-Skandal, in dem diese Woche von uns ver\u00f6ffentlichten Artikel teilt<\/a>.<\/p>\n\n\n\n Auf derselben Wellenl\u00e4nge liegt in einem Artikel in New Scientist <\/strong>(im Abonnement),<\/em><\/strong> die Ethikforscherin am Alan Turing Institute Mhairi Aitken<\/strong>, die sagt<\/a>, dass diese apokalyptischen Warnungen \u201eAngst machen, weil sie die Debatte \u00fcber die Folgen der k\u00fcnstlichen Intelligenz und ihre verantwortungsvolle Entwicklung entscheidend beeinflussen\u201c. Die Idee ist tief in der kollektiven Vorstellungswelt verankert und hat sich \u201enun auch in die politischen und regulatorischen Sph\u00e4ren eingeschlichen. Und das ist besorgniserregend\u201c, f\u00fcgt sie hinzu, \u201edenn es sind praktisch keine Beweise vorhanden, die die alarmistischen Thesen st\u00fctzen, und sie halten einer gr\u00fcndlichen Pr\u00fcfung nicht stand\u201c. Der Zweck dieser Warnungen sei, so Aitken, kein anderer, als \u201edie Forderungen nach Transparenz umzuleiten und die Debatte \u00fcber die Verantwortung der Entwickler auszul\u00f6schen\u201c.<\/p>\n\n\n\n Und Europa in all dem? Ausnahmsweise hat sich die Europ\u00e4ische Union recht schnell mit dem Thema KI befasst und eine Regelung ausgearbeitet \u2013 das KI-Gesetz<\/strong> <\/a>\u2013, das 2024 in Kraft treten soll und \u201edie Risikostufen vorsieht, bei denen die Zertifizierungsverfahren zu Lasten der Hersteller mit zunehmendem Risiko strenger werden\u201c, erkl\u00e4rt<\/a> Francesca Lagioia<\/strong>, Forscherin an den Abteilungen f\u00fcr Recht und Ingenieurwesen der Universit\u00e4t Bologna und am Europ\u00e4ischen Hochschulinstitut, in einem Interview mit Annamaria Testa<\/strong><\/a> f\u00fcr Internazionale<\/strong>. \u201eRisikoklassen sollen die Zuverl\u00e4ssigkeits- und Sicherheitsniveaus eines Systems durch vorherige Kontrollen und Konformit\u00e4ts- und Zertifizierungsverfahren sicherstellen, d.h. bevor diese Technologien vermarktet und verwendet werden und bevor Schaden entsteht\u201c, f\u00fcgt sie hinzu, warnt aber gleichzeitig vor der gr\u00f6\u00dften Einschr\u00e4nkung dieses Systems: \u201eDie Hersteller werden die Einhaltung der Standards f\u00fcr Systeme mit hohem Risiko selbst beurteilen k\u00f6nnen\u201c.<\/p>\n\n\n\n Francesca Lagioia stellt fest: \u201eTheoretisch verbietet das KI-Gesetz die Herstellung oder den Verkauf von manipulativen (auf die Irref\u00fchrung des menschlichen Verhaltens ausgerichteten) KI-Systemen. Es ist jedoch unwahrscheinlich, dass die Hersteller diesen Zweck angeben. Und um das Verbot zu umgehen, reicht es aus, generische KI-Systeme zu verkaufen, die dann von den Nutzern umkonfiguriert werden k\u00f6nnen\u201c.<\/p>\n\n\n\n Ebenfalls in Internazionale<\/em> befragte Francesca Spinelli<\/strong><\/a> Caterina Rodelli<\/strong>, Analystin bei Access now, einer Organisation f\u00fcr digitale B\u00fcrgerrechte, zu den L\u00fccken des KI-Gesetzes. Rodelli betont<\/a>, dass die Beschwerdemechanismen in Bezug auf Hochrisikosysteme nicht vorsehen, dass gemeinn\u00fctzige Organisationen im Namen einer Einzelperson Beschwerde einlegen k\u00f6nnen, da \u201edie Beh\u00f6rden bef\u00fcrchten, dass sie mit den von NGOs eingeleiteten Klagen \u00fcberfordert sein k\u00f6nnten\u201c. Der aktuelle Text, so f\u00fcgt sie hinzu, \u201eschlie\u00dft auch Systeme zur Vorhersage von Migrationsbewegungen aus der Hochrisikokategorie aus, die sowohl bei Regierungen, die entschlossen sind, die Ankunft von Asylsuchenden und \u201airregul\u00e4ren Migranten\u2018 zu blockieren, als auch bei Organisationen, die im Bereich der Aufnahme t\u00e4tig sind, sehr beliebt sind\u201c.<\/p>\n\n\n\n Rund 60 Menschenrechtsorganisationen haben ihrerseits auf der Plattform Liberties<\/strong> einen offenen Brief<\/strong><\/a> an den europ\u00e4ischen Gesetzgeber ver\u00f6ffentlicht<\/strong> und fordern, dass das KI-Gesetz \u201ewirksame Ma\u00dfnahmen zum Schutz der eigentlichen Grundlagen, auf denen [die ]Union beruht, vorsieht. Der Missbrauch von KI-Systemen, einschlie\u00dflich ihres undurchsichtigen und nicht rechenschaftspflichtigen Einsatzes durch \u00f6ffentliche Beh\u00f6rden\u201c, so argumentieren sie, \u201estellt eine ernsthafte Bedrohung f\u00fcr die Rechtsstaatlichkeit und die Demokratie dar\u201c.<\/p>\n\n\n\n Nathalie Koubayov\u00e1 | AlgorithmWatch | 25. September | EN<\/strong><\/p>\n\n\n\n Amazon entwickelt f\u00fcr sein Ger\u00e4t Alexa Echo<\/strong> eine Funktion, mit der man mithilfe des internen Sprachmodells (LLM) Gutenachtgeschichten f\u00fcr Kinder erstellen kann. Das System generiert personalisierte Geschichten auf der Grundlage der Beitr\u00e4ge der Kinder und von Funktionen wie der Erkennung von Personen \u00fcber die Kamera des Ger\u00e4ts. Diese Initiative zielt darauf ab, mit anderen Sprachassistentenanbietern wie Google und Apple zu konkurrieren. Amazons Vorsto\u00df im Bereich der kinderfreundlichen KI ist jedoch auf Datenschutzprobleme <\/strong>gesto\u00dfen. Das Unternehmen musste bereits 25 Millionen US-Dollar zahlen, weil es illegal Daten von Kindern ohne die Zustimmung ihrer Eltern gesammelt hatte. Die Europ\u00e4ische Union und einige US-Bundesstaaten arbeiten derzeit an strengeren Regeln f\u00fcr KI, die sich an Kinder richtet.<\/p>\n\n\n\n Leonhard Pitz |\u00a0<\/em>Netzpolitik | 5. Oktober | DE<\/strong><\/p>\n\n\n\n Der Bericht Freedom of the Net 2023<\/strong><\/a> der NGO Freedom House enth\u00fcllt, dass KI \u201edie n\u00e4chste Gefahr f\u00fcr die Freiheit des Internets\u201c<\/strong> ist. KI wird in vielen L\u00e4ndern zur Verst\u00e4rkung von Desinformation eingesetzt und macht die Zensur ausgefeilter. Der Einsatz von KI durch die Beh\u00f6rden in Kombination mit der Selbstmoderation durch die Plattformen f\u00fchrt zu einem R\u00fcckgang der Freiheit im Internet. Der Bericht unterstreicht die Notwendigkeit einer menschenrechtsbasierten Regulierung, von Transparenz und einer unabh\u00e4ngigen Aufsicht in Bezug auf KI.<\/p>\n\n\n\n Markus Reuter | Netzpolitik | 11. Oktober | DE<\/strong><\/p>\n\n\n\n Der EU-Kommissar f\u00fcr Binnenmarkt und Dienstleistungen Thierry Breton hat einen Brief<\/a> an den Chef des sozialen Netzwerks X (ehemals Twitter) Elon Musk von seinem Konto auf dem konkurrierenden (und offenen) sozialen Netzwerk Mastodon<\/a> geschickt. Breton geht auf die Desinformationen, die nach den Angriffen <\/a>der Hamas auf Israel auf X verbreitet werden, ein. Musk sollte die illegalen Inhalte entfernen und innerhalb von 24 Stunden reagieren, wie es der Digital Services Act<\/a> vorschreibt. Der Zweck des Briefes macht zwar durchaus Sinn, stellt Markus Reuter fest, \u201eDoch was wir hier sehen, ist die Vershowkampfung von Politik: Die Rechtsdurchsetzung der Europ\u00e4ischen Union als \u00f6ffentlicher Schlagabtausch zweier M\u00e4nner im emotionalen Boxring der sozialen Medien\u201c<\/em>.<\/p>\n\n\n\n Alberto Alemanno | The Guardian | 10. Oktober | EN<\/strong><\/p>\n\n\n\n Der potenzielle Beitritt neuer Staaten, insbesondere der Ukraine, \u201ebietet eine einmalige Gelegenheit, die Union in einer bedrohlichen neuen Weltordnung strategisch unabh\u00e4ngig zu machen\u201c, meint der Professor f\u00fcr Europarecht an der franz\u00f6sischen Wirtschaftshochschule HEC (und Mitglied des Beratungsausschusses von\u00a0Voxeurop<\/em>) und zwingt dazu, die Governance der EU zu \u00fcberdenken. Die beiden Initiativen, eine des Europ\u00e4ischen Parlaments und die andere einer deutsch-franz\u00f6sischen Gruppe, zur Reform der EU-Strukturen, einschlie\u00dflich der M\u00f6glichkeit eines Systems mit mehreren Geschwindigkeiten, k\u00f6nnten die Integration f\u00f6rdern und die F\u00e4higkeit der EU, globale Herausforderungen zu bew\u00e4ltigen, verbessern.<\/p>\n\n\n\n
\n\n\n\nZum selben Thema<\/strong><\/h4>\n\n\n\n
Generative k\u00fcnstliche Intelligenz h\u00e4lt allm\u00e4hlich Einzug in das Leben von Kindern<\/strong><\/a><\/h6>\n\n\n\n
KI ist eine Bedrohung f\u00fcr die Freiheit des Internets<\/strong><\/a><\/h6>\n\n\n\n
\n\n\n\nWeitere ausgew\u00e4hlte Artikel<\/strong><\/h4>\n\n\n\n
Thierry Breton in der Arena von Elon Musk<\/strong><\/a><\/h6>\n\n\n\n
Das EU-Beitrittsmodell mit einem \u201efesten Men\u00fc\u201c scheitert. Es ist an der Zeit f\u00fcr einen \u201e\u00e0 la carte\u201c-Ansatz<\/strong><\/a><\/h6>\n\n\n\n
\n\n\n\n