Künstliche Intelligenz: Weder Apokalypse noch Utopie für die Zukunft. Wie man digitale Macht zähmt. Luisa Torchias neues Buch

Weder Apokalypse noch Utopie in Bezug auf die Zukunft der künstlichen Intelligenz und des technologischen Fortschritts: Dies ist der Ansatz, den die Digitale Leistung, das interessante Buch des Professors Luise Torchia, ein Schüler von Sabino Cassese und Professor für Verwaltungsrecht an der Universität Roma Tre, veröffentlichte kürzlich einen Aufsatz in il Mulino. Der Aufsatz behandelt systematisch und dennoch leicht verständlich alle hochaktuellen Fragen rund um KI sowie die Chancen und Risiken des technologischen Fortschritts. Doch was genau ist digitale Macht? „Es ist private Macht, konzentriert in den Händen einiger weniger amerikanischer und chinesischer Unternehmen, die eine solche Größe erreicht haben, dass sie Märkte dominieren und mit Staaten konkurrieren können“ – und darüber hinaus. Eine enorme Macht, die einer effektiven Regulierung bedarf, genau das, was Trumps Amerika nicht will. Doch die Herausforderung ist noch nicht bewältigt. Hier ist, was Torchia im Interview mit ZUERSTonline.

Professor Torchia, bemerkenswerterweise behandelt das letzte Kapitel Ihres Buches „Digitale Macht“ ein brennendes Thema von aktuellem Interesse und trägt den Titel Die digitale Zukunft zwischen Apokalypse, Utopie und RealismusSie scheinen eher zur dritten Option zu tendieren, aber wie sehen Sie konkret die Zukunft der digitalen Energieversorgung?

Es ist eine Zukunft, die noch geschrieben werden muss und maßgeblich von mehreren Faktoren abhängt. Sie hängt in erster Linie von der Bereitschaft von Gesellschaften, Staaten, internationalen Organisationen, wissenschaftlichen Gemeinschaften und Einzelpersonen ab, sich nicht, sozusagen, von der apokalyptischen Aussicht „entwaffnen“ zu lassen, die, wie alle Apokalypsen, große Angst hervorruft und jegliches Handeln hemmt, da die apokalyptische Vorhersage nicht nur davon ausgeht, dass die Welt kurz vor dem Untergang steht, sondern auch, dass dieses Ende unausweichlich ist. Und wie Christian Friedrich Hebbel vor fast zwei Jahrhunderten treffend bemerkte: „Es gibt Menschen, die sogar vom Ende der Welt getröstet wären, sofern sie es vorhergesagt hätten.„Die apokalyptische Perspektive ist daher paradoxerweise auch tröstlich, weil sie die Unfähigkeit oder den Unwillen zum Handeln und Reagieren rechtfertigt.“

Was wird also benötigt?

Gleichzeitig dürfen wir uns nicht von Versprechungen großer und außergewöhnlicher zukünftiger Vorteile für alle täuschen lassen. Die utopische Vision der technologischen Entwicklung wird durch die vielen unerfüllten Versprechen widerlegt. Es wurden keine neuen lebensrettenden Medikamente oder Therapien gegen Krebs und degenerative Erkrankungen entdeckt, keine Lösung für den Klimawandel gefunden, keine kostengünstigen Energiequellen identifiziert, keine neue Kunst, keine neue Literatur und keine neue Musik von vergleichbarer Qualität wie menschliche Werke „hervorgebracht“. Man könnte sich fragen, ob die Erklärungen der großen Technologiekonzerne über die „großartigen und fortschrittlichen Entwicklungen“ der technologischen Entwicklung – die stets erst in einigen Jahren oder gar Jahrzehnten erwartet werden – nicht einfach Werbebotschaften sind, die darauf abzielen, das Kapital für enorme Investitionen zu gewinnen, deren Erträge ebenfalls in eine unbestimmte Zukunft verschoben werden.

Was denken Sie?

Ich bin überzeugt, dass ein realistischer Ansatz nicht nur möglich, sondern auch notwendig ist. Er leugnet nicht die enormen Vorteile des technologischen Fortschritts, sondern konzentriert sich zunächst auf die tatsächlichen Vorteile, nicht auf die Versprechungen. Dabei berücksichtigt er sowohl die Risiken neuer Technologien als auch die völlig ungleiche Verteilung dieser Vorteile und Risiken. Es gibt Gruppen und Unternehmen, die sich diese Vorteile weitgehend zunutze machen und alle Risiken und Nachteile auf andere Gruppen und Gemeinschaften abwälzen. Dieses Phänomen ist heute weit verbreitet und erklärt das wachsende Misstrauen gegenüber großen Technologiekonzernen, den Widerstand gegen den Bau von Rechenzentren – der mittlerweile selbst in den USA sehr stark ist – und die Zunahme von Klagen gegen Plattformen wegen Verstößen gegen Wettbewerbsrecht, geistige Eigentumsrechte, Datenschutz und die Gefährdung der psychischen Gesundheit junger Menschen.

Ein schwieriger Weg?

Es ist offensichtlich ein schwieriger Weg, doch die großen Technologiekonzerne spüren zunehmend den Druck einer immer feindseligeren öffentlichen Meinung und erkennen das Risiko stetig steigender – und kostspieliger – Haftungsansprüche. Paradoxerweise, aber nicht völlig widersprüchlich, sehen sie die Lösung in staatlichen Eingriffen, sowohl regulatorischer als auch finanzieller Art. Diese werden zunehmend von jenen befürwortet, die sich bisher vehement gegen externe Regulierungsversuche ausgesprochen und nachdrücklich behauptet haben, Selbstregulierung sei ausreichend. Staatliche Regelungen können jedoch auch missbraucht werden, um den Wettbewerb zwischen großen Unternehmen einzuschränken und kleinere zu benachteiligen, wodurch gleichzeitig Markteintrittsbarrieren für neue Marktteilnehmer erhöht werden. Regeln müssen daher sehr sorgfältig und präzise formuliert und regelmäßig überprüft werden, um ihre Wirksamkeit zu gewährleisten und schnelle Korrekturen zu ermöglichen.

Was sind die prägenden Merkmale digitaler Macht?

„Aus den Ergebnissen der in meinem Buch durchgeführten Analyse lässt sich digitale Macht wie folgt definieren: eine private, globale, plattformstrukturierte, extraktive, normative, konformistische, persuasive und allgegenwärtige Macht.“
Es handelt sich in erster Linie um eine private Macht, die in den Händen einiger weniger amerikanischer und chinesischer Unternehmen konzentriert ist, die eine solche Größe erreicht haben, dass sie die Märkte dominieren und mit den Staaten konkurrieren können.“

Beeindruckend.

Es handelt sich also um eine globale Macht, die ohne territoriale Grenzen agiert und Produkte und Dienstleistungen anbietet oder verkauft, die für das individuelle und kollektive Leben weltweit unverzichtbar geworden sind. Diese Machtstruktur basiert auf dem Plattformmodell und dient als Treffpunkt für Angebot und Nachfrage, für Informationen, Waren und Dienstleistungen. Sie ist für Unternehmen und Endnutzer gleichermaßen so unverzichtbar geworden, dass sie einen Ausstieg aus der dominanten Plattform verhindert oder zumindest erheblich erschwert, unter anderem aufgrund fehlender Alternativen. Systeme, die auf LLMs basieren, sind in bestehende Plattformen integriert (wie Gemini für Google) oder verfolgen das Plattformmodell selbst und bieten ein immer breiteres Spektrum integrierter Dienste, die nicht separat zugänglich sind. Es handelt sich um eine „extraktive“ Macht, die die für ihre Ausübung notwendigen Ressourcen ohne Kostenbeteiligung und durch extreme Aneignung der Einnahmen beschafft. Sie ist eine normative Macht, da sie die Regeln für Interaktionen auf Plattformen und – mit den neuesten Anwendungen – auch die Regeln für die Durchführung medizinischer, banktechnischer oder finanzieller Aktivitäten festlegt. Es handelt sich um eine konformistische und tendenziell konformistische Macht, da sie mithilfe von Modellen die Vielfalt der Realität reduziert und anschließend eine vereinfachte und einheitliche Version davon liefert, basierend auf einer rein statistischen und nicht auf einer moralischen, ethischen oder sozialen Ordnung. Sie ist eine überzeugende und allgegenwärtige Macht auf wirtschaftlicher, politischer und sozialer Ebene, da die ihr zugrunde liegende Technologie mittlerweile fester Bestandteil des Alltags geworden ist, nicht zuletzt durch den zunehmenden Einsatz spezialisierter Anwendungen, sondern vor allem generativer KI, die in der Lage ist, über natürliche Sprache zu interagieren.

In Ihrem Buch veranschaulichen Sie sehr deutlich, wie digitale Macht zu politischer Macht geworden ist und wie der digitale Kapitalismus mächtiger geworden ist als Staaten und die Demokratie selbst gefährdet: Ist dies eine Herausforderung, die wir für immer verloren haben, oder können wir noch hoffen, das Machtgleichgewicht zwischen digitaler Macht und demokratischer Macht wiederherzustellen?

Ein besonderes Merkmal digitaler Macht ist ihre Konzentration: eine so starke und undurchdringliche Konzentration, dass weder Markt noch Staat – zumindest bisher – wirksame Umverteilungsmaßnahmen ergreifen konnten. Konzentrierte Macht ähnelt gefährlicherweise unbegrenzter Macht, und unbegrenzte Macht ist per Definition willkürliche Macht. Wie jede Machtform benötigt aber auch digitale Macht Legitimität, und diese kann heute nicht allein auf Gewalt beruhen: Technologieunternehmen müssen Produkte und Dienstleistungen verkaufen, Konsumenten von deren Nutzen und sogar Unentbehrlichkeit überzeugen, Kapital beschaffen und Renditeversprechen einlösen, Gemeinden für ihre Rechenzentren gewinnen und Staaten versichern, dass sie deren Souveränität nicht gefährden. Es ist kein Zufall, dass die „Bosse“ der großen Technologiekonzerne oft von neuen Planeten oder Gebieten auf diesem Planeten träumen, die ihnen vorbehalten sind.

Warum tun sie das?

Weil sie die Gesellschaft und ihre Regeln als Zwang wahrnehmen, dem sie sich nicht unterwerfen wollen und von dem sie sich befreien möchten. Dies ist jedoch eine völlig illusorische Sichtweise, wie zwei unterschiedliche Reaktionen zeigen. In autokratischen Ländern wie China übt der Staat strenge Kontrolle über Technologieunternehmen sowie die Nutzung und Verbreitung von Technologie aus. Ich möchte die Autokratie keinesfalls als Beispiel anführen, aber sie zeigt, dass staatliche Macht, wenn der Wille vorhanden ist, nicht wirkungslos ist. Im Falle Chinas verlangt der Staat sogar, dass Modelle der künstlichen Intelligenz die „Werte“ des Sozialismus widerspiegeln, was beweist, dass Technologie nicht neutral ist. In demokratischen Ländern wächst die Intoleranz und das Misstrauen gegenüber technologischen Innovationen, die Arbeitsplätze vernichten, Ungleichheit und Diskriminierung schaffen, Armut verschärfen und ganze Gruppen und Gemeinschaften ausgrenzen. Die Demokratie mit ihrer inklusiven, pluralistischen und deliberativen Kraft ist ein mögliches Gegenmittel und könnte gerade als Instrument gestärkt werden, das es modernen Gesellschaften ermöglicht, sich zu verteidigen und Werte und gemeinsame Ziele zu bewahren. Hoffnung ist also möglich, aber sie muss genährt, gelebt und verteidigt werden, und dies ist eine Aufgabe, die jedem von uns als Bürgern demokratischer Länder zufällt.“

Um digitale Macht zu steuern, ohne technologische Innovationen zu ersticken und gleichzeitig nicht von ihnen überwältigt zu werden, argumentieren Sie, dass Regulierung der Schlüssel ist. Europa ist in diesem Bereich führend, während die USA unter Trump zögern, entsprechend zu handeln. Doch wenn sich die Regulierung digitaler Macht nicht auf den nationalen Markt erstreckt, scheint ihre Wirksamkeit zwangsläufig begrenzt zu sein. Oder etwa nicht? Wie lässt sich diese Diskrepanz zwischen Europa und den USA überwinden?

„Zunächst einmal könnte es sich um eine bedingte Fehlausrichtung handeln: Es hängt stark davon ab, was bei den amerikanischen Wahlen ab November und in den USA in den nächsten zwei Jahren geschieht. Die Regulierung von Innovationen ist schwierig, da sich der Gegenstand der Regeln ständig ändert. Genau aus diesem Grund ist der europäische Regulierungsansatz für künstliche Intelligenz im Wesentlichen risikobasiert: Risiken lassen sich nicht vermeiden, aber sie können gemindert und vor allem besser verstanden werden, wenn ein Kontrollsystem vorhanden ist, das sie erkennt. Die europäische Regulierung kann wegen ihrer Belastung kritisiert werden – und mit dem Digital Omnibus wird ein Vereinfachungsversuch unternommen –, aber sie hat einen wichtigen Vorteil: Kein großes Technologieunternehmen kann auf den europäischen Markt, einen der größten und lukrativsten der Welt, verzichten. Und so hat trotz vieler Kritik und Widerstände kein großes Technologieunternehmen Europa trotz der Regulierung verlassen. Die Fehlausrichtung zwischen den USA und der EU besteht daher, verhindert aber nicht die Anwendung europäischer Regeln innerhalb Europas und manchmal sogar darüber hinaus, da sich viele Rechtssysteme auf dieselben Prinzipien und Instrumente zur Regulierung und Kontrolle künstlicher Intelligenz ausrichten.“ Das Argument, Regulierung behindere Innovationen, verliert an Überzeugungskraft, sobald Innovationen ihr Anfangsstadium hinter sich gelassen haben, wie es aktuell bei der künstlichen Intelligenz der Fall ist. Regulierung ist das wichtigste Instrument, mit dem eine Branche die Sicherheit ihrer Produkte gewährleisten und das Vertrauen der Verbraucher gewinnen kann: Niemand würde ein Flugzeug besteigen oder Medikamente kaufen, wenn er nicht hinreichend sicher wäre, dass Reise und Behandlung sicher und risikofrei sind.

Was halten Sie für die beste Option?

Die beste Option wäre natürlich eine globale Regelung, der sich viele Staaten und internationale Organisationen anschließen. Diese Annäherung ist nicht unmöglich. In meinem Buch führe ich zwei Beispiele an, in denen dies bereits geschehen ist: Atomenergie und Klonen. Die Unterschiede zwischen diesen beiden Beispielen sind deutlich: Atomkraft ist tendenziell Staatseigentum, während die Klonkapazität in Forschungslaboren entsteht. Im ersten Fall haben Staaten auf internationale Verträge zurückgegriffen, im zweiten Fall hat sich ein Konsens über das Verbot des reproduktiven Klonens ergeben, das von jedem Staat individuell getroffen wurde. In beiden Fällen hat jedoch die Wahrnehmung der damit verbundenen Gefahren und Risiken – im Falle der Atombombe dramatisch in Hiroshima und Nagasaki demonstriert – zusammen mit der Überzeugung, dass isolierte nationale Lösungen völlig ungeeignet wären, zur Annahme gemeinsamer Regeln geführt, die von Staaten und Forschern akzeptiert wurden und die zumindest bisher nicht verletzt wurden oder, im Falle möglicher Verstöße, wie im Fall des Irans in Bezug auf die Atomenergie, internationalen Kontrollmechanismen unterliegen. In beiden Fällen handelt es sich, um es ganz einfach auszudrücken, um Regeln, die im Wesentlichen auf Verboten und der Akzeptanz der Ausübung einer Befugnis zur Überwachung der Einhaltung der Verbote durch nationale oder internationale Behörden oder Organisationen durch die beteiligten Parteien beruhen.

Wurde aber ein Versuch der Konvergenz im Bereich der KI unternommen?

Die G7 bemühte sich 2023 um die Etablierung internationaler Leitprinzipien und gemeinsamer Verhaltensregeln für technologische Innovationen und verabschiedete die sogenannten Hiroshima-KI-Prozesse. Diese internationalen Leitprinzipien sollen den gesamten Lebenszyklus von KI abdecken (und somit alle an den verschiedenen Phasen beteiligten Akteure betreffen). Der Internationale Verhaltenskodex bietet Richtlinien, denen sich KI-Entwickler freiwillig anschließen können. Die Umsetzung des Hiroshima-KI-Prozesses obliegt der OECD, die im Februar 2025 den Rahmen für die Monitoring-Berichte festlegte.

Die Herausforderung der digitalen Macht wird, wie Ihr Buch ebenfalls zeigt, auf internationaler Ebene ausgetragen. Doch was kann Italien innerhalb Europas tun, um sich die besten Voraussetzungen für dieses Spiel zu schaffen?

Italien verfügt zwar nicht über große Investitionsmittel oder natürliche Ressourcen, aber über exzellente Universitäten und bildet hervorragende Forscher aus – die im Ausland ihr Glück suchen: Wir bilden sie aus und geben dieses Erbe dann an andere Länder weiter. Italien besitzt eine lange Tradition an Kultur und technischem Know-how, die trotz des Verlusts vieler industrieller Erfahrungsbereiche in den letzten Jahren fortbesteht. Würde dieser Reichtum an Kultur und Expertise nicht verstreut, sondern in Forschungs- und Produktionszentren konzentriert, dort zu einer kritischen Masse entwickelt und mit dem produzierenden Gewerbe und dem öffentlichen Sektor vernetzt, könnten wir einen bedeutenden Beitrag leisten.