Macht der Gesetze oder Gesetze der Macht?

Weshalb Europa die Governance von Technologie global vorantreiben muss

Wenn Technologie die neue Governance ist, dann sind die Technologieriesen Regierende ohne demokratisches Mandat. Europa muss die Führungsrolle in der Entwicklung eines regelbasierten Systems übernehmen, für das das Allgemeinwohl eine Rolle spielt, schreibt Marietje Schaake. Anderenfalls werden autoritäre Regime und private Unternehmen auch weiterhin die Standards vorgeben.

Vor einigen Jahren habe ich das rumänische Parlament in Bukarest besucht. In verschiedenen Hinsichten ist das das schwierigste Gebäude der Welt. Es ist auf den Ruinen der Altstadt errichtet worden, wo einmal 40 000 Menschen gelebt, Gottesdienste gefeiert haben und zur Schule gegangen sind. Seine Architektur ist so protzig autoritaristisch, dass es schwer ist, diesen Ort als den Sitz einer demokratisch gewählten Regierung zu erfassen.

Im Inneren allerdings gab es eine kleine Ausstellung über die Geschichte von Hunger und Unterdrückung zu sehen. Als die Nahrungsmittelknappheit in den 1980er Jahren extrem war und sich Brotschlangen in den Straßen bildeten, zeigte das Staatsfernsehen eine wöchentliche Sendung mit Ceaușescu, die dazu dienen sollte, die Rumänen vom Wohlstand und Erfolg des kommunistischen Modells zu überzeugen. Doch da sämtliche Nahrungsmittel des Landes zur Stützung des Staatshaushalts exportiert wurden und buchstäblich keine echten Früchte verfügbar waren, wurden zur Dekoration Äpfel aus Holz angemalt. Damals gab es keine Mobiltelefone, um die Geschichte hinter dem Fernsehbild zu dokumentieren. Die Staatssicherheit war so strikt, dass sie sämtliche Schreibmaschinentypen archiviert hat, um anonym verfasste Briefe bis zum Absender zurückverfolgen zu können.

Widmen wir uns jetzt dem Jahr 2016, als russische Geheimdienstoperationen die US-Präsidentschaftswahlen durch Hackerangriffe und Desinformationskampagnen zu manipulieren versucht haben. Viele haben angemerkt, dass die Anwendung von Propaganda und Desinformation, um Vertrauen zu untergraben und Wähler in die Arme starker Führer zu treiben, doch „nichts Neues“ sei. In der Tat haben die Staatsmedien noch bis vor relativ kurzer Zeit noch die Menschen in Mittel- und Osteuropa mit offiziellen Narrativen bombardiert. In Ungarn ist die Geschichte in Gestalt von Victor Orbán wiedergekehrt, der aus den Reihen der größten politischen Gruppe der EU heraus eine „illiberale Demokratie“ predigt und zugleich hunderte Medienkanäle unter Kontrolle der Regierung stellt.

Ohne die Freiheit zu sprechen werden Menschen allem, was sie hören, gegenüber misstrauisch. Sie sagen Dinge wie „Ich schaue keine Nachrichten mehr“ und glauben, dass nichts und niemandem zu trauen ist. Wenn die Menschen aufhören, sich zu interessieren und zu partizipieren, dann ist der Demokratie bereits dadurch ein Schlag versetzt worden.

Die Frage danach, wer die Informationsflüsse kontrolliert, war immer schon politisch. Unter repressiven Regimen sind Medien und Informationen Instrumente, die zur Stärkung der Macht auf Kosten der Bevölkerungen genutzt werden. In Demokratien stellen sich pluralistische Debatten und ein kritischer Journalismus den Mächtigen entgegen und ermächtigen die Bevölkerung – ob übers Radio, das Fernsehen oder das Internet. Es ist nicht das Medium selbst, sondern die Governance und die Werte, die entscheidend sind. Was freie Gesellschaften von Diktaturen unterscheidet, ist die Achtung vor der Rechtstaatlichkeit. Die Macht des Gesetzes oder das Gesetz der Macht – das macht den großen Unterschied.

Die Illusionen des Laissez-faire

Im Lichte der sehr wenigen positiven Erfahrungen mit der Zentralisierung der Macht war die Begeisterung von der technologischen Revolution nachvollziehbar. Das Internet brachte das Versprechen mit sich, Macht- und Informationsmonopole aufzubrechen. Die Konsequenzen wurden schon bald sichtbar. Wikileaks veröffentlichte geheimes militärisches Bildmaterial und vertrauliche diplomatische Depeschen, und Snowden deckte die Überwachung durch Geheimdienste in einem gewaltigen Maßstab auf. Einzelne konnten nun militärische, diplomatische und Sicherheitsprotokolle durchdringen und damit sogar noch die mächtigsten unter den Staaten bloßstellen. Seit 2009 konnten Menschen überall auf der Welt in Echtzeit verfolgen, wie die Polizei auf Demonstranten im Iran, in Tunesien, Ägypten und Syrien einprügelt. 1982 hatte es noch Monate gedauert, dass die Nachricht von der Massakrierung tausender Menschen im syrischen Hama die Außenwelt erreichte. Heute machen uns die Mobiltelefone zu Augenzeugen von friedlichen Protesten und Polizeigewalt von Hongkong bis Venezuela.

Information ist Macht. Da Technologien die Informationsflüsse verändert, verändern sie auch die Machtverhältnisse. Doch die Ermächtigung der Einzelnen und das Aufbrechen von Monopolen ist noch nicht alles. Auch autoritäre Staaten haben ihre Kontrolle durch Überwachungstechnologien verstärkt, während private Unternehmen mittlerweile Milliarden Kunden haben und Daten in einem weit größeren Umfang sammeln als irgendeine Regierung. Wir müssen uns fragen, wer hier wen regiert.

Technologie kann als eine Erweiterung der Handlungsfähigkeit betrachtet werden. Die Governance von Technologien ist für die Demokratie ebenso wichtig wie die Governance durch Technologien. Alles hängt von Werten ab. Ein auf Profit ausgelegtes Design wird sich wahrscheinlich nicht auf die Demokratie auswirken; automatische Waffensysteme oder Gesichtserkennungsverfahren werden unweigerlich Folgen für Frieden und Demokratie haben.

Die Versprechen auf Ermächtigung und Demokratisierung, die mit den neuen Technologien einhergingen – so als ob Mobiltelefone und Social-Media-Plattformen die Demokratie auf irgendeine Weise viral gehen ließen – mag teilweise erklären, warum demokratische Regierungen so zögerlich dabei waren, Regeln für das digitale Zeitalter zu entwickeln. Angesichts dessen, was wir über die Auswirkungen von Informationsflüssen wissen, war das erstaunlich.

Seit dem Zweiten Weltkrieg haben es die westlichen Demokratien mit Erfolg vermocht, einen Rahmen für internationale Abkommen über Handelsbeziehungen, Rechte, Krieg und Frieden sowie Entwicklung zu entwerfen. Diese Regeln und die Institutionen, die zu ihrer Anwendung geschaffen wurden, haben die Lebensqualität der Bevölkerungen sichergestellt, indem sie dafür gesorgt haben, dass Standards gelten und Zurechenbarkeit besteht. Heute steht diese regelbasierte Ordnung jedoch unter Druck. Zusammen mit dem Erstarken des Nationalismus stellt diese Entwicklung eine der zentralen Herausforderungen für die internationale Zusammenarbeit dar, ob es um Klimawandel, Einwanderung oder Digitalisierung geht.

Das ist schon schlimm genug. Aber die regelbasierte Ordnung deckt den digitalen Bereich noch gar nicht hinreichend ab – trotz des Vorsprungs des Westens. Bis vor Kurzem waren die USA in der Entwicklung von Tech-Produkten und digitalen Diensten führend. Doch geleitet von Selbstbezogenheit, den Glauben an den Ersten Verfassungszusatz und eine libertäre Kultur haben Tech-Firmen und ihre Armeen von Lobbyisten die Gesetzgeber davon überzeugt, dass jegliche Regulierung „des Internets“ eine Innovationsbremse wäre und sich autoritäre Regime von solchen regulatorischen Maßnahmen inspirieren lassen würden. Wenn es doch nur so wäre, dass sich autoritäre Regime von Demokratien inspirieren ließen!

Eine Regulierung des Internets stößt nach wie vor auf heftige Widerstände, auch von zivilgesellschaftlichen Gruppen, die ich schätze. Doch regulieren wir „das Internet“ – oder vielmehr: Stellen wir sicher, dass die algorithmische Entscheidungsfindung verantwortbar ist – auf die gleiche Weise, in der wir auch in anderen Bereichen Regularien für fairen Wettbewerb und Redefreiheit vornehmen? Es ist nicht nur hilfreicher, sondern auch legitim, sich auf die Prinzipien zu fokussieren, die geschützt werden müssen, ganz gleich, welche technologischen Revolutionen oder Disruptionen wir erleben. Demokratisch gewählte Regierungen, die sich auf den Auftrag des Wählers stützen, haben die Berechtigung zu handeln.

Bei der erstmaligen Errichtung eines regelbasierten Systems, das die Vorzüge des offenen Internets und anderer Technologien wahrt, ist wertvolle Zeit verschwendet worden. Es wurden spannende Möglichkeiten eröffnet, in deren Genuss wir jeden Tag kommen – und die von mehr Menschen überall auf der Welt auch genossen werden sollten. Wir müssen sicherstellen, dass, wo immer Menschen das Internet benutzen, ihre Rechte geschützt sind.

Die chinesische „Alternative“

Eine Alternative zu einer globalen, regelbasierten Ordnung gewinnt an Boden, und der digitale Bereich wird immer mehr zu ihrer Kampfzone. Die Regierung von China glaubt, dass die Staaten ihr eigenes „nationales Internet“ verwalten sollten – das Westfälische Modell, übertragen auf den Online-Bereich. Der Gedanke der „Cyber-Souveränität“ im chinesischen Internetsicherheitsgesetz verlangt, dass ausländische Unternehmen, die in China Geschäfte machen – und das sind viele – ihre Daten auf chinesischem Territorium speichern, was Kontrollen wesentlich einfacher macht. Andere Teile des Gesetzes greifen in das Recht der chinesischen Bürger auf Privatsphäre und Redefreiheit ein. Chinas sogenanntes Sozialkreditsystem bewertet das Verhalten der Menschen, und die Gemeinschaften der Uiguren in Xinjiang werden in Lagern mit High-Tech-Überwachung festgehalten. Überall waren es oft Minderheiten, die als Erste erfahren mussten, wie Technologien Unterdrückung und Diskriminierung verschärfen.

Wir wissen zudem auch, dass die chinesische Regierung aufs Äußerste bestrebt ist, KI-Technologien zu entwickeln. Das macht Fragen der Governance und der Werte, die in Systeme eingehen, umso dringlicher. Wenn künstliche Intelligenz von einer zentralisierten Datengovernance nicht nur profitiert, sondern auch dabei hilft, sie zu errichten, dann sollten wir es uns zweimal überlegen, ob wir sie idealisieren sollten. Wenn wir aber umgekehrt glauben, dass die Technologie auch so eingerichtet werde kann, dass sie der Menschlichkeit und der Demokratie dient, dann müssen wir das beweisen.

Chinas Ambitionen sind nicht aufs Inland beschränkt. Durch die Belt and Road Initiative sammeln seine Unternehmen so viele Daten wie möglich, unter anderem durch die Veröffentlichung von Apps in Indien und auf dem afrikanischen Kontinent. Das sind Länder, in denen Rechte und Daten oftmals ohne jeglichen gesetzlichen Schutz sind. Zudem bestehen sehr grundsätzliche Fragen über die Trennung zwischen der chinesischen Kommunistischen Partei, dem Staat und privaten Firmen. Die von Huawei hergestellte Überwachungstechnologie wird mittlerweile in 50 Ländern eingesetzt; kein anderes Unternehmen verfügt über einen vergleichbaren Marktanteil. Die Frage der Technologie-Governance wird zu einem immer bedeutsameren Aspekt der Außenpolitik und zu einer strategischen Kernfrage unserer Zeit. Wir mögen zwar keine Panzer durch die Straßen rollen sehen, aber wir wissen, dass die Menschen in China keine Aufzeichnungen im Netz von jenem Tag im Jahre 1989 finden können, an dem Menschen auf dem Tian’anmen-Platz von Panzern zermalmt wurden. Auch in seinen diplomatischen Bemühungen versucht China aktiv, globale Normen auf Grundlage dessen zu prägen, was es für verantwortliches staatliches Handeln im Netz hält. Dieses Souveränitätsmodell stellt die Rechtsstaatlichkeit oder die Rechte und Freiheiten der Nutzer nicht an erste Stelle. Daneben ist es hochgradig protektionistisch.

Big Tech und die neuen Richter über die Wahrheit

Am anderen Ende des Spektrums beobachten wir das Aufkommen eines marktgetriebenen Modells. Mark Zuckerbergs berühmt-berüchtigtes Diktum – „Bewegt euch schnell und macht Dinge kaputt“ – war lange das inoffizielle Motto des Silicon Valley und der Teil über das „Kaputtmachen von Dingen“ auch ein ziemlicher Erfolg. Viele Sektoren sind total disruptiert worden, vom Transport- bis zum Mediensektor, und wo sie es bis jetzt noch nicht sind, werden sie es bald sein; man denke nur an die Bereiche Finanzdienstleistung und Gesundheitsversorgung. Entscheidend ist, dass wir aber auch sehen, wie die Demokratie disruptiert wird.

Die Ironie ist die, dass viele der Personen, die die größten Tech-Unternehmen leiten, selbst zu Regulierern geworden sind, während sie damit beschäftigt waren, dem Gesetz aus dem Weg zu gehen oder ihm immer einen Schritt voraus zu sein. Dadurch, dass sie die Technologie auf maximale Effizienz, Aufmerksamkeit des Kunden oder auf die übermittelten persönlichen Daten zugeschnitten haben, haben die Tech-Giganten Regierungsfunktionen ausgeübt, ohne sich dieser Rolle bewusst zu sein. Sicherlich hatte sie dafür kein demokratisches Mandat, und ebensowenig waren irgendwelche zur Begrenzung der Macht erforderlichen Kontrollmechanismen in Kraft. Über die letzten beiden Jahrzehnte sind Unternehmen wie Facebook, Google, Twitter und Amazon zu den Hütern der Informationsflüsse geworden; andere, etwas weniger bekannte, aber ebenfalls ziemlich mächtige Unternehmen wie Palantir analysieren Daten für kommerzielle geheimdienstliche Zwecke. Und es gibt zahllose kleinere Firmen, die Überwachungs- und Hacker-Werkzeuge als kommerzielle Fertiglösungen für jeden bereithalten, der sie sich leisten kann.

In den postkommunistischen Ländern beschwört der Gedanke eines Informationsministeriums oder eines Wahrheitsministers Albträume herauf, ebenso wie in Ländern, die nie kommunistisch waren. Doch CEOs wie Zuckerberg agieren faktisch wie Richter über die Wahrheit. Diese Verantwortung wird ihnen zunehmend unangenehm, weshalb mittlerweile Facebook und Apple nach einer Regulierung von Inhalten und Datenschutz rufen. Doch die profitgetriebenen Algorithmen ihrer Unternehmen und Geschäftsmodelle entscheiden nach wie vor darüber, ob Eltern, die sich um die Gesundheit ihrer Kinder sorgen, medizinischen Rat oder ein YouTube-Video finde, das sie davon überzeugt, dass Impfungen für Kinder eigentlich schädlich sind.

Eine Corporate Governance ohne Oberaufsicht hat es Cambridge Analytica ermöglicht, persönliche Daten zu sammeln, um damit Wahlergebnisse zu beeinflussen, ob in Großbritannien oder in Kenia. Profitoptimierung ermöglicht es, dass Verschwörungstheorien in den Suchergebnisse oberhalb der eigentlichen Nachrichten auftauchen. Bis vor Kurzem – und das zu sagen fällt mir nicht leicht – war es möglich, auf Facebook Anzeigen in Kategorien wie „Jew Hater“ oder „Hitler did nothing wrong“ zu schalten und Menschen anzusprechen, die sich für „Joseph Goebbels“ oder „Heinrich Himmler“ interessieren.

Bestimmt mittlerweile die Zahlung von Geld statt Überzeugungsarbeit die eigene Position auf dem Marktplatz der Ideen? Wenn ein Beitrag in den sozialen Medien Tausende von Likes auf sich vereint, repräsentieren diese hochgereckten Daumen, Klicks und Herzen dann Bots oder echte Menschen? Wir kennen die Antworten anekdotisch, Skandal für Skandal. Wir wissen, dass es Konsequenzen für die Verantwortlichen hätte geben müssen. Doch besteht nur eine sehr geringe systematische Transparenz, ganz zu schweigen von Zurechenbarkeit.

Plattformen geben den Ton an

Plattform-Unternehmen entscheiden, was Internetnutzer sehen. Doch die Formeln für den Datenabgleich und die Werbung bleiben großteils rätselhaft. Die Algorithmen, die das Online-Leben von Milliarden Menschen bestimmen, gelten als Betriebsgeheimnisse. Sie werden von der öffentlichen Überprüfung und Verantwortbarkeit abgeschirmt, um einen Wettbewerbsvorteil zu behalten.

Wir wissen, dass Algorithmen durch neue Einstellungen und Maschinenlernen laufend verändert werden. Plattformen sammeln Daten, um zielgenaue Werbung zu verkaufen. Aber es gibt keine systematische Aufsicht, um zu überprüfen, ob Gleichheit, Redefreiheit und fairer Wettbewerb – Freiheiten, die rechtlich geschützt sind – sich im Computercode und seinen Resultaten widerspiegeln. Das amerikanische Wohnungsbauministerium hat sogar eine Klage gegen Facebook angestrengt und behauptet, dass die Plattform diskriminierende Anzeigen geschaltet hatte, die es Hausbesitzern ermöglichten, an manche Leute zu verkaufen und an andere nicht.

Kurzum, die Technologien, die zu demokratisieren versprachen, haben die Demokratie unter Druck gebracht. Statt Monopole aufzubrechen, haben sie eigene gebildet. Die neuen Torwächter – die Tech-Oligarchen, wenn man so will – verarbeiten riesige Informationsmengen ohne irgendeine Art von Regulierung. Sobald kartellrechtliche Ermittlungen in den USA angekündigt wurden, heuerten die Tech-Unternehmen mehr Lobbyisten an, um im Kongress zu agitieren, was sie zig Millionen Dollar jährlich kostete. 75 Prozent dieser Lobbyisten waren zuvor selbst an offiziellen Stellen im Kongress beschäftigt, wo sie an Themen arbeiteten, die für genau jene Fälle relevant waren, gegen die sie nun lobbyierten. Apropos Drehtüren: Der frühere Chef der US Federal Trade Commission arbeitet jetzt für Amazon. Die Plattformen finanzieren außerdem zahlreiche Denkfabriken, die zur Tech-Politik arbeiten, ebenso wie viele akademische Studiengänge.

Da demokratische Regierungen so zurückhaltend dabei waren, eine regelbasierte Ordnung für den digitalen Sektor zu entwerfen, legen autoritäre Regime und private Unternehmen die Standards fest. Die Frage lautet daher nicht, ob wir eine Regulierung erleben werden, sondern, wer für sie zuständig ist und auf welchen Prinzipien sie basiert. In seinem prophetischen Buch Code and Other Laws of Cyberspace von 1999 sah Lawrence Lessig voraus, auf welche Weise Technologie die neue Art von Governance werden würde. In einem Interview mit dem Harvard Magazine im Jahr 2000 sagte er:

Unser Zeitalter ist das des Cyberspace. Auch unsere Zeit hat einen Regulierer. Auch dieser bedroht die Freiheit, doch wir sind so besessen von der Idee, dass Freiheit „Freiheit von Regierung“ bedeutet, dass wir die Regulierung in diesem neuen Raum nicht einmal wahrnehmen. Daher erkennen wir die Gefahren nicht, die sie für die Freiheit darstellt. Dieser Regulierer ist Code, die Software und die Hardware, die den Cyberspace zu dem machen, was er ist.

Heute, 20 Jahre später, sehen wir zunehmend, wie Unternehmen, ob groß oder klein, regierungsartige Entscheidungen treffen, wenn nicht gar in die Rolle von Regierungen selbst schlüpfen. Dies verändert nachhaltig die Rolle des Staates. So sind zum Beispiel kritische Infrastruktur und Dienstleistungen wie die Erhebung von Steuern, die Durchführung des Zensus, der Gesundheitsbereich und die Energieversorgung digitalisiert. Infrastruktur und Dienstleistungen werden nicht nur von Privatunternehmen aufgebaut, sondern auch von ihnen geschützt. Ein anderes Beispiel ist die Online-Identität. Diese wird für gewöhnlich von einer Kreditkartenfirma oder einem Social-Media-Unternehmen verifiziert, kaum jemals aber durch einen vom Staat ausgestellten Identitätsnachweis für die Online-Welt. Oder Kryptowährungen – zum Beispiel Libra, die neue von Facebook ausgegebene Währung. Und da die Unternehmen der Überwachungstechnologie mittlerweile Offensivfähigkeiten entwickeln, gleitet das Gewaltmonopol der Regierung aus den Händen. Der wachsende Einfluss des privaten Sektors ist in den bestehenden Regulierungsrahmen kaum berücksichtigt worden.

All diese Folgen neuer Technologien für die Demokratie und das Gemeinwohl werden durch die künstliche Intelligenz verstärkt. KI ist nicht die Zukunft, sondern die Gegenwart. Eine AI-Anwendung wird demnächst allgemein verfügbar werden, die eine Umgangssprache erzeugen kann, die von der von Menschen produzierten nicht mehr unterscheidbar ist. „Deepfakes“ – das Pendant dieser Technologie im Videobereich – macht es möglich, jeden alles sagen zu lassen. Wenn wir bisher glaubten, dass Desinformation ein Problem sei, dann kann man sich ausmalen, was da auf uns zukommt.

Europa als Regulierungsführer

Unser Augenmerk liegt tendenziell immer auf dem Missbrauch von Tech, doch wir müssen uns auch ihren beabsichtigten Gebrauch ansehen. Wenn ich mit Computer-Ingenieuren spreche, dann zeigen sie sich am stärksten von der Idee fasziniert, dass die künstliche Intelligenz unerwartete Ergebnisse hervorbringen wird. Das heißt, dass wir eine öffentliche Debatte darüber brauchen, wie viel Risiko wir für akzeptabel halten, und uns nicht nur auf das „Wettrennen“ um die KI-Vorherrschaft konzentrieren dürfen. Nehmen wir das Beispiel der genetisch veränderten Kuh in den USA. Sie wurde uns vor einigen Jahren als ein durchschlagender Erfolg der neuen Technologien präsentiert. Jetzt zeigt sich aber, dass die unbeabsichtigte Vermischung von DNA Bakterien enthielt, die antibiotikaresistent waren. Vielleicht wird dies die Amerikaner und andere dazu bewegen, Wertschätzung für das zu entwickeln, was in den europäischen Debatten um die Gentechnik als „Vorsorgeprinzip“ bezeichnet wird. Gerade in den USA ist dies häufig lächerlich gemacht und als unwissenschaftlich gebrandmarkt worden, doch in diesem Fall kamen die Beweise zwei Jahre später.

Es ist heutzutage in Mode gekommen, auf jedes mit der künstlichen Intelligenz zusammenhängende Problem mit einem Verweis auf „die Ethik“ zu reagieren. In Europa gibt es mittlerweile über 120 verschiedene Ethikrichtlinien für die KI. Viele Tech-Firmen haben „Chief Ethics Officers“ angestellt. Aber was meinen wir eigentlich, wenn wir von Ethik sprechen? Können wir uns auf Normen einigen, und, wichtiger noch, was passiert, wenn sie verletzt werden? Über die philosophische Diskussion hinaus müssen wir uns darauf konzentrieren, die schlechtesten denkbaren Folgen zu verhindern, und auf die Prinzipien, die durch das Recht geschützt werden müssen. Diese Diskussion wird auch Fragen nach einem sinnvollen Zugang zu Informationen, nach Aufsicht und nach Forschung im Interesse der Allgemeinheit umfassen müssen. Hier hat die Europäische Union Schritte in die richtige Richtung unternommen. Wir haben die Datenschutz-Grundverordnung, aber auch Netzneutralität, eine Wettbewerbspolitik und einen Cyber Security Act, der das Gemeinwohl, das offene Internet, ins Zentrum dessen stellt, was verteidigt werden muss. Die Grundrechtecharta der EU gilt für alle Regulierungen, auch die von Tech, und hält beispielsweise das Recht auf Privatsphäre hoch.

Die EU hat angefangen zu zeigen, dass Technologien auch dann, wenn sie in Jurisdiktionen am anderen Ende der Welt gefertigt werden, dazu gebracht werden können, die Regeln zu beachten, die die Menschen und ihre Rechte schützen. Die Tatsache, dass Microsoft die Datenschutz-Grundverordnung als globalen Standard übernommen hat, zeigt, wie Unternehmen abwägen, wenn ein bedeutsamer Rechtsraum – in diesem Fall die EU – sie dazu drängt, sich an Standards zu halten. Es mag für ein Unternehmen einfacher sein, weltweit nur einen Standard zu haben statt verschiedene für jedes Gebiet, in dem es aktiv ist.

Doch während Europa Schritte in die richtige Richtung unternommen hat, beobachten wir trotzdem auch immer noch ein sehr punktuelles Vorgehen und eine eindeutige Fragmentierung regulatorischer Initiativen. Es gibt zu wenig vernetztes Denken zwischen, sagen wir, Urheberrechtsrichtlinien, Datenschutz und KI. Auch die Vorschläge zur Regulierung von Online-Inhalten zeigen das. Gegenwärtig sind die großen Online-Plattformen von der rechtlichen Haftung für die auf ihren Seiten geteilten Inhalte befreit. Doch der Druck, dies zu ändern, wird rasch größer. In Deutschland müssen diese Plattformen Desinformationen und Inhalte entfernen, die gegen bestehende Gesetze verstoßen, oder Strafen zahlen. Im Vereinigten Königreich gibt es den neuen Gesetzentwurf, demzufolge die Unternehmen sogenannte online harms entfernen müssen – worunter alles von Kindesmissbrauch bis Desinformation fällt. In Frankreich gibt es Pläne dazu, eine Aufsicht über Algorithmen einzurichten, die den Medienregulierern größere Autorität geben würden.

In Ländern allerdings, in denen das Vertrauen in die Regierung gering ist, würden solche Gesetzentwürfe als Zensurversuche betrachtet werden. Manche fürchten, dass denen, die in Deutschland, Großbritannien und Frankreich eingebracht worden sind, eine unabhängige Kontrollinstanz abgeht und sie zu viel Verantwortung für ihre Selbstregulierung an die betreffenden Unternehmen auslagern. Hohe Geldstrafen und andere Sanktionen könnten sie zudem dazu anstiften, zu stark zu zensieren, ohne dass es Möglichkeiten zum Widerspruch gäbe.

All diese Initiativen konzentrieren sich auf die drängende Frage, wie bestehende Gesetze online anzuwenden wären. Der Gedanke, dass sie online genauso angewendet werden sollten wie offline, wird von den Vereinten Nationen unterstrichen und gilt für jedes denkbare Gesetz. Das ist ein guter Ausgangspunkt für die europäischen Bemühungen. Doch wird dieses Prinzip nicht umgesetzt werden, wenn wir 28 verschiedene Interpretationen davon haben. Wir müssen stattdessen daran arbeiten, uns über grundlegendere Prinzipien einig zu werden und dann Regulierer dazu ermächtigen, zu prüfen, ob diese Prinzipien verletzt worden sind. Das wird auch zu tragfähigeren Gesetzen führen, da sich die Technologie schnell verändert. Wir können nicht jede Technologie für sich regulieren, aber wir können uns auf Prinzipien konzentrieren und darauf, wie wir sie bewahren.

Europa muss mit höherer Geschwindigkeit und mehr politischen Ambitionen handeln. Der neue Beginn einer neuen Legislaturperiode eröffnet ihm eine echte Möglichkeit dafür, eine umfassendere Vision einer wertebasierten Technologie-Governance zu entwickeln, um die verschiedenen Politikfelder zu verknüpfen und, was entscheidend ist, anzufangen, sich wie ein Global Player zu verhalten. Wir müssen dafür sorgen, dass sich entwicklungs- und menschenrechtspolitische Maßnahmen auf die Auswirkungen von Technologie fokussieren und Programme die Geltung rechtsstaatlicher Prinzipien in der digitalen Sphäre stärken. Das heißt, auf Normen zu drängen, die die Eskalation von Cyberkonflikten verhindern, und Handelsbestimmungen für Datenflüsse zu entwickeln. Es bedeutet also eine ambitioniertere, integrierte KI-Strategie, die Forschung im öffentlichen Interesse, die Hervorbringung von Talenten und ein geschäftsfreundlicheres Umfeld ermöglicht.

Die Welt wartet nicht, bis wir so weit sind. Der chinesische Tech-Gigant Alibaba hat bereits einen E-Commerce- oder „E-WHO“-Mechanismus zur Erleichterung des digitalen Handels vorgeschlagen. Die Handelskriege zwischen China und den USA beeinflussen alles, von der Software bis zu den Zulieferketten im technologischen Bereich. Dies sind zwar herausfordernde Umstände, doch gibt dieses Momentum der EU den Raum dafür, eine Führungsrolle bei der Erbringung des Nachweises dafür zu übernehmen, wie ein wertebasiertes Modell einer umfassenden Tech Governance aussieht. Die EU hat jahrzehntelang gezeigt, wie eine wertebasierte grenzüberschreitende Festlegung von Regeln funktioniert. Und sie hat nicht nur die praktische Erfahrung und die Institutionen dafür, dies zu tun, sondern genießt auch Glaubwürdigkeit unter den Nicht-EU-Ländern.

Jenseits des digitalen Binnenmarkts

Neben regierungsseitigen Bemühungen gibt es auch noch eine dynamische Gemeinschaft von Experten aus der Zivilgesellschaft, Tech-Programmierern und Privatunternehmen, die ebenfalls an Debatten und Formen von unverbindlichen Tech-Governance-Lösungen beteiligt sind. Diese „Multi-Stakeholder-Initiativen“ sind darauf angelegt, die verschiedenen Personen, die von einer Technologie betroffen sind, mit in den Gesetzgebungsprozess einzubinden. Doch so wichtig diese Anstrengungen auch sind, ich fürchte, dass sie fragmentiert sind und ihnen eine Strategie fehlt. Man kann Prinzipien haben, doch was geschieht in dem Moment, in dem gegen sie verstoßen wird? Das ist für gewöhnlich die eigentliche Probe aufs Exempel. Um die diversen Initiativen und Akteure zu fokussieren, müssen wir uns auf rechtsstaatliche Prinzipien fokussieren, die Regierungen, Unternehmen und Zivilgesellschaft auf eine Art horizontale Governance für das digitale Zeitalter verpflichten. Die Beachtung rechtsstaatlicher Prinzipien sollte ein Lackmustest für alle Akteure sein.

Rechtsstaatlichkeit bezeichnet einen politischen Zustand unabhängig von den spezifischen Gesetzen eines Landes. Daher eignet sie sich gut für einen globalen Kontext wie den der Online-Welt, da sie sich sowohl auf Methoden als auch auf den materiellen Gehalt des Rechts fokussiert. Rechtsstaatliche Prinzipien sind unter anderem die Gleichheit vor dem Gesetz, die Transparenz von Regeln, Gesetzen und Verfahren sowie Mechanismen zum Einbringen von Beschwerden und Widersprüchen. Diese Prinzipien haben jahrhundertelang den Unterschied zwischen freien und unfreien, offenen und geschlossenen Systemen ausgemacht. Wenn große Tech-Unternehmen diese Prinzipien allein auf Algorithmen anwenden würden, wäre Zurechenbarkeit möglich. Die Unternehmen sollten den zunehmenden Druck, der auf ihnen lastet, als Anreiz betrachten. Ein klarerer, stärker prinzipiengeleiteter Ansatz ist nötig, um auf die Kritik an Entscheidungen über die Entfernung von Inhalten ohne Zurechenbarkeit reagieren zu können.

Durch ein klares Bekenntnis zur Rechtsstaatlichkeit und die Implementierung rechtsstaatlicher Prinzipien in ihren Nutzungsbedingungen würden die Unternehmen viel von dem so dringend benötigten Vertrauen schaffen. Und es würde es denjenigen Unternehmen, die in Ländern ohne Rechtsstaatlichkeit operieren, erlauben, sich ihren Kunden zu verpflichten und zu zeigen, dass es ihnen um mehr geht als nur um den Profit. Obwohl ich entschieden dafür bin, die allgemeinen Menschenrechte ganz oben auf unserer Agenda zu halten, sehen wir doch, wie sie in der Praxis in verschiedenen Ländern auf verschiedene Weisen interpretiert werden. Die Rechtsstaatlichkeit hingegen würde die Unternehmen dazu drängen, die Regeln offenzulegen, nach denen sie beispielsweise Inhalte promoten oder herabstufen, und die erwünschten, beabsichtigten Ergebnisse der künstlichen Intelligenz transparent machen.

Indem es die Prinzipien der Rechtsstaatlichkeit zum expliziten Fundament von Regulierungen im digitalen Handel, in der Entwicklung, beim staatlichen Handeln und in der Wettbewerbspolitik macht, kann Europa zeigen, dass es nicht nur nach der Schaffung eines gemeinsamen Markts, sondern auch einer gemeinsamen Online-Sphäre strebt, in der das Gemeinwohl zählt. Ein Modell dafür zu entwerfen, wie Regeln angewendet werden können, ist für Europa eine eindeutige Chance und sollte ein demokratisches Modell einer Technologie-Governance hervorbringen. Auf diesem Gebiet besteht ein echtes globales Führungsvakuum, und Europa könnte in diesen leeren Raum eintreten, indem es zusammen mit demokratischen Partnern weltweit – beispielsweise mit Japan und Indien, die für die Zukunft der Demokratie extrem wichtig sind – einen regulatorischen Rahmen entwickelt.

Gegen technologischen Determinismus

Regeln und Governance werden dafür entscheidend sein, wie die Technologie nicht nur unser Leben und das unserer Kinder, sondern auch das von Menschen am anderen Ende der Welt beeinflusst. Bei der Technologie sind Sicherheits-, Wirtschafts- und Menschenrechtsfragen miteinander verwoben. Wir sprechen daher auch von systemischen Problemen und Herausforderungen. Private Unternehmen haben, ebenso wie autoritäre Staaten, bei der Technologie-Governance einen Vorsprung erzielt, vor allem, weil sie den Raum besetzt haben, den wir weit offenstehen ließen. Wie in Rumänien ändert Governance alles, und eine einmal errichtete Architektur hat Werte, die in sie eingeflossen sind. Das Gleiche gilt für Technologie. Werte verfestigen sich bereits vom Augenblick ihres Designs an, und das oft auf unsichtbare Weise. Das macht Governance und Transparenz – und Zurechenbarkeit – noch umso wichtiger. Ohne rechtsstaatliche Prinzipien werden die Entscheidungen profitgetriebener Unternehmen und kontrollgetriebener Staaten das Wesen und die Architektur unserer digitalen Welt bestimmen.

Die unglaublichen Versprechen der künstlichen Intelligenz spiegeln die Hoffnungen wieder, die in das gesetzt wurden, was einmal als die demokratisierende Macht des offenen Internets galt. Mittlerweile wissen wir, dass die Demokratie nicht viral gegangen ist. Tatsächlich ist vielleicht sogar das Gegenteil passiert. Und genau aus diesem Grund glaube ich, dass wir kein deterministisches Bild von der KI akzeptieren sollten. Wie wir uns entscheiden, die Technologie zu regieren, wird gewaltige Auswirkungen auf das Leben der Menschen haben. Die Zukunft liegt in unseren Händen.

 

Dieser Artikel basiert auf einem Vortrag, den die Autorin am 19. September 2019 im Rahmen der von der ERSTE Foundation organisierten Reihe ‘The Tipping Point Talks 2019’ gehalten hat.

Published 16 October 2019
Original in English
Translated by Frank Lachmann
First published by Eurozine

© Marietje Schaake / Erste Stiftung / Eurozine

PDF/PRINT

Discussion