Vor zehn Jahren starb viel zu früh der Publizist Frank Schirrmacher. Ich möchte heute an ihn erinnern, weil er in seinen letzten Lebensjahren wie kaum ein anderer in Deutschland eine brennende Frage gestellt hat, die uns bis heute nicht loslässt: Hat die Zeit des "technologischen Totalitarismus" begonnen, in der die Macht der Maschine – der digitalen Maschine – den Menschen in neuer, nie gekannter Weise entmündigen wird? Mobil bietet diese neue Kommunikationstechnik zweifellos reizvolle Angebote des Austauschs, der Vernetzung, der Informationsbeschaffung, der individuellen Selbstdarstellung. Doch unterhalb der Benutzeroberfläche sammelt und kommerzialisiert sie persönliche Daten in unvorstellbaren Ausmaßen und beutet sie, gegen den arglosen Nutzer gewendet, für Konsum und Kontrolle, auch für Manipulation und Überwachung aus.

"Technologischer Totalitarismus" hieß auch der 2015 unter Frank Schirrmachers posthumer Herausgeberschaft veröffentlichte Band. Viele der Autorinnen und Autoren brachte er zum ersten Mal in die deutsche Öffentlichkeit. Evgeny Morozov, Shoshana Zuboff, Jaron Lanier schrieben über digitales Wunschdenken, über Schürfrechte am Leben, Daten, die unser Schicksal bestimmen. Das Buch, zehn Jahre alt, sollte aufklären, aufrütteln und die politischen Kräfte von Rechtsstaat und Demokratie gegen die digitale Überwältigung des Menschen wecken.

Wir wollen heute fragen, wo wir zehn Jahre später stehen. Warum die Digitalisierung einerseits in aller Munde ist, warum wir aber auf die Risiken von digitaler Manipulation vergleichsweise wenige Antworten haben und viele Nutzer "unempfindlich" dem Thema gegenüber geworden zu sein scheinen; digitale Enthusiasten dagegen reagieren schon empfindlich auf die Frage nach Risiken. Der Grund scheint auf der Hand zu liegen: Die Attraktivität des Digitalen, mehr noch, die Unverzichtbarkeit, die Allgegenwart der Anwendungen in immer mehr Bereichen unseres Lebens ist überwältigend. Sie ist zu einer Kulturtechnik des modernen Menschen geworden. Einer Kulturtechnik, die uns inzwischen auch definiert. Segen für die einen, Fluch für andere, Alltag für alle.

Und doch wäre es zynisch zu sagen, dass sich Schirrmachers Frage damit erübrigt habe. Demokratinnen und Demokraten müssen sich mit ihr auseinandersetzen. Deshalb wollen wir sie heute neu stellen, die Frage nach dem öffentlichen Raum im digitalen Maschinenzeitalter, die Frage nach dem ethischen Minimum, das uns leiten muss und soll.

Dabei ist die "kluge" Maschine ein Topos, der schon jahrhundertelang durch die utopische oder dystopische Literatur geistert. Der Unterschied ist: Sie scheint Realität geworden zu sein oder zu werden. Die Datendeponien sind groß genug geworden, die digitale Rechenleistung für ihre blitzschnelle Verwertung ist so gewaltig, dass unsere Computer Vorhersagen treffen, Sprachen übersetzen, Wissensfragen nicht nur beantworten, sondern in Essayform ausspucken, Stimmen nachahmen, Gedichte schreiben, Fotos imitieren oder Gemälde alter Meister und vieles andere mehr. Was ist der Nutzen und wo liegen die Risiken für Freiheit und Demokratie?

Darüber wollen wir heute sprechen in einer Gesprächsreihe, die den großen Wandel in den Blick nimmt. Wir haben hier mehrere Male über die Loslösung von fossilen Energieträgern miteinander gesprochen; jetzt über die Entwicklung der digitalen Schlüsseltechnologien der Zukunft. Ich begrüße Sie alle sehr herzlich im Schloss Bellevue.

Bevor wir in die Diskussion einsteigen, möchte ich gern über drei aus meiner Sicht zentrale Dinge reden, die es braucht, wenn es um KI und ihre Möglichkeiten geht: Verständnis, Verantwortung und Vertrauen.

Die Erfindung des Internets wird immer wieder mit der Erfindung des Buchdrucks verglichen. Er revolutionierte die Welt von damals. Schriften konnten vervielfacht werden, auch religiöse und politische Streitschriften. Informationen, aber auch Überzeugungen ließen sich schnell und zum ersten Mal weit verbreiten. Die Reformation ist ohne den Buchdruck so wenig denkbar wie die Idee der Demokratie, die eine weitgehende Alphabetisierung und öffentlichen Meinungsstreit unter Informierten bekanntlich voraussetzt. Gutenberg hat mit seiner Erfindung die Grundlage für die Moderne geschaffen – dabei verfolgte er eigentlich nur eine Geschäftsidee, den massenhaften Vertrieb von Schriftgut jeder Art.

Das Beispiel Gutenbergs zeigt: Bei jeder Erfindung kann es unbeabsichtigte Nebeneffekte geben. Nicht immer ist es gleich eine Medienrevolution. Aber die sozialen und politischen Folgen zu verstehen, ist die Grundlage, um technologische Neuerungen angemessen und verantwortungsvoll weiterentwickeln und am Ende nutzen zu können. Eine Technologie zu verstehen, heißt auch, vorbereitet zu sein auf unterschiedlichste Möglichkeiten der Nutzung. Und wir sollten uns besser vorbereiten. Denn wir können einmal Erfundenes nicht ignorieren und nur selten rückgängig machen.

Es geht inzwischen längst nicht mehr um die Frage, ob die KI weiter Einfluss auf unser Leben nehmen wird, sondern wie. Ich bin überzeugt: Wir sind dieser technischen Entwicklung nicht ausgeliefert. Aber ich bin ebenso überzeugt: Wir müssen sie verstehen, um sie gestalten zu können.

Der "Weltrisikobericht" – so etwas gibt es – zeichnete im Januar dieses Jahres ein auf den ersten Blick düsteres Bild. Als große Gefahr bewerteten die Analysten des World Economic Forums KI-generierte Fake News, Cyberangriffe, Desinformation. All das rangiert in der Beschreibung der Analysten noch vor Extremwetter, gesellschaftlicher Polarisierung und erstaunlicherweise vor bewaffneten Konflikten. Aber: Das ist mitnichten eine Zukunftsvorhersage. Denn wie groß die Gefahr für unsere Demokratien durch Künstliche Intelligenz tatsächlich ist, haben Regierungen, Unternehmen und Gesellschaften in der Hand.

Gerade im 300. Geburtsjahr Immanuel Kants müssen wir uns fragen: Was können wir tun, um unsere digitale Mündigkeit zu erhalten, um Verständnis und Verständigung, Mitbestimmung und Partizipation zu fördern? Wenn Bürgerinnen und Bürger zu Lieferanten von Datensätzen werden und sich von solchen Technologien, Geschäftsmodellen und Inhalten abhängig machen, die sie nicht richtig verstehen, steht dies der Idee der Aufklärung entgegen.

Medienbildung ist auch Demokratiebildung. Wir müssen ein gemeinsames Verständnis über die KI entwickeln. Und wir müssen unsere Urteilskraft schärfen, müssen Menschen befähigen, auf der Grundlage von verifizierbaren Fakten Quellen kritisch zu hinterfragen, um Fehlurteile zu vermeiden. Es braucht sowohl erweiterte Medienkompetenz als auch verbesserten Schutz vor Missbrauch.

Das bringt mich zu meinem zweiten Punkt, der Verantwortung. Der Aufstieg des radikalen Populismus in Europa, russische Desinformationskampagnen und der chinesische Überwachungsstaat – all diese Entwicklungen sind aufs Engste verknüpft mit dem Wandel unseres Kommunikations-Ökosystems. Mit der Einführung von ChatGPT haben sich Ende 2022 noch einmal ganz neue Fragen für unsere politischen Öffentlichkeiten aufgetan.

Unsere Zukunft hängt von diesen Technologien ab, ist gleichzeitig aber durch sie gefährdet, so beschreibt es der britische Unternehmer und KI-Experte Mustafa Suleyman in seinem Buch "The Coming Wave".

Wer entscheidet also, wie unsere Zukunft aussieht? Tech-Riesen? Start-ups? Märkte? Autoritäre Regime? Demokratische Gesellschaften? Wo unsere Öffentlichkeiten von autokratischen Systemen unterwandert werden, soll die Demokratie mit dem Gift des Misstrauens zersetzt werden. Es sind Versuche, Meinungs- und Willensbildung, aber auch Wahlen in liberalen Demokratien zu stören und damit die Demokratie an sich zu diskreditieren und zu delegitimieren. Wir brauchen dringend gemeinsame europäische Antworten, um unsere Demokratien – und unsere Bürgerinnen und Bürger – zu schützen, ja um sie als selbstbestimmte Bürger, frei in der Entscheidung und politisch handlungsfähig, in ihr Recht zu setzen. Und um gegen die Technologie der Entmündigung die Handlungsmacht der Mündigen zu setzen.

Ich bin überzeugt, dass wir die besten Voraussetzungen dafür haben. Deutschland gehört inzwischen in der KI-Forschung in die weltweite Spitze und zieht exzellente Wissenschaftlerinnen und Wissenschaftler an. Aber wir müssen in unserem Land noch besser darin werden, auch das ökonomische Umfeld zu schaffen, um Innovationen von der Grundlagenforschung bis zur Marktreife zu führen – und politische Eliten und Verwaltung auf den jeweils neuesten Stand der technologischen Entwicklung zu bringen. Kurzum: Naive Ablehnung wäre ebenso unklug wie pure Nachahmung. Stattdessen braucht es Neugier, Forschung und Entwicklung, Beschleunigung in der Anwendung, Innovationsehrgeiz in Unternehmen und öffentlichen Verwaltungen.

Noch haben wir die Chance, den Rahmen für KI so zu gestalten, dass sie dem Menschen und dem Gemeinwohl gleichzeitig dient. Wenn wir das erfolgreich tun, dann werden wir weltweit Standards setzen können und so das Vertrauen in die neuen Technologien vielleicht sogar stärken. Es wäre nicht das erste Mal: Der AI Act der Europäischen Union ist nicht nur umfangreich, wir haben hier auch sehr schnell Verantwortung übernommen und deutlich gemacht, was uns wichtig ist: Wir drücken sich aufdrängende Fragen nicht einfach weg! Wir geben Antworten, die nicht endgültig sind, aber wir zeigen die Richtung an, in welcher Zukunft wir leben wollen. Und zeigen damit auch: Das ist ein Feld, für das wir Regeln brauchen. Wir zeigen damit: Hier bei uns gibt es Regeln, hier gilt das Recht.

Ich bin überzeugt, "made in Europe" kann künftig ein Qualitätssiegel sein – ein Weg jenseits von purem Datenkapitalismus auf der einen Seite und autokratischer Überwachung auf der anderen Seite.

Ich komme nun zu meinem letzten Stichwort, dem Vertrauen. Desinformation und Fake News sind keine neuen Phänomene, verstärken sich aber durch KI massiv. Je mehr journalistische Arbeit und wissenschaftliche Erkenntnisse infrage gestellt werden, desto schwieriger wird ein konstruktiver und vernunftbasierter Diskurs. Klar ist: Wer Instabilität säen will, der hat es im digitalen Zeitalter wesentlich einfacher. In einem solchen Kommunikationsumfeld wird nicht nur der unabhängige, professionelle und seriöse Journalismus noch wichtiger. Mehr noch: Wir brauchen so etwas wie ein Herkunftssiegel für Informationen. Es gibt Vorschläge, wie wir eine alternative Infrastruktur zu globalen Plattform-Unternehmen schaffen könnten, beispielsweise mit einer gemeinsamen europäischen Medienplattform, die öffentlich-rechtlich organisiert ist und uns weniger abhängig macht von amerikanischen oder chinesischen Algorithmen.

Ob das realistisch ist, dazu werden unsere Gesprächspartner von heute eine Meinung haben. Immerhin ist die Idee schon mehr als zehn Jahre alt. Ob es diese oder neuere Vorstellungen der Einhegung von Gefahren für Demokratie und Zusammenhalt sind, klar ist: Bürgerinnen und Bürger müssen Vertrauen entwickeln können – in das Recht und den Rechtsstaat. Wir sollten daher auch weiter vorangehen mit politischen Initiativen auf dem Gebiet der KI und vor allem gemeinsam an einer europäischen positiven Zielvorstellung arbeiten, an ethischen Leitlinien für die Entwicklung und die verschiedenen Einsatzmöglichkeiten von KI.

Demokratische Gesellschaften müssen dringend darüber nachdenken, wie sie ihre Freiheit, ihre demokratischen Überzeugungen auch in der immer digitaleren Zukunft leben wollen und können. Maria Ressa, die ich hier bei uns begrüßen und gleich noch vorstellen darf, hat uns ihr Patentrezept schon verraten: Langfristig ist Bildung das Wichtigste überhaupt, […] mittelfristig sind es Gesetze, […] die die Rechtsstaatlichkeit in der virtuellen Welt wiederherstellen […]. Kurzfristig liegt es an uns: Zusammenarbeiten, Zusammenarbeiten, Zusammenarbeiten. Und das fängt an mit Vertrauen.

Verständnis, Verantwortung, Vertrauen: Weder IT-Entwickler noch Regierungen noch digitale Zivilgesellschaften werden die Herausforderungen, die auf uns zukommen, alleine lösen können. Wir brauchen eine gemeinsame Zielvorstellung, wir brauchen eine gemeinsame Bewegung – mindestens europäische Bewegung –, und wir müssen uns im Klaren darüber sein: Das, worüber wir hier reden, ist eine Generationenaufgabe.

Der Autor Sascha Lobo brachte es kürzlich auf den Punkt: Die schlechten Seiten von KI kommen von allein – für die guten müssen wir intensiv gemeinsam arbeiten. Deshalb ist es besonders schön zu sehen, wer hier alles im Raum vertreten ist für unser Gespräch: Vertreterinnen und Vertreter aus Politik, Wirtschaft, Zivilgesellschaft. Noch einmal herzlich willkommen in Schloss Bellevue! Und ich möchte Sie alle bitten: Beteiligen Sie sich an unserer Debatte! Ich bin gespannt auf Ihre Erfahrungen, Ihre Gedanken und Ideen.

Und nun darf ich unsere beiden Gesprächspartnerinnen begrüßen:

Maria Ressa ist eine philippinische Journalistin und Autorin. Sie ist in den USA aufgewachsen und kehrte anschließend in ihre Heimat zurück. Nachdem sie in leitenden Positionen für große Sender tätig war – unter anderem für CNN und das philippinische TV- und Online-Network ABS-CBN –, hat sie, und dafür ist sie über die Grenzen ihres Landes bekannt geworden, mit einem Kollegen 2011 das digitale Nachrichtenportal Rappler gegründet, das immer wieder kritisch berichtete, auch über den damaligen philippinischen Präsidenten Duterte. Als Chefin von Rappler war Maria Ressa vielfach staatlicher Einflussnahme und Schikane ausgesetzt. Sie hat gezeigt, wie mutiger Journalismus mit den Mitteln des digitalen Zeitalters eine Gegenöffentlichkeit erkämpfen kann und so die politisch Mächtigen verantwortlich halten kann. Sie wurde mit zahlreichen Auszeichnungen gewürdigt, unter anderem mit dem Friedensnobelpreis 2021.

Meredith Whittaker ist Präsidentin der Stiftung des Messengerdienstes Signal und steht damit für einen Service, der eine tatsächlich private digitale Kommunikation durch eine Ende-zu-Ende-Verschlüsselung ermöglicht und der beim Schutz der Privatsphäre keinerlei Kompromisse kennt. Als KI-Expertin und informierte Kritikerin hat sie mehrfach Perspektivwechsel vorgenommen. Schon in ihrer Zeit als Mitarbeiterin von Google hat sie sich immer wieder kritisch geäußert und sich gegen Überwachung engagiert. Nach dem Ausscheiden aus dem Unternehmen hat sie an der New York University das AI Now Institute gegründet und sich mit den Auswirkungen von KI befasst. Auch in beratender Funktion für Regierungen, das EU-Parlament und andere Institutionen hat sie die Debatte über Datenverantwortung immer wieder vorangetrieben.

Ich begrüße außerdem Helene Bubrowski. Sie ist Journalistin und stellvertretende Chefredakteurin bei Table.Media, und sie moderiert unsere Veranstaltung heute.

Ich kann diese Vorrede nicht beenden, ohne mich ganz herzlich zu bedanken bei der Zeit Stiftung Bucerius, die uns hilft, dass diese Veranstaltungen mit diesem Anspruch, dieser Größenordnung und internationaler Beteiligung möglich sind. Vielen Dank!

Ich darf Sie drei nun auf die Bühne bitten. Schön, dass Sie alle da sind. Ich bin sehr gespannt auf das Gespräch.