Künstliche Intelligenz trifft die Demokratie

KI ist eine Gefahr für die Demokratie. Aber es gibt auch Chancen – von Annette Jensen

Künstliche Intelligenz (KI) hat den Alltag erreicht, seit Chat-GPT im November 2022 veröffentlicht wurde. Jeder kann nun Artikel oder Zusammenfassungen zu beliebigen Themen in Auftrag geben und bekommt in Nullkommanichts eine Lieferung. Die Texte enthalten zwar oft sachliche Fehler, doch sie lesen sich wie von Menschen verfasst. Viele gehen deshalb davon aus, dass hier ein Wesen mit Bewusstsein am Werk sein muss. Tatsächlich aber basiert das Programm der US-Firma OpenAI auf Dokumenten aus dem Internet und ermittelt daraus je nach Anforderung die wahrscheinlichsten Wortkombinationen. „Was wir jetzt brauchen, ist eine ganze Menge Aufklärung. Das ist ja nicht das Orakel von Delphi, sondern nur Sprache“, sagt Julia Reinhardt, Senior Fellow bei Mercator. Beim Digitalkongress von Mehr Demokratie fordert sie klare Regeln, damit „den Menschen kein Quatsch erzählt wird“.

Derweil kommen grelle Warnrufe über den Atlantik. KI habe ein immenses Vernichtungspotenzial, genau wie Pandemien oder ein Atomkrieg, schreibt das im Silicon Valley ansässige Zentrum für KI-Sicherheit. Unterschrieben wurde das Dokument sowohl von seriösen Wissenschaftlerinnen und Wissenschaftlern wie Frank Hutter, der an der Freiburger Uni das Labor für maschinelles Lernen leitet, als auch von führenden Personen aus kommerziellen IT-Firmen.

Die Gefahren durch KI sind vielfältig und kaum absehbar. Sie ist in der Lage, selbst zu lernen und ihre Ergebnisse ständig zu verbessern – doch in wessen Sinne und zu wessen Nutzen? Jede Glaubwürdigkeit droht zu erodieren, wenn die Wirklichkeit hinter manipulierten Videos und inszenierten Scheindiskussionen verschwindet. Und während die Recherche mit einer Suchmaschine noch die Auswahl von Quellen erlaubt, bietet KI die bequeme Möglichkeit, sich gleich eine Zusammenfassung liefern zu lassen. Doch worauf fußen die Informationen und welche Positionen fallen unter den Tisch? Ist es nicht gerade die Auseinandersetzung mit unterschiedlichen Positionen, die für jede gesellschaftliche Entwicklung notwendig ist? Und überhaupt: Was ist mit der Welt, die nicht im Netz stattfindet und dort auch nicht repräsentiert ist?

Dass KI eine immense Bedeutung für die Demokratie haben wird, ist unbestritten. Noch aber ist nicht ganz entschieden, ob sie ausschließlich eine Bedrohung darstellt oder auch Chancen birgt. Wie alle Techniken ist Künstliche Intelligenz weder gut noch schlecht. Worauf es ankommt, ist, wer über Ziel und Einsatzfelder bestimmt und mit welchen Daten die Programme gefüttert werden.

Etwa 150 Milliarden Euro haben die großen US-Techfirmen bis 2021 in die Entwicklung gesteckt, wie die Stanford University herausgefunden hat. Auch die chinesische Regierung war nicht knausrig. Sie verfügt über den größten Berg personalisierter Daten weltweit – dank fehlender Schutzmechanismen für ihre Bürgerschaft. Was die Weiterentwicklung von Demokratie angeht, ist von diesen beiden Seiten nichts zu erwarten: Den einen geht es um noch mehr Profit, den anderen um die Absicherung ihrer Diktatur.

Wenig ermutigend ist auch die Recherche, die undercover dem geheimnisumwobenen „Jorge“ auf die Spur kam. Der initiiert mit Hilfe von künstlicher Intelligenz Kampagnen und Shitstorms auf Social-Media-Kanälen im Sinne seiner Geldgeber. Dafür verbreitet eine Armada von Avataren Fehlinformationen und führt Scheindebatten. Seinen vermeintlichen Kundinnen und Kunden gegenüber rühmte sich Jorge, dass er angeblich bereits 33 Präsidentschaftskampagnen beeinflusst hat. Noch gut im Gedächtnis dürfte auch der Skandal um Cambridge Analytica sein: Mit gezielt platzierten Fake-News über Hillary Clinton verhalf das Unternehmen Donald Trump zur US-Präsidentschaft.

„Es ist leichter, den Finger in die Wunde zu legen als positive Punkte zu finden“, äußert Daniel Leisegang von Netzpolitik.org beim Digital Democracy Summit. Es falle ihm schwer, optimistisch zu sein, was die Bedeutung der KI für die Demokratie angehe. Zunehmend gehen täuschend echt wirkende Fotos und Videos von Politikerinnen und Politikern viral, die trotz offensichtlich gefälschter Inhalte enorme Wirkung entfalten können. Vieles müsse nicht plausibel sein – und verfange trotzdem. „Wir brauchen strikte, strikte Regulierung“, so Leisegang. Das findet auch Felix Kartte von der Organisation Reset, die sich für einen Neustart des Internets stark macht – weg von Medienmonopolen und hin zur Selbstorganisation. Bisher gäbe es keine Regulierungsbehörde, die ausreichend Kapazitäten und Expertise hat, um es mit Google aufzunehmen. Das müsse sich ändern.

Immerhin will die EU die Grundlagen regeln, in welcher Form und unter welchen Voraussetzungen KI in Europa zum Einsatz kommt. Mitte Juni hat das Parlament den Gesetzesentwurf der Kommission verschärft. Systementwicklerinnen und Systementwickler sollen verpflichtet werden, im Vorfeld ausführlich zu prüfen, welche Risiken für Demokratie, Gesundheit, Grundrechte, Umwelt und Sicherheit von ihren KI-Anwendungen ausgehen können – und im Zweifel Abhilfe schaffen. Auch muss dokumentiert werden, wie die Algorithmen funktionieren, welche Trainingsdaten zum Einsatz kommen und wie das System gegen Cyberangriffe geschützt ist. Schließlich verlangen die EU-Abgeordneten auch noch sicherzustellen, dass beispielsweise in Bewerbungsverfahren mit KI-Unterstützung keine Diskriminierungen stattfinden.

Wie zu erwarten wettert der deutsche KI-Bundesverband gegen das Gesetz: Fachwissen und Innovationen würden so aus Europa vertrieben. Auch die konservative EVP-Fraktion positionierte sich gegen eine „Überregulierung“. Unmittelbar nach der Abstimmung begannen die Verhandlungen zwischen EU-Parlament und Kommission. Angesichts der immensen Geschwindigkeit der technischen Entwicklungen soll das Gesetz so rasch wie möglich greifen.

Vielleicht lassen sich jedoch mit Hilfe von KI auch Fortschritte für die Demokratie erzielen. So könnte KI dazu beitragen, staatliche Entscheidungen transparenter zu machen. Bisher hortet die öffentliche Verwaltung die meisten Dokumente und verfügt damit über „Herrschaftswissen“, kritisiert David Werdermann von der Gesellschaft für Freiheitsrechte. Dabei gilt in Demokratien offiziell das Prinzip der Transparenz. KI könnte dabei helfen, die Verwaltung bei Nachfragen zu entlasten und die entsprechenden Dokumente und Informationen rasch zur Verfügung zu stellen. Arne Semsrott von FragDenStaat verweist auf das Vorbild Norwegen, wo das seit längerem so läuft. Zwar hat die Bundesregierung in ihrem Koalitionsvertrag ein Bundestransparenzgesetz angekündigt, doch noch liegt kein Referentenentwurf vor.

Und warum KI nicht einsetzen, um politische Empfehlungen zu entwickeln? Das zum Google-Konzern gehörende Forschungsunternehmen Deep Mind hat vor Kurzem ein Experiment mit 4.000 Menschen durchgeführt. Sie sollten über die Verteilung öffentlicher Gelder bestimmen. Anschließend destillierte die KI aus den Anregungen einen Vorschlag – und bekam dafür die meisten Stimmen. Das gibt Anlass für ein anderes Gedankenspiel: Warum nicht ein KI-Programm mit Dokumenten zu internationalen Verpflichtungen wie dem Pariser Klimaschutzabkommen und wissenschaftlichen Daten füttern und dann mit der aktuellen Politik der Regierung abgleichen? Zwar sollten Entscheidungen am Schluss immer von Menschen getroffen werden. Aber vielleicht kann die KI ja helfen, bessere Lösungen zu finden.

Das A & O einer demokratiefreundlichen KI ist in jedem Fall die Überprüfbarkeit der Algorithmen sowie die Vertrauenswürdigkeit der Trainingsdaten. Als ein Positivbeispiel gilt hier F13, das vom Innovationslabor Baden-Württemberg und dem Heidelberger Start-up Aleph Alpha entwickelt wurde. Es kann Dokumente zusammenfassen, Recherchen durchführen und Vermerke für Kabinettsvorlagen schreiben. Seit Kurzem testen einige Landesministerien das System.

Dabei ist ganz klar: Der Aufbau neuer Infrastrukturen ist teuer. Die Alternative ist, den US-Giganten das Feld zu überlassen und aufzugeben. 30 Milliarden Euro haben die bereits im ersten Halbjahr wieder in KI investiert – in ganz Europa waren es gerade einmal vier Milliarden. /