KI und Demokratie – Fünf Erkenntnisse vom Digital Democracy Summit
Auf unserem dritten Digital Democracy Summit ging es um das Thema Künstliche Intelligenz. An drei Abenden haben wir mit Expertinnen und Experten diskutiert, welche Herausforderungen die Künstliche Intelligenz unserer Demokratie stellt. Lesen Sie hier unsere fünf Lehren für die Demokratie.
1. Künstliche Intelligenz: keine Magie für die Demokratie
Das wichtigste vorweg: KI wird unsere Demokratie nicht im Alleingang retten, aber auch nicht, wie zur Zeit des Öfteren zu hören ist, die menschliche Existenz auslöschen. KI ist im Grunde (nur) das nächste menschengemachte Werkzeug, das sich sowohl für als auch gegen die Demokratie einsetzen lässt. Genauer: KI ist ein maschinengestütztes System, das auf Wahrscheinlichkeiten basierende Vorhersagen trifft. Sie kann verschiedene Muster erkennen, diese begünstigen oder eben als weniger wichtig bewerten. Die Verfahren dazu gibt es schon lange, was sich jetzt geändert hat, ist die Verfügbarkeit unendlich großer Mengen an Daten. Es wird schnell deutlich: KI ist keine objektive, rein mathematische Technik, sie spiegelt vielmehr unsere menschlichen Beziehungen wider, mit all den in ihnen innewohnenden Werten, aber auch Vorurteilen und Diskriminierungen. KI trifft Vorhersagen basierend auf der Vergangenheit. Das heißt: Wir können die Verantwortung für unsere Zukunft nicht in die Hände dieses digitalen Werkzeugs legen. Auch die Frage danach, wann es sinnvoll ist, KI einzusetzen und wann nicht, müssen wir in der Demokratie gemeinsam beantworten. Am Ende sollten wir auch sehr sensibel mit der Interpretation der Daten umgehen, die uns die KI liefert. Niemals dürfen wir sie als eine absolute Wahrheit behandeln.
2. KI muss reguliert werden
KI muss Grenzen gesetzt werden, damit sie unsere Demokratie nicht gefährdet. Besser gesagt, den Unternehmen, die die KI entwickeln. Konkret heißt das: Besonders sensible Daten dürfen nicht durch eine KI verarbeitet oder analysiert werden. Damit die KI nicht unsere Persönlichkeitsrechte, wie das Recht auf Privatsphäre, einschränkt. Der europäische “AI Act” (Artificial Intelligence Act) setzt genau hier an, lässt aber noch Flanken offen, die mindestens problematisch, wenn nicht sogar undemokratisch sind. So könnte es etwa in Zukunft erlaubt sein, öffentliche Plätze so zu überwachen, dass zum Beispiel nach einem Anschlag über Gesichtserkennung herausgefunden werden kann, wer sich auf dem Platz befunden hat. Außerdem werden KI-Systeme, die für das Militär entwickelt werden, wohl fast keinen Einschränkungen unterliegen. Auch die EU-Außengrenzen sollen weiterhin ein Experimentierfeld für KI bleiben. Davon sind besonders verletzliche Gruppen an Menschen betroffen. Zudem muss dem Problem mit der unsicheren Qualität der Daten begegnet werden. Da die Datenbasis, auf der die KI ihre Entscheidungen trifft, unsere Gesellschaft spiegelt, ist sie oft von Diskriminierung bestimmter Gesellschaftsgruppen und Minderheiten geprägt. Es braucht Kontrollmechanismen, um diesen Verzerrungen und anderen Fehlern aktiv entgegenzuwirken. Der AI Act sortiert KI-Anwendungen dazu in Risikogruppen ein, die unterschiedlich hohe Kontrollen vorschreiben. Europa ist dennoch Vorreiter, nirgendwo sonst auf der Welt, auch nicht in den USA, wo die Technologien größtenteils entwickelt werden, gibt es eine grundlegende Gesetzgebung, um KI zu bändigen und Grundrechte zu schützen. Auf unserem Eröffnungspanel hat Alexandra Geese (Mitglied des Europaparlaments von Bündnis 90/Die GRÜNEN) verraten, dass der “AI Act” in neun Monaten fertig verhandelt sein soll.
3. KI als Gefahr für die Demokratie?
Neben den Gefahren für Datenschutz und Persönlichkeitsrechte innerhalb unserer Demokratien müssen wir uns bewusst machen, dass KI-Technologie von autokratischen Regimen benutzt wird, um ihre Macht zu konsolidieren und ihre Bevölkerung weiter zu unterdrücken. Wie eine KI-basierte staatliche Überwachung aussehen kann, lässt sich in China bereits beobachten. Des Weiteren nutzen antidemokratische Kräfte auch innerhalb unserer Demokratien Algorithmen, um unsere Gesellschaften zu destabilisieren und beispielsweise Wahlen zu beeinflussen. Auch gezielte Einflussnahme bei den US- Präsidentschaftswahlen 2016 durch Cambridge Analytica grenzte an Manipulation und zersplitterte unsere demokratischen Öffentlichkeiten. Solange die großen Tech-Unternehmen sowohl die Macht über die Daten als auch über die Algorithmen haben, besteht immer die Gefahr, dass unsere Daten personalisiert ausgewertet und auch gegen die Demokratie als Ganzes eingesetzt werden. Wünschenswert wäre daher eine Demokratisierung der KI. Das bedeutet, die zugrundeliegenden Algorithmen sollten öffentlich und damit nachvollziehbar werden und im besten Fall unsere Daten effektiv vor manipulativer Verwendung geschützt werden.
4. KI von der Black zur White Box
Aktuell ist die KI in vielen Fällen eine Black Box, die uns Ergebnisse ausspuckt, von denen wir nicht wissen, wie diese Zustande kommen. Weder kennen wir die Daten, die zum Training der KI genutzt werden. Noch kennen wir die Entscheidungswege und Kriterien der KI, die zu diesem Ergebnis führen, also die Algorithmen. Zudem stehen in der Regel Konzerne dahinter, deren oberstes Ziel nicht das Gemeinwohl ist. So stammen die großen KI-Modelle (wie ChatGPT) von Microsoft, Google und Facebook.
Nimmt also KI in unserer Gesellschaft und in unserer Demokratie eine immer wichtigere Rolle ein, müssen wir den Ergebnissen vertrauen bzw. sie nachvollziehen können. Zumindest für Expertinnen und Experten sowie die Wissenschaft muss dies möglich sein.
Lassen wir uns beispielsweise die Wahlprogramme verschiedener Parteien bzgl. bestimmter Schwerpunkte (direkter Demokratie) von KI zusammenfassen oder uns Verwaltungsakte in einfache Sprache übersetzen, so kann dies eine wichtige Hilfe für mehr Transparenz und Partizipation im politischen System sein. Jedoch ist es auch ein Einfallstor für Manipulationen aller Art. KI kann also ein wichtiges Hilfsmittel sein (und ist es auch schon), das wir heute schon nicht mehr verbieten können. Aber nur wenn wir das nötige Licht ins Dunkel bringen.
5. Demokratie + KI = Demo-KI?
Die großen Visionen sind noch weit weg. Von einer KI-Revolution ganz zu schweigen. Dennoch wird KI schon heute in Parlamenten, Verwaltungen und von Politikerinnen und Politikern genutzt. Vieles befindet sich dabei noch in der Testphase. Dennoch müssen die grundlegenden Weichen heute schon gestellt und immer wieder angepasst werden. Denn manche Entwicklungen können wir uns aktuell noch nicht einmal vorstellen. Bisher herrscht aber Einigkeit, dass KI an sich niemals demokratische Legitimation ersetzen kann. Es ist ein Werkzeug, um im besten Fall gute Empfehlungen zu geben. Die finale Entscheidung sollte aber immer bei den Menschen liegen. KI kann etwa gute Datengrundlagen liefern zum Meinungsbild in der Bevölkerung, Lobbyismus und Machtstrukturen im Gesetzgebungsprozess aufzeigen und dadurch deren Einfluss beschränken. Oder neue Lösungsräume generieren, in denen verschiedene Meinungen zusammengebracht werden können. Zukünftig könnte, wenn es nach Simon Bölts (Input 2 Tag) geht, eine KI helfen, polarisierte Lager wieder zusammenzuführen und Mehrheiten in einer pluralistischen Gesellschaft zu finden. Indem Algorithmen gezielt so programmiert werden, dass sie Filterblasen aufbrechen und Menschen mit unterschiedlichen Ansichten in Berührung bringen. Die KI würde hier Meinungsaustausch strukturieren und organisieren, damit eine größere Vielzahl von Meinungen in Debatten auch tatsächlich vorkommen können.