Wie sieht eine digitale Zukunft aus, in der Maschinen nicht nur rechnen, sondern politische Debatten, Erinnerungen und gesellschaftliche Entscheidungen mitprägen? Genau darum ging es bei einer interdisziplinären Tagung an der FAU Erlangen-Nürnberg. Am 17.10.2026 trafen dort Fragen zu Künstlicher Intelligenz, Ethik, Religion, Demokratie und gesellschaftlichem Zusammenhalt aufeinander.

Im Zentrum stand die Frage, wie technologische Entwicklungen unsere Zukunftsvorstellungen und politischen Auseinandersetzungen verändern. Seit dem öffentlichen Start von ChatGPT Ende 2022 wird darüber besonders intensiv gesprochen. Dabei geht es längst nicht mehr nur um manipulierte Bilder oder falsche Texte, sondern auch um die demokratische Öffentlichkeit, staatliches Regieren und politische Teilhabe.

Welche Bilder wir von KI haben

Der Medienexperte Till Krause nahm die religiöse Bildsprache in der Berichterstattung über KI unter die Lupe. Oft taucht Michelangelos „Erschaffung Adams“ auf: Ein menschlicher Finger nähert sich beinahe einem Roboterfinger. Frühere Darstellungen zeigten häufig menschenähnliche Roboter oder quasi-göttliche Maschinen. Heute rücken dagegen Rechenzentren, Konzernlogos und Entscheidungsträger in den Vordergrund. Laut Krause macht diese Bildsprache die Machtstrukturen hinter digitalen Technologien sichtbarer.

KI ist dabei keine einzelne Technologie. Gemeint sind Verfahren, die komplexe Probleme möglichst unabhängig und situationsgerecht lösen sollen. Seit der Mitte des 20. Jahrhunderts lassen sich zwei große Ansätze unterscheiden: symbolische KI, die Daten anhand formaler Regeln und Klassifikationen verarbeitet, sowie konnektionistische Verfahren mit maschinellem Lernen, neuronalen Netzen, Muster- und Wahrscheinlichkeitsbestimmung.

Der Aufschwung seit etwa 2010 hängt vor allem mit maschinellem Lernen zusammen. Nötig dafür sind enorme, zunehmend spezialisierte Rechenkapazitäten, große Datenmengen aus der digitalen Alltagskommunikation sowie immer mehr Sensoren und Kameras. Fortschritte bei Bilderkennung und Übersetzung zogen weitere wirtschaftliche Investitionen und technologische Entwicklungen nach sich. Große Sprachmodelle können inzwischen Texte und andere Medien umwandeln; generative KI erzeugt durch Mustererkennung, Vorhersagen und Rekombinationen neue Texte, Bilder und Videos.

Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Was daraus gesellschaftlich folgt, entscheidet sich allerdings nicht allein an der Technik. Eine Rolle spielen auch ökonomische Anreize, politische Regulierung und die Art, wie Menschen diese Systeme nutzen. Die Debatte lässt sich grob in drei Felder teilen: generative KI und demokratische Öffentlichkeit, KI beim demokratischen Regieren sowie Veränderungen politischer Teilhabe.

Wenn Prognosen wie Tatsachen klingen

Der Sozialethiker Matthias Braun beschäftigte sich mit der politischen Bedeutung von KI-Prognosen. Vorhersagen würden oft als sichere Fakten wahrgenommen, obwohl sie Wahrscheinlichkeiten ausdrücken. Genau dadurch können sie menschliches Verhalten und gesellschaftliche Reaktionen beeinflussen. Prognosen seien deshalb nicht neutral, sondern politische Sprechakte. Braun forderte, die Interessen und Perspektiven hinter technologischen Zukunftserzählungen offenzulegen und stärker nach dem jeweiligen Kontext zu fragen.

In der politischen Praxis verspreche KI präzisere Analysen, Vorhersagen und Simulationen. Damit sollen Schwächen repräsentativer Demokratie ausgeglichen werden: begrenzte politische Zeithorizonte, mangelnde Reaktionsfähigkeit in dynamischen Situationen und ungenaue Steuerungsinstrumente. Die Hoffnung dahinter ist klar: bessere politische Ergebnisse und dadurch mehr Legitimation demokratischer Systeme.

KI-gestützte oder automatisierte Entscheidungssysteme verbreiten sich in Europa und weltweit – teilweise auch dann, wenn bestehende Anwendungen die erwarteten Leistungen praktisch noch nicht vollständig erbringen. Die Entwicklung knüpft an ältere statistische und bürokratische Formen der Politik an und reicht inzwischen von der Verwaltung bis zur politischen Zielsetzung und Planung.

Doch maschinelles Lernen schreibt vergangene Muster fort. Dadurch können bestehende Macht- und Statusasymmetrien reproduziert werden. Aus erkannten Mustern entstehen Entscheidungsregeln, die ihre eigenen Ergebnisse später wieder bestätigen. Beispiele finden sich in der vorausschauenden Polizeiarbeit und bei der Verwaltung von Gesundheitsleistungen. In Bereichen mit hohem Kostendruck, etwa bei der Grenzüberwachung, können vulnerable Gruppen besonders häufig benachteiligenden automatisierten Entscheidungen ausgesetzt sein.

Hinzu kommt: Die Verfahren sind technisch oft opak. Warum ein System zu einer bestimmten Entscheidung kommt, bleibt schwer nachvollziehbar. Demokratische Machtausübung muss aber grund- und bürgerrechtlich kontrolliert werden und Anforderungen an Gleichheit, Gerechtigkeit, Nachvollziehbarkeit und Widerspruchsmöglichkeiten erfüllen. Öffentliche Institutionen hängen bei Entwicklung und Betrieb zudem vielfach von privatwirtschaftlicher Infrastruktur und Dienstleistungen ab. Ohne Regelungen, die Kontrolle und Rechenschaft praktisch sicherstellen, geraten demokratische Verfahrensgarantien ins Rutschen.

Der Medienethiker Alexander Filipovic warnte in diesem Zusammenhang vor „Techno-Paternalismus“. Politische Verantwortung werde zunehmend auf Technologiekonzerne und Entwickler verlagert. Moralische Selbstverpflichtungen einzelner Akteure könnten demokratische Aushandlungsprozesse ersetzen und Konflikte entpolitisieren. Eine grundsätzlich technikfeindliche Haltung greift laut der Debatte aber ebenfalls zu kurz: Technologische Steuerung kann politisch gestaltet und erfolgreich politisiert werden.

Öffentlichkeit zwischen Deepfake und Chatbot

Vor 2022 konzentrierte sich die Diskussion vor allem auf KI-gestützte Inhaltsmoderation in sozialen Netzwerken und die wachsende Macht der Plattformen. Generative KI senkt nun die Kosten für die Erstellung und Veränderung kommunikativer Inhalte. Bilder, Videos und Stimmen lassen sich in Echtzeit erzeugen oder verändern, Texte zu fast jedem Thema und in unterschiedlichsten Stilen verfassen.

Besonders groß ist die Sorge vor Desinformation. Deepfakes können Videos und Tonaufnahmen überzeugend herstellen oder grundlegend verändern. Mehr Akteure sind dadurch in der Lage, komplexe Medieninhalte schnell und täuschend echt zu manipulieren. Visuelle und auditive Inhalte wirken im öffentlichen Diskurs oft mit voller Wucht – ehe jemand überhaupt nach der Quelle fragt.

Soziale Medien begünstigen solche Manipulationen mit segmentierten Publika und hoher emotionaler Erregung. Messenger-Gruppen erschweren zusätzlich, falsche Informationen zu entdecken und zu widerlegen. Strategisch handelnde Akteure können KI einsetzen, um Desinformation zu verbreiten und Radikalisierung zu verstärken.

Daneben gibt es Misinformation: unbeabsichtigt falsche Informationen. Generative KI kann „halluzinieren“, also nicht belegte Zusammenhänge erzeugen. Die Antworten klingen trotzdem häufig überzeugend, weil die Systeme menschliche Erwartungen erfüllen und verbreitete Vorurteile aus ihren Trainingsdaten fortschreiben. Wer solche Inhalte einschätzen will, braucht hohe Medienkompetenz. Informationen wirken autoritativ, ihre Überprüfung ist teilweise schwierig, und Nutzer müssen zwischen einer inhaltlich sinnvollen Antwort und einer bloß formal passenden unterscheiden.

Eine wachsende Menge an Desinformation und Misinformation kann die gemeinsame Informationsbasis verkleinern, gesellschaftliche Fragmentierung fördern und die Verständigung über Kompromisse erschweren. Wie groß die tatsächliche politische Wirkung KI-generierter Desinformation ist, bleibt allerdings offen. In Ländern wie Deutschland begrenzen ein pluralistisches Mediensystem, politische Bildung und alternative Kommunikationswege die Möglichkeiten einer großflächigen und nachhaltigen Manipulation.

Als langfristig größere Gefahr gilt deshalb die Erosion der strukturellen Voraussetzungen demokratischer Öffentlichkeit. Der dauerhafte Verdacht, Medien und Kommunikation könnten jederzeit manipuliert sein, kann Vertrauen beschädigen. Chatbots, Assistenzsysteme und veränderte Suchmaschinen könnten die Mediennutzung grundlegend umformen. Suchmaschinen bewegen sich teilweise von Ergebnislisten hin zu autoritativ formulierten Antworten.

Damit könnte die Filterblasenhypothese neue Bedeutung gewinnen: Personalisierte Informationsangebote strukturieren Inhalte stärker vor und können sie vereinseitigen. Die empirische Forschung hat die ursprüngliche Filterblasen-These für soziale Netzwerke und Suchmaschinen allerdings relativiert. Offen ist auch, wie Journalismus künftig finanziert wird, wenn der Kontakt zum Publikum stärker in von Technologiekonzernen kontrollierte Umgebungen wandert – und wie sich dadurch das Verhältnis zwischen informierten Eliten und weniger interessiertem Publikum verändert.

Der Medienethiker Florian Höhne beschrieb die demokratische Öffentlichkeit im Zeitalter der KI als einen Raum, in dem sich Diskurs, Kompetenz und Macht zunehmend in digitale Infrastrukturen verlagern. Private Technologieunternehmen könnten dadurch die öffentliche Meinungsbildung prägen, ohne demokratische Legitimation oder ausreichende Transparenz.

Exit, Exodus und die Macht privater Infrastrukturen

Der Theologe Lukas Johrendt untersuchte ideologische Strömungen im Umfeld von Peter Thiel sowie der Denker Curtis Yarvin und Nick Land. Die dort diskutierten Konzepte stellen teilweise demokratische Legitimationsformen infrage und knüpfen politische Macht stärker an Eigentum, Kapital oder Unternehmensstrukturen. Johr