Wenn Googles KI falsche Menschen zu Straftätern macht

Heute, am 18. Oktober 2026, sitzt der Bremer Rechtsanwalt Michael Zinke mit einem Problem da, das eigentlich gar nicht existieren dürfte: Googles KI Gemini hat bei einer Namenssuche falsche Vorwürfe über ihn ausgegeben. Vor etwa fünf Wochen entdeckte der 63-Jährige, dass die Anwendung behauptete, er sei wegen Betrugs vor dem Landgericht Bremen angeklagt worden und ihm sei vor mehr als zwei Jahren die Zulassung durch die Bremer Rechtsanwaltskammer entzogen worden.

Auch von einer Anklage wegen schwerer Untreue und schweren Betrugs im Juni 2026 war die Rede. Als Quelle verlinkte Gemini einen Bericht von buten un binnen über einen Betrugsfall mit einem anderen Anwalt. Für Zinke war das kein kleiner Ausrutscher auf einem Bildschirm. Potenzielle oder bestehende Mandanten könnten die Angaben für wahr halten – und dann lieber zum Telefon greifen, aber nicht bei ihm.

Google reagiert nicht, die Kammer schon

Zinke forderte Google auf, die falschen Beschuldigungen zu löschen. Eine Antwort erhielt er nicht. Der IT-Rechtsexperte Dennis Kenji Kipker von der Universität Bremen hält das Schweigen für nachvollziehbar: Eine Reaktion könnte als Eingeständnis verstanden werden, dass das Sprachmodell einen Fehler gemacht hat.

Google äußerte sich gegenüber buten un binnen nicht zum konkreten Fall. Das Unternehmen teilte lediglich mit, die überwiegende Mehrheit der KI-Übersichten sei korrekt. Webinhalte könnten aber falsch interpretiert werden. Gegen Verstöße werde vorgegangen, um das System zu verbessern.

Hilfe bekam Zinke von der Rechtsanwaltskammer Bremen. Sie bestätigte schriftlich, dass er seit Beginn seiner Tätigkeit – laut seinen Angaben seit dem 3. März 1992 – durchgehend als Rechtsanwalt in Bremen zugelassen war. Die Zulassung sei ihm zu keiner Zeit entzogen worden; auch sei keine Anklage gegen ihn erhoben worden.

Wie viele Mandate oder Aufträge wegen der Falschmeldung möglicherweise ausgeblieben sind, lässt sich nicht beziffern. Zinke prüft, ob er Google auf Schadensersatz verklagen will. Kipker warnt zudem vor einem Verstärkungseffekt: Wiederholte Anfragen an ein KI-System könnten dieselbe falsche Verbindung immer weiter festigen. Neben Rufschädigung drohten dann erhebliche wirtschaftliche Folgen.

Zwischenzeitlich verschwanden die Vorwürfe aus den Suchergebnissen. Mitte Oktober tauchten sie bei der Suche nach „Michael Zinke“ jedoch erneut auf. Am 18. Oktober 2026 stellte Gemini den Fall wieder anders dar: Zinke habe durch einen gravierenden Fall von KI-Fehlbehauptungen mediale Aufmerksamkeit erlangt; die Google-KI habe ihn fälschlicherweise des gewerbsmäßigen Betrugs und der Untreue bezichtigt. Außerdem habe er rechtliche Schritte und eine Klage gegen Google eingeleitet.

Als Quellen waren diesmal Berichte von buten un binnen und der ARD-Mediathek verlinkt. Ob Google die Informationen selbst korrigiert hat oder Gemini sie automatisiert aus den Berichten im Internet übernahm, ist unklar. Die Geschichte hat also schon angefangen, sich selbst zu kommentieren – mit einer Maschine mittendrin.

Ein Aachener Beschluss mit Signalwirkung

Wie ernst die Sache rechtlich werden kann, zeigt ein Beschluss des Landgerichts Aachen vom 24. September 2026, Az. 8 O 268/26. Das Gericht untersagte Google, rufschädigende Falschbehauptungen im KI-Modus seiner Suche weiterzuverbreiten. Auch dort hatte Google auf den Hinweis des Betroffenen zunächst nicht reagiert.

Der Antragsteller war bis Ende Juni 2026 Chefarzt eines Klinikums. Ende August erfuhr er, dass Googles KI-Modus bei bestimmten Suchanfragen behauptete, er sei wegen eines Vorfalls mit seiner damaligen Sekretärin freigestellt und gekündigt worden. Außerdem habe ihn das Landgericht Aachen wegen sexueller Nötigung zu einer Bewährungsstrafe verurteilt. Hinzu kamen angebliche arbeitsgerichtliche Verfahren und ein Vergleich mit einer sechsstelligen Abfindung.

Die Vorgänge betrafen tatsächlich einen anderen Arzt. Googles KI verknüpfte sie dennoch mit dem Antragsteller. Er forderte Google zur Löschung auf und schilderte den Sachverhalt umfassend. Das Unternehmen lehnte Maßnahmen ab. Auch eine anwaltliche Abmahnung blieb erfolglos, die Inhalte blieben abrufbar. Daraufhin beantragte der Arzt eine einstweilige Verfügung.

Das LG Aachen wertete die KI-Ausgaben als überprüfbare Tatsachenbehauptungen. Der Arzt machte durch eine eidesstattliche Versicherung glaubhaft, dass die Angaben eine andere Person betrafen. Auch dem Gericht war bekannt, dass das zugeordnete Strafverfahren tatsächlich gegen einen anderen Menschen geführt worden war.

Die falsche Zuordnung verletzte nach Auffassung des Gerichts das allgemeine Persönlichkeitsrecht. Gerade die behauptete strafrechtliche Verurteilung konnte die berufliche Ehre und das soziale Ansehen des Arztes erheblich beeinträchtigen. Den Unterlassungsanspruch stützte das Gericht auf § 1004 Abs. 1 Satz 2 BGB analog in Verbindung mit § 823 Abs. 1 BGB sowie Art. 2 Abs. 1 und Art. 1 Abs. 1 GG.

Wenn die Suchmaschine mehr tut als verlinken

Google wurde vom LG Aachen als sogenannte Störerin eingeordnet. Für einen Unterlassungsanspruch kommt es grundsätzlich nicht auf ein Verschulden an. Entscheidend ist zunächst, welche Rolle eine Suchmaschine bei der angezeigten Aussage übernimmt.

Nach Sicht eines verständigen Durchschnittsnutzers stellte Google im KI-Modus nicht bloß vorhandene Suchergebnisse dar. Die KI wertete mehrere Internetquellen aus, verknüpfte deren Inhalte und erzeugte daraus neue Aussagen. Dass einzelne Ausgangsinformationen irgendwo im Netz stehen, macht die daraus gebildete Antwort nicht automatisch richtig. Die falsche Zuordnung zu einer Person erzeugte eine eigenständige Falschinformation, für die Google grundsätzlich verantwortlich sein kann.

Das LG Aachen bezog sich dabei auf ein Urteil des LG München zur Haftung für falsche Aussagen in Googles „AI Overviews“. In dem Münchner Verfahren hatte Google ein Unternehmen durch KI-Zusammenfassungen mit Betrugsmaschen und unseriösen Geschäftspraktiken verbunden. Das Gericht stufte die Zusammenfassungen als eigene Inhalte Googles ein und bejahte eine unmittelbare Störerhaftung.

AI Overviews und der KI-Modus sind unterschiedliche Suchfunktionen. Vergleichbar ist aber, dass Google jeweils eine aus Drittquellen erzeugte Antwort bereitstellt. Das Aachener Gericht übertrug diesen Grundgedanken auf den KI-Modus: Durch die Auswertung und Verbindung verschiedener Quellen entstehen eigenständige Aussagen. Google kann deren Inhalt grundsätzlich überprüfen, etwa indem die Quellen mit der erzeugten Antwort abgeglichen werden.

Spätestens durch die Löschungsaufforderung und die anwaltliche Abmahnung kannte Google den konkreten Sachverhalt. Nach Auffassung des Gerichts wäre eine Überprüfung ohne Weiteres möglich gewesen. Google hätte seine eigene KI mit den Einwendungen des Arztes konfrontieren können und dabei die Fehlerhaftigkeit der Aussagen erkannt.

Das bezog sich allerdings auf diesen konkreten Fall. Eine erneute KI-Abfrage ist damit nicht allgemein als zuverlässige Tatsachenprüfung anerkannt. Ebenso bedeutet die Entscheidung nicht, dass Google nur nach einem vorherigen Hinweis haftet. Die Verantwortlichkeit leitete das Gericht bereits aus der Bereitstellung der KI-Suche und den eigenständig erzeugten Antworten her; die erfolglosen Beanstandungen waren ein zusätzlicher Gesichtspunkt. Welche Kontrollpflichten Google unabhängig von Beschwerden für sämtliche KI-Antworten hat, ließ das Gericht offen.

Was Betroffene sichern sollten

Die Dringlichkeit der einstweiligen Verfügung bejahte das LG Aachen, weil die falschen Angaben öffentlich und für einen unbegrenzten Personenkreis sichtbar waren. Sie konnten dem beruflichen Ansehen des Arztes erheblich schaden. Google hatte trotz umfassender Information keine Maßnahmen ergriffen und diese ausdrücklich abgelehnt. Der Arzt musste die weitere Verbreitung nach Auffassung des Gerichts nicht bis zu einem Hauptsacheverfahren hinnehmen. Wegen der Schwere des Eingriffs und der vorherigen Information Googles erließ das Gericht die Verfügung ohne vorherige Anhörung des Unternehmens.

Das LG Berlin II hatte in einem anderen Verfahren zu Markenparfums eine markenmäßige Benutzung durch Google und wettbewerbsrechtliche Ansprüche verneint. Daraus folgt laut LG Aachen keine allgemeine Haftungsfreiheit für KI-generierte Suchantworten. Im Aachener Verfahren ging es um unwahre Tatsachenbehauptungen und das allgemeine Persönlichkeitsrecht, nicht um Marken