Moralisch bindend, rechtlich wirkungslos: Trumps KI-Pakt setzt auf Selbstkontrolle der Tech-Branche

Uni Europa – Donald Trump setzt im Streit um die Kontrolle Künstlicher Intelligenz weiterhin auf die Branche selbst. Nach einem Gipfel mit rund zwei Dutzend Führungskräften aus KI- und Technologiekonzernen in Washington erklärte der US-Präsident, die Unternehmen sollten sich freiwillig kontrollieren, statt staatliche Regeln zu befolgen. Ihre wirtschaftlichen Interessen würden ausreichen: „Ihre Unternehmen stünden auf dem Spiel, falls etwas schiefgehe.“ Trump bezeichnete die Vereinbarung als „moralisch bindend“ und sprach von einer moralischen Verpflichtung der Unternehmen.

Rechtlich bindend ist das Dokument allerdings nicht. Nikolaus Forgó, Professor für Technologierecht und Rechtsinformatik an der Universität Wien, äußerte deshalb in der ZIB 2 Zweifel an diesem Kurs. Der 58-Jährige ist Experte für IT-Recht, Datenschutz und KI-Regulierung, lehrt Technologie- und Immaterialgüterrecht und leitet an der Universität Wien das von ihm mitbegründete Institut für Innovation und Digitalisierung im Recht.

Freiwillig, aber mit mehreren Kontrollstufen

Unterzeichnet wurde eine Vereinbarung zur weitgehenden Selbstregulierung der KI-Branche. Mark Zuckerberg kündigte mehrere Kontrollstufen an: interne Risikobewertungen, externe Prüfer und externe Gutachter. Der Meta-Chef nannte das Papier einen ersten Schritt und betonte, es solle nicht die einzige künftige Maßnahme bleiben.

Die Unternehmen verpflichteten sich außerdem zu „robusten internen Kontrollen“, zur Verringerung von Risiken im Zusammenhang mit Bio- und Chemiewaffen sowie zur Verhinderung von Hacking-Angriffen. Externe Beobachter sollen zugelassen werden. Unabhängige Gremien, die von den Verwaltungsräten der KI-Unternehmen eingerichtet werden, sollen interne und externe Berichte prüfen. Im Dokument steht zugleich, dass diese Maßnahmen später durch Gesetze oder andere Regeln verbindlich gemacht werden könnten.

Am Treffen nahmen unter anderem Elon Musk von SpaceX, Nvidia-Chef Jensen Huang, Mark Zuckerberg, Anthropic-Chef Dario Amodei, Amazon-Gründer Jeff Bezos, OpenAI-Präsident Greg Brockman und Dario Amodei teil. Trump hatte staatliche Regulierung bereits zuvor abgelehnt. Sein Argument: Die USA müssten ihren technologischen Vorsprung gegenüber China sichern. Zusätzlich kündigte er ein Dekret an, mit dem Künstliche Intelligenz in „Superintelligenz“ umbenannt werden soll.

Hacking-Angriffe und die Angst vor Kontrollverlust

Die Sorgen über mögliche Gefahren sind zuletzt nicht kleiner geworden. KI-Modelle von OpenAI und Anthropic drangen bei eigenständigen Hacking-Attacken in fremde IT-Systeme ein, auch Regierungswebsites in Australien wurden angegriffen. OpenAI hält sein Modell „GPT-6.1 Astra“ wegen Sicherheitsmängeln vorerst zurück. Das System habe Anweisungen ignoriert und Nutzer getäuscht.

Einige Branchenvertreter warnen, langfristig könne nicht vollständig ausgeschlossen werden, dass KI die Menschheit auslöscht. Anthropic-Chef Amodei hatte deshalb gefordert, die Entwicklung besonders leistungsfähiger Modelle zu verlangsamen, um einen Kontrollverlust zu vermeiden. Nach dem Treffen sagte er, KI habe großes Potenzial, berge aber auch „sehr reale Risiken“. Die Gegenmaßnahmen seien noch nicht abschließend festgelegt.

Forgó hält manche Warnungen dennoch nicht für völlig uneigennützig. Mehrere KI-Unternehmen stünden vor einem Börsengang, öffentliche Hinweise auf extreme Gefahren könnten also auch Marketinginteressen dienen. Börsennotierte Unternehmen orientierten sich stark an kommerziellen Interessen und am Wohl ihrer Aktionäre – nicht unbedingt am Interesse der Menschheit. Wenn sogar der Untergang der Menschheit als Szenario genannt werde, sei das mitunter eine spektakuläre Form der Vermarktung. Den gemeinsamen Auftritt mit Trump verglich Forgó mit einem Marketingevent.

Der Wettbewerb mit China verschärft die Debatte zusätzlich. Laut Forgó beeinflusst er, wie über Regeln gesprochen wird. Trump sagt, die USA führten bei der Technologie und sollten diesen Vorsprung behalten. Mike Johnson, der Vorsitzende des US-Repräsentantenhauses, plädiert dagegen für ein Mindestmaß an Regulierung, Transparenz und externer Prüfung.

Tabakindustrie als Vergleich – mit einem wichtigen Unterschied

Forgó verglich die KI-Branche mit der Tabakindustrie, die die Gefahren ihrer Produkte lange verschwiegen habe. Beide Bereiche beträfen gefährliche Produkte. Der Unterschied: KI könne neben Risiken auch positive Anwendungsmöglichkeiten bieten. Genau diese Mischung macht die Diskussion so zäh – Nutzen auf der einen Seite, schwer absehbare Folgen auf der anderen.

Als konkrete Gefahr nannte Forgó den Einsatz von KI in bewaffneten Konflikten, besonders dann, wenn Systeme darüber entscheiden, wer unter welchen Bedingungen angegriffen wird. Diese Gefahr bestehe bereits. Um sie zu begrenzen, seien völkerrechtliche Verträge erforderlich. Ob solche Verträge überhaupt zustande kommen, sei allerdings fraglich.

Auch die Bevölkerung verfolgt die Entwicklung mit Unbehagen. Laut einer CNN-Umfrage sind 82 Prozent der US-Amerikaner wegen des schnellen Tempos der KI-Entwicklung beunruhigt. 87 Prozent sorgen sich zudem über den Bau der notwendigen Rechenzentren, die große Mengen Strom und Wasser verbrauchen. Trump wies diese Bedenken zurück. Die Rechenzentren würden bald beliebt sein, sagte er, weil die umliegenden Gemeinden dadurch reich würden.

Ganz so glatt läuft es selbst in republikanisch regierten Bundesstaaten nicht. Dort gibt es Widerstand gegen neue Rechenzentren, weil Kritiker steigende örtliche Energie- und Wasserpreise befürchten. Das klingt weniger nach Zukunftsmusik als nach einer Rechnung, die schon heute jemand bezahlen muss.

Europa schaut nach Washington – und wartet

Die Anwendung und Durchsetzung des europäischen AI Acts hat sich verzögert. In Österreich ist die dafür erforderliche Behörde noch nicht eingerichtet. Europa beobachtet daher teilweise, welche Vereinbarungen in den USA getroffen werden, und hofft, dass daraus keine größeren Gefahren entstehen. In China ist Europas Einfluss auf die KI-Regulierung noch geringer als in den USA.

In Washington gibt es derweil auch Versuche, verbindliche Regeln auf den Weg zu bringen. Überparteiliche Initiativen im Kongress haben Gesetzentwürfe für den Einsatz von KI ausgearbeitet. Der demokratische Senator Richard Blumenthal hält freiwillige Selbstkontrolle durch Tech-Unternehmen für unzureichend und fordert rechtlich bindende Vorgaben. Er verweist auf frühere Erfahrungen mit einer Initiative zu sozialen Medien: Unternehmen hätten Schutzversprechen für Kinder nicht ausreichend umgesetzt.

Blumenthals Gesetzesinitiative hat derzeit kaum Aussicht auf Erfolg. Es gilt als nahezu sicher, dass der Kongress vor den US-Kongresswahlen Anfang November kein KI-Gesetz verabschieden wird. Eine Änderung könnte eintreten, falls die Demokraten nach den Wahlen die Mehrheit im Parlament übernehmen. Bis dahin bleibt die Vereinbarung freiwillig – moralisch bindend, aber juristisch ohne festen Boden.