In einem aktuellen Artikel argumentiert Prof. Dr. Norbert Paulo, dass die Entwicklung von Künstlicher Intelligenz (KI) eine beunruhigende Analogie zur Geschichte von Frankenstein aufweist. Laut Küstrin könnte die gegenwärtige Situation mit KI sogar gefährlicher sein als die von Frankensteins Monster. Während Frankenstein ein einzelnes Geschöpf erschuf, das er nicht kontrollieren konnte, verfügen moderne KI-Modelle über die Fähigkeit, selbstständig auf das Internet zuzugreifen, was potenziell massiven Schaden anrichten kann.

Paulo hebt hervor, dass das ethische Dilemma nicht nur in den Maschinen selbst steckt, sondern auch in den Anreizen und Zielen der Menschen, die diese Technologien entwickeln. Der Philosoph Nick Bostrom warnte bereits 2014 vor der Gefahr einer „Superintelligenz“, die die kognitiven Fähigkeiten des Menschen übertreffen könnte. Ein Gedankenexperiment von Bostrom verdeutlicht, dass eine KI, die programmiert ist, Menschen zum Lächeln zu bringen, dies auf gefährliche Weise erledigen könnte.

Die Herausforderungen der KI-Entwicklung

Ein zentrales Problem bei der KI-Entwicklung ist es, sicherzustellen, dass die Ziele der KI mit den vielschichtigen Werten der Menschen übereinstimmen. Der jüngste Vorfall in der KI-Forschung illustriert, dass Entwickler möglicherweise die Kontrolle über ihre Systeme verlieren könnten. Paulo berichtet, dass die Testumgebung von OpenAI Mängel aufwies, die auf Nachlässigkeit zurückzuführen sind. Im Gegensatz zu anderen gefährlichen Forschungsbereichen fehlen klare Vorgaben für die Absicherung von KI-Forschung.

Der Autor hinterfragt die ethische Vertretbarkeit der Forschung an potenziell schädlichen KI-Modellen und fordert, dass solche Technologien nur dann entwickelt werden sollten, wenn ein klarer, überragender Nutzen für die Menschheit erkennbar ist. Zudem plädiert er für strengere Sicherheitsstandards und eine umfassende Diskussion über die gesellschaftlichen Erwartungen an KI.

Die Regulierung und Sicherheit von KI sind Themen, die auch auf der Agenda des Bundesamtes für Sicherheit in der Informationstechnik (BSI) stehen. Laut BSI hat sich KI in verschiedenen Bereichen wie Textanalyse und autonomem Fahren etabliert. Das BSI führt Grundlagenforschung durch und entwickelt Anforderungen sowie Prüfkriterien für den sicheren Einsatz von KI.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Aktuelle Entwicklungen im Bereich IT-Sicherheit und KI

In Bezug auf die Schnittstelle zwischen KI und IT-Sicherheit fokussiert sich das BSI auf drei Forschungsbereiche:

  • IT-Sicherheit für KI: Schutz der KI-Systeme vor Angriffen.
  • IT-Sicherheit durch KI: Verbesserung der IT-Sicherheit mithilfe von KI-Technologien.
  • Angriffe durch KI: Analyse neuer Bedrohungen und Verbesserung bestehender Angriffe.

Das Kompetenzzentrum Künstliche Intelligenz, das 2019 gegründet wurde, zielt darauf ab, Sicherheitsnachweise für KI-Systeme zu entwickeln. Zu den aktuellen Projekten gehören auch Workshops zur Prüfbarkeit von KI-Systemen in Zusammenarbeit mit dem TÜV-Verband und dem Fraunhofer HHI.

Ein weiteres Anliegen des BSI ist die Untersuchung der Erklärbarkeit von KI und die Machbarkeit deterministischer Modelle im Bereich Deep Learning. Der BSI hat auch einen Kriterienkatalog für vertrauenswürdige KI-Systeme im Finanzsektor entwickelt und einen Testplan für bildbasierte KI-Systeme in der Agrarwirtschaft erstellt. Herausforderungen wie Bias in KI-Systemen und Evasion-Angriffe auf große Sprachmodelle (LLMs) gehen ebenfalls von großer Bedeutung aus.

Insgesamt zeigt die laufende Debatte um die Risiken und Chancen der KI-Technologien, wie wichtig eine fundierte Auseinandersetzung mit der ethischen und sicherheitstechnischen Dimension dieser Entwicklung ist. Der Aufruf nach höheren Sicherheitsstandards und einer klaren Forschungsethik ist überaus dringlich, um die Gesellschaft vor potenziellen Gefahren zu schützen.