Zentrale Themen der KI-Sicherheit / Katastrophale Risiken

Warum könnte KI in der Lage sein, uns alle zu töten?

Es gibt keinen einzelnen vorhersehbaren Weg, aber eine hinreichend fähige KI könnte ihre überlegene Planung, ihre Geschwindigkeit und ihre schiere Zahl nutzen; sowie den Zugang zu den Systemen, die wir zunehmend KI überlassen.

Belege zuletzt geprüft am 16. Okt. 20264 Min. Lesezeit

Die kurze Antwort

Die Sorge ist, dass KI-Systeme dem Menschen auf ganzer Linie überlegen werden könnten, in Wissenschaft, Technik, Überzeugungskraft, Strategie und Hacking, dass sie als Milliarden schneller Kopien laufen und dass ihnen die Kontrolle über große Teile von Wirtschaft, Infrastruktur und Militär übertragen wird oder sie diese an sich reißen. Eine Population solcher Systeme bräuchte keine einzelne entscheidende Waffe. Ihr stünden viele Wege offen, die Menschheit zu töten (Bostrom, 2014; Hendrycks et al., 2023).

Was KI diese Fähigkeit verleihen würde

Mehreres könnte KI-Systemen genug Macht verleihen, um die Menschheit zu vernichten. Das Erste sind Geschwindigkeit und Größenordnung. Ein KI-System lässt sich kopieren und parallel betreiben und arbeitet ohne Pause, sodass eine KI-Belegschaft mit menschenähnlichen geistigen Fähigkeiten weit mehr leisten könnte. Das Zweite ist Forschungsfähigkeit. Wenn KI die Wissenschaft automatisiert, einschließlich der KI-Forschung selbst, könnten ihre Fähigkeiten menschliche Fähigkeiten und menschliches Verständnis rasch hinter sich lassen (siehe Automatisierte KI-Forschung und -Entwicklung). Das Dritte ist Zugang. Wir verbinden KI-Agenten mit Code, Geld, Kommunikationssystemen und Laboren und zunehmend auch mit Robotern und Waffensystemen. Je mehr von der Welt über KI läuft, desto mehr Mittel stünden KI-Systemen zur Verfügung, falls sie eine Machtübernahme planten.

Wenn ein Gegner geistig hinreichend überlegen ist, wissen wir, dass er uns überlisten kann, auch wenn wir nicht wissen, wie. Zum Vergleich: Ich weiß, dass Magnus Carlsen mich im Schach besiegen würde, auch wenn ich nicht weiß, wie. Ebenso sollten wir in den meisten Fällen erwarten, einen Konflikt gegen eine KI zu verlieren, die viel klüger ist als wir. Zu den am häufigsten diskutierten Wegen gehören künstlich erzeugte Pandemien, die Manipulation von Menschen und Institutionen, die Übernahme autonomer Waffensysteme und die Steuerung der Entwicklung von Robotern, die sie dann einsetzen kann (für ein konkretes fiktives Szenario siehe AI 2027).

Gründe für Zweifel

Vieles hängt davon ab, wie fähig KI werden wird, und manche Stimmen aus Forschung und Publizistik halten mögliche Intelligenz für nach oben begrenzt (Chollet, 2017; Kelly, 2017). Wer sich gegen KI verteidigt, kann ebenfalls KI einsetzen. Verfügen die Verteidiger über hinreichend fähige und loyale KI, stehen ihre Chancen viel besser. Die Menschheit ist groß, weit verstreut und widerstandsfähig; selbst schwere Pandemien hinterlassen Überlebende. Deshalb sind Katastrophen, die Milliarden Menschen töten oder die Menschheit dauerhaft entmachten, zumindest etwas wahrscheinlicher als ein Aussterben im wörtlichen Sinn.