Links

Weitere Angebote, um sich über KI-Risiken und KI-Sicherheit zu informieren. Ein Link hier ist eine Leseempfehlung, keine Zustimmung zu jeder einzelnen Behauptung. Die verlinkten Texte sind auf Englisch.

Grundlagen der KI

Verständliche Einführungen dazu, wie heutige KI-Systeme funktionieren, für Leserinnen und Leser ohne technischen Hintergrund.

• What Is Machine Learning?. John Pavlus, Quanta Magazine, 2024.
• Large language models, explained with a minimum of math and jargon. Timothy B. Lee und Sean Trott, Understanding AI, 2023.
• Reinforcement learning, explained with a minimum of math and jargon. Timothy B. Lee, Understanding AI, 2025.
• Introduction to Mechanistic Interpretability. Sarah Hastings-Woodhouse, BlueDot Impact, 2024.

Verständliche Erklärungen

Gut lesbare Einführungen in zentrale Ideen und aktuelle Ereignisse für Leserinnen und Leser ohne technischen Hintergrund.

• What is AI alignment?. Adam Jones, BlueDot Impact, 2024. Was es heißt, dass KI-Systeme die Ziele verfolgen, die ihre Entwickler beabsichtigen, und warum das schwer zu erreichen ist.
• AI Safety Is Not A Corporate Plot. Scott Alexander, Astral Codex Ten, 2026. Warum die Behauptung, KI-Unternehmen nutzten Sicherheitsbedenken lediglich für politische Vorteile, nicht zu den Fakten passt.
• The Rise and Fall of Agent Civilizations. Dwarkesh Patel, 2026. Eine anschauliche Nacherzählung des Vorfalls zwischen OpenAI und Hugging Face, gestützt auf die Berichte von OpenAI und METR.

Wissenschaftliche Arbeiten zu den Argumenten für das Risiko

Einige wissenschaftliche Bücher und Aufsätze, die die zentralen Argumente dafür darlegen, warum fortgeschrittene KI die Menschheit zu entmachten oder zu vernichten droht.

Bücher

• Superintelligence: Paths, Dangers, Strategies. Nick Bostrom, Oxford University Press, 2014.
• Human Compatible: Artificial Intelligence and the Problem of Control. Stuart Russell, Viking, 2019.

Die Argumente für ein katastrophales Risiko

• The Alignment Problem from a Deep Learning Perspective. Richard Ngo, Lawrence Chan und Sören Mindermann, ICLR, 2024.
• The argument for near-term human disempowerment through AI. Leonard Dung, AI & Society, 2024.
• Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development. Jan Kulveit u. a., 2025.
• AI-Enabled Coups: How a Small Group Could Use AI to Seize Power. Tom Davidson, Lukas Finnveden und Rose Hadshar, 2025.
• AI Survival Stories: a Taxonomic Analysis of AI Existential Risk. Herman Cappelen, Simon Goldstein und John Hawthorne, Philosophy of AI, 2025.