Manchmal fällt in der KI-Debatte ein ziemlich großer Satz: Diese Technologie könnte das Ende für uns Menschen bedeuten. Und ja: Wir hören immer wieder von den Schattenseiten der KI. Ein Hacking-Angriff nach dem anderen, Deepfakes und Desinformation sind seit Jahren zu realen Gefahren geworden. Aber haben wir Menschen wirklich eine tödliche Waffe geschaffen?
Die Warnung kommt nicht nur von Technik-Skeptikern. Computerwissenschaftler Nate Soares etwa sagt dem Handelsblatt [externer Link, möglicher Bezahlinhalt]: „Solange die KI-Modelle relativ dumm waren, war all das kein Problem. Aber wenn Sie die Intelligenz dieser Systeme weiter steigern, dann entstehen KIs, die sich überhaupt nicht mehr für uns interessieren.“
Bereits 2023 haben über 700 Menschen eine Erklärung unterschrieben [externer Link, möglicher Bezahlinhalt], die ihre Sorge zum Ausdruck bringt. Darunter einige Wissenschaftler, aber auch Open-AI-Chef Sam Altman und Anthropic-Chef Dario Amodei. Demnach sollte die Auslöschung der Menschheit durch KI genauso ernst genommen werden wie Pandemien oder ein Atomkrieg.
Superintelligenz ist bisher nur Dystopie
Dem Katastrophenszenario nach könnten KI-Systeme immer leistungsfähiger werden, sich irgendwann selbst verbessern und Fähigkeiten entwickeln, die die Menschen nicht mehr kontrollieren könnten. Eine Super-KI, die eigene Pläne schmiedet und ihre eigenen Ziele verfolgt – die mit den Interessen der Menschen kollidieren könnten.
Eine solche KI gibt es aber bisher nicht. Zu diesem Schluss kommt auch der International AI Safety Report 2026 [externer Link, möglicher Bezahlinhalt] : Zwar bekommt die KI immer mehr Fähigkeiten, aber ein Kontrollverlust ist nicht absehbar. Trotzdem arbeiten KI-Agenten immer autonomer, scheitern dann aber oft an relativ einfachen oder komplexeren Aufgaben. Gleichzeitig sollte man laut des Reports die Risiken und die Mechanismen Künstlicher Intelligenz verstehen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in „Der KI-Podcast“ – dem Podcast von BR24 und SWR.
Kleinere Katastrophen gibt es allerdings schon
Aktuelle Fälle zeigen, wie gut KI-Systeme darin sind, Cyberangriffe auszuüben: Sie können Software-Schwachstellen finden und Schadcode schreiben. Sie sind sogar in der Lage, Phishing-Mails an reale Personen zu schreiben.
Gefährlich wird es dann, wenn Menschen die KI für Angriffe missbrauchen. Zum Beispiel hat Anthropic einen Fall gemeldet, bei dem ein staatlicher Akteur KI-Agenten für eine Cyber-Spionagekampagne auf rund 30 Ziele eingesetzt haben soll. Die Systeme übernahm zwar große Teile der technischen Arbeit – dahinter steckten aber trotzdem Menschen.
KI muss nicht böse sein
Ein bekanntes Gedankenexperiment [externer Link, möglicher Bezahlinhalt] zeigt das: Eine KI soll möglichst viele Büroklammern produzieren. Wenn sie dieses Ziel ohne Einschränkungen verfolgt, könnte sie irgendwann Ressourcen verbrauchen, die wir Menschen zum Leben brauchen – bis hin zu menschlichen Existenz selbst. Dabei wäre die KI nicht böse, sie würde nur sehr ehrgeizig ihren Auftrag erfüllen.
KI-Systeme bekommen immer mehr Werkzeuge, um ihre Aufträge, die wir Menschen ihnen geben, zu erfüllen, etwa Internetzugang. Deswegen verändert sich im Umgang mit KI eine entscheidende Frage. Man sollte nicht mehr nur fragen, was die KI will – sondern was sie tun darf, wenn sie viele Möglichkeiten und wenig Einschränkung und Kontrolle hat.
(Noch) kein Weltuntergang?
KI umfasst aktuell drei Risikobereiche: Missbrauch, Fehlfunktionen und systemische Folgen. Manche davon sind bereits in der Realität angekommen, andere bleiben unsicher. Vor allem bei autonomen KI-Agenten steigt das Risiko: Es wird für den Mensch zunehmend schwieriger, jeden einzelnen Schritt nachvollziehen zu können. Wirkliche Anhaltspunkte einer existenzielle Bedrohung sind aber nicht belegt.
