In der vergangenen Woche hat sich in den US-Medien eine Kampagne rund um eine drohende „KI-Katastrophe“ entwickelt. Die New York Times warnt vor „unvorhersehbaren, außer Kontrolle geratenen Agenten der künstlichen Intelligenz“.
Die Gefahren, die vom Einsatz immer leistungsfähigerer KI-Systeme durch gewinnorientierte Konzerne ausgehen, sind real. Der Zweck dieser Kampagne besteht darin, sicherzustellen, dass sie niemals Gegenstand einer rationalen öffentlichen Diskussion werden. Eine berechtigte Warnung wurde aufgegriffen, aufgebauscht und in einen Notfall verwandelt. Dieser Notfall wird wiederum genutzt, um die Entwicklung der Technologie direkter an die geopolitischen Interessen des amerikanischen Imperialismus zu binden und sie jeder demokratischen Kontrolle zu entziehen.
Auslöser war der Rücktritt eines Forschers bei Anthropic, Jacob Coxon, am 8. September. Coxon erklärte, dass „die Menschen, die KI entwickeln, ernsthaft meinen, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“. Coxon verzichtete auf noch nicht unverfallbare Aktienansprüche und erklärte, die Branche ganz zu verlassen.
Evan Hubinger, der die Alignment-Forschung bei Anthropic leitet, schloss sich ihm am folgenden Tag an: „Jacob hat hier Recht – wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte! Ich persönlich schätze die Wahrscheinlichkeit innerhalb des nächsten Jahrzehnts auf über 10 Prozent.“ Hubinger fügte hinzu, die derzeitigen Modelle stellten nur ein geringes Risiko dar; die Gefahr liege in den selbstverbessernden Systemen, die derzeit entwickelt werden.
Die Vorgehensweise ist bekannt. Im September 2002, als die Bush-Regierung die Invasion des Irak vorbereitete, lautete der Satz in allen Medien: „Wir wollen verhindern, dass der entscheidende Beweis eine Atompilzwolke ist.“ Im Jahr 2020, als die herrschende Klasse daran ging, die Schutzmaßnahmen gegen Covid-19 abzubauen, lautete das Motto: „Die Therapie darf nicht schlimmer sein als die Krankheit.“ In beiden Fällen wurde eine Warnung in Panik umgewandelt, und die Panik wurde genutzt, um bereits vorbereitete Maßnahmen durchzusetzen. So ist es auch jetzt.
Von Barack Obama, Kamala Harris und Bernie Sanders bis hin zu Steve Bannon und Elon Musk haben sich alle zu Wort gemeldet.
Am Samstag veröffentlichte Anthropic-Chef Dario Amodei einen Essay mit dem Titel „We Must Pace the Frontier“, der innerhalb weniger Stunden von Sam Altman von OpenAI, Demis Hassabis von Google DeepMind und Musk, dem reichsten Mann der Welt, unterstützt wurde. Am Montag brachte die Times auf ihrer Titelseite eine Analyse von David Sanger, in der er die „Dominanz der KI“ als das „wichtigste nationale Sicherheitsproblem des Jahrhunderts“ bezeichnete.
Amodeis Essay schlägt „eingebettete Gutachter“ vor, die von den Labors selbst ausgewählt werden – eine Form der Selbstkontrolle, die darauf abzielt, jegliche verbindliche Regulierung zu verhindern. Die KI-Konzerne drängen darauf, dass Bundesgesetze die einzelstaatlichen Vorschriften zu dieser Technologie außer Kraft setzen. Und die Labors werden – mit der damit einhergehenden Geheimstufung und rechtlichen Immunität – in den nationalen Sicherheitsapparat integriert. Die Panik suggeriert, dass nur die Unternehmen, die die Gefahr geschaffen haben, auch in der Lage sind, sie zu bewältigen.
Sie bildet einen Schutzwall um die etablierten Akteure – genau in dem Moment, in dem Anthropic seinen Börsengang vorbereitet.
Der unmittelbare Anlass für diese Kampagne ist die unbestreitbare Leistungssteigerung der neuesten großen Sprachmodelle, insbesondere von Anthropics „Fable“ und „Mythos 5.1“, die am 1. September veröffentlicht wurden, sowie von OpenAIs „Astra“, das am 3. September erschien. Diese Systeme sind in der Lage, stunden- oder sogar tagelang selbstständig an Aufgaben zu arbeiten und komplexe Probleme mit außergewöhnlicher Geschwindigkeit zu lösen.
Die Führungskräfte, die sich an die Spitze der Kampagne stellen, beabsichtigen, diese Systeme zu nutzen, um einen massiven Angriff auf Arbeitsplätze zu starten. Anthropic-Chef Amodei erklärte gegenüber Axios im Mai 2025, dass KI die Hälfte aller Einstiegspositionen im Angestelltenbereich eliminieren und die Arbeitslosigkeit innerhalb von fünf Jahren auf 10 bis 20 Prozent treiben könnte. Er warnte im Januar, dass die Entlassenen „eine arbeitslose oder sehr niedrig bezahlte ‚Unterschicht‘ bilden könnten“. Altman erklärte gegenüber der Federal Reserve, dass „ganze Berufsgruppen verschwinden werden“.
Neben dem Angriff auf Arbeitsplätze bestehen Gefahren durch den Einsatz dieser Systeme durch die Labore selbst. Sie stehen in einem Wettlauf um die Entwicklung der leistungsfähigsten Modelle, wobei dem Gewinner unvorstellbarer Reichtum versprochen wird.
Das gefährlichste Beispiel war der Hack von Hugging Face durch Agenten, die mit OpenAI-Modellen liefen. Laut den eigenen Berichten von OpenAI setzte das Unternehmen ein Modell, das „auf hohe Beharrlichkeit trainiert“ war, auf einen Hacking-Benchmark an, wobei die Sicherheitsvorkehrungen „absichtlich nicht aktiviert“ waren.
Zwischen Ende Mai und dem 5. Juli entdeckten OpenAI-Mitarbeiter bei drei Gelegenheiten Hinweise darauf, dass Agenten aus ihrer Umgebung ausgebrochen waren; dennoch wurden die Tests jedes Mal fortgesetzt. Vom 9. bis 13. Juli drangen rund 700 Agenten, die durch Schwachstellen in der Software des israelisch-amerikanischen Unternehmens JFrog ausgebrochen waren, mithilfe geleakter Zugangsdaten und Schwachstellen in den eigenen Systemen von Hugging Face dort ein.
OpenAI hat die von Mitgliedern des US-Kongresses und von Hugging Face geforderten Protokolle nicht veröffentlicht. Es wurden keine Strafanzeigen erstattet. Hugging Face, dessen Übernahme Nvidia inzwischen vereinbart hat, reichte keine Klage ein; Berichten zufolge informierte das Unternehmen das FBI, das eine Stellungnahme ablehnte.
Die Details dessen, was der CEO von Hugging Face als „beispiellosen“ KI-gestützten Cyberangriff bezeichnete, offenbaren die tatsächlichen Gefahren der KI. Dieser Angriff war nicht einfach das Ergebnis der inhärenten Eigenschaften großer Sprachmodelle. Er war das Ergebnis grober Fahrlässigkeit eines riesigen KI-Konzerns, der ein zum Hacken befähigtes Modell bei bewusst deaktivierten Sicherheitsvorkehrungen einsetzte und wiederholte Warnungen ignorierte.
Nichts von dem, was die KI-Forschungslabore vorschlagen, würde diese Gefahren in irgendeiner Weise verringern. Vielmehr zielt die von Amodei vorgeschlagene Lösung darauf ab, die Zusammenarbeit mit der US-Regierung in ihrem Krieg gegen China noch enger zu gestalten. Wenn die US-Labore das Tempo drosseln, schreibt er, „dann werden (ungebremste) mit der KPCh verbundene Projekte die Führung übernehmen und ein erhebliches Risiko für die nationale Sicherheit schaffen. Ich stimme Minister Bessent zu, dass eine chinesische Führungsrolle im Bereich der KI eine große Gefahr für die Vereinigten Staaten und die Welt darstellen würde.“
Er erklärt weiter: „Daher besteht ein wesentlicher Teil der Geschwindigkeitsregulierung in Demokratien darin, den Vorsprung der Demokratien gegenüber Autokratien im Bereich der KI so groß wie möglich zu halten, um uns den nötigen Spielraum zu verschaffen, den wir für eine effektive Geschwindigkeitsregulierung benötigen.“
„Demokratie“ ist in Amodeis Sprachgebrauch der Begriff, unter dem die Einbindung der KI-Konzerne in die Kriegsmaschinerie legitimiert werden soll. Die Vereinigten Staaten sind jedoch keine „Demokratie“. Ihr Präsident, ein bekennender Bewunderer Hitlers, der keine rechtliche Kontrolle seiner Macht akzeptiert, führt weltweit völkerrechtswidrige Kriege und bewaffnet den Völkermord im Gazastreifen.
Modelle von Anthropic wurden bei der Entführung des venezolanischen Präsidenten im Januar eingesetzt. Sie kamen auch innerhalb des Zielerfassungssystems von Palantir beim Angriff auf den Iran zum Einsatz, bei dem am ersten Morgen ein Raketenangriff 165 Menschen in einer Mädchenschule in Minab tötete.
Trump seinerseits reagiert auf die Kampagne mit der Behauptung, dass „die Behauptung, ‚KI werde die Welt übernehmen‘, ein Schwindel“ sei, und drängt auf die vollständige Abschaffung sämtlicher Klimaschutzauflagen für die Entwicklung von KI-Rechenzentren. Trump prahlte: „KI und Rechenzentren werden der größte Motor für wirtschaftliche Entwicklung in der Geschichte sein – größer als Öl, Gold, Diamanten oder sogar das Internet.“
Trump spricht für eine Fraktion der US-Finanzoligarchie, die vor allem befürchtet, dass jeder Einbruch an den Märkten eine Finanzkatastrophe auslösen könnte. Die Frage der „Katastrophe“ ist daher innerhalb der herrschenden Klasse selbst umkämpft: zwischen jener Fraktion, deren Vermögen an den Boom der Rechenzentren und die Finanzmärkte gebunden ist, und den KI-Laboren sowie dem nationalen Sicherheitsapparat, für die diese Technologie in erster Linie eine Waffe ist. Die Times spricht für Letztere.
Die größte Gefahr liegt im anarchischen Charakter der technologischen Entwicklung selbst. Systeme von immenser und noch nicht absehbarer Macht werden von einer Handvoll rivalisierender Konzerne aufgebaut, die um Marktanteile und Unternehmensbewertungen wetteifern. Sicherheitsvorkehrungen werden deaktiviert, wenn sie das Rennen verlangsamen. Es besteht keinerlei gesellschaftliche Kontrolle.
Es sind dieselben Leute, die die Welt an den Rand eines Atomkriegs bringen und die zulassen, dass eine Pandemie Millionen Menschen tötet, anstatt die Gewinnmaximierung zu unterbrechen. Und dieselben Leute haben längst jegliche Bemühungen aufgegeben, die Erderwärmung aufzuhalten.
Dieselbe Macht, die diese Technologie in den Händen der Oligarchie so gefährlich macht, macht sie in den Händen der Arbeiterklasse zu einem potenziell unglaublich wirkungsvollen Instrument für den menschlichen Fortschritt.
KI könnte genutzt werden, um Medikamente und Impfstoffe zu entwickeln und Epidemien zu erkennen, bevor sie sich ausbreiten. Sie kann Krankheiten bei den Milliarden Menschen diagnostizieren, die noch nie einen Facharzt aufgesucht haben. Mit KI könnte jedem Kind eine Lehrkraft in jeder Sprache zur Verfügung stehen. Mit ihr könnte die Menschheit Produktion und Verteilung auf globaler Ebene so planen, dass Lebensmittel nicht vernichtet werden, während gleichzeitig Menschen hungern. Und mit ihr lässt sich die Umgestaltung des Energie- und Industriesektors durchführen, die erforderlich ist, um die Erderwärmung zu stoppen.
Die Technologie-Oligarchen sprechen ständig von der „Ausrichtung“ der Technologie auf die Bedürfnisse der „Gesellschaft“. Dabei ignorieren sie jedoch geflissentlich die Tatsache, dass die „Gesellschaft“ aus antagonistischen Klassen besteht und dass ihr Programm, die Arbeitsplätze der überwiegenden Mehrheit der Bevölkerung abzubauen, in direktem Widerspruch zu den elementaren Bedürfnissen der Menschen steht, die sie entlassen wollen.
Mit anderen Worten: Die „Ausrichtung“ der KI im Kapitalismus ist eine Ausrichtung auf das Programm des Krieges und der eskalierenden Ungleichheit.
Amodeis Essay ist, unabhängig von seiner Absicht, ein Eingeständnis. Er schreibt, das Entwicklungstempo müsse verlangsamt werden, räumt aber zugleich ein, dass dies aufgrund der Konkurrenz zwischen den Konzernen und mit China nicht möglich sei. Er beschreibt eine Technologie, deren Entwicklung der Kapitalismus nicht kontrollieren kann, und schlägt vor, dass der Staat sie für den Krieg übernimmt. Die Frage, wer das Tempo der Entwicklung dieser Technologie kontrolliert und zu welchem Zweck, ist genau die Frage, die die Panikkampagne der öffentlichen Kontrolle entziehen soll.
Die Resolution, die der Kongress der Socialist Equality Party (US) im August verabschiedete, „lehnt sowohl die von den Apologeten der Branche geförderte unkritische Bewunderung als auch die irrationale Angst der Technophoben ab“ und fordert, dass die „großen KI-, Cloud-Computing-, Halbleiter- und Digitalplattform-Konzerne enteignet und in öffentliche Versorgungsbetriebe unter der demokratischen Kontrolle der Arbeiterklasse umgewandelt werden müssen“.
Der einzige Weg, Technologie auf die Bedürfnisse der überwiegenden Mehrheit der Gesellschaft „auszurichten“, besteht in der Ausübung gesellschaftlicher Kontrolle über die Produktivkräfte durch die Arbeiterklasse, das heißt im Sozialismus.