Warum OpenAI seinen Pentagon-Vertrag änderte, nachdem Nutzer massenhaft ChatGPT löschten

Eine explosive Debatte über KI und Militär

Innerhalb weniger Tage hat die gesamte KI-Branche bewiesen, wie brandgefährlich das Thema militärische Nutzung künstlicher Intelligenz ist. Die Deinstallationsrate von ChatGPT schnellte um fast 300 Prozent in die Höhe, nachdem das Unternehmen einen umstrittenen Vertrag mit dem US-Verteidigungsministerium unterzeichnet hatte.

Der Ausgangspunkt des Skandals war eine Absage. Anthropic, der Hersteller des KI-Modells Claude, erhielt ein Kooperationsangebot vom Pentagon – und lehnte es ab, um die eigenen ethischen Grundsätze nicht zu verletzen. Die Konsequenz: eine schwarze Liste, der Verlust lukrativer Aufträge und eine unerwartete Nutzerwanderung zwischen konkurrierenden Plattformen.

Für gewöhnliche Nutzer mag diese Angelegenheit wie ein weit entferntes amerikanisches Problem klingen. Tatsächlich beeinflussen Entscheidungen, die heute in Washington und Silicon Valley getroffen werden, direkt, welche Funktionen unsere Apps in wenigen Jahren haben werden. Experten der Universität Oxford sowie amerikanischer Denkfabriken warnen ausdrücklich davor, dass private Unternehmen die ethischen Grenzen von Technologien nicht allein festlegen sollten – vor allem dann nicht, wenn diese das Leben von Menschen weltweit berühren können.

Wie Anthropic das Pentagon ablehnte und auf der schwarzen Liste landete

Alles begann mit einem Angebot an Anthropic. Das Pentagon wollte das KI-Modell Claude in Systeme integrieren, die riesige Datenmengen in Echtzeit auswerten – von Satellitenbildern über Geheimdienstberichte bis hin zu Sensordaten vom Schlachtfeld. Ziel war es, die Entscheidungsprozesse von Kommandeuren während Kampfoperationen zu beschleunigen.

Anthropic zog dabei zwei klare Grenzen. Erstens darf Claude nicht bei der Entwicklung vollständig autonomer Waffensysteme mitwirken, bei denen eine Maschine eigenständig über den Einsatz von Gewalt gegen Menschen entscheidet. Zweitens darf das System nicht zur Massenüberwachung gewöhnlicher Bürger auf US-amerikanischem Territorium verwendet werden.

Aus militärischer Sicht erwiesen sich diese Bedingungen als inakzeptabel. Berichten zufolge setzte die Trump-Administration Anthropic auf eine schwarze Liste, die den Zugang zu Regierungsaufträgen ausschloss. Das Unternehmen erwarb sich den Ruf einer „unnachgiebig ethischen“ Firma – verlor aber einen potenziell sehr einträglichen Markt.

Die Lage wird durch einen weiteren Umstand kompliziert: Quellen aus dem Umfeld des Pentagons zufolge wird das Modell Claude dennoch bei Operationen im Zusammenhang mit den Spannungen zwischen den USA, Israel und dem Iran eingesetzt – obwohl das Unternehmen formal von Ausschreibungsverfahren ausgesperrt ist. Das Verteidigungsministerium kommentiert diese Angaben nicht, was zahlreiche Fragen offenlässt.

Was OpenAI unterzeichnete und warum es Nutzer in Rage brachte

Nachdem Anthropic die Zusammenarbeit verweigerte, trat OpenAI auf den Plan. An einem Freitag wurde ein Vertrag unterzeichnet, der die entstandene Lücke faktisch füllte. ChatGPT sollte fortan in militärischen Anwendungen zum Einsatz kommen – die genauen Vertragsdetails blieben teilweise unter Verschluss.

OpenAI-Chef Sam Altman veröffentlichte am darauffolgenden Tag eine Erklärung, in der er behauptete, die ausgehandelten Sicherheitsvorkehrungen seien strenger als jene, zu denen Anthropic bereit gewesen wäre. Diese Mitteilung sollte den Ruf des Unternehmens schützen – wirkte in den Augen vieler Menschen aber wie ein Versuch, aus den „Prinzipien“ des Konkurrenten Kapital zu schlagen.

Die Reaktion der Nutzer ließ nicht auf sich warten. Daten des Analyseunternehmens Sensor Tower zeigten, dass die durchschnittliche tägliche Deinstallationsrate der ChatGPT-App um 295 Prozent gegenüber dem üblichen Niveau anstieg. In sozialen Netzwerken häuften sich Vorwürfe des Verrats an deklarierten Werten. In Internetforen sammelten sich enttäuschte Entwickler und Wissenschaftler, die ChatGPT bislang für Forschungszwecke genutzt hatten.

Am Montag meldete sich Altman erneut zu Wort – diesmal in der Rolle desjenigen, der einen Fehler eingesteht. Er räumte öffentlich ein, dass die Kommunikation überstürzt und unüberlegt gewesen sei und das gesamte Vorgehen rein opportunistisch gewirkt habe. Gleichzeitig kündigte er Anpassungen am Vertrag mit dem Verteidigungsministerium an. Binnen weniger Tage hatte sich ChatGPT im Bewusstsein vieler Menschen vom Symbol „verantwortungsvoller KI“ in ein Werkzeug verwandelt, das mit dem Militärapparat in Verbindung gebracht wird.

Welche konkreten Änderungen OpenAI am Vertrag versprach

Unter dem Druck der öffentlichen Meinung und des wachsenden Boykotts nahm OpenAI mehrere sehr konkrete Klauseln in den Vertrag auf. Die wichtigsten davon betreffen die Überwachung amerikanischer Staatsbürger und den Zugang von Geheimdiensten zu den Modellen.

Die wesentlichen Änderungen umfassen:

• ein ausdrückliches Verbot, OpenAI-Systeme wissentlich zur Überwachung von US-Bürgern einzusetzen
• die Sperrung des automatischen Zugriffs für Geheimdienste wie die NSA ohne eine gesonderte, explizit vereinbarte Vertragsänderung
• die Feststellung, dass künstliche Intelligenz Analysten unterstützen, nicht aber Menschen bei Entscheidungen über Gewaltanwendung ersetzen soll
• die Pflicht zur transparenten Berichterstattung über potenzielle Missbrauchsfälle
• das Recht von OpenAI, Leistungen bei Verstößen gegen vereinbarte Grenzen auszusetzen
• ein unabhängiges Audit der Technologienutzung alle sechs Monate
• eine Einschränkung des Zugangs zu den neuesten Modellen für Anwendungen mit letalem Potenzial

Das ist eine teilweise Annäherung an den Ansatz von Anthropic – doch der Unterschied bleibt deutlich. Anthropic verzichtete lieber auf Aufträge, als den Erwartungen des Pentagons nachzugeben. OpenAI wählte den Weg der nachträglichen Einschränkungen bei gleichzeitiger Aufrechterhaltung der Zusammenarbeit. Analysten des Center for American Progress weisen jedoch darauf hin, dass diese zusätzlichen Garantien möglicherweise nicht ausreichen, wenn eine unabhängige Kontrolle ihrer Einhaltung fehlt.

Warum das Militär so intensiv auf künstliche Intelligenz setzt

Im Hintergrund dieser Geschichte steht eine umfassendere Vision moderner Streitkräfte. Plattformen, die unter anderem von Palantir entwickelt wurden, integrieren heute bereits Daten aus verschiedensten Quellen – Sensoren, Drohnen, Satelliten, Geheimdienstberichte – und präsentieren Kommandeuren fertige Handlungsempfehlungen.

Branchenvertreter argumentieren, solche Systeme ermöglichten die schnellere Auswertung tausender Satellitenbilder als Dutzende von Analysten, die Vorhersage feindlicher Truppenbewegungen anhand von Mustern aus früheren Konflikten sowie die Identifizierung von Zielen mit höherer Genauigkeit als herkömmliche Methoden. General Roger Cloutier vom US-Kommando in Europa erklärte kürzlich, die Integration von KI in Kampfsysteme sei ebenso grundlegend wie die Einführung der Dampfmaschine in die Industrie.

Genau hier entsteht eine entscheidende Spannung. Generative KI ist fehleranfällig, neigt zu sogenannten „Halluzinationen“ und kann falsche Informationen mit absoluter Überzeugungskraft produzieren. In zivilen Anwendungen endet das schlimmstenfalls mit einer peinlichen Chatantwort. Auf dem Schlachtfeld würde es den Tod unbeteiligter Menschen bedeuten. Forscher des Massachusetts Institute of Technology warnen, dass der psychologische Druck auf Kommandeure, KI-Empfehlungen unter Zeitdruck zu akzeptieren, enorm sein kann.

Wie die ChatGPT-Krise Claude zu unerwartetem Wachstum verhalf

Der Mediensturm hatte einen unmittelbaren Markteffekt. Wer die ChatGPT-App deinstallierte, suchte nach einer Alternative – und die natürliche Wahl war genau jenes Modell, dessen Hersteller sich mit dem Pentagon angelegt hatte: Claude.

App-Store-Daten zeigen, dass die Anthropic-App an einem Samstag auf Platz eins der Download-Charts sprang und sich dort mindestens bis Donnerstag hielt. Amerikanische Medien berichteten, Claude übertreffe ChatGPT bei den Neuinstallationen – etwas, das noch wenige Wochen zuvor kaum denkbar schien. Marktanalysten schätzten, dass Anthropic innerhalb einer einzigen Woche so viele neue Nutzer gewann, wie das Unternehmen unter normalen Umständen drei Monate intensives Marketing gekostet hätte.

Im Internet startete eine organisierte Druckkampagne gegen OpenAI. Die Hashtags #CancelChatGPT und #QuitGPT wurden populär und riefen zum dauerhaften Verlassen der Produkte des Unternehmens auf, solange es mit dem Verteidigungsministerium kooperiert. Einige Aktivisten werteten dies als Test, ob Nutzerdruck das Verhalten von KI-Giganten tatsächlich verändern kann.

Die Imagekrise von OpenAI bescherte Anthropic eine kostenlose Marketingkampagne, die auf einer einzigen Botschaft beruhte: „Wir haben nicht nachgegeben.“ In Tech-Communities auf Reddit und Hacker News entbrannten Debatten über die Ethik des Einsatzes von KI-Tools, und zahlreiche Entwickler gaben öffentlich bekannt, für ihre Projekte auf Claude umzusteigen.

Sollten gewöhnliche KI-Nutzer Militärverträge im Blick haben?

Für den durchschnittlichen ChatGPT- oder Claude-Nutzer mag dieses militärische Puzzle weit entfernt wirken. Dabei schlagen sich die Entscheidungen, die heute in Washington und Silicon Valley fallen, direkt in den Funktionen nieder, die Apps in einigen Jahren bieten werden.

Wenn Sprachmodelle auf Daten aus Militäroperationen „trainiert“ werden, verstehen sie möglicherweise strategische Analysen besser – nehmen dabei aber auch branchentypische Vorurteile auf. Wenn private Unternehmen feststellen, dass Rüstungsverträge widerstandsfähiger gegen Boykott sind als Verbraucherabonnements, werden sie leichter finanzielle Sicherheit über ethische Einschränkungen stellen. Mariarosaria Taddeo von der Universität Oxford betont, dass das Verdrängen des vorsichtigsten Akteurs – nämlich Anthropic – die Sicherheit des gesamten KI-Ökosystems schwächt.

Es lohnt sich, die Nutzungsbedingungen von KI-Anbietern genauer unter die Lupe zu nehmen. Legen sie klar dar, mit wem sie kooperieren? Definieren sie Grenzen in Bezug auf Überwachung und militärische Anwendungen? Marktdruck ersetzt zwar keine Gesetzgebung, zeigt Konzernen aber, dass Reputation eine reale Währung geworden ist. Experten schreiben direkt, dass der Streit zwischen dem Pentagon und Anthropic sowie der anschließende Vertrag mit OpenAI ein Signal an den Gesetzgeber sind, sich endlich mit der Regulierung des militärischen KI-Einsatzes zu befassen.

Die Spannung zwischen dem Tempo der Innovation und den Erfordernissen von Stabilität und Sicherheit wird immer deutlicher spürbar. Generative Modelle entwickeln sich rasend schnell – doch ihre Neigung zu Halluzinationen in militärischen, medizinischen oder finanziellen Anwendungen kann dramatische Folgen haben. Die Grenze zwischen „Assistent“ und „Mitentscheider“ verschwimmt zunehmend – und genau darum wird gerade jetzt gestritten: auf welcher Seite dieser Linie künstliche Intelligenz stehen sollte.