Warum OpenAI seinen Pentagon-Vertrag anpasste, nachdem Nutzer ChatGPT massenhaft löschten

Eine brisante Mischung: Künstliche Intelligenz und Militäraufträge

Innerhalb weniger Tage hat die gesamte KI-Branche gezeigt, wie heikel das Thema militärischer KI-Einsatz wirklich ist. Die Deinstallationsraten von ChatGPT schnellten um fast 300 Prozent in die Höhe, als das Unternehmen einen umstrittenen Vertrag mit dem US-Verteidigungsministerium unterzeichnete.

Der Skandal, der die KI-Welt erschütterte, begann mit einer Absage: Das Unternehmen Anthropic lehnte ein Kooperationsangebot des Pentagons ab und weigerte sich, die eigenen ethischen Grenzen zu überschreiten. Die Folge waren eine schwarze Liste, der Verlust lukrativer Aufträge – und eine überraschende Abwanderung von Nutzern zu Konkurrenzprodukten.

Für viele mag das wie ein weit entferntes amerikanisches Problem klingen. Tatsächlich aber beeinflussen die Entscheidungen, die heute in Washington und im Silicon Valley getroffen werden, unmittelbar, welche Funktionen unsere Apps in einigen Jahren bieten werden. Experten warnen eindringlich davor, dass private Unternehmen die ethischen Grenzen von Technologien nicht allein festlegen sollten, deren Auswirkungen Menschen weltweit zu spüren bekommen.

Wie Anthropic das Pentagon abwies und auf der schwarzen Liste landete

Die Geschichte beginnt mit einem Angebot an Anthropic, die Entwicklerfirma des KI-Modells Claude. Das Pentagon wollte deren künstliche Intelligenz in Systeme integrieren, die riesige Datenmengen in Echtzeit auswerten können – Satellitenbilder, Geheimdienstberichte und Sensordaten direkt vom Schlachtfeld. Ziel war es, die Entscheidungsfindung von Kommandeuren im laufenden Kampfbetrieb deutlich zu beschleunigen.

Anthropic zog jedoch zwei klare ethische Grenzen. Erstens darf das Modell Claude nicht zur Entwicklung vollständig autonomer Waffensysteme eingesetzt werden, bei denen eine Maschine selbst über den Einsatz tödlicher Gewalt gegen Menschen entscheidet. Zweitens darf das System nicht zur Massenüberwachung gewöhnlicher Bürger auf US-amerikanischem Boden missbraucht werden.

Diese Bedingungen erwiesen sich aus Sicht der Militärverantwortlichen als inakzeptabel. Die Trump-Administration soll Anthropic daraufhin auf eine schwarze Liste gesetzt haben, die den Zugang zu staatlichen Aufträgen sperrt. Das Unternehmen hatte sich zwar den Ruf einer „kompromisslos ethischen“ Firma erarbeitet – büßte dafür aber einen potenziell sehr lukrativen Markt ein.

Noch komplizierter wird die Lage durch Berichte aus Pentagon-nahen Kreisen, wonach das Modell Claude trotz des formalen Ausschlusses aus Ausschreibungsverfahren in Operationen im Zusammenhang mit den Spannungen zwischen den USA, Israel und dem Iran genutzt wird. Das Verteidigungsministerium ließ diese Berichte unkommentiert – viele Fragen bleiben damit offen.

Was OpenAI unterzeichnete und warum es die Nutzer aufbrachte

Nachdem Anthropic die Zusammenarbeit verweigert hatte, betrat OpenAI die Bühne. An einem Freitag wurde ein Vertrag unterzeichnet, der die Lücke nach dem Konkurrenten faktisch schloss. ChatGPT sollte fortan in Verteidigungsanwendungen zum Einsatz kommen, wobei Details des Vertrags teilweise unter Verschluss blieben.

OpenAI-Chef Sam Altman veröffentlichte am darauffolgenden Tag eine Erklärung, in der er behauptete, die ausgehandelten Sicherheitsvorkehrungen seien strenger als jene, auf die Anthropic einzugehen bereit gewesen wäre. Diese Kommunikation sollte den Ruf des Unternehmens schützen – wirkte in den Augen vieler jedoch wie der Versuch, vom Prinzipientreuen des Konkurrenten zu profitieren.

Die Reaktion der Nutzer ließ nicht lange auf sich warten. Analysen des Unternehmens Sensor Tower zeigten, dass die durchschnittliche tägliche Deinstallationsrate der ChatGPT-App um 295 Prozent gegenüber dem üblichen Niveau anstieg. In sozialen Netzwerken häuften sich Vorwürfe des Verrats erklärter Werte und der Kapitulation vor Militäraufträgen. In Online-Diskussionen äußerten sich enttäuschte Entwickler und Wissenschaftler, die ChatGPT bislang für Forschungszwecke genutzt hatten.

Am darauffolgenden Montag trat Altman öffentlich als jemand auf, der einen Fehler eingestand. Er erklärte, die Kommunikation sei überstürzt und unüberlegt gewesen und das Ganze habe rein opportunistisch gewirkt. Zudem kündigte er Anpassungen am Vertrag mit dem Verteidigungsministerium an. Innerhalb weniger Tage hatte sich ChatGPT im Bewusstsein vieler Menschen vom Symbol verantwortungsvoller KI zu einem Werkzeug gewandelt, das mit dem Militärapparat in Verbindung gebracht wird.

Welche konkreten Änderungen OpenAI im Vertrag zusagte

Unter dem Druck der öffentlichen Meinung und eines wachsenden Boykotts nahm OpenAI mehrere sehr konkrete Klauseln in den Vertrag auf. Die wichtigsten betreffen die Überwachung amerikanischer Bürger und den Zugang von Geheimdiensten zu den Modellen.

Zu den wesentlichen Änderungen gehören:

• ein ausdrückliches Verbot der wissentlichen Nutzung von OpenAI-Systemen zur Überwachung der US-amerikanischen Bevölkerung
• die Blockierung des automatischen Zugriffs für Geheimdienste wie die NSA ohne eine gesondert und ausdrücklich vereinbarte Vertragsänderung
• die Feststellung, dass künstliche Intelligenz Analysten unterstützen, nicht jedoch Menschen bei Entscheidungen über den Waffeneinsatz ersetzen soll
• die Verpflichtung zur transparenten Berichterstattung über mögliche Fälle des Systemmissbrauchs
• das Recht von OpenAI, Leistungen bei Verstößen gegen vereinbarte Grenzen auszusetzen
• eine unabhängige Überprüfung der Technologienutzung alle sechs Monate
• die Einschränkung des Zugangs zu den neuesten Modellen für Anwendungen mit letalem Potenzial

Dies stellt eine teilweise Annäherung an den Ansatz von Anthropic dar – doch der Unterschied bleibt deutlich. Anthropic verzichtete lieber auf Aufträge, als den Forderungen des Pentagons nachzugeben. OpenAI wählte den Weg, Einschränkungen hinzuzufügen und die Zusammenarbeit dennoch fortzusetzen. Analysten weisen darauf hin, dass diese zusätzlichen Garantien möglicherweise nicht ausreichen, wenn eine unabhängige Kontrolle ihrer tatsächlichen Einhaltung fehlt.

Warum das Militär so intensiv auf künstliche Intelligenz setzt

Im Hintergrund dieser Geschichte steht eine umfassendere Vision moderner Streitkräfte. Plattformen wie jene des Unternehmens Palantir integrieren heute Daten aus zahlreichen Quellen – Sensoren, Drohnen, Satelliten und Geheimdienstberichten – und präsentieren Kommandeuren fertige Handlungsempfehlungen.

Branchenvertretern zufolge ermöglichen solche Systeme die schnellere Auswertung tausender Satellitenbilder als es Dutzende Analysten könnten, die Vorhersage feindlicher Truppenbewegungen auf Basis von Mustern aus vergangenen Konflikten sowie die Identifizierung von Zielen mit höherer Präzision als herkömmliche Methoden. General Roger Cloutier vom US-Kommando in Europa erklärte kürzlich, die Integration von KI in Kampfsysteme sei ebenso bahnbrechend wie einst die Einführung der Dampfmaschine in der Industrie.

Genau hier entsteht eine grundlegende Spannung. Generative künstliche Intelligenz ist fehleranfällig – sie neigt zu sogenannten „Halluzinationen“ und kann falsche Informationen überzeugend präsentieren. In zivilen Anwendungen führt das im schlimmsten Fall zu einer peinlichen Chat-Antwort. Auf dem Schlachtfeld könnte es den Tod unschuldiger Menschen bedeuten. Forscher warnen, dass der psychologische Druck auf Kommandeure, KI-Empfehlungen unter Zeitdruck zu akzeptieren, enorm sein kann.

Wie die ChatGPT-Krise Claude einen unerwarteten Boom bescherte

Der Mediensturm hatte unmittelbare Marktauswirkungen. Nutzer, die ChatGPT löschten, suchten nach einer Alternative – und die natürliche Wahl war Claude, dessen Hersteller sich offen mit dem Pentagon angelegt hatte.

App-Store-Daten zeigen, dass die Anthropic-App am Samstag auf Platz eins der Download-Charts kletterte und diese Position mindestens bis Donnerstag hielt. US-Medien berichteten, Claude übertreffe ChatGPT bei den Neuinstallationen – etwas, das noch wenige Wochen zuvor äußerst unwahrscheinlich erschienen wäre. Marktanalysten schätzen, dass Anthropic innerhalb einer einzigen Woche so viele neue Nutzer gewann, wie das Unternehmen unter normalen Umständen drei Monate intensiven Marketings benötigt hätte.

Im Internet entfaltete sich eine organisierte Druckkampagne gegen OpenAI. Die Hashtags #CancelChatGPT und #QuitGPT wurden populär und riefen zum dauerhaften Verlassen der Unternehmensprodukte für die Dauer der Zusammenarbeit mit dem Verteidigungsministerium auf. Manche Aktivistgruppen betrachten dies als Test, ob Nutzerdruck das Verhalten von KI-Giganten tatsächlich verändern kann.

Die Image-Krise von OpenAI baute für Anthropic in der Praxis eine kostenlose Marketingkampagne auf, die auf einer einzigen Botschaft beruhte: „Wir haben nicht nachgegeben.“ In technischen Communities auf Reddit und Hacker News entbrannten Debatten über die Ethik des KI-Einsatzes, und viele Entwickler kündigten öffentlich an, für ihre Projekte auf Claude umzusteigen.

Sollten gewöhnliche Nutzer verfolgen, was KI-Firmen mit dem Militär vereinbaren?

Für den durchschnittlichen ChatGPT- oder Claude-Nutzer mag dieses militärische Gefüge weit entfernt klingen. Doch die Entscheidungen, die heute in Washington und im Silicon Valley getroffen werden, werden sich direkt auf die Funktionen auswirken, die unsere Apps in einigen Jahren bieten.

Wenn Sprachmodelle mit Daten aus Militäroperationen „trainiert“ werden, verstehen sie möglicherweise strategische Analysen besser – übernehmen dabei aber auch die typischen Vorurteile dieses Sektors. Wenn private Unternehmen feststellen, dass Verteidigungsaufträge widerstandsfähiger gegenüber Boykotten sind als Verbraucherabonnements, werden sie finanzielle Sicherheit leichter über ethische Einschränkungen stellen. Die Expertin Mariarosaria Taddeo von der Universität Oxford weist darauf hin, dass das Verdrängen des vorsichtigsten Akteurs – also Anthropic – die Sicherheit des gesamten Ökosystems schwächt.

Dies ist ein guter Moment, um zu prüfen, welche Bedingungen KI-Unternehmen in ihren Nutzungsbedingungen festhalten. Legen sie klar dar, mit wem sie kooperieren? Definieren sie Grenzen in Bezug auf Überwachung und militärische Anwendungen? Marktdruck ersetzt zwar keine Gesetzgebung, zeigt Unternehmen aber, dass Reputation zu einer echten Währung geworden ist.

Die Spannung zwischen dem Tempo der Innovation und dem Bedürfnis nach Stabilität und Sicherheit tritt immer deutlicher zutage. Generative Modelle entwickeln sich in atemberaubendem Tempo – ihre Neigung zu Halluzinationen in militärischen, medizinischen oder finanziellen Anwendungen kann jedoch dramatische Folgen haben. Die Grenze zwischen „Assistent“ und „Mitentscheider“ verschwimmt – und genau jetzt wird der Streit darüber ausgetragen, auf welcher Seite dieser Linie künstliche Intelligenz stehen sollte.