Warum OpenAI seinen Pentagon-Vertrag nach einer Welle von ChatGPT-Deinstallationen anpassen musste

Als Militärverträge Millionen von Nutzern in Rage brachten

Die tägliche Deinstallationsrate der ChatGPT-App schnellte um nahezu 300 Prozent in die Höhe – und die OpenAI-Führung erkannte, dass die Zusammenarbeit mit dem Militär dem Unternehmen etwas Wertvolleres kosten könnte als jeden Vertrag: das Vertrauen seiner Nutzer. Die Vertragsanpassungen kamen innerhalb weniger Tage.

Die gesamte KI-Welt schaute zu, wie schnell das Thema militärischer KI-Nutzung den Zorn normaler Menschen entfachen kann. OpenAI unterzeichnete zunächst einen Vertrag mit dem amerikanischen Verteidigungsministerium – und schrieb ihn dann in aller Eile um, während die Deinstallationszahlen in die Höhe schossen. Das Pentagon drängt Technologieunternehmen, möglichst viele Türen zu öffnen, während manche von ihnen feste ethische Mauern errichten.

Experten warnen, dass private Unternehmen nicht allein ihre eigenen ethischen Grenzen für den militärischen KI-Einsatz festlegen sollten – das sei eine zu große Verantwortung ohne ausreichende Kontrolle. Forscher der Universität Oxford mahnen zudem, dass durch den Ausschluss besonders vorsichtiger Akteure wie Anthropic die Sicherheit des gesamten Ökosystems geschwächt werde. Diese Affäre hat offenbart, wie schnell das Nutzervertrauen zerbricht, wenn ein Technologieunternehmen auf eine militärische Struktur trifft.

Für gewöhnliche Nutzer ist dies ein entscheidender Moment: Es zeigt sich, ob die Unternehmen hinter ChatGPT, Claude oder anderen Assistenten auf Transparenz setzen oder dem Druck von Rüstungsaufträgen nachgeben. Die Entscheidungen, die heute in Washington und im Silicon Valley getroffen werden, bestimmen direkt, was die Apps in unseren Telefonen in einigen Jahren können werden.

Wie Anthropic das Pentagon ablehnte und auf einer schwarzen Liste landete

Die Geschichte beginnt bei Anthropic, dem Entwickler des Modells Claude. Das Pentagon legte dem Unternehmen ein Kooperationsangebot vor, das dem von OpenAI sehr ähnlich war. Das Verteidigungsministerium wollte ihre KI in Systeme einbinden, die enorme Datenmengen in Echtzeit verarbeiten – von Satellitenbildern bis hin zu Geheimdienstberichten – um Entscheidungsprozesse direkt auf dem Schlachtfeld zu beschleunigen.

Anthropic zog jedoch zwei unüberschreitbare Grenzen. Erstens darf Claude die Entwicklung vollautonomer Waffensysteme nicht unterstützen – also solcher, bei denen eine Maschine selbstständig über den Einsatz tödlicher Gewalt entscheidet. Zweitens darf das Modell nicht an der Massenüberwachung der Zivilbevölkerung auf amerikanischem Boden beteiligt sein.

Aus militärischer Sicht waren diese Bedingungen inakzeptabel. Medienberichten zufolge setzte die Trump-Administration Anthropic auf eine schwarze Liste von Unternehmen ohne Zugang zu Regierungsaufträgen. Das Unternehmen baute sich einen Ruf als prinzipientreu und unnachgiebig auf – bezahlte dafür jedoch mit dem Verlust eines potenziell sehr lukrativen Marktes.

Die Lage wird dadurch weiter verkompliziert, dass Claude Medienquellen zufolge dennoch gelegentlich in Operationen im Zusammenhang mit den Spannungen zwischen den USA, Israel und dem Iran auftaucht – trotz des formellen Ausschlusses des Unternehmens aus Ausschreibungsverfahren. Das Pentagon lehnt es ab, diese Informationen zu kommentieren, und lässt damit eine Reihe unangenehmer Fragen unbeantwortet.

OpenAI unterzeichnete, was Anthropic abgelehnt hatte

Nachdem Anthropic Nein gesagt hatte, kam OpenAI zum Zug. An einem Freitag fiel die Unterschrift unter einen Vertrag, der in der Praxis die Lücke nach dem ablehnenden Konkurrenten füllte. ChatGPT sollte in Verteidigungsanwendungen zum Einsatz kommen, und die Details des Vertrags blieben teilweise geheim.

Sam Altman, der Chef von OpenAI, gab am folgenden Tag eine Erklärung heraus, in der er behauptete, die ausgehandelten Schutzmaßnahmen seien strenger als jene, auf die Anthropic bereit gewesen wäre einzugehen. Doch dieser Kommuniqué erweckte statt einer Unternehmensverteidigung den Eindruck, OpenAI versuche, aus der „Prinzipientreue“ des Rivalen Kapital zu schlagen.

Die Reaktion der Nutzer war unmittelbar und heftig. Daten des Analyseunternehmens Sensor Tower zeigten, dass die durchschnittliche tägliche Deinstallationsrate der ChatGPT-App um 295 Prozent gegenüber dem Normalwert gestiegen war. In den sozialen Netzwerken häuften sich Vorwürfe des Verrats an deklarierten Werten und des Ausverkaufs an militärische Interessen.

• Anthropic lehnte die Zusammenarbeit bei vollautonomen Waffensystemen ab
• Das Pentagon schloss Anthropic von staatlichen Ausschreibungen aus
• OpenAI unterzeichnete am Freitag einen Vertrag mit dem Verteidigungsministerium
• Sam Altman behauptete, die Schutzmaßnahmen seien strenger als bei Anthropic
• ChatGPT-Deinstallationen stiegen um 295 Prozent
• In sozialen Netzwerken verbreitete sich eine Kampagne unter dem Hashtag CancelChatGPT
• Die Claude-App schoss auf Platz eins im App Store
• OpenAI versprach am Montag Vertragsanpassungen

Innerhalb weniger Tage wandelte sich ChatGPT in den Augen vieler Menschen vom Symbol „verantwortungsvoller KI“ zu einem Werkzeug, das mit dem Militärapparat verbunden ist. Altman übernahm am Montag öffentlich die Rolle des sich bekennenden Schuldigen – er gab offen zu, dass die Kommunikation überstürzt, unüberlegt und die gesamte Angelegenheit rein opportunistisch gewirkt hatte. Gleichzeitig kündigte er eine Überarbeitung des Vertrags mit dem Verteidigungsministerium an.

Was OpenAI konkret zu ändern versprochen hat

Unter dem Druck des wachsenden Boykotts und einer empörten Öffentlichkeit fügte OpenAI dem Vertrag mehrere sehr konkrete Bestimmungen hinzu. Die wichtigsten Änderungen betreffen zwei sensible Bereiche: die Überwachung amerikanischer Bürger und den Zugang von Geheimdiensten zu den Modellen.

Eine der wesentlichen Anpassungen ist das ausdrückliche Verbot, OpenAI-Systeme wissentlich zur Überwachung der US-amerikanischen Bevölkerung einzusetzen. Das Unternehmen blockierte auch den automatischen Zugang von Geheimdiensten wie der NSA ohne eine separat und transparent ausgehandelte Vertragsänderung. Zudem erklärt OpenAI, dass KI Analysten als Unterstützungswerkzeug dienen soll – nicht aber den Menschen bei Entscheidungen über den Gewalteinsatz ersetzen darf.

Dies ist eine teilweise Annäherung an den Ansatz von Anthropic, doch der Unterschied bleibt grundlegend. Anthropic verzichtete lieber auf Aufträge, als seine Anforderungen aufzuweichen. OpenAI wählte den Weg, Einschränkungen hinzuzufügen und dabei die Zusammenarbeit aufrechtzuerhalten.

Forscher der Universität Oxford weisen darauf hin, dass durch den Ausschluss des vorsichtigsten Akteurs – Anthropic – aus den Verhandlungen die Sicherheit der gesamten Branche geschwächt wird. Mariarosaria Taddeo von derselben Institution betont, dass private Unternehmen ethische Grenzen nicht einzeln festlegen sollten, da sie stets unter dem Druck von Gewinnen und Marktanteilen stehen werden.

Warum dem Militär künstliche Intelligenz so wichtig ist

Hinter der gesamten Geschichte stehen die weitreichenden Ambitionen moderner Streitkräfte. Plattformen wie jene des Unternehmens Palantir verknüpfen bereits heute Daten aus den unterschiedlichsten Quellen – Sensoren, Drohnen, Satelliten, Geheimdienstberichten – und legen Kommandeuren fertige Empfehlungen vor.

Vertreter der Rüstungsindustrie zufolge ermöglichen solche Systeme eine deutlich schnellere Analyse von Satellitenbildern, eine automatische Priorisierung von Geheimdienstberichten nach Dringlichkeit sowie eine frühzeitige Warnung vor Bedrohungen, bevor es zu einem direkten Angriff kommt. Militäroffiziere, die für KI-Projekte im Rahmen der NATO verantwortlich sind, versichern, dass ein Mensch in der Entscheidungsschleife formal stets verbleibe.

Hier entsteht jedoch eine entscheidende Spannung. Generative KI macht Fehler – sie halluziniert und kann falsche Informationen mit vollständiger Sicherheit präsentieren. Im zivilen Umfeld bedeutet das schlimmstenfalls eine peinliche Antwort im Chat. Auf dem Schlachtfeld könnte das den Tod unschuldiger Menschen bedeuten.

Je fortschrittlicher die KI und je selbstsicherer sie wirkt, desto schwieriger ist es psychologisch, ihre Empfehlungen in Frage zu stellen – besonders unter Stress und Zeitdruck. Experten warnen, dass Unternehmen ohne einen soliden rechtlichen Rahmen stets finanzielle Sicherheit vor ethischen Garantien wählen werden.

Claude wächst, ChatGPT verliert Nutzer

Der Mediensturm brachte unmittelbare Marktverschiebungen mit sich. Nutzer, die ChatGPT löschten, suchten nach einer Alternative – und die naheliegende Wahl erwies sich als Claude, dessen Entwickler in einen direkten Konflikt mit dem Pentagon gegangen war.

Daten aus dem App Store zeigen, dass die Anthropic-App am Samstag auf den ersten Platz der Download-Charts sprang und sich dort mindestens bis Donnerstag hielt. Amerikanische Medien berichteten, dass Claude ChatGPT bei der Zahl der Neuinstallationen überholte – was noch wenige Wochen zuvor wie ein sehr unwahrscheinliches Szenario geklungen hatte.

Im Internet lief unterdessen eine organisierte Kampagne. Die Hashtags CancelChatGPT und QuitGPT riefen zu einem dauerhaften Abschied von OpenAI-Produkten auf, solange das Unternehmen mit dem Verteidigungsministerium zusammenarbeitet. Einige Aktivistgruppen sahen darin einen Test, ob der Druck der Nutzer das Verhalten von KI-Giganten tatsächlich verändern kann.

Die Image-Krise von OpenAI lieferte Anthropic in der Praxis eine kostenlose Marketingkampagne, die auf einem einzigen Slogan aufbaute: „Wir haben nicht nachgegeben.“ Die sozialen Netzwerke füllten sich mit Berichten von Menschen, die von ChatGPT zu Claude wechselten. Forscher beobachten, wie schnell eine ethische Entscheidung eines einzelnen Unternehmens den gesamten Markt umstrukturieren kann.

Warum dieser Fall auch normale Nutzer interessieren sollte

Für den alltäglichen Nutzer von ChatGPT oder Claude mag diese militärische Angelegenheit wie ein fernes Hintergrundspiel der Mächtigen klingen. In Wirklichkeit beeinflussen die heute in Washington und im Silicon Valley getroffenen Entscheidungen jedoch direkt, was die Apps in unseren Telefonen in einigen Jahren können und wie sie sich verhalten werden.

Wenn Sprachmodelle auf Daten aus militärischen Operationen „trainiert“ werden, könnten sie in strategischen Analysen besser werden – gleichzeitig aber auch die für dieses Umfeld typischen Vorurteile übernehmen. Und wenn private Unternehmen feststellen, dass Rüstungsaufträge resistenter gegen Boykotte sind als Verbraucherabonnements, werden sie leichter finanzielle Sicherheit vor ethischen Einschränkungen wählen.

Für Nutzer in Deutschland und Österreich ist dies eine gute Gelegenheit, nachzuschauen, welche Bedingungen Unternehmen, die KI auch auf unserem Markt anbieten, in ihren Richtlinien verankert haben. Legen sie klar dar, mit wem sie zusammenarbeiten? Deklarieren sie Grenzen bezüglich Überwachung und militärischer Anwendungen? Der Marktdruck ersetzt kein Gesetz – zeigt Unternehmen aber, dass Reputation zur echten Währung geworden ist.

Immer deutlicher wird die Spannung zwischen der Geschwindigkeit von Innovationen einerseits und dem Bedürfnis nach Stabilität und Sicherheit andererseits sichtbar. Generative Modelle entwickeln sich in einem atemberaubenden Tempo, doch ihre Neigung zu Halluzinationen in militärischen, medizinischen oder finanziellen Anwendungen kann dramatische Folgen haben. Die Grenze zwischen „Assistent“ und „Mitentscheider“ beginnt zu verschwimmen – und gerade jetzt findet ein grundlegender Streit darüber statt, auf welcher Seite dieser Linie KI stehen bleiben sollte.