Warum OpenAI seinen Pentagon-Vertrag nach der Deinstallationswelle von ChatGPT ändern musste

Eine Deinstallationswelle zwingt OpenAI zum Handeln

Als die täglichen Deinstallationen der ChatGPT-App um fast 300 Prozent in die Höhe schossen, wurde der OpenAI-Führung schlagartig klar: Militärverträge können das Vertrauen der eigenen Nutzer kosten. Die Vertragsänderungen folgten innerhalb weniger Tage.

Die gesamte KI-Branche beobachtete fassungslos, wie schnell das Thema militärischer KI-Einsatz gewöhnliche Nutzer in Rage versetzen kann. OpenAI unterzeichnete zunächst einen Vertrag mit dem US-Verteidigungsministerium – und musste ihn hastig überarbeiten, als die Deinstallationsstatistiken von ChatGPT um annähernd 300 Prozent explodierten. Das Pentagon drängt Unternehmen, ihm möglichst weitreichende Möglichkeiten einzuräumen, während ein Teil der Branche klare ethische Grenzen zieht.

Experten des Center for American Progress warnen, dass private Unternehmen nicht im Alleingang die ethischen Grenzen für den militärischen KI-Einsatz festlegen sollten. Forscher der Universität Oxford betonen, dass der Ausschluss besonders vorsichtiger Akteure – wie etwa Anthropic – die Sicherheit des gesamten Ökosystems schwächt. Dieser Fall zeigt, wie fragil das Nutzervertrauen wird, sobald Technologieunternehmen mit militärischen Strukturen in Berührung kommen.

Für normale Nutzer ist das der Moment, in dem sich zeigt, ob Anbieter wie ChatGPT oder Claude auf Transparenz setzen oder dem Druck militärischer Aufträge nachgeben. Die Entscheidungen, die heute in Washington und im Silicon Valley getroffen werden, werden in wenigen Jahren direkt beeinflussen, welche Funktionen die Apps auf unseren Smartphones bieten.

Wie Anthropic das Pentagon ablehnte und auf der schwarzen Liste landete

Die Geschichte beginnt beim Unternehmen Anthropic, dem Entwickler des Modells Claude. Das Verteidigungsministerium unterbreitete dem Unternehmen ein Kooperationsangebot: Die KI sollte in Systeme integriert werden, die in Echtzeit riesige Datenmengen auswerten – von Satellitenbildern bis hin zu Geheimdienstberichten – um Entscheidungsprozesse auf dem Schlachtfeld zu beschleunigen.

Anthropic zog jedoch zwei harte ethische Grenzen. Erstens darf Claude keine vollautonomen Waffensysteme unterstützen – also solche, bei denen eine Maschine selbstständig über den Einsatz von Gewalt entscheidet. Zweitens darf das Modell nicht zur Massenüberwachung normaler Bürger auf US-amerikanischem Boden eingesetzt werden.

Aus militärischer Sicht erwiesen sich diese Bedingungen als inakzeptabel. Berichten zufolge setzte die Trump-Administration Anthropic auf eine schwarze Liste und schloss das Unternehmen von staatlichen Aufträgen aus. Das Unternehmen hatte sich den Ruf eines „kompromisslos ethischen“ Akteurs erarbeitet – verlor dafür aber einen potenziell lukrativen Markt.

Die Situation wird dadurch kompliziert, dass Claude Medienberichten zufolge trotz des formalen Ausschlusses aus Ausschreibungen weiterhin in Operationen im Zusammenhang mit den Spannungen zwischen den USA, Israel und dem Iran eingesetzt wird. Das Pentagon kommentiert diese Informationen nicht – was zahlreiche Fragen offenlässt.

OpenAI unterzeichnet, was Anthropic abgelehnt hatte

Als Anthropic ablehnte, trat OpenAI in die Bresche. An einem Freitag wurde ein Vertrag unterzeichnet, der in der Praxis die Lücke des Wettbewerbers füllt. ChatGPT soll künftig in Verteidigungsanwendungen fließen, während die Details des Vertrags teilweise unter Verschluss bleiben.

Sam Altman, der Chef von OpenAI, veröffentlichte am darauffolgenden Tag eine Erklärung, in der er behauptete, die ausgehandelten Schutzmaßnahmen seien strenger als jene, auf die Anthropic bereit gewesen wäre einzugehen. Diese Kommunikation sollte das Unternehmen verteidigen – wirkte in den Augen vieler Menschen aber wie ein Versuch, vom „Prinzipientreuen“ des Konkurrenten zu profitieren.

Die Reaktion der Nutzer ließ nicht lange auf sich warten. Daten des Analyseunternehmens Sensor Tower zeigen, dass die durchschnittlichen täglichen Deinstallationen der ChatGPT-App um 295 Prozent gegenüber dem üblichen Niveau stiegen. In sozialen Netzwerken häuften sich Vorwürfe des Verrats erklärter Werte und der Unterwerfung unter Militäraufträge.

• Anthropic lehnte vollautonome Waffensysteme ab
• Das Pentagon schloss Anthropic von staatlichen Ausschreibungen aus
• OpenAI unterzeichnete den Vertrag an einem Freitag
• Sam Altman behauptete, der Schutz sei strenger als bei Anthropic
• ChatGPT-Deinstallationen stiegen um 295 Prozent
• Nutzer starteten eine Kampagne unter dem Hashtag CancelChatGPT
• Die Claude-App kletterte auf Platz eins im App Store
• OpenAI versprach am Montag Vertragsänderungen

Innerhalb weniger Tage wandelte sich ChatGPT im Bewusstsein vieler Menschen vom Symbol „verantwortungsvoller KI“ zu einem Werkzeug, das mit dem Militärapparat verknüpft wird. Altman übernahm am Montag die Rolle des „reuigen Schuldigen“. Er räumte öffentlich ein, dass die Kommunikation überstürzt und unüberlegt gewesen sei und das Ganze rein opportunistisch gewirkt habe. Gleichzeitig kündigte er Anpassungen am Vertrag mit dem Verteidigungsministerium an.

Was OpenAI konkret zu ändern versprach

Unter dem Druck der öffentlichen Meinung und des wachsenden Boykotts fügte OpenAI dem Vertrag mehrere sehr konkrete Bestimmungen hinzu. Die wichtigsten betreffen die Überwachung von US-Bürgern sowie den Zugang von Geheimdiensten zu den Modellen.

Zu den zentralen Änderungen gehört ein ausdrückliches Verbot, OpenAI-Systeme wissentlich zur Überwachung der US-amerikanischen Bevölkerung einzusetzen. Das Unternehmen blockiert außerdem den automatischen Zugang für Geheimdienste wie die NSA, ohne eine gesonderte und offen vereinbarte Vertragsänderung. Zudem erklärt OpenAI, dass KI Analysten unterstützen, aber keine Menschen bei Entscheidungen über Gewaltanwendung ersetzen soll.

Das ist eine teilweise Annäherung an den Ansatz von Anthropic – doch der Unterschied bleibt deutlich sichtbar. Anthropic verzichtete lieber auf Aufträge, als den Forderungen des Pentagons nachzugeben. OpenAI wählt den Weg der nachträglichen Einschränkungen, um die Zusammenarbeit aufrechtzuerhalten.

Forscher der Universität Oxford weisen darauf hin, dass das Herausdrängen des vorsichtigsten Akteurs – nämlich Anthropic – die Sicherheit des gesamten Ökosystems untergräbt. Mariarosaria Taddeo von derselben Universität betont, dass private Unternehmen ethische Grenzen nicht eigenständig festlegen sollten, da sie stets unter dem Druck von Gewinnen und Marktanteilen stehen.

Warum das Militär so großes Interesse an künstlicher Intelligenz hat

Im Hintergrund dieser Geschichte steht eine umfassendere Vision moderner Streitkräfte. Plattformen, die unter anderem vom Unternehmen Palantir entwickelt werden, integrieren bereits jetzt Daten aus vielfältigen Quellen – Sensoren, Drohnen, Satelliten, Geheimdienstberichten – und präsentieren Kommandeuren fertige Handlungsempfehlungen.

Vertreter dieser Branche zufolge ermöglichen solche Systeme eine deutlich schnellere Auswertung von Satellitenbildern, die automatische Priorisierung von Geheimdienstmeldungen sowie Frühwarnungen vor Bedrohungen, bevor es zu direkten Angriffen kommt. Militäroffiziere, die für KI-Projekte im Rahmen der NATO verantwortlich sind, betonen, dass der Mensch in heutigen Systemen formell stets in der Entscheidungsschleife verbleibt.

Genau hier entsteht jedoch eine entscheidende Spannung. Generative KI ist fehleranfällig, neigt zu sogenannten „Halluzinationen“ und kann falsche Informationen mit vollster Überzeugung produzieren. In zivilen Anwendungen endet das allenfalls mit einer peinlichen Chat-Antwort. Auf dem Schlachtfeld könnte es den Tod unschuldiger Menschen bedeuten.

Je fortgeschrittener und „überzeugender“ eine KI wird, desto schwieriger ist es psychologisch, ihre Empfehlungen in Frage zu stellen – besonders unter Stress und Zeitdruck. Experten des Center for American Progress warnen, dass Unternehmen ohne einen rechtlichen Rahmen stets die finanzielle Sicherheit gegenüber ethischen Beschränkungen bevorzugen werden.

Claude wächst, ChatGPT verliert Nutzer

Der Mediensturm hatte unmittelbare Auswirkungen auf den Markt. Wer ChatGPT löschte, suchte nach einer Alternative – und die natürliche Wahl war Claude, ein Modell, dessen Hersteller sich mit dem Pentagon offen angelegt hatte.

App-Store-Daten zeigen, dass die Anthropic-App am Samstag auf den ersten Platz der Download-Charts sprang und diese Position mindestens bis Donnerstag hielt. US-amerikanische Medien berichteten, dass Claude ChatGPT bei den Neuinstallationen überholte – was noch wenige Wochen zuvor kaum vorstellbar erschienen wäre.

Im Internet läuft eine organisierte Druckkampagne gegen OpenAI. Die Hashtags CancelChatGPT und QuitGPT wurden populär und riefen zum dauerhaften Abgang von den Produkten des Unternehmens auf, solange es mit dem Verteidigungsministerium kooperiert. Manche Aktivistgruppen betrachten dies als Test, ob Nutzerdruck das Verhalten von KI-Giganten tatsächlich verändern kann.

Die Image-Krise von OpenAI verschaffte Anthropic im Grunde eine kostenlose Marketingkampagne, die auf einer einzigen Botschaft beruht: „Wir haben nicht nachgegeben.“ Die sozialen Netzwerke füllten sich mit Berichten von Menschen, die von ChatGPT zu Claude wechselten. Forscher beobachten gespannt, wie schnell eine ethische Entscheidung eines einzelnen Unternehmens den gesamten Markt verschieben kann.

Warum dieser Fall auch normale Nutzer angehen sollte

Für den durchschnittlichen ChatGPT- oder Claude-Nutzer mag diese militärische Angelegenheit weit entfernt klingen. Dabei werden die heute in Washington und im Silicon Valley getroffenen Entscheidungen direkt beeinflussen, welche Funktionen die Apps auf unseren Smartphones in einigen Jahren haben werden.

Wenn Sprachmodelle mit Daten aus militärischen Operationen „trainiert“ werden, können sie strategische Analysen besser verstehen – nehmen dabei aber möglicherweise auch die Vorurteile dieses Bereichs an. Wenn private Unternehmen erkennen, dass Verteidigungsaufträge widerstandsfähiger gegenüber Boykotten sind als Verbraucherabonnements, werden sie leichter finanzielle Sicherheit über ethische Einschränkungen stellen.

Für Nutzer in Deutschland ist das ein guter Moment, um zu prüfen, welche Bedingungen KI-Anbieter in ihre Nutzungsrichtlinien schreiben. Legen sie klar dar, mit wem sie zusammenarbeiten? Definieren sie Grenzen in Bezug auf Überwachung und militärische Anwendungen? Marktdruck ersetzt kein Gesetz, zeigt Unternehmen aber, dass Reputation zu einer echten Währung geworden ist.

Immer häufiger sehen wir die Spannung zwischen dem Tempo der Innovation einerseits und Stabilität sowie Sicherheit andererseits. Generative Modelle entwickeln sich in atemberaubendem Tempo – doch ihre Neigung zu Halluzinationen in militärischen, medizinischen oder finanziellen Anwendungen kann dramatische Folgen haben. Die Grenze zwischen „Assistent“ und „Mitentscheider“ beginnt sich zu verwischen – und genau jetzt wird darum gestritten, auf welcher Seite dieser Linie die KI zum Stehen kommen sollte.