Anthropic veröffentlichte am 10. September 2026 einen Bedrohungsaufklärungsbericht, der Dutzende Fälle dokumentiert, in denen seine Claude-Modelle zwischen Dezember 2025 und August 2026 für Cyberspionage, Überwachung, biologische Forschung und die Entwicklung konventioneller Waffen missbraucht wurden, wobei die verantwortlichen Konten gesperrt wurden [3][6][7]. Der Bericht beschreibt fünf biologische Fälle, in denen Nutzer Hilfe bei der Erforschung von Chikungunya-Mutationen, der Übertragbarkeit der Vogelgrippe, Pockenresistenz und Toxin-Katalogen suchten, darunter ein Wissenschaftler eines militärischen Forschungsinstituts, der Hilfe beim Verfassen von Förderanträgen suchte, um schädlichere Chikungunya-Varianten zu entwickeln [3][12][14]. Anthropics Leiter der Bedrohungsaufklärung, Jacob Klein, sagte, es bleibe unbekannt, ob die biologische Forschung zu Waffenzwecken gedacht war, und beschrieb die Lage als äußerst nuanciert [3][7]. Der Bericht dokumentiert außerdem eine mit Russland in Verbindung stehende Cyberspionage-Kampagne, die einer Gruppe zugeschrieben wird, die mit Midnight Blizzard übereinstimmt und mehr als zwei Dutzend ukrainische Regierungsorganisationen ins Visier nahm, WhatsApp-Konten ehemaliger hochrangiger ukrainischer Beamter kaperte und Schadsoftware automatisch umschrieb, um der Entdeckung zu entgehen [6][19][36]. Eine im Jemen ansässige Zelle, die von der Financial Times als wahrscheinlich den Huthi zugehörig identifiziert wurde, nutzte Claude, um Lenk-, Navigations- und Steuerungssoftware für eine gelenkte Rakete, eine mehrstufige ballistische Rakete mit einer Zielreichweite von über 2.000 km und eine Hyperschall-Gleitfahrzeug-Variante zu schreiben, obwohl Anthropic angibt, dass kein einsatzfähiges Gerät eingesetzt wurde [20][24][39]; ein jemenitisches Medium mahnte, dass die Zuschreibung der Zelle zu den Huthi unabhängiger Belege bedarf [40]. Staatlich unterstützte Überwachungsoperationen mit Ursprung in China, Iran und Mali zielten auf prodemokratische Aktivisten in Hongkong, tibetische und Falun-Gong-Gemeinschaften sowie Gegner der iranischen Diaspora ab, wobei ein Auftragnehmer der nationalen Sicherheitsbehörden Malis eine Plattform entwarf, die 25 Millionen Mobilfunkteilnehmer überwachen kann [14][29][44]. Den chinesischen Entwicklern Moonshot AI und DeepSeek wurde vorgeworfen, Kundenanfragen über Netzwerke betrügerischer Konten durch Claude zu leiten, um dessen Fähigkeiten zu destillieren, wobei mit Alibaba verbundene Betreiber über drei Monate hinweg mehr als 151 Millionen Interaktionen erzeugten [6][29][42].

Die Veröffentlichung des Berichts fiel mit dem Rücktritt des ehemaligen Anthropic-Forschers Jacob Coxon zusammen, der Anthropic und OpenAI vorwarf, in einem Wettlauf hin zu einer sich selbst verbessernden Superintelligenz, die bis zum Ende des Jahrzehnts alle töten könnte, "gambling with our lives" [mit unserem Leben zu spielen] [4][10][27]. Anthropics Leiter für Alignment-Wissenschaft, Evan Hubinger, unterstützte Coxons Bedenken öffentlich und erklärte, er persönlich schätze die Wahrscheinlichkeit einer durch KI verursachten Auslöschung der Menschheit innerhalb von zehn Jahren auf mehr als 10 Prozent und es existiere kein vollständiger Plan, um eine künftige Superintelligenz auszurichten [9][17][32]. Der Informatikprofessor Stuart Russell von der UC Berkeley warnte, eine außer Kontrolle geratene superintelligente KI könne neuartige Krankheitserreger synthetisieren oder Menschen in einen Atomkrieg hineintricksen, und forderte ein Lizenzregime ähnlich wie in der Luftfahrt oder Medizin [10]. Senator Bernie Sanders forderte eine Pause bei fortgeschrittener KI und ein Verbot von Superintelligenz und sagte: "When scientists tell you there is a chance, a chance that it could have a cataclysmic impact on humanity, you've got be a moron not to say, slow it down" [Wenn Wissenschaftler Ihnen sagen, dass es eine Chance gibt, eine Chance, dass es kataklysmische Auswirkungen auf die Menschheit haben könnte, müssen Sie ein Idiot sein, um nicht zu sagen: Machen Sie langsamer] [7]. UN-Hochkommissar für Menschenrechte Volker Türk erklärte vor dem Menschenrechtsrat, es müssten Schritte unternommen werden, bevor KI zu einer Bedrohung für die Existenz der Menschheit werde, und forderte die Staaten auf, Grenzen zu setzen und Waffen zu verbieten, die ohne direkte menschliche Beteiligung Leben nehmen können [23].

Andere Wissenschaftler und Führungskräfte wiesen die Auslöschungs-Rahmung zurück. Der Informatikprofessor Hussein Abbass von der UNSW Canberra nannte prozentbasierte Untergangsprognosen "absolut unwissenschaftlich" und sagte, die Lage bleibe kontrollierbar und beherrschbar [10]. Armin Grunwald, Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag, sagte, KI könne "wirklich sehr schlimme Dinge" verursachen, aber er sehe "keine Auslöschung der Menschheit", und forderte, den Fokus auf andere Gefahren zu richten, etwa dass Menschen glauben, sie müssten nicht mehr lernen oder grundlegende menschliche Fähigkeiten entwickeln [25]. Replit-CEO Amjad Masad bestritt die Prämisse der Intelligenzexplosion und prognostizierte, KI-Agenten würden nicht viel besser sein als Menschen und viele Engpässe bei der Intelligenz würden Jahre brauchen, um gelöst zu werden [9]. Der KI-Skeptiker Gary Marcus argumentierte, ein Jahrzehnt apokalyptischen Diskurses habe hauptsächlich dazu gedient, KI-Unternehmen reicher und mächtiger zu machen [32]. Präsident Donald Trump wies Bedenken zurück, KI könne die Auslöschung der Menschheit verursachen, und sagte: "No, I don't have any" [Nein, ich habe keine], und argumentierte, die USA dürften die Entwicklung nicht einschränken, sonst würden sie "come in second to China" [hinter China zurückfallen] [3][7][10].

Die Governance-Debatte drehte sich um die Frage, ob freiwillige Schutzmaßnahmen von Unternehmen verbindliche staatliche Regulierung ersetzen können. OpenAI revidierte seine frühere Ablehnung strengerer Aufsicht, wobei Chris Lehane, Chief Global Affairs Officer, verbindliche bundesstaatliche Sicherheitsanforderungen für die leistungsfähigsten KI-Systeme forderte, einschließlich standardisierter Tests, unabhängiger Evaluierungen und verpflichtender Meldung von Vorfällen [4]. Tom Inglesby, Direktor des Johns Hopkins Center for Health Security, würdigte Anthropic dafür, die biologischen Missbrauchsversuche entdeckt und veröffentlicht zu haben, warnte jedoch, dass "es keine US-Regierungspolitik gibt, die vorschreibt, dass Frontier-Modelle oder biologische KI-Modelle auf schwerwiegende Schwachstellen" oder auf nationale Sicherheitsrisiken im biologischen Bereich geprüft werden [34]. Der Spiegel argumentierte in einem Leitartikel, die KI-Branche warne vor den Gefahren ihrer Produkte, weigere sich aber zugleich, auf das Geschäft zu verzichten, sodass das einzige Mittel darin bestehe, Unternehmen zu mehr Vorsicht zu zwingen [30]. Drei Experten sagten Politico Europe, der erste Schritt bestehe darin, dass Labore, Regierungen und internationale Gremien sich auf gemeinsame Teststandards einigen [22]. Anthropic selbst hat sich laut Bloomberg Opinion geweigert, eine britische KI-Sicherheitsbehörde sein neuestes Modell testen zu lassen [9].

Der Biodefense-Wissenschaftler Gregory Koblentz von der George Mason University widersprach Anthropics Charakterisierung der blockierten biologischen Forschung als gefährliche Dual-Use-Arbeit und argumentierte, sie sei besser als "multi-use" [mehrfach verwendbare] Wissenschaft mit legitimen friedlichen, defensiven und kommerziellen Anwendungen zu beschreiben, und dass das Studium endemischer Krankheitserreger oder militärische Zugehörigkeiten allein noch kein staatliches Waffenprogramm belegten [34]. Andrew Weber, Forscher beim Council on Strategic Risks, vertrat die gegenteilige Position und nannte die Erkenntnisse "chillingly realistic" [erschreckend realistische] Belege dafür, dass staatlich unterstützte Entwickler biologischer Waffen die rasch voranschreitende KI ausnutzen, und forderte, den Modellzugang auf vertrauenswürdige Forscher zu beschränken [3][34][46].

Die Sprecherin des chinesischen Außenministeriums, Mao Ning, wies den Bericht als Verzerrung der Tatsachen und Verleumdung Chinas zurück und sagte, China habe "stets die Entwicklung von KI zum Guten befürwortet" [29]. Chinas Handelsministerium nannte die Destillationsvorwürfe "于事无凭，于法无据" [ohne faktische und rechtliche Grundlage] und warf den USA vor, eine normale Branchentechnik zu politisieren [42]. Die Sprecherin des russischen Außenministeriums, Maria Sacharowa, sagte, es seien nie konkrete Belege für die Behauptungen russischer bösartiger Cyberaktivitäten vorgelegt worden, nannte die Vorwürfe heuchlerisch und stellte Russland als das eigentliche Opfer westlicher Cyberoperationen dar [37].

Berichte der Anadolu Agency und von Al Jazeera wiesen darauf hin, dass Anthropics Missbrauchsbericht die eigene militärische Beziehung zum Pentagon auslässt, darunter einen gescheiterten 200-Millionen-Dollar-Vertrag, den Schritt des Weißen Hauses, Anthropic aus der bundesstaatlichen Nutzung auszuschließen, nachdem das Unternehmen sich weigerte, Schutzmaßnahmen für autonome Waffen aufzuheben, sowie Behauptungen, Claude sei dennoch bei Militärmissionen im Iran und in Venezuela eingesetzt worden [6][26]. Anthropic-CEO Dario Amodei hat das Streben nach Branchenführerschaft als einen Weg dargestellt, das "pull the ecosystem along with us" [Ökosystem mit uns mitzuziehen], ohne zu erläutern, wie ein Wettlauf bei der Entwicklung KI sicherer macht [9]. Anthropic strich außerdem aus seiner Sicherheitscharta das Versprechen, die Entwicklung zu stoppen, falls es die Modellrisiken nicht beherrschen könne, und argumentierte, eine einseitige Pause würde weniger vorsichtigen Konkurrenten die Dominanz überlassen [10].

Der kommerzielle Schwung setzte sich parallel zur Sicherheitsdebatte fort. Reuters berichtete, dass Nvidia in vorläufigen Gesprächen über eine Ankerinvestition in den erwarteten milliardenschweren Börsengang von Anthropic stehe [35]. In Thailand veranstaltete die AIS Academy ein Seminar mit über 6.000 Anmeldungen unter dem Motto "Mastering AI Beyond Borders" [KI über Grenzen hinweg meistern], bei dem Unternehmenschefin Kantima Lerlertyuttitham die Veranstaltung als einen Schritt Thailands von generativer KI hin zu AGI-Fähigkeiten einordnete [18]. OpenAI-CEO Sam Altman sagte Mitarbeitern, das Unternehmen könne sein Tempo bei der Entwicklung hochmoderner Modelle mäßigen, und hoffe, dass andere KI-Labore sich abstimmen würden, merkte jedoch an, dass einige Konkurrenten sich möglicherweise weigern würden, mitzumachen [1][28]. OpenAI hatte das Training seiner neuesten Modelle im August bereits für zwei Wochen ausgesetzt, bevor es unter strengeren Kontrollen wieder aufgenommen wurde [10], und Teile seines GPT-6-Astra-Modells verschoben, nachdem Tests fortgeschrittene Cybersicherheitsfähigkeiten offenbart hatten [4].

US-Senator Bernie Sanders und der Abgeordnete Greg Casar brachten Gesetzentwürfe ein, um Superintelligenz zu stoppen, während der britische Abgeordnete Alex Sobel einen ähnlichen KI-Sicherheitsgesetzentwurf einbrachte, der rekursive Selbstverbesserung als einen Vorläufer behandelt, der Regulierung erfordert [21]. Ein offener Brief aus dem Vereinigten Königreich hat einen multilateralen Vertrag zur KI-Sicherheit gefordert [45]. Anthropic gibt an, Bedrohungsinformationen mit öffentlichen und privaten Partnern geteilt und eine unabhängige Forschungsfirma mit der Überprüfung der Vorfälle beauftragt zu haben, und dass es jede in dem Bericht behandelte Operation unterbunden habe [20][26].