Anthropic: Pause im KI-Wettlauf?

Anthropic, ein führender Akteur im Bereich Künstliche Intelligenz, warnt vor den Risiken selbstlernender KI-Systeme und regt eine globale Pause bei der Entwicklung hochmoderner Modelle an. Das berichtete die Wirtschaftswoche heute, 5. Juni 2026. Doch die Branche zeigt kaum Bereitschaft – der Wettlauf um technologische Überlegenheit geht weiter. Was steckt hinter dem Vorstoß und warum ist er so umstritten?

Anthropic ist nun schon lange kein unbekannter Akteur mehr im Reigen der großen KI-Entwickler aus den USA. Bekannt sollte zu mindestens „Claude“ sein, das mittlerweile schon Einzug ins Microsoft 365 Universum hält. Weniger bekannt, aber nicht weniger riskant, ist das Modell „Mythos“. Ich berichtete darüber ja schon. „Mythos“ analysiert selbstständig Systeme auf bekannte Schwachstellen hin, die der Mensch vielleicht weiß, aber vielleicht nicht korrigiert hat. Anthropic selbst hat „Mythos“ nur regultativ veröffentlicht bzw. gibt nur ausgewählten Firmen das Modell an die Hand, da es nicht nur Chancen bietet sondern in der Tat auch als Waffe eingesetzt werden kann, also Schwachstellen gezielt ausnutzen kann oder Systeme komplett lahmlegen kann.

Ob diese Selbstregulierung nun wirklich „gut gemeint ist“ oder einfach der Tatsache geschuldet ist, dass so etwas sowieso irgendwann öffentlich wird und sicher auch kritisiert werden wird, entzieht sich dem Betrachter.

Die aktuelle Aufforderung an die Mitbewerber, eine Pause bei der Entwicklung einzulegen, wirkt ebenfalls bestenfalls „gut gemeint“, denn sicher wird kaum ein Mitbewerber jetzt „mitbremsen“, aus welchen Gründen auch immer. Anthropic argumentiert, dass eine Verlangsamung oder temporäre Pause der Frontier-KI-Entwicklung sinnvoll wäre, um:

Gesellschaftlichen Strukturen und Alignment-Forschung Zeit zu geben, mit dem technologischen Fortschritt Schritt zu halten.
Sicherheitsrisiken zu minimieren, die durch unkontrollierte oder zu schnelle Entwicklung entstehen könnten.
Globale Koordination zu ermöglichen, um sicherzustellen, dass alle relevanten Akteure (Unternehmen, Regierungen, Zivilgesellschaft) gemeinsam über die Implikationen und den Umgang mit der Technologie entscheiden.

Eine solche Pause wäre wohl jetzt auch schon zu spät. Erst kürzlich haben Forscher einen KI-„Wurm“ entwickelt, der sich rasant durch das Internet fortbewegt und sehr anpassungsfähig reagiert auf Abwehrmaßnahmen. Das Risiko ist also schon real. Und da sich KI mittlerweile auch selbst weiterentwickeln kann, so etwas hat man bislang nur in Science Fiction Romanen lesen können, sind wir schon an dem Kipppunkt, dass sich KI nicht mehr regulieren lässt.

Viele Unternehmen setzen bereits KI ein, offen wird sogar darüber berichtet, dass man oft zuerst die Einführung vorgenommen hatte und erst im Anschluss an Datensicherheit und Datenschutz gedacht hat. Der Hype, vor allem die latente Angst, den Trend zu verpassen und entsprechend Marktanteile zu verlieren überwiesen also vor dem Thema Sicherheit.

Die KI Unternehmen werden natürlich nicht pausieren. Sie haben viel Geld investiert und sie werden viel Geld investieren, um ihren jeweiligen Marktanteil auszubauen. Doch welchen Marktanteil? Sie schreiben eigentlich alle tiefrote Zahlen, wie man an dem Bild erkennen kann. Selbst bei positiv geschätzten 10 % Anwendern, die für Leistungen auch mit Geld bezahlen, ist dort noch lange kein Licht am Ende des Tunnels.

Aber sie sind natürlich geschickt, auch wenn es keiner öffentlich zugibt. Je mehr die jeweiligen Modelle huckepack in anderen Anwendungen mitgeliefert werden und der Anwender erst einmal „angefüttert“ worden ist, kann man natürlich Gebühren einführen.

Die Forderung nach einer Pause oder gar Regulierung kommt also viel zu spät. Unternehmen und Anwender müssen einfach vorsichtig sein und nach Möglichkeit Risiko mit dem Mehrwert abschätzen. Ich glaube aber, die Risiken kennen wir alle noch nicht und wir merken nicht einmal, wahrscheinlich erst, wenn es zu spät ist.