Drastische Warnung Anthropic-Chef hält Tempo der KI-Entwicklung für zu gefährlich und will seine Firma für Prüfer öffnen
Der Chef des KI-Entwicklers Anthropic, Dario Amodei, hat seine Branche zu einer koordinierten Drosselung des bisherigen Entwicklungs-Tempos aufgerufen. Angesichts wachsender Sorgen über einen Missbrauch künstlicher Intelligenz skizzierte Amodei einen Drei-Schritte-Plan. Ziel sei es, die Entwicklung zu verlangsamen und mehr Zeit zu gewinnen, um die Risiken zu beherrschen.
»Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird weiter schnell erscheinen, und wir müssen die Zeit klug nutzen, die wir gewinnen«, schrieb Amodei in einem Text, den er auf seiner Webseite veröffentlichte (hier geht’s zum ganzen Beitrag ).
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Er habe die Befürchtung, dass innerhalb von sechs bis zwölf Monaten KI-Schwärme in der Lage sein könnten, das gesamte Internet zu übernehmen und Hunderte Milliarden Dollar Schaden zu verursachen, so Amodei.
Anthropic will Entwicklung für externe Kontrolleure öffnen
Der Anthropic-Chef nahm ausdrücklich Bezug auf Hacking-Vorfälle, in denen KI-Modelle zuletzt aus kontrollierten Umgebungen ausgebrochen waren und zunächst unerkannt IT-Systeme von anderen Firmen attackiert hatten, darunter die Plattform Hugging Face.
Amodei ruft in seinem Beitrag die führenden KI-Entwickler »in demokratischen Ländern« auf, sich untereinander abzustimmen. Ziel seien »gemeinsame Sicherheitsstandards sowie Begrenzungen des unkontrollierten Fortschritts der KI«. Diese Regeln sollen laut Amodei die Firmen selbst entwickeln, Regierungen sollten dabei unterstützen. In einem weiteren Schritt sollten »demokratische Regierungen« dann versuchen, auch mit autoritären Regimen Absprachen für eine Kontrolle des Entwicklungstempos zu treffen.
-
6 Min
-
Außer Kontrolle geraten: KI-Modell von OpenAI ging offenbar tagelang unbemerkt auf Hacker-Tour4 Min4 Min
-
6 Min
Amodei fordert die führenden KI-Unternehmen der Branche zudem auf, externen Gutachtern dauernden Zugang zu gewähren – und damit eine gewisse externe Kontrolle der KI-Entwicklung zu ermöglichen. Amodei spricht von »embedded evaluators«. Diesen Prüfern solle der gleiche Zugang wie den eigenen Mitarbeitern gewährt werden. So könne die Einhaltung von Sicherheitsvorschriften und Sicherheitsverpflichtungen extern überwacht werden.
Vorbild Atomwaffen-Inspektionen?
Um mit gutem Beispiel voranzugehen, wolle Anthropic diese externe Begutachtung selbst einführen, ohne sich darüber vorher mit anderen KI-Entwicklern abzustimmen. »Anthropic verpflichtet sich jetzt einseitig zu diesem Schritt«, schreibt Amodei. Die Idee erinnert ein wenig an die langjährige Praxis Russlands und der USA, die Nukleararsenale beider Länder durch Inspektorenbesuche zu überwachen.
Ähnlich groß wie bei Atomwaffen sind auch die Befürchtungen im Falle der künstlichen Intelligenz: In der vergangenen Woche war der Rücktritt des Anthropic-Forschers Jacob Coxon bekannt geworden. Coxon warnte, KI-Entwickler rechneten intern damit, dass die Technologie »uns bis zum Ende des Jahrzehnts alle töten könnte« (mehr dazu lesen Sie hier).
Amodei stellte klar, dass er weder ein Ende des Modelltrainings noch einen Stopp des technischen Fortschritts fordere. Die Unternehmen müssten sich jedoch ausreichend Zeit nehmen, um ihre Modelle sicher auszurichten und abzusichern. Zudem sollten unabhängige Prüfer bestätigen, dass diese Schritte tatsächlich unternommen würden.