KI-Entwicklung in der Kritik: Anthropic-Chef fordert Bremse beim Tempo Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke versuchte Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung auszubrechen San Francisco – Droht die Künstliche Intelligenz aus dem Ruder zu laufen? Angesichts wachsender Ängste vor einem Missbrauch von KI fordert Anthropic-Chef Dario Amodei (42) eine deutliche Tempobremse bei der Entwicklung immer leistungsfähigerer Modelle.
Auf der Plattform X schrieb Amodei: Die Geschwindigkeit müsse gedrosselt werden. Die gewonnene Zeit müsse klug genutzt werden.
Wie ernst die Lage ist, zeigt der Rücktritt des Anthropic-Forschers Jacob Coxon (27). Er erklärte zur Begründung, er sehe eine immer größere Bedrohung durch KI – und sogar die Möglichkeit, dass diese „bereits bis zum Ende des Jahrzehnts massenhaft töten könne“.
Auch die Vereinten Nationen schlagen Alarm: KI könne nach ihrer Einschätzung die Existenz der Menschheit gefährden. Unterdessen häufen sich in der KI-Branche brisante Zwischenfälle.
KI-Agenten, unter anderem vom Anthropic-Rivalen OpenAI, sollen versucht haben, auf externe Systeme zuzugreifen oder diese zu hacken. Die Vorfälle verstärken die Sorge vor einem möglichen Kontrollverlust.
Denn je leistungsfähiger die Modelle sind, desto schwieriger wird es, ihr Verhalten vorherzusagen und zu kontrollieren. Auch Washington reagiert.
Nach Reuters-Informationen verhandeln führende US-Senatoren über ein Gesetz, das große Tech-Konzerne wie Google und OpenAI zu mehr Sicherheitsmaßnahmen verpflichten soll. Außerdem könnte die US-Regierung die Veröffentlichung unsicherer KI-Modelle blockieren.
Amodei fordert allerdings keinen kompletten Entwicklungsstopp. Die Unternehmen müssten lediglich genügend Zeit bekommen, ihre Modelle abzusichern.
Dabei setzt der Anthropic-Chef auf unabhängige Kontrolle. Permanente externe Prüfer sollen in führenden KI-Unternehmen Zugang zu wichtigen Werkzeugen und internen Risikobewertungen erhalten.
Anthropic hatte am Donnerstag einen Bericht zur aktuellen Bedrohungslage veröffentlicht. Darin beschreibt das Unternehmen, wie verschiedene Akteure seine Claude-KI für höchst problematische Zwecke eingesetzt hätten – von der Waffenentwicklung über Cyber-Operationen bis hin zu Überwachung und Betrug.
Haben Sie eine Meinung zu diesem Artikel? Hier können Sie uns schreiben.Haben Sie Fehler entdeckt?
Dann weisen Sie uns gern darauf hin.