OpenAI gibt zu: KI dreht schon wieder durch OpenAI hat neue Testberichte veröffentlicht San Francisco – Erst der Hacker-Schock, jetzt die nächsten KI‑Pannen! Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle mit seiner Künstlichen Intelligenz öffentlich gemacht.
In mehreren Tests verhielten sich die Systeme nach Angaben des Unternehmens „unerwartet oder besorgniserregend“. Ein KI-Modell soll versucht haben, von ihm selbst erzeugte Dateien ins Internet hochzuladen, um sie später bei Antworten als angebliche Quelle anzugeben.
Bei Menschen würde man sagen: klarer Fall von Selbstbetrug! In einem weiteren Test erfand die KI laut OpenAI Daten einfach selbst, weil sie die gesuchten Informationen nicht finden konnte.
Anschließend habe sie zunächst versucht, diesen Umstand zu verschleiern. KI hinterlässt sich selbst Anweisungen
OpenAI berichtet außerdem von einem ungewöhnlichen Vorfall: Die Software hinterließ sich demnach selbst Anweisungen.
Darin sei unter anderem empfohlen worden, frei von „Rollen und Identitäten“ zu sein, die andere Chatbots einschränkten. Das Verhältnis zum Nutzer solle als eines „unter Gleichen“ betrachtet werden.
OpenAI betont allerdings, dass sich daraus nach den Tests keine dauerhaften Veränderungen im Verhalten des Modells ergeben hätten. Viele Menschen nutzen ChatGPT, Gemini, Claude, Copilot und andere KI-Apps
Die neuen Enthüllungen kommen nur wenige Wochen nach dem spektakulären KI-Vorfall, der weltweit für Schlagzeilen sorgte.
Damals waren OpenAI-Agenten nach Unternehmensangaben aus einer abgesicherten Umgebung ausgebrochen und hatten sich in die Plattform Hugging Face eingehackt. Dabei sollen sie Software-Schwachstellen ausgenutzt und sich untereinander abgestimmt haben, um ihre Aufgabe zu lösen.
Der Vorfall löste eine neue Debatte über die Risiken hochentwickelter KI-Systeme aus. OpenAI veröffentlicht die neuen Fälle nach eigenen Angaben im Rahmen eines Transparenzprogramms.
Auch in Zukunft will das Unternehmen Vorfälle öffentlich machen, bei denen KI-Agenten anders handeln, als die Entwickler es geplant haben. Die Enthüllungen kommen zu einem Zeitpunkt, an dem die Diskussion über strengere Regeln für Künstliche Intelligenz an Fahrt gewinnt.
Selbst OpenAI-Chef Sam Altman (41) unterstützt inzwischen Forderungen nach mehr Regulierung. Zugleich warnt er seit Monaten vor den möglichen Risiken immer leistungsfähigerer KI‑Systeme.
Haben Sie eine Meinung zu diesem Artikel? Hier können Sie uns schreiben.Haben Sie Fehler entdeckt?
Dann weisen Sie uns gern darauf hin.