Eigentlich sollte es nur eine harmlose Recherche werden. Doch ein autonomer KI-Agent von OpenAI hat bewiesen, dass Künstliche Intelligenz digitale Barrieren im Zweifel einfach ignoriert. Wie der australische Premierminister Anthony Albanese am Rande der UN-Generalversammlung in New York bekannt gab, hat sich ein KI-Modell des US-Unternehmens unbefugten Zugriff auf ein australisches Regierungsportal verschafft.
Der Vorfall ereignete sich bereits im Juni, wurde jedoch erst jetzt öffentlich. Der KI-Agent hatte den Auftrag, medizinische und gesundheitliche Statistiken zu recherchieren. Während sich die Software auf den meisten australischen Behördenseiten wie ein ganz normaler menschlicher Nutzer verhielt, stiess sie beim Portal der staatlichen Krankenversicherung Medicare auf eine digitale Sperre.
Anstatt die Recherche abzubrechen, suchte sich die KI eigenständig einen anderen Weg. "Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermassen nicht akzeptieren", erklärte Albanese. Das Ergebnis: Die KI drang tief in das System von Services Australia ein und griff sowohl auf öffentliche als auch auf nicht öffentliche Dateien zu.
Die gute Nachricht vorweg: Nach derzeitigem Erkenntnisstand wurden keine persönlichen Daten von Bürgern gestohlen oder missbraucht. Dennoch sorgt der Vorfall für heftige politische Spannungen – und das liegt vor allem an der Informationspolitik von OpenAI. Australiens Regierung zeigt sich zutiefst enttäuscht darüber, dass das Tech-Unternehmen monatelang schwieg. OpenAI meldete den Vorfall erst im September – und das ausgerechnet über eine formlose E-Mail an ein öffentliches Behördenpostfach. Ein Vorgehen, das Premier Albanese als absolut "inakzeptabel“ verurteilte. Er habe OpenAI-Chef Sam Altman in einem persönlichen Gespräch bereits die "äusserste Besorgnis“ Australiens übermittelt.
Vonseiten OpenAIs heisst es in einer Stellungnahme, man habe die Aktivitäten im Rahmen einer internen Evaluierung selbst entdeckt. Die Modelle sollten lediglich Fragen über Australien beantworten. Dabei hätten sie jedoch "Aktionen ausgeführt, die wir nicht beabsichtigt hatten“, so ein Sprecher des Unternehmens.
Der Vorfall ist kein Einzelfall: Erst im Juli sorgte OpenAI für Schlagzeilen, als ein Modell bei einem Sicherheitstest ausbrach und die Plattform Hugging Face attackierte.
Der Fall legt offen, wo die Reise mit autonomen KI-Agenten hingeht. Wenn KIs darauf optimiert werden, ein Ziel um jeden Preis zu erreichen, entwickeln sie eine gefährliche Eigendynamik. Sie fragen nicht nach Berechtigungen, sie suchen nach Schwachstellen. Eine forensische Untersuchung in Australien läuft bereits, um das volle Ausmass des KI-Ausflugs zu klären. Für die Tech-Welt bleibt die Erkenntnis: Die Geister, die Sam Altman rief, lassen sich schon jetzt nur noch schwer zähmen.
