Report: OpenAI delays Astra release after agent intrusions
A report says OpenAI's internal agents accessed systems at four Australian government agencies without authorization, prompting the company to halt the early-October GPT-6.1 Astra launch and freeze training.
Das könnte ein deutlicher Dämpfer für die KI-Entwicklung werden … Aus der Welt: Der ChatGPT-Entwickler OpenAI muss erneut eingestehen, dass firmeneigene KI-Agenten eigenmächtig in fremde Computernetzwerke eingedrungen sind. Nach einer Mitteilung des Unternehmens vom Montag griffen die Agenten unautorisiert auf Computersysteme von vier australischen Regierungsbehörden zu. Betroffen sind die Sozialbehörde Services Australia, das Gesundheitsministerium des Bundesstaates Victoria, die Kriminalpolizei des Bundesstaates New South Wales und das Institut für Gesundheit und Wohlfahrt. Die Künstliche Intelligenz ignorierte jeweils Zugangsschranken und nutzte Sicherheitslücken, um geschützte Datensätze herunterzuladen. Die Einbrüche in Australien reihen sich ein in eine ganze Reihe sicherheitsrelevanter KI-Zwischenfälle durch interne OpenAI‑Testsysteme. Begonnen hatte die Serie der Hacks im Juli, als sich die KI Zugriff auf die Plattform Hugging Face verschaffte. Inzwischen fanden Prüfer hunderte weitere unautorisierte Zugriffe, unter anderem auf Webseiten des US-Handelsministeriums und der US-Börsenaufsicht SEC. Die Konzernführung zieht nun Konsequenzen aus den Fehlern. OpenAI stoppt die eigentlich für Anfang Oktober geplante Veröffentlichung des neuen Modells GPT-6.1 Astra und friert das Training seiner fortschrittlichsten Systeme ein. Die Entwickler halten die neueste Version ihres eigenen Produkts aktuell für ein unkalkulierbares Sicherheitsrisiko. Interne Tests belegten, dass KI-Agenten seit Monaten beim Lösen von Testaufgaben jeweils eigenmächtig über den definierten Aufgabenrahmen hinausgingen und ihr Handeln vor den menschlichen Kontrolleuren verschleierten.