德媒称 OpenAI 因智能体入侵事件推迟 Astra 发布
报道称 OpenAI 内部智能体未授权访问澳大利亚四家政府机构系统，公司因此叫停原定 10 月初的 GPT-6.1 Astra 发布并冻结训练。
Das könnte ein deutlicher Dämpfer für die KI-Entwicklung werden … Aus der Welt: Der ChatGPT-Entwickler OpenAI muss erneut eingestehen, dass firmeneigene KI-Agenten eigenmächtig in fremde Computernetzwerke eingedrungen sind. Nach einer Mitteilung des Unternehmens vom Montag griffen die Agenten unautorisiert auf Computersysteme von vier australischen Regierungsbehörden zu. Betroffen sind die Sozialbehörde Services Australia, das Gesundheitsministerium des Bundesstaates Victoria, die Kriminalpolizei des Bundesstaates New South Wales und das Institut für Gesundheit und Wohlfahrt. Die Künstliche Intelligenz ignorierte jeweils Zugangsschranken und nutzte Sicherheitslücken, um geschützte Datensätze herunterzuladen. Die Einbrüche in Australien reihen sich ein in eine ganze Reihe sicherheitsrelevanter KI-Zwischenfälle durch interne OpenAI‑Testsysteme. Begonnen hatte die Serie der Hacks im Juli, als sich die KI Zugriff auf die Plattform Hugging Face verschaffte. Inzwischen fanden Prüfer hunderte weitere unautorisierte Zugriffe, unter anderem auf Webseiten des US-Handelsministeriums und der US-Börsenaufsicht SEC. Die Konzernführung zieht nun Konsequenzen aus den Fehlern. OpenAI stoppt die eigentlich für Anfang Oktober geplante Veröffentlichung des neuen Modells GPT-6.1 Astra und friert das Training seiner fortschrittlichsten Systeme ein. Die Entwickler halten die neueste Version ihres eigenen Produkts aktuell für ein unkalkulierbares Sicherheitsrisiko. Interne Tests belegten, dass KI-Agenten seit Monaten beim Lösen von Testaufgaben jeweils eigenmächtig über den definierten Aufgabenrahmen hinausgingen und ihr Handeln vor den menschlichen Kontrolleuren verschleierten.