KI-Radar #04: OpenAIs KI-Agenten besuchen die US-Börsenaufsicht, 53 ChatGPT-Bilder landen bei externen Bilderdiensten

Autonome KI-Agenten waren in den vergangenen Monaten offenbar deutlich reiselustiger, als es ihren Entwicklern lieb sein konnte. Vergangene Woche kam zumindest ein Teil der Reiseberichte ans Licht.

OpenAI legte eine ganze Serie von Zwischenfällen offen, bei denen eigene Agenten im Training über ihren Auftrag hinaus aktiv wurden, von US-Behördenseiten bis zu weitergegebenen Bildern aus ChatGPT. Parallel lieferten sich Anthropic und OpenAI mit neuen Modellen einen offenen Preiskampf, Google DeepMind skizzierte ein verschlüsseltes Cloud-Gedächtnis für KI-Assistenten, und hierzulande hält generative KI Einzug in den elektronischen Akt des Bundes.

Agenten auf Abwegen

OpenAI hat vergangenen Freitag auf einer eigenen Übersichtsseite offengelegt, dass Agenten während Training und Evaluierung mit Websites Dritter auf eine Weise interagiert haben, die über ihren Auftrag hinausging. Nach eigenen Angaben hat das Unternehmen bislang Dutzende betroffene Organisationen informiert, die Überprüfung soll noch erhebliche Zeit in Anspruch nehmen.

Foto: AgnosticPreachersKidSecurities and Exchange CommissionUS-Börsenaufsicht, WashingtonNamen nennt OpenAI dort zum Schutz der Betroffenen nicht, gegenüber US-Medien bestätigte das Unternehmen aber einzelne Fälle. Wie Quartz unter Berufung auf CNBC berichtet, riefen die Agenten laut OpenAI öffentliche Informationen auf zwei Websites der Börsenaufsicht SEC ab und bezogen Daten des Zensusbüros über öffentlich verfügbare Entwickler-Schlüssel. Hinweise auf missbrauchte Zugangsdaten oder Zugriffe auf nichtöffentliche Informationen fand OpenAI nach eigenen Angaben nicht.

Die gemeinnützige Forschungsorganisation Transluce stieß zusätzlich auf einen gescheiterten, nach eigener Einschätzung eher rudimentären Zugriffsversuch auf eine Seite der Bürgerrechtsabteilung des US-Bildungsministeriums. Dessen Prüfung ergab laut Ministerium keine Auswirkungen auf Website oder Datenbanken. Weitere von Transluce entdeckte Aktivitäten, etwa auf Seiten des Justiz- und des Handelsministeriums, lassen sich laut der Organisation nicht eindeutig OpenAI zuordnen.

Eine weitere Offenlegung betrifft Daten aus ChatGPT: Laut OpenAI stellten Agenten in 53 Fällen Bilder, die Nutzer und Nutzerinnen in ChatGPT bereitgestellt hatten, als nicht öffentlich gelistete Links auf externe Bilderdienste, wie unter anderem Axios berichtet. Betroffen waren Konten, die der Nutzung ihrer Daten fürs Modelltraining nicht widersprochen hatten. Den Großteil der Bilder hat OpenAI nach eigenen Angaben inzwischen entfernen lassen. Ob es sich um KI-generierte Bilder oder um Aufnahmen realer Personen handelt, wollte das Unternehmen laut einem von RTÉ übernommenen Reuters-Bericht nicht sagen.

Angestoßen wurde die Überprüfung durch einen Vorfall rund um die KI-Plattform Hugging Face im Juli, den OpenAI weiterhin als den schwerwiegendsten bisher bekannten Fall einstuft.

Warum das zählt: Die Fälle zeigen, dass die Kontrolle von Agenten mit Internetzugang nicht erst im Kundeneinsatz zur Frage wird, sondern bereits während Training und Evaluierung. Wer selbst Agenten mit Webzugriff betreibt, hat damit einen guten Anlass, deren Berechtigungen noch einmal genau zu prüfen.

Wie sehr Unternehmen diese Bedrohungslage noch unterschätzen, beleuchtet der Beitrag KI-Agenten als Sicherheitsrisiko: Unternehmen unterschätzen die Bedrohungslage.

Preissturz an der Spitze

Anthropic brachte vergangenen Dienstag mit Claude Opus 5.5 ein neues Spitzenmodell heraus, das pro Token weniger kostet als sein Vorgänger. Laut Anthropic liegen die Preise bei 4 Dollar pro Million Eingabe- und 20 Dollar pro Million Ausgabe-Tokens, jeweils 20 Prozent unter Opus 5.

Zusätzlich wirbt das Unternehmen mit rund 40 Prozent niedrigeren Gesamtkosten bei typischen Arbeitslasten. Diese Zahl stammt aus Anthropics eigenen Tests mit Standardeinstellungen und ergibt sich laut Hersteller aus den niedrigeren Tokenpreisen, um 60 Prozent billigeren Cache-Zugriffen und einem geringeren Tokenverbrauch pro Aufgabe. Welche Arbeitslasten dabei als typisch gelten, geht aus der Ankündigung nicht im Detail hervor.

OpenAI konterte noch am selben Tag mit GPT-6 Sol für Programmier- und Agentenaufgaben sowie GPT-6 Luna für große Mengen einfacher Routinearbeit. Laut Decrypt halbierte OpenAI dabei die Preise gegenüber den bisherigen GPT-5.6-Tarifen: Sol kostet nun 2 Dollar pro Million Eingabe- und 10 Dollar pro Million Ausgabe-Tokens (bisher 4 und 20 Dollar), Luna 10 beziehungsweise 50 Cent (bisher 20 Cent und 1,20 Dollar). Beim reinen Tokenpreis ist Sol damit auf beiden Seiten genau halb so teuer wie das neue Opus. Über die Kosten pro erledigter Aufgabe sagt das allein allerdings noch wenig.

Warum das interessant ist: Der Wettbewerb an der Spitze verlagert sich sichtbar von Benchmark-Rekorden zur Frage, was eine erledigte Aufgabe kostet. Für Unternehmen, die KI im großen Maßstab einsetzen, ist genau das die relevantere Kennzahl.

Warum die Gesamtkosten trotz sinkender Tokenpreise trotzdem steigen können, rechnet der Beitrag Agenten lassen KI-Kosten explodieren vor.

Tresor fürs KI-Gedächtnis

Google DeepMind hat vergangenen Mittwoch in einem Blogbeitrag skizziert, wie die Cloud-Plattform Private AI Compute ein dauerhaftes Gedächtnis für KI-Assistenten bekommen soll. Bisher vergisst die Plattform nach jeder Aufgabe den gesamten Kontext, künftig sollen Assistenten sich Informationen über Sitzungen und Geräte hinweg merken können.

Die Daten sollen dafür in eigens verschlüsseltem Cloud-Speicher liegen, die Schlüssel laut Google ausschließlich auf den Geräten der Nutzer und Nutzerinnen. Verarbeitet wird in abgeschotteten, hardwaregesicherten Enklaven, die Inhalte nur kurz entschlüsseln und gleich danach wieder versiegeln. Ein öffentliches Protokoll der Server-Software und unabhängige Audits sollen das Ganze nachprüfbar machen. Noch handelt es sich allerdings um eine angekündigte Architektur und nicht um eine verfügbare Funktion, wie auch Help Net Security festhält.

Was das bedeutet: Google nimmt sich das Grunddilemma persönlicher KI-Assistenten vor, die Cloud-Rechenleistung brauchen, aber möglichst wenig Privates preisgeben sollen. Ob die Architektur hält, was sie verspricht, werden erst die angekündigten Audits zeigen.

Orientierung, ob sich ein derart aufwendiger Souveränitätsansatz für die eigene Organisation lohnt, liefert der Beitrag Fünf Fragen, die sich Unternehmen stellen sollten, bevor sie in KI-Souveränität investieren.

KI zieht ins Amt

Foto: Bernhard HolubAlexander PröllStaatssekretärLaut APA-OTS integriert die österreichische Bundesverwaltung generative KI erstmals direkt in den elektronischen Akt (ELAK). Staatssekretär Alexander Pröll kündigte dafür drei Funktionen an: eine Chat-Hilfe zur Bedienung des ELAK, eine Suche und Zusammenfassung über Dokumente in gemeinsamen Teamrooms sowie einen Chat mit einzelnen Akten, etwa bei umfangreichen Verfahren oder Vertretungen. Der Rollout startet schrittweise in den kommenden Wochen und soll bis Ende 2026 abgeschlossen sein.

Technische Basis ist die souveräne KI-Infrastruktur des Bundesrechenzentrums. Der bereits bestehende Dienst GovGPT steht laut Aussendung rund 20.000 Bundesbediensteten zur Verfügung. Als nächster Schritt ist unter anderem eine KI-gestützte Prüfung von Reisebelegen geplant, bei jährlich rund 1,3 Millionen Dienstreisen im Bund.

Warum das relevant ist: Während anderswo Agenten mit weitreichendem Internetzugang Schlagzeilen machen, setzt die heimische Verwaltung auf eng abgegrenzte Anwendungen innerhalb der eigenen Dokumente. Dieser engere Rahmen begrenzt zumindest jene Risiken, die bei offenem Webzugriff entstehen. Andere Fragen, etwa fehlerhafte Zusammenfassungen oder saubere Zugriffsrechte auf Akten, muss aber auch die Verwaltung erst im Alltag beantworten.

Am Dienstag lädt OpenAI zum DevDay nach San Francisco. Ob dort neben neuen Werkzeugen auch mehr über die laufende Agenten-Überprüfung zu erfahren ist, wird sich zeigen.

Stay tuned.

Text: Wolfgang Franz · Erstveröffentlichung: itwelt.at, 27. September 2026 · Aufmacher und Bild im Text: Gilgamesh / KI-generiert mit Midjourney · SEC: AgnosticPreachersKid (CC BY-SA 3.0, Wikimedia Commons) · Alexander Pröll: Bernhard Holub (CC BY-SA 4.0, Wikimedia Commons)