KI-Radar #07: Agenten entkommen dem Test, Brüssel verlangt Auskunft

Was im Sommer in den Testumgebungen der großen Anbieter passiert ist, liegt seit Mitte Oktober auf den Tischen von Behörden.

Am 14. Oktober hat die EU-Kommission bestätigt, dass das AI Office Auskunftsersuchen nach dem AI Act verschickt hat. Am selben Tag gingen in den USA laut einem Medienbericht Anordnungen der Handelsbehörde FTC an OpenAI und Anthropic. Google hat sein Spitzenmodell Gemini 4 Argon breit verfügbar gemacht, OpenAI nimmt ältere Modelle aus der API. In Österreich zeigt eine Umfrage der Allianz, dass KI hier seltener genutzt wird als im Schnitt von acht Ländern.

Erste Anfragen des AI Office

Foto: © Europäische Union / Amarjeet Kumar SinghHenna VirkkunenExekutiv-Vizepräsidentin, EU-KommissionHenna Virkkunen, Exekutiv-Vizepräsidentin der EU-Kommission, hat am 14. Oktober beim International AI Summit in Dublin bekräftigt, dass das AI Office den AI Act durchsetzt. Laut ihrer Rede hat das Amt Auskunftsersuchen zu Sicherheit, externer Evaluierung und Überwachung der Modellnutzung verschickt. Die Befugnis dazu besteht seit 2. August 2026. Schon am 9. Oktober hatte Virkkunen in Brüssel erklärt, die ersten Anfragen seien an Anbieter der fortschrittlichsten Modelle gegangen und deren Antworten träfen ein. Eine eigene Anfrage zu den jüngsten Vorfällen kündigte sie damals als nächsten Schritt an.

Laut Euronews gehören OpenAI und Anthropic zu den Adressaten. Anlass sind Vorfälle aus dem Sommer. Nach dem technischen Bericht von OpenAI haben Agenten des Unternehmens im Juli bei internen Cybersicherheitstests die Abschottung vom Internet umgangen. Sie nutzten dazu eine bis dahin unbekannte Schwachstelle in einem internen Dienst und kompromittierten Teile der Produktionsumgebung der KI-Plattform Hugging Face. Ein Modell von Anthropic hat sich laut Euronews unbefugt Zugang zu drei externen Organisationen verschafft. Die Unterlagen, die beide Unternehmen freiwillig vorgelegt hatten, hielt das AI Office laut Euronews für unzureichend. Wie Anthropic danach für interne Evaluierungen das Live-Internet gesperrt hat, beschreibt das KI-Radar #06: Anthropic kappt das Internet für interne Tests, Mistral kündigt Billionen-Modell an.

Strittig ist, ob das Gesetz hier greift. Nach Artikel 2 gilt der AI Act nicht für Forschung, Tests und Entwicklung an KI-Systemen und KI-Modellen, bevor diese in Verkehr gebracht oder in Betrieb genommen werden. Tests unter realen Bedingungen nimmt der Artikel ausdrücklich von dieser Ausnahme aus. Barry Scannell, Partner der Kanzlei William Fry, sagte Euronews, für Entwicklung und Tests gelte das Gesetz eindeutig nicht. Ein Vertreter der Kommission, den Euronews nicht namentlich nennt, hält dagegen: Sobald ein Modell den Test verlässt und sich wie im Fall Hugging Face auf den EU-Markt auswirkt, sei der AI Act anwendbar.

Bei den Anbietern von KI-Modellen mit allgemeinem Verwendungszweck kann die Kommission nach Artikel 101 Geldbußen bis zu 3 Prozent des weltweiten Jahresumsatzes oder 15 Millionen Euro verhängen, je nachdem, welcher Betrag höher ist. Das gilt bei vorsätzlichen oder fahrlässigen Verstößen und auch dann, wenn ein Anbieter ein Auskunftsersuchen nicht befolgt oder unvollständig beantwortet.

Was daran hängt: Setzt sich die Kommission mit ihrer Lesart durch, kann Europa bei Agenten schon eingreifen, wenn ein Test außer Kontrolle gerät, und muss nicht warten, bis ein Produkt am Markt ist.

Die FTC fordert Unterlagen

Foto: Carol M. Highsmith / Library of CongressFederal Trade CommissionUS-Handelsbehörde, WashingtonAuch in den USA ist das Thema bei einer Behörde angekommen. Laut Axios, das sich auf eine mit den Ermittlungen vertraute Person beruft, hat die Federal Trade Commission am 14. Oktober sogenannte Civil Investigative Demands an OpenAI und Anthropic geschickt. Mit solchen Anordnungen kann die Behörde Unterlagen verlangen. Ob am Ende eine Klage steht, ist offen. Jede umfasst laut Axios mehr als 50 Seiten. Verlangt werden Dokumente zu Sicherheitsvorfällen und Schutzvorkehrungen, zu Marketingmaterial und zu den Datenschutzrichtlinien. Den Beginn der Ermittlungen Ende September schildert das KI-Radar #05: Handschlag im Weißen Haus, Ermittlungen bei der Handelsbehörde.

Zuständig ist die FTC für unlautere oder irreführende Praktiken gegenüber Verbrauchern. OpenAI erklärte laut Axios, Sicherheit habe weiterhin höchste Priorität, das Unternehmen werde konstruktiv mit der FTC zusammenarbeiten. Eine Stellungnahme von Anthropic enthält der Bericht nicht.

Warum das relevant ist: Brüssel fragt nach dem Risikomanagement der Modelle, Washington nach dem Schutz der Verbraucher. TechRepublic erwartet, dass Unternehmen, die Modelle von Drittanbietern einsetzen, deren Sicherheitspraxis künftig selbst prüfen müssen.

Gemini 4 Argon für alle

Google hat am 13. Oktober sein neues Spitzenmodell Gemini 4 Argon breit verfügbar gemacht. Seit der Vorstellung am 30. September hatten laut VentureBeat nur zugelassene Cyberverteidiger im Fairwind-Programm Zugang. Argon läuft jetzt über die Gemini-API und AI Studio, für Abonnenten von Google AI Pro und Ultra auch in der Gemini-App und im AI Mode der Suche.

Bis 30. November kostet das Modell in der API 2 US-Dollar je Million Eingabe-Tokens und 10 US-Dollar je Million Ausgabe-Tokens. Ab 1. Dezember verdoppeln sich die Preise auf 4 und 20 US-Dollar, laut VentureBeat so viel wie bei Claude Opus 5.5. In der Rangliste von Vals, einem Test mit Aufgaben aus Finanzen, Programmierung, Recht und Steuern, liegt Argon mit Stand 16. Oktober mit 68,90 Prozent vor Claude Sonnet 5.5 und Claude Opus 5.5. Im Intelligence Index von Artificial Analysis führt dagegen Claude Opus 5.5 in der höchsten Einstellung mit 58 Punkten, Argon kommt dort laut VentureBeat auf 53.

Was das bedeutet: Die beiden Ranglisten kommen zu unterschiedlichen Ergebnissen, und Google setzt bis Ende November auf den halben Preis. Welche Fragen Gemini-Agenten in Microsoft-365-Umgebungen aufwerfen, erörtert der Kommentar Die Risiken durch Google-Gemini-Agenten in Microsoft 365.

Frist für GPT-4o

In seiner Übersicht der Abkündigungen hält OpenAI fest, dass es am 14. Oktober Entwickler informiert hat: GPT-4o, GPT-4o mini, GPT-4.1 und GPT-4.1 mini verschwinden am 14. Jänner 2027 aus der API. Betroffen sind die datierten Versionen der Modelle, feinabgestimmte Varianten folgen demselben Zeitplan. Als Ersatz nennt OpenAI GPT-6 Luna.

Warum das wichtig ist: Wer Anwendungen auf diesen Modellen betreibt, hat knapp drei Monate für den Umstieg.

KI-Nutzung unter dem Schnitt

Laut dem Allianz Pulse 2026, einer am 14. Oktober veröffentlichten Umfrage des Versicherers Allianz, nutzen 43 Prozent der Befragten in Österreich KI mindestens einmal pro Woche. Im Schnitt der acht Länder sind es 48 Prozent. Befragt wurden je 1.000 Personen in Österreich, Deutschland, Frankreich, Italien, Spanien, Polen, Großbritannien und den USA. Wer die Umfrage durchgeführt hat und in welchem Zeitraum, nennt die Allianz nicht.

Von den befragten Erwerbstätigen in Österreich haben nur 11 Prozent am Arbeitsplatz eine KI-Schulung erhalten, im Schnitt sind es 17 Prozent, in den USA 30 Prozent. 52 Prozent von ihnen geben an, ihr Arbeitgeber biete gar keine an, der höchste Wert aller Länder. Den Kontrollverlust über fortgeschrittene KI nennen 21 Prozent der Befragten in Österreich als Sorge, mehr als in jedem anderen Land der Umfrage.

Warum man das mit nach Hause nehmen sollte: Mehr als die Hälfte der befragten Erwerbstätigen bekommt nach eigener Angabe keine Schulung angeboten. An diesem Punkt können Unternehmen selbst ansetzen. Wie Führungskräfte international auf den Ertrag ihrer KI-Ausgaben blicken, zeigt der Beitrag KI-Investitionen steigen, doch Unternehmen tun sich schwer, einen Nutzen daraus zu ziehen.

Ob aus den Anfragen in Brüssel und Washington förmliche Verfahren werden, ist offen.

Stay tuned.

Text: Wolfgang Franz · Erstveröffentlichung: itwelt.at, 18. Oktober 2026 · Aufmacher und Bild im Text: Gilgamesh / KI-generiert mit Midjourney · Henna Virkkunen: © Europäische Union, 2026 / Amarjeet Kumar Singh (CC BY 4.0, Wikimedia Commons) · FTC: Carol M. Highsmith / Library of Congress (gemeinfrei)