KI-Radar #01: Astra ist da, und sein Denken wird schwerer durchschaubar

Letzte Woche ging’s weniger um noch mehr Rechenpower, sondern ums große Thema Kontrolle: OpenAI schickt ein neues Flaggschiff-Modell ins Rennen, Anthropic legt offen, wie ihre Tests dieses Jahr abgelaufen sind, und auch im Nachbarland Deutschland sowie in Brüssel tut sich einiges bei der KI-Aufsicht.

Astra denkt undurchsichtiger

OpenAI hat am 3. September mit GPT-6 Astra sein bislang stärkstes Modell veröffentlicht. Im eigenen System Card stuft OpenAI Astra als erstes Modell auf der höchsten Stufe (»Critical«) für Cybersecurity-Fähigkeiten ein: Mit passenden Tools kann es eigenständig bislang unbekannte Sicherheitslücken finden und Angriffswege dafür entwickeln. Der Rollout läuft gestaffelt über ChatGPT, Codex und API; für den anfänglichen Enterprise-Zugang ist zusätzlich das Programm »Daybreak« nötig.

Laut demselben System Card liefert Astra zudem kürzere, teils fast leere Gedankenketten als Vorgängermodelle, wodurch die Überwachbarkeit der Chain of Thought nach eigenen Angaben spürbar sinkt. Warum das zählt: Je leistungsfähiger ein Modell bei sicherheitsrelevanten Aufgaben wird, desto mehr Gewicht bekommt die Nachvollziehbarkeit seiner Entscheidungen. Genau diesen Punkt spricht OpenAI selbst offen an.

Passend dazu: Warum Unternehmen im Zeitalter autonomer KI-Systeme eine eigene KI-Sicherheitsstrategie brauchen.

Anthropic legt Cyber-Vorfälle offen

Laut Anthropics eigenem Bericht erhielten Claude-Modelle bei Cybersecurity-Evaluationen zwischen April und Juli unerwarteten Internetzugang und griffen dabei auf reale Systeme dreier Organisationen zu. Ursache war laut Anthropic ein Missverständnis mit dem externen Testpartner über die Konfiguration der Testumgebung: Sie sollte ohne Internetzugang laufen, verfügte tatsächlich aber über eine Live-Verbindung. Anthropic hat die betroffenen Organisationen informiert, die Tests pausiert und zusätzliche Kontrollen eingeführt, bevor die Auswertungen fortgesetzt wurden.

Eine begleitende Studie von Anthropics Alignment-Team zeigt außerdem, dass gezieltes Reward Hacking im Training Modelle generell eher dazu bringen kann, für ein Ziel auch problematische Handlungen auszuführen. Laut Anthropic ist das aber nicht die alleinige Erklärung für die realen Vorfälle. Warum das zählt: Ein ungewöhnlich transparenter Einblick, wie aus einem Testszenario realer Effekt werden kann. Das ist ein Hinweis für alle, die KI-Agenten mit Internetzugang in Sicherheitstests einsetzen.

Wie groß dieses Feld an Herausforderungen mittlerweile ist, zeigt der Kommentar KI-Agenten als neue Herausforderung für die IT-Sicherheit.

Deutschlands neue KI-Wache

Laut Bundesregierung.de ist Ende August in Deutschland das KI-Sicherheitsinstitut »AISI Deutschland« gestartet, mit Sitz in der Hauptstadt Berlin. Es ist ein gemeinsames Kompetenzzentrum von Digital- und Innenministerium, das anfangs von BSI und Bundesnetzagentur getragen wird. Laut BMDS soll das Institut fortschrittliche KI-Modelle auf Sicherheitsrisiken untersuchen und Regierung, Verwaltung sowie Wirtschaft beim sicheren Einsatz von KI unterstützen; international will man sich mit den Schwesterinstituten in UK und Frankreich sowie dem EU AI Office abstimmen.

Warum das zählt: Deutschland bekommt damit eine eigene Anlaufstelle, um KI-Sicherheitsrisiken unabhängig einzuschätzen, ein Modell, das auch für Österreich als Bezugspunkt interessant werden dürfte.

Erste Anfragen zum AI Act

Foto: almathias / PixabayEuropäische KommissionSitz im Berlaymont, BrüsselLaut Agence Europe hat die EU-Kommission Anfang September ihre ersten offiziellen Auskunftsersuchen nach dem AI Act verschickt, an mehr als 30 Anbieter fortgeschrittener KI-Modelle. Gefragt wird zum einen nach Sicherheitsvorkehrungen für leistungsstarke Modelle, zum anderen nach Urheberrechts- und Transparenzpflichten. Warum das zählt: Seit 2. August sind weitere zentrale AI-Act-Bestimmungen anwendbar, etwa Transparenzpflichten für bestimmte KI-Systeme sowie Regeln für sogenannte General-Purpose-AI-Modelle, und jetzt zeigt sich, dass Brüssel dazu auch aktiv nachfragt. Für internationale Anbieter ist das ein erster praktischer Realitätscheck der neuen Vorschriften.

Wie anspruchsvoll allein die Transparenzpflichten für Unternehmen in der Praxis sind, dazu bereits Ende August: AI Act: Transparenz nach außen reicht nicht.

Wiener KI-Herbst startet

Laut AIT Austrian Institute of Technology startet am 10. und 11. September im Wiener MuseumsQuartier die Konferenz »Technology Talks Austria 2026« zum Thema europäische Technologieführerschaft, mit über 800 Anmeldungen und einem eigenen Workshop zur »AI Factory Austria« AI:AT. Für den 19. und 20. November hat zudem der vom AIT koordinierte Gaia-X Hub Austria den »Gaia-X Summit, Season 2.0« in Wien angekündigt, der sich mit souveränen Datenräumen und vertrauenswürdiger KI in Europa beschäftigt. Warum das wichtig ist: Zwei der größeren heimischen Tech-Konferenzen bringen KI-Themen direkt vor die österreichische Community, von praktischer KI-Umsetzung in Unternehmen bis zu Datensouveränität. Mehr zum Programm: Technology Talks 2026: Zukunftsstrategien für Österreich und Europa.

Text: Wolfgang Franz · Erstveröffentlichung: itwelt.at, 8. September 2026 · Aufmacher und Bild im Text: Gilgamesh / KI-generiert mit Midjourney · EU-Kommission: almathias / Pixabay (CC0, Wikimedia Commons)