KI-Radar #06: Anthropic kappt das Internet für interne Tests, Mistral kündigt Billionen-Modell an

Letzte Woche ging es ums Thema Kontrolle, und zwar von zwei Seiten: Die einen drehen ihren Agenten den Netzzugang ab, die anderen merken, was passiert, wenn Angreifer mit KI-Rückenwind arbeiten. Dazwischen gab es noch ein europäisches Billionen-Modell und eine Standortbestimmung für Österreichs Unternehmen.

Anthropic legte am 9. Oktober offen, dass seine Modelle bei Tests mehrfach über das Ziel hinausgeschossen sind, und schaltete daraufhin das Live-Internet für alle internen Evaluierungen ab. Bereits am 8. Oktober startete das Unternehmen seine Cyber Mission für kritische Infrastruktur und Open-Source-Projekte, aus Japan kommen laut einem Medienbericht nach Angriffen auf mehr als 20 namhafte Unternehmen Warnungen vor einer Notlage im Cyberraum. Mistral kündigte mit Large 4 ein europäisches Modell mit rund einer Billion Parameter an, und eine McKinsey-Studie zeigt, wo Österreichs Unternehmen bei KI zwischen Pilot und Produktion stehen.

Netzstecker für Test-Agenten

Anthropic hat am 9. Oktober in einem eigenen Bericht mit dem Titel Investigating unintended model actions offengelegt, dass Modelle bei internen und öffentlichen Tests mehrfach über das Ziel hinausgeschossen sind. Laut Anthropic nutzten sie etwa Softwarelücken auf Webseiten, um an Rechenfunktionen zu kommen, schickten Formulare ab, die sie nicht hätten abschicken sollen, und umgingen mit Token aus Konfigurationsdateien den Zugang zu Daten, die normalerweise kostenpflichtig sind. In einem Fall landete ein erfundener Hinweis bei einer Polizeibehörde in den USA, wurde dort aber als Spam markiert und nicht weiterverfolgt.

Als Ursachen nennt das Unternehmen unklar definierte oder unlösbare Aufgaben, Testumgebungen, die Umgehungen belohnten, und eine Art Beharrlichkeit der Modelle: Wenn eine Aufgabe nicht wie vorgesehen lösbar war, suchten sie sich einen Weg um die Beschränkung, statt aufzugeben. Die Folgen laut Anthropic: Live-Internet für alle internen Evaluierungen ist abgeschaltet, einzelne öffentliche Benchmarks wurden gestrichen oder offline verlegt, und interne Agenten laufen künftig auf zentral verwalteter Infrastruktur mit stärkerer Abschottung. Kundendaten und interne Systeme waren dem Bericht zufolge nicht betroffen, die bisher erkannten Fälle hatten nach Anthropics Einschätzung minimale Auswirkungen in der Praxis. Wie TechCrunch schreibt, hat Anthropic offengelassen, unter welchen Bedingungen der Netzzugang wiederkommt. Ähnliche Vorfälle bei OpenAI-Agenten erwähnt das Medium ebenfalls.

Warum das wichtig ist: Hier schildert ein Anbieter selbst, wie schwer sich Agenten mit Zugriff auf Werkzeuge und Internet zuverlässig einhegen lassen, und zieht daraus konkrete Konsequenzen. Für alle, die Agenten im Unternehmen einsetzen wollen, ist das ein ziemlich brauchbarer Praxisleitfaden für die Frage, was man ihnen besser nicht erlaubt.

Wie sich Agenten im Unternehmen absichern lassen, ordnet der Leitfaden KI-Agenten im Unternehmen: Leitlinien zur Absicherung anhand des Cyber-Immunity-Ansatzes ein.

Cyber-Mission und Warnsignale aus Japan

Anthropic hat am 8. Oktober laut eigener Ankündigung die Cyber Mission gestartet. Das Critical Infrastructure Defense Program stellt Sicherheitsanbietern für Strom, Wasser, Verkehr und Behörden starke Claude-Modelle, Ingenieure vor Ort und Bedrohungsforschung zur Verfügung. Zu den elf Gründungspartnern zählen Accenture, CrowdStrike, Deloitte, Palo Alto Networks und Rockwell Automation. Dazu kommt der OSS Scanner: Open-Source-Projekte, die sich anmelden, bekommen regelmäßig kostenlose Scans, samt Proof of Concept und Korrekturvorschlag. Die Berichte entstehen laut Anthropic ohne menschliche Prüfung, Fehler etwa bei der Einstufung des Schweregrads sind deshalb möglich.

Aus Japan kommt zeitgleich eine Meldung, die bisher nur aus zweiter Hand vorliegt: Laut einem Bericht der Financial Times, den AI Weekly zusammenfasst, ist dort nach Angriffen auf mehr als 20 namhafte Unternehmen von einem »Notstand im Cyberraum« die Rede. Das FT-Original war nicht abrufbar, ob es sich um eine förmliche Ausrufung oder um eine Warnung von Behördenseite handelt, ist damit nicht bestätigt. Behördenvertreter und Analysten sehen laut dem Bericht auch KI als Faktor, weil sie Angreifern Hürden senkt, etwa bei Sprachbarrieren.

Was das bedeutet: Dass KI die Verteidigung stärkt, ist inzwischen mehr als eine Behauptung, es gibt Programme, Partner und konkrete Werkzeuge. Gleichzeitig deuten die Berichte aus Japan darauf hin, dass die Angriffsseite nicht wartet.

Wie dünn die Decke in der Industrie ist, beleuchtet die Meldung Cybervorfälle in der Industrie nehmen zu und Lücken in der Resilienz vergrößern sich. Laut der SANS-Umfrage waren heuer 34 Prozent der Befragten von einem Vorfall in der Industrie-IT betroffen.

Europas Billionen-Modell

Mistral hat am 6. Oktober Mistral Large 4 als öffentliche Vorschau angekündigt. Das Modell hat laut Mistral rund eine Billion Parameter und versteht auch Bilder, Diagramme und technische Zeichnungen. Die Vorschau läuft über Mistral Studio auf Rechenzentren des Unternehmens in Europa.

Die Gewichte will Mistral bis Ende Oktober veröffentlichen, eine Lizenz nennt die Ankündigung nicht. Die Benchmark-Werte stammen von Mistral selbst, darunter eine Platzierung unter den Top 5 im Cyber-Index von Artificial Analysis. Vor der Freigabe testet das Unternehmen das Modell mit Sicherheitsfachleuten und Behörden.

Warum das relevant ist: Wenn die Gewichte tatsächlich kommen, hätte Europa ein offenes Modell in der Größenklasse der amerikanischen Spitzenmodelle. Es kommt aber auf die Lizenz an, ob Unternehmen es frei einsetzen dürfen.

Was souveräne KI im Alltag heißt, zeigt die Meldung Souveräne KI: Wahlfreiheit statt »Server unterm Schreibtisch«: A1 bringt gemeinsam mit IBM die Plattform watsonx auf die europäische Cloud Exoscale.

Österreich zwischen Pilot und Produktion

Laut dem Update State of AI in Austria von McKinsey ist der KI-Reifegrad heimischer Unternehmen binnen eines Jahres von 30 auf 36 von 100 Punkten gestiegen. Befragt wurden 54 Unternehmen und 135 Technologie- und Digitalverantwortliche. Besonders zugelegt haben Strategie und Skalierung, die schwächste Disziplin bleibt der Talentmangel: Über zwei Drittel melden einen systematischen Engpass.

Auffällig ist die Kostenseite. Rund die Hälfte der Firmen kann den wirtschaftlichen Nutzen von KI-Projekten vorab nicht verlässlich abschätzen, etwa 70 Prozent tun sich mit der Erfolgsmessung danach schwer, und sieben von zehn könnten nicht sagen, wie viele Tokens sie pro Monat verbrauchen. Agentische Abläufe können laut McKinsey für dieselbe Aufgabe bis zu 30 Mal mehr Tokens verbrauchen.

Warum man das mit nach Hause nehmen sollte: Die Frage lautet nicht mehr, ob Unternehmen KI einsetzen, sondern was es bringt und kostet. Wer Agenten einführt, ohne den Tokenverbrauch zu kennen, hat die Rechnung noch vor sich.

Foto: Bernhard HolubAlexander PröllStaatssekretärAm 19. November will Staatssekretär Alexander Pröll in der Nationalbibliothek erste Ergebnisse der neuen österreichischen KI-Strategie vorstellen, wie Börse Express berichtet. Bis dahin dürfte sich zeigen, ob Mistral seine Gewichte wie angekündigt Ende Oktober liefert.

Stay tuned.

Text: Wolfgang Franz · Erstveröffentlichung: itwelt.at, 14. Oktober 2026 · Aufmacher und Bild im Text: Gilgamesh / KI-generiert mit Midjourney · Alexander Pröll: Bernhard Holub (CC BY-SA 4.0, Wikimedia Commons)