#11
Woche vom 9. bis 15. November 2026
KI-Radar #11: Klage gegen leistungsfähigere KI-Systeme, die Kläger berufen sich auf Warnungen der Beklagten
Die wichtigsten Ereignisse der vergangenen Woche in Sachen KI-Entwicklung.
Bild: Gilgamesh / KI-generiert mit MidjourneyVier gemeinnützige Organisationen haben am 12. November in San Francisco Klage gegen Anthropic, Google, Meta, OpenAI und die KI-Sparte von SpaceX eingebracht. Sie beantragen, den Unternehmen Entwicklung und Einsatz von KI-Systemen zu verbieten, die leistungsfähiger sind als ihre stärksten Systeme am Tag der Klage. Google und Anthropic berichten, dass Teams aus KI-Agenten große mathematische Beweise in eine Form gebracht haben, die ein Computer Schritt für Schritt nachprüft. Und der Staatspreis für künstliche Intelligenz hat in Graz eine neue Bühne gefunden. Am Rand sei erwähnt, dass Nvidia am 12. November den sofortigen Rücktritt seines Chefs Jensen Huang bekanntgab.

Klage gegen den nächsten Schritt
Vier gemeinnützige Organisationen, darunter Public Citizen und The Alliance for Secure AI, haben am 12. November vor dem Superior Court in San Francisco Klage eingebracht. Beklagt sind sieben Rechtsträger aus fünf Unternehmensgruppen: Anthropic, Google, Meta sowie je zwei Rechtsträger von OpenAI und der KI-Sparte von SpaceX. Laut der Klageschrift, die Just Security veröffentlicht hat, beantragen die Kläger gerichtliche Verbote mit sofortiger Wirkung. Die Unternehmen sollen keine KI-Systeme entwickeln oder einsetzen dürfen, die leistungsfähiger sind als ihre jeweils stärksten Systeme am Tag der Klage. Außerdem sollen sie Forschung und Entwicklung an leistungsfähigeren KI-Systemen nicht von KI eigenständig durchführen oder steuern lassen.
Rechtlich stützt sich die Klage auf ein einziges Gesetz, das kalifornische Gesetz gegen unlauteren Wettbewerb. Als Begründung führen die Kläger unter anderem die öffentlichen Warnungen der Unternehmen selbst vor KI-gestützten Cyberangriffen an. Auf eine Anfrage von CBS News lehnte Meta laut dem Sender eine Stellungnahme ab, die übrigen beklagten Unternehmen antworteten CBS nicht.
Am selben Tag stellte OpenAI zwei neue Sicherheitswerkzeuge vor. Laut The Register prüft »Daybreak Red Team« Webanwendungen von Unternehmen auf Schwachstellen und ist vorerst in einer frühen Testphase verfügbar. »Daybreak Defense Factory« soll Lücken finden, bestätigen und Korrekturen vorschlagen, die Entwickler vor dem Einsatz prüfen und freigeben. Nach dem Bericht von The Register sagte OpenAI-Präsident Greg Brockman in seiner Rede sinngemäß, man sei inzwischen an einem Punkt, an dem Unternehmen nur so sicher seien wie das Spitzenmodell, mit dem sie sich verteidigen, und wie gut sie es nutzen.
Was das bedeutet: OpenAI wirbt mit dem Schutz, den leistungsfähige Modelle bieten sollen, die Kläger machen vor Gericht die Risiken noch leistungsfähigerer Systeme geltend. Wie sehr KI schon die Angreifer stärkt, zeigt die Auswertung Künstliche Intelligenz befeuert Online-Betrug, wie viele Lücken KI-Agenten selbst finden, schilderte das KI-Radar #10.
Beweise am laufenden Band
Zwei Anbieter berichten, dass KI-Agenten mathematische Beweise nun in großem Stil formalisieren. Sie übertragen sie in die Sprache des Beweisprüfers Lean. Dessen Kern kontrolliert jeden Schritt der Ableitung, ausgehend von den verwendeten Definitionen und Annahmen.
Anthropic schrieb am 9. November, ein Team aus 1.000 Agenten mit einer frühen Version des Modells Claude Fable 5.2 habe beim formalen Beweis für Fermats letzten Satz nach 28,7 Stunden den Schlusssatz erreicht. Das Unternehmen nennt das selbst ein Spielzeugexperiment. Die Agenten bekamen 60 Vorgaben mit, den Schlusssatz und 59 Zwischenziele, dazu die nötigen Definitionen, eine Skizze des Lösungswegs und 47 bereits bewiesene Hilfssätze aus einer Formalisierung vom September. Für jene hatten damals ein Forscher und Dutzende Agenten elf Tage gebraucht. Bis zur 30. Stunde hatte Lean 54 der 60 Vorgaben als bewiesen abgenommen, die übrigen brauchte der Beweis laut Anthropic nicht mehr oder sie entfielen.
Google legte am 13. November nach. Nach Angaben von Google Research hat ein Agentensystem auf Basis von »/teamwork«, der Mehragentenfunktion der Entwicklungsumgebung Antigravity, die Weil-Vermutungen vollständig in Lean formalisiert. Es handelt sich um einen längst bewiesenen Satzkomplex, dessen Beweis Pierre Deligne 1974 abschloss; die Formalisierung umfasst rund 1,8 Millionen Zeilen. Gesondert nennt Google Lösungen offener Probleme, die die Autoren vor der Veröffentlichung geprüft und überarbeitet hätten. Google weist selbst darauf hin, dass Menschen bestätigen müssen, ob die formale Aussage dem ursprünglichen Problem entspricht.
Warum man das mit nach Hause nehmen sollte: Der Computer prüft, ob jeder Schritt stimmt, aber nicht, ob die richtige Frage gestellt wurde. Um eine verwandte Grundidee geht es im Kommentar Datenintegrität: wie Unternehmen belegen, dass ihre Daten noch dieselben sind, dort mit Prüfsummen statt Beweisen: Belegbar ist, was jemand Unabhängiger nachrechnen kann.
Ein Staatspreis zieht nach Graz
Beim dritten Technology Impact Summit kamen am 11. November laut Aussendung der Veranstalter rund 400 geladene Fachleute aus Wirtschaft, Wissenschaft und Politik in der Aula der Universität Graz zusammen. Veranstalter sind die Universität Graz, die TU Graz, Joanneum Research und die FH Joanneum. Digitalisierungsstaatssekretär Alexander Pröll kündigte dort an, dass der Staatspreis für künstliche Intelligenz künftig beim Summit vergeben wird, erstmals 2027 in Graz. Ausgezeichnet werden digitale Produkte, Lösungen und Prozesse aus Österreich, die ihre Wirkung bereits unter Beweis gestellt haben. Über die Vergabe entscheidet eine unabhängige Fachjury.
Die Redner und Rednerinnen warben laut Aussendung für einen pragmatischen Umgang mit digitaler Souveränität und warnten davor, aus Perfektionismus den Anschluss zu verlieren. Warum das interessant ist: Ein Preis für Lösungen, die schon wirken, belohnt das Umsetzen, nicht die Ankündigung. Warum es nicht reicht, bestehende Abläufe mit KI bloß zu beschleunigen, erklärt das Interview »Mindset ist oft eine Ausrede«.
Um die vergangene Woche zusammenzufassen: Ein Gericht soll über leistungsfähigere KI-Systeme entscheiden, Beweisprüfer kontrollieren, was Agenten liefern, und in Graz soll eine Fachjury künftig auszeichnen, was schon wirkt. Es war eine Woche der Prüfer. Für den 19. November hat das Bundeskanzleramt eine Rede von Staatssekretär Pröll zur künstlichen Intelligenz angekündigt, die KI-Strategie selbst soll bis Mitte 2027 vorliegen.
Stay tuned.
Text: Wolfgang Franz · Erstveröffentlichung: itwelt.at, 15. November 2026 · Aufmacher und Bild im Text: Gilgamesh / KI-generiert mit Midjourney