KI-Radar #05: Handschlag im Weißen Haus, Ermittlungen bei der Handelsbehörde

Washington hat vergangene Woche über neue Leitplanken für KI gesprochen, und zwar gleich in zwei Tonlagen. In der Zwischenzeit lief die Produktentwicklung ungebremst weiter.

Am selben Tag unterschrieben Spitzenvertreter der großen KI-Anbieter im Weißen Haus eine freiwillige Sicherheitsvereinbarung, während die US-Handelsbehörde FTC Ermittlungen gegen OpenAI und Anthropic bestätigte. Parallel stellte OpenAI auf seiner Entwicklerkonferenz dauerhaft aktive Agenten vor, Google zeigte mit Gemini 4 Argon ein neues Spitzenmodell, das vorerst nur Sicherheitspartner bekommen, und hierzulande zeigt eine Umfrage, wie selbstverständlich KI schon bei Gesundheitsfragen mitredet.

Zwei Tonlagen aus Washington

Foto: Carol M. Highsmith / Library of CongressFederal Trade CommissionUS-Handelsbehörde, WashingtonDie US-Handelsbehörde FTC ermittelt gegen OpenAI und Anthropic. Das bestätigte ein ranghoher Vertreter der Behörde vergangenen Mittwoch gegenüber mehreren US-Medien, darunter ABC News. Geprüft wird laut den Berichten, ob die Unternehmen unlautere oder irreführende Praktiken angewandt haben und welche Risiken ihre KI-Systeme für Konsumenten bergen. Laut einem Bericht der New York Times, auf den sich SiliconANGLE beruft, dürfte die Behörde auch der Frage nachgehen, ob außer Kontrolle geratene Agenten Konsumenten geschadet haben.

Wie The Next Web berichtet, soll auch die gemeinnützige Forschungsorganisation METR, die Vorfälle für beide Unternehmen untersucht hat, Auskunftsersuchen erhalten. Formelle Auskunftsverlangen, die ähnlich wie Vorladungen wirken und auch Aussagen von Führungskräften erzwingen können, erwartet die Behörde in den kommenden Wochen. Man befinde sich in der Ermittlungsphase und schreibe den Unternehmen nichts vor, betonte der Behördenvertreter. Stellungnahmen der Unternehmen lagen den Berichten zufolge zunächst nicht vor.

Foto: Harrison KeelyWeißes HausAmtssitz des US-Präsidenten, WashingtonAm selben Tag unterzeichneten Spitzenvertreter von OpenAI, Anthropic, Google, Meta, Nvidia und xAI im Weißen Haus eine freiwillige Sicherheitsvereinbarung. Laut SiliconANGLE sagen sie darin unter anderem interne Kontrollen für heikle Fähigkeiten etwa im Bereich Biologie zu, dazu externe Prüfer, die diese Kontrollen bewerten, ein unabhängiges Aufsichtsgremium auf Vorstandsebene und regelmäßige Treffen zu gemeinsamen Standards. Sanktionen bei Verstößen sieht die Vereinbarung nicht vor.

Warum das zählt: Die USA setzen gleichzeitig auf Selbstverpflichtung und auf behördliche Ermittlungen. Anders als die freiwillige Vereinbarung erlaubt das FTC-Verfahren der Behörde, interne Unterlagen und Aussagen von Führungskräften einzufordern. Es könnte damit konkrete Grenzen der bisherigen Sicherheits- und Kontrollmechanismen sichtbar machen.

Welche Leitplanken eine zukunftssichere Regulierung braucht, diskutiert der Beitrag KI-Regulierung ambitioniert und zukunftssicher gestalten.

Agenten im Dauerbetrieb

OpenAI hat auf seiner Entwicklerkonferenz DevDay vergangenen Dienstag sogenannte Dots vorgestellt. Laut OpenAI handelt es sich um ständig aktive Agenten, die zwischen den Unterhaltungen weiterarbeiten, die Prioritäten ihrer Nutzer und Nutzerinnen lernen und laufende Aufgaben übernehmen. Verfügbar sind sie zunächst in den Abos Pro und Business Premium in ausgewählten Märkten, für Unternehmens-, Bildungs- und Gesundheitskunden als standardmäßig deaktivierte Beta.

Für Entwickler wurde die Agents API unter anderem um Computersteuerung und die Zusammenarbeit mehrerer Agenten erweitert. Dazu kommt GPT-6.1 Sol: Laut OpenAI erreicht es bei Tests zu Programmierung, Computersteuerung und Wissensarbeit annähernd das Niveau des Spitzenmodells GPT-6 Astra. Mit 2 Dollar pro Million Eingabe- und 10 Dollar pro Million Ausgabe-Tokens kostet es aber nur ein Fünftel von Astras Listenpreis (10 beziehungsweise 50 Dollar). Der unabhängige Benchmark-Anbieter Artificial Analysis sieht das neue Sol auf seinem Intelligenz-Index einen Punkt hinter Astra.

Was das bedeutet: Während in Washington die Agenten-Vorfälle untersucht werden, bringt OpenAI dauerhaft laufende Agenten auf den Markt. Umso wichtiger wird die Frage, welche Berechtigungen solche Assistenten bekommen und wer ihre Aktionen nachvollziehen kann.

Was Agenten heute tatsächlich leisten und wo ihre Grenzen liegen, zeigt der Beitrag KI-Agenten im Check: was sie können und was nicht.

Googles Modell für Verteidiger

Google hat vergangenen Mittwoch mit Gemini 4 Argon das erste Modell seiner Gemini-4-Generation angekündigt. Zugang erhalten zunächst nur ausgewählte Sicherheitspartner über Googles Programm Fairwind, eine breitere Öffnung für Entwickler, Unternehmen und Endkunden soll laut Google so bald wie möglich folgen. Einen konkreten Termin nennt das Unternehmen nicht, wie auch TechCrunch festhält.

Laut Google kann Argon bis zu eine Million Tokens in einer einzigen Antwort ausgeben. Stärken sieht der Hersteller bei Softwareentwicklung, Rechts- und Finanzanalysen sowie beim Aufspüren und Beheben von Sicherheitslücken. Auf mehreren Benchmarks liegt Argon nach Herstellerangaben vor GPT-6 Astra und den aktuellen Anthropic-Modellen, unabhängige Vergleiche stehen noch aus.

Warum das relevant ist: Google ist mit diesem Vorgehen nicht allein. Anthropic hatte sein Modell Mythos Preview bereits im Frühjahr wegen seiner Fähigkeiten beim Aufspüren von Schwachstellen nur einem kleinen Kreis zugänglich gemacht, und OpenAI vergibt cyberfähige Modelle über ein eigenes Programm nur auf Einladung, wie Axios berichtete. Cyber-Fähigkeiten bestimmen damit inzwischen spürbar mit, wer neue Spitzenmodelle zuerst bekommt.

Warum 2026 für die IT-Sicherheit zum Wendepunkt werden könnte, analysiert der Beitrag Cyberangriffe im KI-Zeitalter: Warum 2026 zum Wendepunkt für IT-Sicherheit wird.

Gesundheitsrat von der KI

Laut der Gesundheitsstudie 2026 der Wiener Städtischen haben bereits sechs von zehn Österreichern und Österreicherinnen KI genutzt, um sich über Gesundheitsthemen zu informieren, rund vier von zehn empfinden sie dabei als hilfreich. Befragt wurden vom Gallup Institut von Ende Juli bis Mitte August 1.000 Personen zwischen 16 und 70 Jahren online.

13 Prozent aller Befragten halten Auskünfte einer KI bereits für vertrauenswürdiger als jene von Ärzten, 82 Prozent vertrauen weiterhin eher dem Arzt. Von jenen, die KI für Gesundheitsfragen schon genutzt haben, geben laut VersicherungsJournal 31 Prozent an, sich mit der Empfehlung der KI zufriedengegeben und auf einen Arztbesuch verzichtet zu haben.

Warum das interessant ist: Allgemeine KI-Assistenten sind damit auch dort im Einsatz, wo falsche Auskünfte unmittelbare Folgen haben können. Foto: BMEIAChristian StockerBundeskanzlerFoto: Bernhard HolubAlexander PröllDigitalisierungsstaatssekretärDas macht Fragen nach Qualität und Verantwortung solcher Antworten auch in Österreich sehr konkret.

Warum Symptom-Checker und Gesundheits-Apps enger mit dem Gesundheitssystem verzahnt werden sollten, erläutert der Beitrag Gesundheits-Apps und KI-Symptom-Checker brauchen stärkere Integration ins Gesundheitssystem.

Am Montag lädt die ÖVP-Akademie Campus Tivoli in Wien zum »AI-Summit for Politics«, angekündigt sind unter anderem Bundeskanzler Christian Stocker und Digitalisierungsstaatssekretär Alexander Pröll. In den USA dürften in den kommenden Wochen die ersten formellen Auskunftsverlangen der FTC verschickt werden.

Stay tuned.

Text: Wolfgang Franz · Erstveröffentlichung: itwelt.at, 4. Oktober 2026 · Aufmacher und Bild im Text: Gilgamesh / KI-generiert mit Midjourney · FTC: Carol M. Highsmith / Library of Congress (gemeinfrei) · Weißes Haus: Harrison Keely (CC BY 4.0, Wikimedia Commons) · Christian Stocker: BMEIA (CC BY 2.0, Wikimedia Commons) · Alexander Pröll: Bernhard Holub (CC BY-SA 4.0, Wikimedia Commons)