KI-Sicherheit: Wer die eigene KI-Richtlinie umfassend nennt, vermutet seltener Schatten-KI

O’Reilly hat im September 2026 Beschäftigte aus der Informationssicherheit online befragt und wertet die Antworten von 209 Personen aus, die nach eigener Angabe beruflich mit Security zu tun haben. 55 Prozent von ihnen haben in den vergangenen zwölf Monaten KI-generiertes Phishing beobachtet. Die KI-Richtlinie ihrer Organisation stufen 44 Prozent als umfassend ein, und 59 Prozent gehen davon aus, dass im eigenen Team KI an den Vorgaben vorbei genutzt wird.

Phishing vorn, manipulierte Eingaben selten

Dahinter folgen das KI-gestützte Scannen und Ausnutzen von Schwachstellen (30 Prozent) sowie mit KI erzeugte Schadsoftware (26 Prozent). Ein Viertel hat Deepfakes in Ton oder Bild gesehen. Gezielt manipulierte Eingaben gegen KI-Modelle, darunter Prompt Injection, haben 13 Prozent bemerkt. Bei Prompt Injection verstecken Angreifer Anweisungen in Texten, die ein KI-System verarbeitet.

Zugleich geben 52 Prozent an, beruflich selten oder nie mit KI-generierten Angriffen zu tun zu haben. Studienautor Mike Loukides hält das für wenig plausibel und vermutet, dass viele Befragte nicht direkt in der Abwehr arbeiten, sondern etwa in Audit, Architektur oder Softwareentwicklung.

Ungeprüfte Ergebnisse und Datenabfluss beunruhigen am meisten

Nach den größten Risiken gefragt, nennen je 49 Prozent, dass KI-Ergebnisse ohne menschliche Prüfung übernommen werden und dass sensible Daten über KI-Werkzeuge nach außen gelangen. 35 Prozent fürchten, dass Angreifer mit KI Schwachstellen schneller finden, als die eigene Organisation sie beheben kann. KI-Phishing, der am häufigsten beobachtete Angriff, zählt nur ein Viertel zu den größten Sorgen. Prompt Injection steht bei 11 Prozent auf der Liste, Datenvergiftung, also manipulierte Trainingsdaten, bei 4 Prozent. Der Bericht hält die geringe Beachtung von Prompt Injection für bedauerlich, weil sich diese Schwachstelle durch Filtern zwar verringern, aber nicht beseitigen lasse.

Agenten: Berechtigungen und Zuständigkeit

Als wichtigste Sorge bei KI-Agenten, also Systemen, die selbständig Werkzeuge aufrufen und Aufgaben an andere Modelle weitergeben, nennen 28 Prozent zu weitreichende Berechtigungen oder unklare Zuständigkeit. Es folgen fehlende Überwachung und Nachvollziehbarkeit (19 Prozent) sowie die Unmöglichkeit, zu prüfen, ob ein Agent in seiner Rolle bleibt (18 Prozent). Datenabfluss kommt auf 15 Prozent, Prompt Injection auf 9 Prozent.

Regeln, Schatten-KI und Budget

72 Prozent berichten von einer KI-Richtlinie. Neben den 44 Prozent, die sie umfassend nennen, halten 28 Prozent sie für einfach und überarbeitungsbedürftig. Bei 9 Prozent ist eine Regelung in Arbeit, 19 Prozent haben keine oder wissen von keiner.

Schatten-KI, nach O’Reillys Definition KI-Nutzung außerhalb jeder verbindlichen Vorgabe, vermuten 36 Prozent gelegentlich im eigenen Team, 23 Prozent halten sie dort für weit verbreitet. Die zugehörige Grafik ist im Bericht mit »Shadow AI use with sensitive data« überschrieben; ob die Frage ausdrücklich auf sensible Daten zielte, geht aus dem Text nicht hervor.

Die Antworten unterscheiden sich stark danach, wie die Befragten das eigene Regelwerk einstufen. Bei umfassender Richtlinie sprechen 17 Prozent von weit verbreiteter Schatten-KI, bei einfacher 35 Prozent, ohne jede Regelung 37 Prozent. O’Reilly folgert daraus, dass solche Vorgaben ein wirksames Mittel sind, sie einzudämmen. Erhoben ist allerdings nur, dass beide Angaben gemeinsam auftreten. Ob etwa Größe oder Sicherheitsreife der Organisation dahinterstehen, prüft der Bericht nicht.

Ähnlich verteilen sich die Antworten zum Budget. Insgesamt halten 32 Prozent die Absicherung von KI für ausreichend finanziert, 28 Prozent für teilweise, 16 Prozent für stark unterfinanziert. Unter jenen, die ihr Regelwerk als umfassend einstufen, sehen 49 Prozent die Mittel als hinreichend und nur 3 Prozent als viel zu knapp. Bei einfacher, entstehender oder fehlender Regelung sprechen jeweils zwischen 16 und 22 Prozent von genug Geld.

Allzweck-KI im Einsatz, Spezialwerkzeuge seltener

68 Prozent nutzen Chatbots, eingebaute KI-Assistenten oder ähnliche Werkzeuge für Recherche und Dokumentation. Zur Suche nach Schwachstellen setzen 38 Prozent KI ein und zur Bedrohungserkennung 27 Prozent. Den größten Nutzen sehen die Befragten bei eben diesen Aufgaben (61 Prozent) und bei weniger Routinearbeit (57 Prozent), seltener bei der Sichtung von Warnmeldungen (29 Prozent) und der Treffsicherheit beim Aufspüren von Angriffen (17 Prozent). Wer Security-spezifische KI-Werkzeuge verwendet, berichtet häufiger von besserer Priorisierung der Alarme (42 gegenüber 18 Prozent) und genauerer Erkennung (27 gegenüber 5 Prozent) als jene, die nur allgemeine Chatbots oder Assistenten einsetzen. Das ist die Wahrnehmung der Nutzer, kein gemessener Vorteil, und wie groß beide Gruppen sind, bleibt unbekannt.

Zur Aussagekraft der Studie

O’Reilly hat die Umfrage selbst durchgeführt, Autor der Auswertung ist Mike Loukides, Vice President of Content Strategy des Unternehmens. Von 351 vollständigen Antworten zählen die 209, deren Verfasser nach eigener Angabe beruflich mit Security befasst sind. Wie die Teilnehmer gewonnen wurden und aus welchen Ländern, Branchen und Unternehmensgrößen sie kommen, gibt der Bericht nicht an. Ob die Auswahl repräsentativ ist, bleibt damit offen. Eine Auswertung für Österreich oder Deutschland fehlt.

Fallzahlen für die Untergruppen nennt O’Reilly nicht. Aus den Gesamtanteilen ergeben sich rechnerisch rund 90 Befragte mit umfassender und rund 60 mit einfacher Richtlinie, aber nur rund 20 mit einer Regelung in Arbeit. Eine Fehlermarge ist so nicht bestimmbar, und der Autor räumt an einer Stelle selbst ein, dass ein Unterschied wegen der kleinen Stichprobe nicht aussagekräftig sein muss. Alle Werte sind Einschätzungen einzelner Fachleute, keine Angaben der Organisationen: Wie umfassend die eigenen Vorgaben sind, beurteilen die Befragten selbst, Schatten-KI wird vermutet, nicht gemessen, und ob ein Budget reicht, ist eine persönliche Bewertung.

Fazit

Die deutlichste Linie dieser Umfrage folgt der Richtlinie. Wer das Regelwerk der eigenen Organisation umfassend nennt, vermutet seltener verbreitete Schatten-KI und hält die Mittel für die Absicherung von KI öfter für ausreichend. Eine einfache, nicht mehr aktuelle Regelung unterscheidet sich in diesen Angaben kaum vom völligen Fehlen. Die Sorgen der Fachleute richten sich vor allem auf den Umgang der eigenen Leute mit KI, kaum auf Angriffe gegen die KI selbst.

Details der Studie können hier eingesehen werden.