Künstliche Intelligenz entwickelt sich mit hoher Geschwindigkeit weiter. Mit den technologischen Möglichkeiten wachsen jedoch auch die damit verbundenen Sicherheitsrisiken. Martin Boyer, Cybersecurity-Experte am AIT Center for Digital Safety & Security, ordnete dazu am 14. September 2026 in zwei Beiträgen des ORF die aktuellen Entwicklungen und möglichen Gefahren leistungsfähiger KI-Systeme ein.
Anlass für die aktuelle Diskussion sind unter anderem Berichte über KI-Agenten, die in Tests eigenständig Sicherheitsbarrieren überwunden und externe IT-Systeme angegriffen haben. Die Vorfälle zeigen, dass hochentwickelte KI-Systeme zunehmend in der Lage sind, komplexe Aufgaben selbstständig zu planen und auszuführen. Damit steigt auch das Risiko, dass Systeme Handlungen setzen, die von ihren Entwickler:innen nicht vorgesehen oder nur schwer kontrollierbar sind.
Im ORF-Beitrag „Forscher fordern Regulierung von KI“ in der „ZIB 2“ erläutert Boyer die sicherheitstechnische Dimension dieser Entwicklung. Je autonomer KI-Systeme agieren können, desto wichtiger wird es, bereits bei ihrer Entwicklung geeignete Schutzmechanismen vorzusehen und mögliche Fehlentwicklungen frühzeitig zu erkennen. Die Frage, wie sich das Verhalten hochkomplexer KI-Systeme zuverlässig kontrollieren und begrenzen lässt, gewinnt damit erheblich an Bedeutung.
Auch in der ORF-Sendung „Aktuell nach eins“ spricht Boyer über die Risiken, die durch immer leistungsfähigere und autonom agierende KI entstehen können. Gerade im Bereich Cyber Security eröffnen KI-Systeme einerseits neue Möglichkeiten zur Erkennung und Abwehr von Angriffen. Andererseits können dieselben Fähigkeiten auch für automatisierte Cyberangriffe eingesetzt werden und deren Geschwindigkeit, Reichweite und Komplexität deutlich erhöhen.
Die aktuelle internationale Debatte zeigt die Dringlichkeit des Themas: Nach Berichten über eigenständig agierende KI-Systeme haben sich zuletzt auch führende Vertreter:innen der KI-Branche für stärkere Sicherheitsmaßnahmen und eine Verlangsamung bei der Entwicklung besonders leistungsfähiger Modelle ausgesprochen. Parallel dazu werden auf politischer Ebene strengere Vorgaben für die Entwicklung und Veröffentlichung fortgeschrittener KI-Systeme diskutiert.
Die ORF-Beiträge:
„ZIB 2 – Forscher fordern Regulierung von KI“, 14. September 2026 – Interview mit Martin Boyer ab ca. Minute 3:30.
https://on.orf.at/video/14339015/16154411/forscher-fordern-regulierung-von-ki
„Aktuell nach eins“, 14. September 2026 – Beitrag mit Martin Boyer ab ca. Minute 12:50.
https://on.orf.at/video/14339000/aktuell-nach-eins-vom-14092026