Das RobustifyAI-Konsortium beim Kick-Off am AIT; Credit: AIT
RobustifAI ist ein Horizon Europe Projekt, das darauf abzielt, eine umfassende Design- und Einsatzmethodik für zuverlässige, robuste und vertrauenswürdige generative künstliche Intelligenz (GenAI) zu entwickeln. Das Projekt startete offiziell am 1. Juni 2025 und hat eine Laufzeit von 36 Monaten mit einem Gesamtbudget von 9,3 Mio. €, wovon der österreichische Anteil rund 1,36 Mio. € beträgt. Die Bewilligung der Mittel ist ein großer Erfolg für das Konsortium von RobustifAI, da nur drei der 131 eingereichten Vorschläge den Förderzuschlag erhalten haben. Das Konsortium traf sich am 5. Juni 2025 in den Räumlichkeiten des AIT Austrian Institute of Technology in Wien zu einem offiziellen Kick-off, bei dem die ersten Schritte der Projektarbeit festgelegt wurden.
Österreich spielt eine Schlüsselrolle in RobustifAI, da zwei prominente Institutionen beteiligt sind - das AIT Austrian Institute of Technology und die TU Wien. Das AIT ist im Konsortium durch Priv.-Doz. Dr. Dejan Nickovic vertreten, der als technischer Leiter des Projekts fungiert. Prof. Ezio Bartocci, Professor für "Formal Methods in Cyber-Physical Systems" an der Fakultät für Informatik, vertritt die TU Wien. Das AIT bringt in das Projekt seine renommierte Expertise in der Anwendung formaler Methoden für KI-basierte Systeme und in der Gestaltung zukünftiger KI-Policies ein. Die TU Wien bringt ihre Expertise in der systematischen Entwicklung und Analyse von lernfähigen autonomen Systemen in das Konsortium ein. Die beiden Institutionen haben eine langjährige Zusammenarbeit auf dem Gebiet der Sicherheit von KI-basierten und autonomen Systemen, die sich in den letzten zehn Jahren durch gemeinsame Beiträge in Bereichen wie der Verifizierung von "deep neural networks", der Entwicklung vertrauenswürdiger Systeme und der Laufzeitüberwachung von KI-gesteuerten Technologien auszeichnete.
Ziel des Projekts
GenAI, wie z. B. Basismodelle (Foundation Models), stellt eine leistungsstarke und transformative Klasse der KI dar, die in der Lage ist, Muster aus Daten zu lernen und neue Inhalte zu generieren. GenAI hat jedoch bemerkenswerte Schwächen, die zu Missbrauch führen oder ihre breite Einführung und positive gesellschaftliche und wirtschaftliche Auswirkungen behindern können. Diese Unzulänglichkeiten sind auf drei Schlüsselbereiche zurückzuführen: technische, betriebliche und benutzerbezogene Robustheit. RobustifAI konzentriert sich auf Basismodelle, die im Kontext von sogenannten "Human-Cyber-Physical Systems" (HCPS) eingesetzt werden. Dabei handelt es sich um komplexe Systeme, in denen Computer, Netzwerke, Menschen und physische Prozesse kombiniert werden, um reale Umgebungen zu überwachen und zu steuern, die in vielen Bereichen Anwendung finden können.
CPS repräsentieren die anspruchsvollsten Systeme, wenn es um die Robustheit von GenAI geht, da sie unmittelbare physische Auswirkungen haben, von kritischer Bedeutung sind, in Echtzeit arbeiten und menschliche Interaktion erfordern. Durch die Auseinandersetzung mit der Robustheit von GenAI in HCPS wird RobustifAI Lösungen entwickeln, die in verschiedenen Bereichen anwendbar und letztendlich das volle Potenzial von GenAI freisetzen werden.
Partnerschaft
Das RobustifAI-Konsortium umfasst achtzehn Partner aus zwölf Ländern, darunter siebzehn europäische Partner und ein Partner aus Indien.
Das ausgewogene Konsortium besteht aus folgenden Partnern:
- Sieben Universitäten: University of Liverpool, Chalmers University of Technology, Hebrew University of Jerusalem, Masaryk University, Oldenburg University, TU Wien, and Indian Institute of Technology Kanpur;
- Zwei RTOs: AIT Austrian Institute of Technology und German Aerospace Center (DLR);
- Fünf KMUs: CSX-AI, L-up, PPM Robotics, CertX, and LOXO.
- Fünf große Unternehmen: Collins Aerospace, Siemens, Thales, and Thales SIX GTS FRANCE.
Weitere Informationen: www.robustifai.eu oder auf LinkedIn unter @RobustifAI project
Kontakt:
Mag. (FH) Michael W. Mürling, MA AI4Gov
Marketing and Communications
AIT Austrian Institute of Technology
Center for Digital Safety & Security
T +43 (0)50550-4126
michael.muerling(at)ait.ac.at I www.ait.ac.at
Mag. Michael H. Hlava
Head of Corporate and Marketing Communications
AIT Austrian Institute of Technology
T +43 (0)50550-4014
michael.hlava(at)ait.ac.at I www.ait.ac.at