Innovationskraft & Forschungsexzellenz für Österreichs KI
FAIR-AI adressiert die Forschungslücke, die durch den Umgang mit gesellschaftsbezogenen Risiken in der Anwendung von KI entsteht. Insbesondere stehen dabei die Anforderungen des EU AI Acts und die Hindernisse bei seiner Umsetzung in der täglichen Entwicklung und Verwaltung von KI-basierten Projekten und seiner KI-gesetzkonformen Anwendung im Zentrum des Interesses. Diese Hindernisse sind vielschichtig und ergeben sich aus technischen Gründen (z. B. intrinsische technische Risiken des aktuellen maschinellen Lernens wie Datenverschiebungen in einer nicht-stationären Umgebung), technischen und Management-Herausforderungen (z. B. der Bedarf an hochqualifizierten Arbeitskräften, hohe Anfangskosten und Projektrisiken auf Projektmanagementebene) und sozio-technischen Faktoren (z. B. die Notwendigkeit eines Risikobewusstseins bei der Anwendung von KI, einschließlich menschlicher Faktoren wie kognitive Verzerrungen bei der KI-gestützten Entscheidungsfindung).
In diesem Zusammenhang betrachten wir die Erkennung, Überwachung und, wenn möglich, die Antizipation von Risiken auf allen Ebenen der Systementwicklung und -anwendung als einen Schlüsselfaktor.
Wir gehen über den Stand der Technik hinaus und erforschen Möglichkeiten der Risiko-Entflechtung, -vorhersage und deren Integration in ein Empfehlungssystem, das in der Lage ist, aktive Unterstützung und Anleitung zu geben. Das AIT Center für Innovation Systems and Policy (ISP) übernimmt dabei den Lead in mehreren Arbeitspaketen des von Alexander Schindler (AIT Center for Digital Safety and Security, DSS) koordinierten Projektes, die sich insbesondere mit dem Thema Ethik und Recht auseinandersetzen. Dabei werden unter anderem verschiedene Workshoptypen entwickelt, um mit dem Industriepartnern an Ethik und Recht bezogenen Themen in Form konkreter in der Praxis aufgetretener Fragestellungen arbeiten zu können und sie bei einer entsprechenden Lösung zu unterstützen. Die erarbeiteten Lösungsvorschläge fließen auch in andere Projektteile ein, etwa solche, die sich auf Ethik Tools, die Anwendung von Rechtsvorschriften und die Entwicklung von Trainingsmodulen zu Ethik und Recht beziehen.
Key Words: KI, KI-Ethik, Vertrauenswürdigkeit, KI-Verordnung, Recht
Start: 01/24
Dauer: 36 Monate
Auftraggeber/ Fördergeber: FFG
Kontakt: Peter Biegelbauer