Direkt zum Inhalt
Symbolfoto: Das AIT ist Österreichs größte außeruniversitäre Forschungseinrichtung

Ideen Lab fördert AIT Projekt „CALIBRaiTE“

29.04.2020
AIT untersucht Reliability Displays zur Förderung des Vertrauens zwischen Mensch und KI
 

Die Österreichische Forschungsförderungsgesellschaft (FFG) finanziert mit Mitteln der Nationalstiftung und Unterstützung des Bundesministeriums für Digitalisierung und Wirtschaftsstandort (BMDW) sechs neue "Ideen Lab"-Projekte. Diese Projekte decken aktuelle Themen im KI-Bereich ab und berücksichtigen insbesondere das Ziel, ethische Aspekte bei der Entwicklung künftiger Technologien von Beginn an zu bedenken. Das AIT Center for Technology Experience ist mit dem Projekt CALIBRaiTE, in welchem die Förderung des Vertrauens zwischen Mensch und KI mit Hilfe von sogenannten Reliability Displays untersucht wird, vertreten.

Projekt CALIBRaiTE erforscht Reliability Displays

Automatisierte Systeme haben es zur Aufgabe, Menschen in unterschiedlichen Situationen, wie beispielsweise beim Autofahren oder im industriellen Kontext, zu unterstützen. Es ist daher wichtig zu wissen, in welchen Situationen man sich auf die künstliche Intelligenz (KI) verlassen kann und soll oder wann es zu Ungenauigkeiten kommen kann. Wird die Verlässlichkeit der intelligenten Funktion häufig unter- oder überschätzt, kann es sich negativ auf die langfristige Akzeptanz von KI-basierten Anwendungen auswirken. Das Sondierungsprojekt CALIBRaiTE hat es sich daher zur Aufgabe gemacht, das Vertrauen zwischen Mensch und KI zu fördern. Eine mögliche Lösung ist die Nutzung von Reliability Displays, also Displays, welche die Zuverlässigkeit der KI anzeigen. Sie bieten Informationen zur Verlässlichkeit von intelligenten Systemfunktionen und bringen somit die Erwartungshaltung mit den eigentlichen Systemfähigkeiten in Einklang. Die Expert*innen vom AIT rücken daher in CALIBRaiTE Reliability Displays in den Vordergrund der Betrachtung und analysieren und reflektieren deren Potentiale und Einschränkungen. Erprobt werden die Reliability Displays im Rahmen des Projekts im immer relevanter werdenden Bereich der vorausschauenden Wartung. Dieser Geschäftsbereich adressiert einen wichtigen Markt für österreichische Unternehmen und sollte somit aktiv in seinen Bestrebungen für verbesserte, KI-basierte Produkte unterstützt werden. Die Nutzer*innen müssen auch hier ständig im Bilde darüber sein, ob die Vorhersagen der Systeme vertrauenswürdig sind und ob sie den Empfehlungen nachgehen sollen oder nicht. So können beispielsweise Wartungsarbeiten rechtzeitig erkannt werden, um etwa die Produktion möglichst wenig einzuschränken.

Weitere Informationen zum Projekt finden Sie hier:

https://projekte.ffg.at/projekt/3761903

Presseaussendung der FFG:

www.ffg.at/presse/ministerin-schramboeck-kuenstliche-intelligenz-gehoert-natuerlich-gefoerdert

Der Standard berichtet:

https://www.derstandard.at/story/2000117165317/ki-projekte-mit-ethik-schwerpunkt-erhalten-1-2-millionen-euro

AIT Kontakt: Peter Fröhlich