Erklärbare künstliche Intelligenz

Erklärbare KI, oder besser gesagt, interpretierbares maschinelles Lernen, unterstützt uns dabei, die Entscheidungen unserer komplexen Modelle zu verstehen, wann und warum das Modell scheitern oder erfolgreich sein könnte und wie wir die Leistung unseres Modells verbessern können, indem wir mehr Einblick in seine Lernstruktur und die Eingabedaten erhalten. Hier am AIT integrieren wir die Erklärbarkeit in unsere KI-Systeme, um die Leistung zu verbessern und Verzerrungen in den Daten zu erkennen (z. B. hilft XAI, geschlechtsspezifische Verzerrungen in NLP-Modellen zu erkennen). Diese Informationen fördern das Vertrauen und die Fairness beim Einsatz von ML-Modellen in der Industrie und bieten ML-Praktikern eine Richtlinie für den Bedarf an weiterer Forschung zu transparenten Algorithmen.