Studie: Welche Software schafft Transparenz in Sachen KI?

Um die Algorithmen und Lösungswege hinter Anwendungen künstlicher Intelligenz besser zu verstehen, können Interessierte seit Längerem auf sogenannte „Explainable Artificial Intelligence“, kurz „xAI“ zurückgreifen. Diese digitalen Hilfen markieren etwa in einem Bild diejenigen Pixel, die dazu geführt haben, dass fehlerhafte Teile im Produktionsprozess aussortiert wurden. Das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA aus Stuttgart hat nun nach eigenen Angaben neun gängige Erklärungsverfahren – wie „LIME“, „SHAP“ oder „Layer-Wise Relevance Propagation“ – miteinander verglichen und mithilfe von beispielhaften Anwendungen bewertet. Dabei kamen laut dem Institut folgende Kriterien zum Tragen:

• Stabilität: Bei gleicher Aufgabenstellung soll das Programm stets dieselbe Erklärung liefern. Es könne nicht sein, dass für eine Anomalie in der Produktionsmaschine einmal Sensor A und dann Sensor B verantwortlich gemacht wird. Das würde das Vertrauen in den Algorithmus zerstören und das Ableiten von Handlungsoptionen erschweren.
• Konsistenz: Gleichzeitig sollten nur geringfügig unterschiedliche Eingabedaten auch ähnliche Erklärungen erhalten.
• Wiedergabetreue: Besonders wichtig ist nach Angaben des Fraunhofer IPA auch, dass Erklärungen tatsächlich das Verhalten des KI-Modells abbilden. Es dürfe nicht passieren, dass die Erklärung für die Verweigerung eines Bankkredits ein zu hohes Alter des Kunden benennt, obwohl eigentlich das zu geringe Einkommen ausschlaggebend war.