Fraunhofer IPA vergleicht xAI-Erklärungsverfahren für Logistik- und Produktionsprozesse: Welche Software schafft Transparenz in Sachen KI?

Um die Algorithmen und Lösungswege hinter Anwendungen künstlicher Intelligenz besser zu verstehen, können Interessierte seit Längerem auf sogenannte „Explainable Artificial Intelligence“, kurz „xAI“ zurückgreifen. Diese digitalen Hilfen markieren etwa in einem Bild diejenigen Pixel, die dazu geführt haben, dass fehlerhafte Teile im Produktionsprozess aussortiert wurden. Das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA aus Stuttgart hat nun nach eigenen Angaben neun gängige Erklärungsverfahren miteinander verglichen und mithilfe von beispielhaften Anwendungen bewertet. Dabei kamen folgende Kriterien zum Tragen: