Welche Software schafft Transparenz in Sachen KI?

Um die Algorithmen und Lösungswege hinter Anwendungen künstlicher Intelligenz besser zu verstehen, können Interessierte seit Längerem auf sogenannte „Explainable Artificial Intelligence“, kurz „xAI“ zurückgreifen. Diese digitalen Hilfen markieren etwa in einem Bild diejenigen Pixel, die dazu geführt haben, dass fehlerhafte Teile im Produktionsprozess aussortiert wurden. Das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA aus Stuttgart hat nun nach eigenen Angaben neun gängige Erklärungsverfahren miteinander verglichen und mithilfe von beispielhaften Anwendungen bewertet.