Der XAI-Assistent richtet sich an Personen und Unternehmen, die ihre Künstliche Intelligenz (KI)-Anwendung um Komponenten der erklärbaren KI erweitern möchten, um die KI-Entscheidungen besser zu verstehen. Entwickler:innen erhalten für einen konkreten XAI-Anwendungsfall zielgerichtet Informationen und Hinweise für einen erfolgreichen XAI-Einsatz.

Der XAI-Assistent liefert Informationen und Hinweise zu einem konkreten XAI-Anwendungsfall, die Unternehmen dabei helfen, geeignete Gestaltungsalternativen für ihre XUI zu erstellen. Anhand eines Fragebogens werden relevante Informationen bestimmt und zusammen mit Beispielen entsprechender XAI-Methoden ausgegeben. Der XAI-Assistent liefert dabei jedoch keine direkten Lösungsansätze und konkrete Empfehlungen von XAI-Methoden, da dies auf Basis des aktuellen Forschungsstandes nicht verlässlich möglich ist. Stattdessen ermöglicht es der XAI-Canvas interessierten Personen und Unternehmen, sich zielgerichtet über relevante Eigenschaften von Erklärungen zu informieren und liefert Ideen, wie die initialen Gestaltungsalternativen für die weitere Evaluation und die iterative Weiterentwicklung umgesetzt werden können. Entwickler:innen erhalten folglich einen Überblick zu wichtigen Aspekten und zu potenziell geeigneten XAI-Methoden.

Für die Verwendung des XAI-Assistenten sollten der Nutzungskontext und die Nutzungsanforderungen eines XAI-Anwendungsfalls definiert sein, da diese Informationen in Form eines kurzen Fragebogens eingegeben werden müssen. Eine Hilfestellung zur Erhebung des Nutzungskontextes und der Nutzungsanforderungen bietet der XAI-Canvas.

Der XAI-Assistent fragt zunächst wichtige Aspekte des Nutzungskontextes und die Nutzungsanforderungen ab. Basierend auf diesen Angaben erhalten Nutzende Informationen und Hinweise zu geeigneten Eigenschaften von Erklärungen sowie Beispiele entsprechender XAI-Methoden. Der XAI-Assistent wurde zusammen mit dem XAI-Canvas konzipiert und ist für die Anwendung auf einzelne XAI-User-Stories vorgesehen.

Der Fragebogen ist wie folgt strukturiert:

1. Nutzende:
In diesem Abschnitt werden Informationen über die betrachteten Endnutzenden abgefragt.

• Vorwissen:
Es werden entweder Domänenexpert:innen oder Lai:innen betrachtet. Domänenexpert:innen besitzen Expertenwissen in der betrachtenden Domäne, jedoch nicht notwendigerweise auch KI-Expertise. Ein Beispiel hierfür wäre ein:e Versicherungsvertreter:in. Lai:innen besitzen weder KI-Expertise noch Domänenwissen. Ein Beispiel hierfür wäre eine zu versichernde Person.
• Bedürfnis:
Eine Sammlung von Fragen aus der eine Frage ausgewählt werden kann, die durch eine Erklärung der KI-Entscheidung beantwortet werden soll. Dies stellt das Bedürfnis des Endnutzenden nach einer Erklärung dar.
• Anwendung:
Zusätzliche Informationen über den Anwendungskontext. Intern bezeichnet hier eine Anwendung innerhalb des Unternehmens, welches das KI-System einsetzt. Extern bezeichnet einen privaten Endnutzenden. Dies ist in der Regel ein Kunde des KI-einsetzenden Unternehmens.

2. Erklärungseigenschaften:
Es können drei typische Eigenschaften von Erklärungen ausgewählt werden, falls diese für den konkreten XAI-Anwendungsfall besonders relevant sind: die Korrektheit der verwendeten XAI-Methode, die Verständlichkeit der bereitgestellten Erklärungen sowie die Zeitkritikalität der Berechnung und Bereitstellung der Erklärungen.

Nach dem Ausfüllen des Fragebogens werden die relevanten Informationen gesammelt in einem Ausgabefeld angezeigt.