XAI-Canvas - Handreichung für den menschzentrierten Gestaltungsprozess
Im Bereich der Künstlichen Intelligenz (KI) gewinnt die Erklärbarkeit von KI-Entscheidungen zunehmend an Bedeutung. Mit dem XAI-Canvas bietet KARL eine Übersicht über relevante Aspekte des Einsatzes von erklärbarer KI (explainable artificial intelligence; XAI). Welcher Nutzen soll durch das Erklären der KI-Entscheidungen erzielt werden? Wem sollen die KI-Entscheidungen erklärt werden und welche Anforderungen haben diese Personen an eine hilfreiche Erklärung?
Zielgruppe
Der XAI-Canvas richtet sich an alle Personen und Unternehmen, die eine KI-Anwendung um Erklärbarkeitskomponenten erweitern möchten, um die KI-Entscheidungen besser zu verstehen.
Zu erwartendes Ergebnis
Der XAI-Canvas bietet eine Hilfestellung für die initialen Phasen der Problemanalyse nach dem menschzentrierten Gestaltungsprozess (DIN EN ISO 9241-210): Nutzungskontext verstehen und Nutzungsanforderungen festlegen. Der XAI-Canvas unterstützt Unternehmen bei der Definition der ersten Vision des XAI-Einsatzes in einer KI-Anwendung. Das Ausfüllen des XAI-Canvas definiert zunächst die übergeordneten Ziele der Erklärungen und den Nutzen, den sich Anwendende davon versprechen. Der Canvas soll auch ein Bewusstsein für eventuelle rechtliche Verpflichtungen schaffen, die den XAI-Einsatz notwendig machen könnten. Im Anschluss werden initiale XAI-User-Stories aufgestellt. Diese liefern einen ersten Überblick über die unterschiedlichen Nutzenden und ihre Anforderungen an hilfreiche Erklärungen.
Rahmenbedingungen
Es wird vorausgesetzt, dass bereits ein übergeordneter KI-Anwendungsfall im Unternehmen definiert wurde, da dieser die Grundlage für die betrachteten XAI-Aspekte liefert. Insofern noch kein KI-Anwendungsfall vorliegt, kann die KARL KI-Auswahlsystematik bei der Identifizierung eines geeigneten KI-Anwendungsfall für Unternehmen unterstützen. Weiterhin ist der XAI-Canvas nur als eine zusätzliche Hilfestellung für den menschzentrierten Gestaltungsprozess eines sich selbst erklärenden KI-Systems anzusehen. Für einen erfolgreichen Gestaltungsprozess sind daher auch weitere Methoden wie bspw. Interviews mit Anwendenden notwendig. Der XAI-Canvas bietet keine Rechtsberatung, sondern zeigt lediglich potenzielle rechtliche Verpflichtungen auf.
Bedienungsanleitung
Die Idee des XAI-Canvas wurde vom Business Model Canvas inspiriert und ist für die Anwendung in einem vergleichbaren Format gedacht. Die Anwendung des XAI-Canvas erfolgt in drei Schritten:
1. Definition der Ziele und des Nutzens durch den XAI-Einsatz: Auflistung der übergeordneten Ziele, die durch den XAI-Einsatz erreicht werden sollen und des sich daraus ergebenden Nutzens.
2. Mögliche rechtliche Verpflichtungen: Sowohl durch die Datenschutzgrundverordnung (DSGVO) als auch die geplante KI-Verordnung der EU kann es zu rechtlichen Verpflichtungen kommen, die eine Erklärung der KI-Entscheidungen notwendig machen.
3. Aufstellen des XAI-Storyboards: Erhebung der Nutzungsanforderungen in Form von XAI-User-Stories, die eine Abwandlung der etablierten User Stories darstellen. Jede XAI-User-Story wird mit einer Einschätzung der Wichtigkeit von drei zentralen Eigenschaften einer Erklärung ergänzt (Korrektheit, Verständlichkeit, Zeitkritikalität).
Die XAI-User-Stories sind das Hauptergebnis des XAI-Canvas. Auf Basis dieser XAI-User-Stories können Unternehmen im nächsten Schritt des Gestaltungsprozesses die Entwürfe der Gestaltungsalternativen erstellen. Inwiefern Unternehmen eventuellen rechtlichen Verpflichtungen durch den XAI-Einsatz ausreichend nachkommen können, ist durch die Unternehmen selbstständig in einer Rechtsberatung zu prüfen.
Der XAI-Leitfaden stellt ausführlichere Erklärungen zu den im XAI-Canvas aufgeführten Aspekten bereit.
1. Definition der Ziele und des Nutzens durch den XAI-Einsatz: Auflistung der übergeordneten Ziele, die durch den XAI-Einsatz erreicht werden sollen und des sich daraus ergebenden Nutzens.
2. Mögliche rechtliche Verpflichtungen: Sowohl durch die Datenschutzgrundverordnung (DSGVO) als auch die geplante KI-Verordnung der EU kann es zu rechtlichen Verpflichtungen kommen, die eine Erklärung der KI-Entscheidungen notwendig machen.
3. Aufstellen des XAI-Storyboards: Erhebung der Nutzungsanforderungen in Form von XAI-User-Stories, die eine Abwandlung der etablierten User Stories darstellen. Jede XAI-User-Story wird mit einer Einschätzung der Wichtigkeit von drei zentralen Eigenschaften einer Erklärung ergänzt (Korrektheit, Verständlichkeit, Zeitkritikalität).
Die XAI-User-Stories sind das Hauptergebnis des XAI-Canvas. Auf Basis dieser XAI-User-Stories können Unternehmen im nächsten Schritt des Gestaltungsprozesses die Entwürfe der Gestaltungsalternativen erstellen. Inwiefern Unternehmen eventuellen rechtlichen Verpflichtungen durch den XAI-Einsatz ausreichend nachkommen können, ist durch die Unternehmen selbstständig in einer Rechtsberatung zu prüfen.
Der XAI-Leitfaden stellt ausführlichere Erklärungen zu den im XAI-Canvas aufgeführten Aspekten bereit.
XAI-Canvas - Handreichung für den menschzentrierten Gestaltungsprozess
Im Bereich der Künstlichen Intelligenz (KI) gewinnt die Erklärbarkeit von KI-Entscheidungen zunehmend an Bedeutung. Mit dem XAI-Canvas bietet KARL eine Übersicht über relevante Aspekte des Einsatzes von erklärbarer KI (explainable artificial intelligence; XAI). Welcher Nutzen soll durch das Erklären der KI-Entscheidungen erzielt werden? Wem sollen die KI-Entscheidungen erklärt werden und welche Anforderungen haben diese Personen an eine hilfreiche Erklärung?
Zielgruppe
Der XAI-Canvas richtet sich an alle Personen und Unternehmen, die eine KI-Anwendung um Erklärbarkeitskomponenten erweitern möchten, um die KI-Entscheidungen besser zu verstehen.
Zu erwartendes Ergebnis
Der XAI-Canvas bietet eine Hilfestellung für die initialen Phasen der Problemanalyse nach dem menschzentrierten Gestaltungsprozess (DIN EN ISO 9241-210): Nutzungskontext verstehen und Nutzungsanforderungen festlegen. Der XAI-Canvas unterstützt Unternehmen bei der Definition der ersten Vision des XAI-Einsatzes in einer KI-Anwendung. Das Ausfüllen des XAI-Canvas definiert zunächst die übergeordneten Ziele der Erklärungen und den Nutzen, den sich Anwendende davon versprechen. Der Canvas soll auch ein Bewusstsein für eventuelle rechtliche Verpflichtungen schaffen, die den XAI-Einsatz notwendig machen könnten. Im Anschluss werden initiale XAI-User-Stories aufgestellt. Diese liefern einen ersten Überblick über die unterschiedlichen Nutzenden und ihre Anforderungen an hilfreiche Erklärungen.
Rahmenbedingungen
Es wird vorausgesetzt, dass bereits ein übergeordneter KI-Anwendungsfall im Unternehmen definiert wurde, da dieser die Grundlage für die betrachteten XAI-Aspekte liefert. Insofern noch kein KI-Anwendungsfall vorliegt, kann die KARL KI-Auswahlsystematik bei der Identifizierung eines geeigneten KI-Anwendungsfall für Unternehmen unterstützen. Weiterhin ist der XAI-Canvas nur als eine zusätzliche Hilfestellung für den menschzentrierten Gestaltungsprozess eines sich selbst erklärenden KI-Systems anzusehen. Für einen erfolgreichen Gestaltungsprozess sind daher auch weitere Methoden wie bspw. Interviews mit Anwendenden notwendig. Der XAI-Canvas bietet keine Rechtsberatung, sondern zeigt lediglich potenzielle rechtliche Verpflichtungen auf.
Bedienungsanleitung
Die Idee des XAI-Canvas wurde vom Business Model Canvas inspiriert und ist für die Anwendung in einem vergleichbaren Format gedacht. Die Anwendung des XAI-Canvas erfolgt in drei Schritten:
1. Definition der Ziele und des Nutzens durch den XAI-Einsatz: Auflistung der übergeordneten Ziele, die durch den XAI-Einsatz erreicht werden sollen und des sich daraus ergebenden Nutzens.
2. Mögliche rechtliche Verpflichtungen: Sowohl durch die Datenschutzgrundverordnung (DSGVO) als auch die geplante KI-Verordnung der EU kann es zu rechtlichen Verpflichtungen kommen, die eine Erklärung der KI-Entscheidungen notwendig machen.
3. Aufstellen des XAI-Storyboards: Erhebung der Nutzungsanforderungen in Form von XAI-User-Stories, die eine Abwandlung der etablierten User Stories darstellen. Jede XAI-User-Story wird mit einer Einschätzung der Wichtigkeit von drei zentralen Eigenschaften einer Erklärung ergänzt (Korrektheit, Verständlichkeit, Zeitkritikalität).
Die XAI-User-Stories sind das Hauptergebnis des XAI-Canvas. Auf Basis dieser XAI-User-Stories können Unternehmen im nächsten Schritt des Gestaltungsprozesses die Entwürfe der Gestaltungsalternativen erstellen. Inwiefern Unternehmen eventuellen rechtlichen Verpflichtungen durch den XAI-Einsatz ausreichend nachkommen können, ist durch die Unternehmen selbstständig in einer Rechtsberatung zu prüfen.
Der XAI-Leitfaden stellt ausführlichere Erklärungen zu den im XAI-Canvas aufgeführten Aspekten bereit.
1. Definition der Ziele und des Nutzens durch den XAI-Einsatz: Auflistung der übergeordneten Ziele, die durch den XAI-Einsatz erreicht werden sollen und des sich daraus ergebenden Nutzens.
2. Mögliche rechtliche Verpflichtungen: Sowohl durch die Datenschutzgrundverordnung (DSGVO) als auch die geplante KI-Verordnung der EU kann es zu rechtlichen Verpflichtungen kommen, die eine Erklärung der KI-Entscheidungen notwendig machen.
3. Aufstellen des XAI-Storyboards: Erhebung der Nutzungsanforderungen in Form von XAI-User-Stories, die eine Abwandlung der etablierten User Stories darstellen. Jede XAI-User-Story wird mit einer Einschätzung der Wichtigkeit von drei zentralen Eigenschaften einer Erklärung ergänzt (Korrektheit, Verständlichkeit, Zeitkritikalität).
Die XAI-User-Stories sind das Hauptergebnis des XAI-Canvas. Auf Basis dieser XAI-User-Stories können Unternehmen im nächsten Schritt des Gestaltungsprozesses die Entwürfe der Gestaltungsalternativen erstellen. Inwiefern Unternehmen eventuellen rechtlichen Verpflichtungen durch den XAI-Einsatz ausreichend nachkommen können, ist durch die Unternehmen selbstständig in einer Rechtsberatung zu prüfen.
Der XAI-Leitfaden stellt ausführlichere Erklärungen zu den im XAI-Canvas aufgeführten Aspekten bereit.
Format
PDF
Ansprechperson
Robin Weitemeyer | HKA (ILIN)
robin.weitemeyer@h-ka.de
robin.weitemeyer@h-ka.de
Zum Angebot
