Dr. Sascha Alpers

FZI Forschungszentrum Informatik
alpers@fzi.de

Dr. Bettina-Johanna Krings

Institut für Technikfolgenabschätzung und Systemanalyse
bettina-johanna.krings@kit.edu

Ethik und Recht

KARL betrachtet ethische und rechtliche Fragen der Gestaltung von Künstlicher Intelligenz (KI). Das Projekt umfasst auch Fragen der (öffentlichen) Zugänglichkeit von KI-Expertise und KI-Lösungen. Zur Herstellung der notwendigen Transparenz und Beteiligung unterschiedlicher Interessensgruppen werden daher auch öffentliche Diskurs-Formate und Bürger:innenforen durchgeführt. Für Unternehmen gilt es, typische Rechtsfragen des KI-Einsatzes so aufzubereiten, dass sie auch für juristische Lai:innen nachvollziehbar sind und Lösungsansätze aufzeigen. Dies trägt zu einer Sensibilisierung für rechtliche und ethische Fragen des KI-Einsatzes bei den Verantwortungsträger:innen in Unternehmen bei. Vor diesem Hintergrund kommen in KARL folgende Fragestellungen auf:

  • Wie finden wir ethische Grundwerte für einen Anwendungsfall?
  • Wie können ethische Grundwerte für KI-Systeme realisiert werden?
  • Wer haftet für Schäden im Einzelschadensfall? Hierbei muss zwischen menschlichen Entscheidungen im aktuellen Haftungsregime und Entscheidungen mit langfristigen gesamtgesellschaftlichen Folgen unterschieden werden.
  • Wie kann das Spannungsfeld zwischen Datenschutz und dem Datenbedarf von KI-Systemen (Lernen aus personenbezogenen Trainingsdaten) rechtskonform gelöst werden? Die Komplexität nimmt zu, da ggf. auch eine Offenlegung der Trainingsdaten erfolgt, wenn die Nachvollziehbarkeit einer Einzelentscheidung gegeben sein soll.
  • Sollte das Rechtssystem bspw. um eine elektronische Person erweitert werden? Falls ja, wie sollte das System weiterentwickelt werden?
  • Wie kann Diskriminierung durch KI im Hinblick auf die Auswahl von Trainingsdaten und den Einsatz von Algorithmen vermieden werden?
  • Wie sind die Lizenz- und Nutzungsrechte für KI auszugestalten? Wie sind die Grundlagen und Ergebnisse der KI rechtlich zuzuordnen (Befugnisse zur Nutzung von Daten und Datenbanken, geistiges Eigentum an Werken durch KI vor dem Hintergrund des Urheberrechts, von Geschäftsgeheimnissen etc.)?