Dr. Pascal Birnstill

Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB
pascal.birnstill@iosb.fraunhofer.de

Umgang mit Daten

Methoden der Künstlichen Intelligenz (KI), wie maschinelle Lernverfahren oder Process-Mining, sind auf geeignete Daten in erheblichem Umfang angewiesen. Möchte ein Unternehmen auf diesen Methoden basierende KI-Anwendungsfälle einführen, ergeben sich vielfältige Anforderungen an den Digitalisierungsgrad des Unternehmens oder eines einzelnen Prozesses. KARL wird Hilfestellung dazu geben, wie man den aktuellen Stand der Datenverfügbarkeit für einen Anwendungsfall oder Prozess bewertet, wie man die verfügbaren Daten strukturiert aufbereitet und auf welche Art und Weise zusätzliche Daten erhoben werden sollten.

Ferner verarbeiten datengetriebene KI-Methoden in Arbeits- und Lernsystemen meist personenbezogene Daten von Mitarbeitenden, Lernenden oder Kund:innen. Entsprechend sind derartige Systeme im Rechtsrahmen der Europäischen Datenschutzgrundverordnung (DSGVO), des Arbeitsrechts (BetrVG) und zukünftig voraussichtlich einer Europäischen KI-Verordnung zu sehen. Dabei fokussiert KARL folgende Fragestellungen:

  • Wie ist eine diskriminierungsfreie KI zu gestalten?
  • Wie werden datenschutzfreundliche Architekturen für maschinelles Lernen konstruiert?
  • Was sieht eine transparente KI für verschiedene Nutzergruppen aus?

Diese Fragestellungen werden in KARL in enger Zusammenarbeit mit den Anwendungsfällen untersucht.

Zuletzt ist Datensicherheit eine notwendige Voraussetzung für die erfolgreiche Umsetzung von Datenschutz, wenn bspw. schützenswerte Daten im Training oder im Betrieb von KI-Verfahren verarbeitet werden. KARL wird vor diesem Hintergrund untersuchen, wie Daten in einzelnen Verarbeitungsschritten des maschinellen Lernens mit Mechanismen der IT-Sicherheit geschützt werden können. Das Spannungsfeld umfasst hier Architekturen für verteiltes Lernen, durch Hardware-basierte Vertrauensanker geschützte Dienste für zentrales Lernen sowie die Überwachung von Modellen im Betrieb.