Dr. Pascal Birnstill

Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB
pascal.birnstill@iosb.fraunhofer.de

Umgang mit Daten

Die jüngeren Erfolge der Künstlichen Intelligenz (KI) wurden überwiegend durch datengetriebene KI-Methoden wie maschinelle Lernverfahren oder tiefe neuronale Netze erreicht. Diese Methoden sind auf umfangreiche Daten angewiesen. Bei Arbeits- und Lernsystemen, wie sie in KARL im Fokus stehen werden dabei häufig personenbezogene Daten verarbeitet. Datenschutz ist somit Pflicht und setzt die IT-Sicherheit der verarbeitenden Systeme voraus.

Relevanz

Bei KI-basierten Systemen und Geschäftsmodellen sind Daten nicht nur die Grundlage für Funktionalität und zur Generierung von Mehrwert für Nutzende bzw. Kund:innen. Daten sind vielmehr auch eine unbedingt schützenswerte Geschäftsgrundlage und eine vom Datenschutz auferlegte Verantwortung gegenüber den Betroffenen, insofern personenbezogene Daten verarbeitet werden. In Europa eingesetzte Arbeits- und Lernsysteme auf Basis datengetriebener KI-Methoden sind im Rechtsrahmen der Europäischen Datenschutzgrundverordnung (DSGVO), des Arbeitsrechts (BetrVG) und zukünftig voraussichtlich einer Europäischen KI-Verordnung zu betrachten. Nachhaltige Lösungen berücksichtigen diese Regularien nicht nur um Sanktionierungen bei Datenschutzverstößen zu vermeiden, sondern auch, weil sie gerade im Zuge der Erfolgswelle der KI zu einem europäischen Standortvorteil werden können. Die Sensibilisierung für die Grundlagen des Datenschutzes ist dabei von großer Bedeutung, um einen umfassenden Schutz für die Betroffenen (Arbeitnehmer:innen) und eine „Absicherung“ für die verantwortlichen Stellen (Arbeitgeber:innen) schaffen zu können.

Zielstellung

KARL möchte untersuchen, welchen Fragen sich Unternehmen aus der Perspektive von Datenschutz und Datensicherheit stellen müssen. Der Fokus liegt dabei auf der Einführung KI-basierter Systeme, die schützenswerte sowie insbesondere personenbezogene Daten verarbeiten. Die acht KARL-Anwendungsfälle sollen beispielhafte Antworten liefern.

Konkret zielt KARL im Kontext von Datenschutz und Datensicherheit auf die Beantwortung folgender Fragestellungen ab:
• Unter welchen Bedingungen ist Datenschutz für KI-basierte Arbeits- und Lernsysteme zu berücksichtigen?
• Welche Verantwortung und welche Pflichten gehen mit der Verarbeitung personenbezogener Daten einher und welche Besonderheiten ergeben sich daraus für KI-basierte Systeme?
• Welche weiteren Regularien können bei solchen Systemen maßgeblich sein?
• Wie kann Datenschutz durch Technikgestaltung hinsichtlich Themen wie Transparenz und Betroffenenrechten unterstützt werden?
• Welche besonderen Anforderungen stellen KI-basierte Systeme an die IT-Sicherheit?

Handreichungen für Unternehmen

• Workshop zu Datenschutzgrundlagen mit Blick auf die Besonderheiten KI-basierter Systeme und auf spezifische Regulierungen nach der Europäischen KI-Verordnung (Zweck der Datenverarbeitung festlegen, Auflistung von personenbezogenen Daten, Risikoermittlung)
• Praxisnaher Konzepte zur technischen Unterstützung von Datenschutzfragestellungen (u.a. datenschutzfreundliche Datenerhebung, transparente Datenverarbeitung)

Umgang mit Daten

Die jüngeren Erfolge der Künstlichen Intelligenz (KI) wurden überwiegend durch datengetriebene KI-Methoden wie maschinelle Lernverfahren oder tiefe neuronale Netze erreicht. Diese Methoden sind auf umfangreiche Daten angewiesen. Bei Arbeits- und Lernsystemen, wie sie in KARL im Fokus stehen werden dabei häufig personenbezogene Daten verarbeitet. Datenschutz ist somit Pflicht und setzt die IT-Sicherheit der verarbeitenden Systeme voraus.

Relevanz

Bei KI-basierten Systemen und Geschäftsmodellen sind Daten nicht nur die Grundlage für Funktionalität und zur Generierung von Mehrwert für Nutzende bzw. Kund:innen. Daten sind vielmehr auch eine unbedingt schützenswerte Geschäftsgrundlage und eine vom Datenschutz auferlegte Verantwortung gegenüber den Betroffenen, insofern personenbezogene Daten verarbeitet werden. In Europa eingesetzte Arbeits- und Lernsysteme auf Basis datengetriebener KI-Methoden sind im Rechtsrahmen der Europäischen Datenschutzgrundverordnung (DSGVO), des Arbeitsrechts (BetrVG) und zukünftig voraussichtlich einer Europäischen KI-Verordnung zu betrachten. Nachhaltige Lösungen berücksichtigen diese Regularien nicht nur um Sanktionierungen bei Datenschutzverstößen zu vermeiden, sondern auch, weil sie gerade im Zuge der Erfolgswelle der KI zu einem europäischen Standortvorteil werden können. Die Sensibilisierung für die Grundlagen des Datenschutzes ist dabei von großer Bedeutung, um einen umfassenden Schutz für die Betroffenen (Arbeitnehmer:innen) und eine „Absicherung“ für die verantwortlichen Stellen (Arbeitgeber:innen) schaffen zu können.

Zielstellung

KARL möchte untersuchen, welchen Fragen sich Unternehmen aus der Perspektive von Datenschutz und Datensicherheit stellen müssen. Der Fokus liegt dabei auf der Einführung KI-basierter Systeme, die schützenswerte sowie insbesondere personenbezogene Daten verarbeiten. Die acht KARL-Anwendungsfälle sollen beispielhafte Antworten liefern.

Konkret zielt KARL im Kontext von Datenschutz und Datensicherheit auf die Beantwortung folgender Fragestellungen ab:
• Unter welchen Bedingungen ist Datenschutz für KI-basierte Arbeits- und Lernsysteme zu berücksichtigen?
• Welche Verantwortung und welche Pflichten gehen mit der Verarbeitung personenbezogener Daten einher und welche Besonderheiten ergeben sich daraus für KI-basierte Systeme?
• Welche weiteren Regularien können bei solchen Systemen maßgeblich sein?
• Wie kann Datenschutz durch Technikgestaltung hinsichtlich Themen wie Transparenz und Betroffenenrechten unterstützt werden?
• Welche besonderen Anforderungen stellen KI-basierte Systeme an die IT-Sicherheit?

Handreichungen für Unternehmen

• Workshop zu Datenschutzgrundlagen mit Blick auf die Besonderheiten KI-basierter Systeme und auf spezifische Regulierungen nach der Europäischen KI-Verordnung (Zweck der Datenverarbeitung festlegen, Auflistung von personenbezogenen Daten, Risikoermittlung)
• Praxisnaher Konzepte zur technischen Unterstützung von Datenschutzfragestellungen (u.a. datenschutzfreundliche Datenerhebung, transparente Datenverarbeitung)

Dr. Pascal Birnstill

Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB
pascal.birnstill@iosb.fraunhofer.de