Bei KI-basierten Systemen und Geschäftsmodellen sind Daten nicht nur die Grundlage für Funktionalität und zur Generierung von Mehrwert für Nutzende bzw. Kund:innen. Daten sind vielmehr auch eine unbedingt schützenswerte Geschäftsgrundlage und eine vom Datenschutz auferlegte Verantwortung gegenüber den Betroffenen, insofern personenbezogene Daten verarbeitet werden. In Europa eingesetzte Arbeits- und Lernsysteme auf Basis datengetriebener KI-Methoden sind im Rechtsrahmen der Europäischen Datenschutzgrundverordnung (DSGVO), des Arbeitsrechts (BetrVG) und zukünftig voraussichtlich einer Europäischen KI-Verordnung zu betrachten. Nachhaltige Lösungen berücksichtigen diese Regularien nicht nur um Sanktionierungen bei Datenschutzverstößen zu vermeiden, sondern auch, weil sie gerade im Zuge der Erfolgswelle der KI zu einem europäischen Standortvorteil werden können. Die Sensibilisierung für die Grundlagen des Datenschutzes ist dabei von großer Bedeutung, um einen umfassenden Schutz für die Betroffenen (Arbeitnehmer:innen) und eine „Absicherung“ für die verantwortlichen Stellen (Arbeitgeber:innen) schaffen zu können.

KARL möchte untersuchen, welchen Fragen sich Unternehmen aus der Perspektive von Datenschutz und Datensicherheit stellen müssen. Der Fokus liegt dabei auf der Einführung KI-basierter Systeme, die schützenswerte sowie insbesondere personenbezogene Daten verarbeiten. Die acht KARL-Anwendungsfälle sollen beispielhafte Antworten liefern.

Konkret zielt KARL im Kontext von Datenschutz und Datensicherheit auf die Beantwortung folgender Fragestellungen ab:
• Unter welchen Bedingungen ist Datenschutz für KI-basierte Arbeits- und Lernsysteme zu berücksichtigen?
• Welche Verantwortung und welche Pflichten gehen mit der Verarbeitung personenbezogener Daten einher und welche Besonderheiten ergeben sich daraus für KI-basierte Systeme?
• Welche weiteren Regularien können bei solchen Systemen maßgeblich sein?
• Wie kann Datenschutz durch Technikgestaltung hinsichtlich Themen wie Transparenz und Betroffenenrechten unterstützt werden?
• Welche besonderen Anforderungen stellen KI-basierte Systeme an die IT-Sicherheit?

• Workshop zu Datenschutzgrundlagen mit Blick auf die Besonderheiten KI-basierter Systeme und auf spezifische Regulierungen nach der Europäischen KI-Verordnung (Zweck der Datenverarbeitung festlegen, Auflistung von personenbezogenen Daten, Risikoermittlung)
• Praxisnaher Konzepte zur technischen Unterstützung von Datenschutzfragestellungen (u.a. datenschutzfreundliche Datenerhebung, transparente Datenverarbeitung)