Betriebsrat, Datenschutz, Ethik und KI – es geht nur gemeinsam

Arndt Schönowsky, Betriebsrat und Dr. Michael Zimmer, Head of AI & Machine Learning und Chief Data Officer, Zurich Gruppe Deutschland über ihre Zusammenarbeit

Das Thema künstliche Intelligenz (KI) ist innerhalb deutscher Unternehmen in aller Munde und es herrscht eine Art Goldgräberstimmung. Doch geht es beim Einsatz von KI im Unternehmen nicht nur um die technische Anwendung. Ebenfalls müssen Aspekte im Fokus stehen, wie diese im Unternehmen zum Wohle der Kunden und Mitarbeiter eingesetzt und reguliert sowie wie der Betriebsrat zur Wahrung der Mitarbeitendeninteressen eingebunden wird. Vor diesem Hintergrund geht die Zurich Gruppe Deutschland bewusst den Weg eines proaktiven Miteinanders zwischen Fachbereich, KI Labor, Betriebsrat und Datenschutz. Hier wollen wir gemeinsam als Chief Data Officer und Vertreter des Betriebsrates aufzeigen, wie wir bei Zurich den Weg zu einer für Mitarbeitende und Kunden fairen, transparenten, regulierten und verständlichen KI gemeinsam gestalten.

Was ist eigentlich KI?

Gerade vor dem Hintergrund einer weitrechenden Definition von KI ist es erforderlich, ein einheitliches Verständnis bei Mitarbeitenden und dem Betriebsrat zu schaffen und mögliche Unsicherheiten abzubauen. In ihrem derzeitigen Stadium kann KI helfen, Effizienzen zu heben und dem demographischen Wandel zu begegnen. Innerhalb der Zurich Gruppe Deutschland umschreiben wir KI mittlerweile als einen Helfer, der Menschen durch spezielle Eigenschaften dabei unterstützt, kritische Güter zu entdecken oder auf Gefahren hinzuweisen. Die Fähigkeiten ergänzen sich hier sehr gut.

Für den Betriebsrat ist es wichtig, dieses relativ neue Thema im Sinne unserer Mitarbeitenden mitzugestalten. Es ist von großer Bedeutung, dass Mitarbeitende ihre Handlungsspielräume behalten und gleichzeitig die KI als unterstützendes Werkzeug nutzen können.

Unter Künstlicher Intelligenz (KI), auch Artificial Intelligence (AI) genannt, versteht man grundsätzlich „Berechnungsverfahren, die es ermöglichen, wahrzunehmen, zu schlussfolgern und zu handeln.“[1] Man versucht also bisher nur durch den Menschen handhabbare Problemstellungen durch Künstliche Intelligenz zu lösen. Es gibt innerhalb der Künstlichen Intelligenz die Unterscheidung zwischen starker und schwacher Künstlichen Intelligenz: Heute sprechen wir von der schwachen Künstlichen Intelligenz, bei der es darum geht, den Menschen intelligent beim Erreichen seiner Ziele zu unterstützen, also um smarte Mensch-Maschine-Interaktion. Die starke Künstliche Intelligenz hingegen ist derzeit eher philosophisch relevant oder in Science-Fiction vertreten und erreicht oder übertrifft sogar die Intelligenz des Menschen.

In der Vergangenheit haben Menschen Maschinen programmiert. Heute sind wir in der Lage, Algorithmen zu trainieren und aus Input (z.B. Kundendaten) und Output (z.B. Abschlusshistorien) Muster zu erkennen, wodurch Mitarbeitende maßgeblich in ihrer Arbeit unterstützt werden.

Aus Sicht des Betriebsrats sollen nicht bereits etablierte und schon heute gut überwachte Verfahren reglementiert werden. Wir wollen vielmehr Anwendungsfälle mit denen Mitarbeitendenkontrolle oder -abbau möglich sein können, regeln und gemeinsam bewusst gestalten. Selbiges gilt natürlich auch für ethische Aspekte von KI bezüglich unserer Kunden und Mitarbeitenden. Mitarbeitende aller Ebenen werden darin geschult, KI richtig zu bewerten. Maßgeblich muss dabei sein, dass in kritischen Themengebieten eine Entscheidung immer von einem Menschen und nicht von einer Maschine getroffen wird.

Faire KI im Unternehmen

In der Zurich Gruppe Deutschland legen wir Wert auf unsere sieben Grundsätze zur ethischen Bewertung von KI Anwendungsfällen:

• Transparenz der KI Systeme
• Erklärbarkeit der Ergebnisse
• Sicherstellung menschlicher Entscheidung
• Einhaltung von Nicht-Diskriminierung
• Qualitätssicherung und Robustheit der Algorithmen
• Bewertung der ethischen Implikationen und
• die Bewertung eines Gefährdungsspektrums

Essenziell ist hier die objektive Bewertung der Anwendungsfälle. Die Zurich Versicherung nutzt hier einen auf Basis des Regulierungsvorschlags der EU selbst entwickelten Rahmen zur Bewertung von ethischen Implikationen. Mit diesem werden Risiken in einem zweistufigen Prozess bewertet und gleichzeitig notwendige Evidenzen gefordert und abgelegt.

Neben der Bewertung ist natürlich auch das regelmäßige Hinterfragen und die organisatorische Einbettung dieser Themen von großer Bedeutung. Hier sind die Themen KI Governance, Audit/Prüfung, KI Kontrollen, Monitoring & Validierung sowie das Change Management zu beachten. Um dies zu unterstützen hat sich die Zurich Gruppe Deutschland entschieden, im Rahmen der Chief Data Officer Organisation ein Ethik-Komitee zu etablieren. Hier werden neue KI Anwendungsfälle diskutiert und bewertet. Etablierte lokale Checklisten werden gemeinsam mit Datenschutz, Betriebsrat und Compliance durchlaufen und die Bewertung auf Basis des entwickelten Rahmens durchgeführt.

KI und Mitarbeitendenmitbestimmung

Neben diesem offiziellen Gremium ist es klar, dass sich Betriebsrat und KI Labor regelmäßig austauschen und schon im Vorfeld relevante Daten- und Analytik-Themen diskutieren. Der Fokus liegt hier auf einer gemeinsamen Bewertung kritischer Anwendungsfälle, der Sichtung und Freigabe von Datenräumen für analytische Anwendungen und der regelmäßigen Kommunikation an die Mitarbeitenden. Mit den bestehenden Richtlinien und Regelstrukturen ist die Zurich Versicherung bereits heute gut auf den Einsatz von KI eingestellt. Betriebsrat, Datenschutz, Ethik und das KI Labor haben das gemeinsame Ziel, kritische Themen frühzeitig zu identifizieren und zusammen im Sinne unserer Kunden und Mitarbeitenden zu gestalten. Betriebsrat, KI Labor und Arbeitgeber haben in ihren Rollen unterschiedliche Sichten und Ziele. Nicht immer ist man von Anfang an einer Meinung. Entscheidend ist aber, dass für alle das Thema KI sehr relevant ist und gemeinsam das Thema gestalten wollen. Aufgrund der Neuheit des Themas KI erfordert dies einen gesunden Pragmatismus, um Innovation zu verproben und zu ermöglichen. Gleichzeitig ist klar, dass hier das Wohl der Mitarbeitenden und Kunden im Fokus steht. Erfolgreiche KI geht nur gemeinsam. Diesem Grundsatz stellen wir uns täglich und schaffen die Grundlagen für ein erfolgreiches Miteinander. Dies bedeutet aber auch, dass nicht nur Fachbereich, Data Science und IT vernetzt werden, sondern dass Datenschutz, Betriebsrat und Ethik ebenfalls bereits in frühen Phasen involviert sind.

[1] Winston nach Görz, Schmid und Wachsmuth (2013).